סכנות הבינה המלאכותית מקבלות את הבמה המרכזית

החודש כינסה סגנית נשיא ארה”ב קמלה האריס את בכירי תעשיית ה-AI, ביניהם את מנכ”ל OpenAI, סאם אלטמן, סאטיה נאדלה, מנכ”ל מיקרוסופט וסונדאר פיצ’אי, מנכ”ל גוגל, לישיבה מיוחדת בבית הלבן בהשתתפות הנשיא ביידן, בנוגע לפיתוח אחראי של טכנולוגיית ה-AI. הנשיא וסגניתו הבהירו שבעוד הם רואים חשיבות אדירה בהתקדמות הטכנולוגית, הם גם דורשים להתייחס לסיכונים האישיים, הביטחוניים והחברתיים של הטכנולוגיה בנושאי העבודה, הפרטיות, זכויות האדם והדמוקרטיה. הממשל מקדם מגילת זכויות בעידן הבינה המלאכותית, וכן תוכנית לניהול סיכונים. התנהל דיון פתוח בין המנהיגים והבכירים; הם דנו בצורך בשקיפות מצד התאגידים כלפי הממשל, באמצעים הנדרשים להבטחת הבטיחות וההגנה של המערכות מפני מתקפות סייבר. ללא ספק, דיון חשוב ומשמעותי, אבל מובן שההתערבות הממשלתית בפיתוח הטכנולוגיה עשויה לנבוע מן הרצון שלה להשתלט עליה, כחלק מן המאמץ הכולל לגרום לממשל להיות ריכוזי יותר.

בשבוע שעבר התכנסה בפורטוגל ועידת בילדרברג ה-69; הבינה המלאכותית הייתה הנושא המרכזי בה השנה. ועידת בילדרברג היא כינוס חשאי שנתי של 150 בכירי תעשיות ומנהיגי מדינות, שבה מתנהל תיאום עמדות גלובלי בנוגע למדיניות הדרושה בנושאים גלובליים. נוסף לנושאי האיומים מצד סין ורוסיה, המלחמה באוקראינה והמשילות בארה”ב ובאירופה, הוזמן השנה לדיון גם סאם אלטמן, מנכ”ל OpenAI, אולם לא ידוע מה סוכם בנושא הפיתוח של בינה מלאכותית בשנים הקרובות. נציין שקיימת ביקורת רבה על הוועידה שכן החלטות הרות הגורל המתקבלות בה אינן מתקבלות במסגרת הלגיטימית של דיון דמוקרטי שקוף של נבחרי ציבור, ופרוטוקולי הדיונים אינם מתפרסמים. 

בתוך כך, ראש הממשלה לשעבר נפתלי בנט פרסם את דעתו, שישראל חייבת למצב עצמה עד שנת 2030 כאחת משלוש המעצמות בנושא הבינה המלאכותית. לטענתו, הנושא מעסיק את כל המדינות שבהן הוא מבקר מאז פרש מתפקידו. “הבינה המלאכותית הולכת לשנות, לשבש ולהפוך כמעט את כל תחומי חיינו בצורה קיצונית, וכל זה בטווח הזמן הקרוב של השנים הקרובות”, טען בנט. הוא ציין שורת תחומים שבהם על ישראל למצב את עצמה – חינוך, בריאות (“רופא שלא ישתמש ב-AI על מנת לאבחן מחלה ייחשב מועל בתפקידו”), משפט, ביטחון (“אם אנחנו לא נעשה זאת, האויב שלנו יעשה זאת”), עסקים ומכירות, כתיבת תוכנה, נפש האדם (“מערכות agent של AI ידעו להתחבר רגשית לבני אדם, ואף ליצור מערכות יחסים. זה דבר מסוכן מאין כמותו”), ועוד שורה של תחומים. בנאום שנתן בנט בקוריאה טען שהבינה המלאכותית עשויה להגיע לרמת IQ שאנשים לא יוכלו כלל להבין את הממדים החדשים של התובנה שהיא תהיה מסוגלת להשיג, מה גם שהטכנולוגיה תוכל לבצע מניפולציה על האנשים כדי שלא יבינו את המתרחש. מכאן שבנט הציג שתי דעות סותרות – מצד אחד, להתקדם בישראל בכל הכוח; מן הצד האחר, פוטנציאל ההרסניות של הטכנולוגיה הוא רב.

סנדק הבינה המלאכותית יוצא כנגדה

בהקשר זה, ג’ופרי הינטון שנחשב “סנדק הבינה המלאכותית”, הוא מדען בכיר בתעשייה זה 40 שנה ומן החלוצים בתחום. הינטון שיחק תפקיד משמעותי בפיתוח הבינה המלאכותית וקיבל בשל כך הכרה רבה, כולל את פרס טיורינג בשנת 2018, השקול לפרס נובל בתחום מדעי המחשב.

הינטון עלה לכותרות לאחרונה עקב עזיבתו את גוגל. הוא עזב את ענקית הטכנולוגיה כדי לרדוף אחרי התשוקה שלו לבינה מלאכותית ולהגביר את המודעות לסיכונים הכרוכים בה. בראיונות שנתן הודה הינטון כי בינה מלאכותית היא איום קיומי והדגיש את הצורך בפיתוח בינה מלאכותית אחראית, בהתאם לערכים ולמטרות האנושיות. עוד אמר כי הוא מאמין שבינה מלאכותית מסוגלת ללמוד ולהסתגל בדרכים שקשה לחזות אותן, ויכולות להיות להן השפעות שליליות.

החששות של הינטון בנוגע ל-AI אינם חדשים. בשנת 2017, בריאיון ל-Nature, הוא הביע אמונה כי בינה מלאכותית יכולה להיות איום רציני על האנושות. האמונה הבסיסית של הינטון היא שבבניית מודלים ממוחשבים המבוססים על האופן שבו המוח לומד, נוכל ליצור מכונות אינטליגנטיות יותר. עם זאת, כעת הוא מבין שהאינטליגנציות הדיגיטליות הללו עולות מבחינת יכולות הלמידה שלהן על היכולות האנושיות. יש להן דרך טובה יותר לרכוש מידע והן אף יכולות להחליפו בקצב מהיר להפליא, בניגוד למוח האנושי. ליכולות אלה עלולות להיות השפעות חמורות אם לא יופעלו עליהן בקרות נאותות.

הינטון מדגיש את האיום הקיומי העתידי על האנושות כאשר תעלה ה-AI על האינטליגנציה האנושית ותשתלט עליה. הוא מתייחס גם לדאגות אחרות כמו עקירת עבודה, מניפולציה של מידע באמצעות סרטונים וקולות מזויפים ושחיקת הדמוקרטיה. הינטון מציע תקנות ממשלתיות חזקות כדי להיאבק בהתפשטות של תוכן מזויף, בדומה לחוקי זיוף. הוא מציע לתייג תוכן שנוצר בבינה מלאכותית ולהטיל עונשים חמורים על הפקת סרטונים או קולות מטעים.

בנוגע לשיתוף פעולה בין ממשלות, הינטון מאמין שהאיום הקיומי של בינה מלאכותית סופר-אינטליגנטית עשוי לטפח שיתוף פעולה עולמי, בדומה למאמצים שנעשו בימי המלחמה הקרה למנוע מלחמה גרעינית. אולם הוא מאמין שלחברות הטכנולוגיה תהיה הזדמנות טובה יותר ליצור את כללי הדרך, לעומת ממשלות או כל צד שלישי אחר.

לסיכום, עבודתו של הינטון והאזהרה שלו משמשות תזכורת לכך שלמרות היתרונות הרבים של בינה מלאכותית, היא גם טומנת בחובה סכנות פוטנציאליות שיש להתייחס אליהן ברצינות. חיוני לעקוב אחר התקדמות הבינה המלאכותית ולפתח טכנולוגיית בינה מלאכותית בטוחה ומועילה לאנושות.

הבשר הזה אמיתי?

לפני כשלוש שנים פרסם הפורום הכלכלי העולמי את שמונה המגמות שיאפיינו לדעתו את העולם עד 2030. הראשונה היתה “לא יהיה לכם כלום, ותהיו מאושרים” המפורסם. שתי מגמות אחרות שפורסמו היו הדפסת איברים במדפסת תלת-ממד, וגם הפחתה בצריכת הבשר. למעשה, הפורום מאמין שאכילת בשר תהיה אירוע נדיר, “למען הסביבה והבריאות שלנו”. לפי מחקרי האו”ם תעשיית הבשר והדיג הן מהמזהמות ביותר וגורמות לפליטות חממה ברמה גבוהה.

לפני כמה שבועות ביקר ראש הממשלה נתניהו עם שר המדע אופיר אקוניס ומנכ”ל משרד הבריאות משה בר סימן טוב במפעל של חברת הסטראט-אפ Steakholder Foods ברחובות. זוהי חברה ציבורית שספגה, כמו מרבית השוק, ירידות חדות של כ-70% מערכה. ראש הממשלה בחן את מדפסת התלת-ממד שפיתחה החברה להדפסה של בשר ודגים. המדפסת אמורה להחליף משחטה ולהדפיס טונות של בשר מתורבת ביום. חומר הגלם שממנו מודפס הבשר הוא תאי גזע הממוינים לתאי שריר ולתאי שומן. היצרן יכול לבחור את סוג הסטייק הרצוי לפי אחוזי השומן הנפוצים בסוג המבוקש. תאי הגזע נשארים חיים לאחר שהם מודפסים ומשך ההדפסה לסטייק בודד הוא כדקה, לעומת פרה שמשך הזמן עד שהיא גדלה ונשחטת הוא שנתיים.

“זה המקדונלדס של העתיד”, התלוצץ נתניהו בעודו ממתין לסטייק המודפס שלו. הסטייק היוצא מן המדפסת מוכן לבישול. המדפסת השנייה יודעת להדפיס בשיטה דומה נתחי דג, למשל פילה לוקוס, שמשך הדפסתם אורכת שלוש דקות והטקסטורה שלהם זהה לדבר האמיתי. נתניהו טעם את הדג המבושל וציין שהתבשיל טעים, לקול מחיאות כפיים.

ראש הממשלה נתניהו הצהיר שייצור חלבון אלטרנטיבי וחלב מתורבת הוא מטרה לאומית של ישראל, לצורך הבטחת הביטחון התזונתי של ישראל וכמנוע צמיחה כלכלי. מדובר על שיתוף פעולה של Good Food Institute, ארגון ללא מטרות רווח, שקיבל בעבר מענקים מן הקרן של ביל ומלינדה גייטס, עם רשות החדשנות. ביל גייטס עצמו מושקע במספר לא קטן של חברות בתחום הבשר והחלב המתורבת, כמו BeyondMeat ו-Impossible Foods.

כמו לכל טכנולוגיה, יש לה יתרונות וחסרונות. מצד אחד, הבשר גדל באופן מבוקר ולכן לא יכיל מחלות הנפוצות בקרב בקר או דגה וכמובן – הוא לא דורש התעללות ושיעבוד של בעלי חיים. מן הצד האחר, זהו בשר המורכב מתאי שריר ושומן ולכן הפרופיל הבריאותי שלו זהה לבשר אמיתי. לא נחקרה דיה השאלה אם יש תופעות נוספות, ארוכות טווח, שעליהן לא חשבו הממציאים. טרם התבררו ההשפעות של הטכנולוגיה על מחירי הבשר והאנרגיה הדרושה ליצירת חומרי הגלם ותפעול המכונות. האליטות הגלובליסטיות כמובן יאמצו את הרעיון במסגרת אג’נדת האקלים הכללית, בייחוד לאור ההשקעות הרבות בתחום, שיניבו תשואה רבה. נקווה שלא יעגלו פינות במחקרים הבריאותיים ארוכי הטווח שייערכו בטרם יעלה הבשר הזה על הצלחת שלנו.

חוק חדש מאיים על חופש הביטוי בארה”ב

בארה”ב מתחוללת סערה גדולה סביב חוק ההגבלה (Restrict) המכונה גם “חוק ה-TikTok”, שעלה לכותרות בחודשים האחרונים בשל השפעותיו הרחבות על חירויות האזרח ועל הדמוקרטיה האמריקאית. את החוק מקדמים הדמוקרטים והרפובליקנים, ולמרות העובדה שהוא משווק כאיסור על TikTok הסינית לאסוף מידע על אזרחים אמריקאים, הוא למעשה רחב הרבה יותר.

הצעת החוק גם מפלילה את השימוש ברשתות וירטואליות פרטיות (VPN) והופכת את השימוש בו עבירה פלילית. VPN הוא כלי המאפשר לגולשים להסתיר את מדינת המקור שממנה הם גולשים, ובכך לגשת לשירותים מחו”ל באופן שעלול לפגוע בזכויות יוצרים או לעסוק בפעילויות שאינן חוקיות במדינת המקור. על פי הצעת החוק, על המפירים יוטל קנס של מיליון דולר ועונש של 25 שנות מאסר. זהו עונש דרסטי שאינו תואם, כביכול, את חומרת הפשע, והוא ירתיע אנשים מלהשתמש ב-VPN החיוניים לאבטחה ופרטיות מקוונים.

תומכי הצעת החוק טוענים כי יש צורך לטפל בדאגות לביטחון הלאומי, בייחוד בנוגע לסין וליריבים זרים אחרים. עם זאת, המבקרים מציינים כי לשון הצעת החוק מעורפלת ומעניקה סמכות גורפת לממשלה, ללא פיקוח ראוי או איזונים ובלמים. הם טוענים כי הצעת החוק דומה לחוק ה-Patriot השנוי במחלוקת שהתקבל לאחר 9/11. הם מזהירים שלא ליפול למלכודת של הקרבת זכויות חוקתיות בשם הביטחון הלאומי.

אחת הביקורות המרכזיות על חוק ההגבלה היא הכוח העצום שהוא מעניק לפקידים לא נבחרים במחלקת המסחר. לפקידים אלה תהיה הסמכות להכתיב, ולא בשקיפות, באילו אפליקציות מדיה חברתית יוכלו אמריקאים להשתמש, אילו אפליקציות אסורות לשימוש ואילו חברות מסכנות באופן בלתי סביר את ביטחון הלאומי של ארה”ב או את אזרחיה. כמו כן, יקבלו הפקידים גישה בלתי מוגבלת לנתוני המשתמשים, להיסטוריית הגלישה שלהם ולנתוני השימוש שלהם באפליקציות. חוק ההגבלה גם מגביל את יכולתם של אזרחים לערער על מעשיהם של פקידים בלתי נבחרים אלה בפני בתי המשפט, ומעלה עוד יותר את החששות בנוגע לשחיקת הדמוקרטיה.

אם יתקבל, חוק ההגבלה עלול להוביל לצעדים דרקוניים, כולל קנסות גבוהים ועונשי מאסר ממושכים על שימוש באפליקציות אסורות כמו Tik Tok או כל טכנולוגיה הקשורה למדינות זרות. הוא גם יסמיך את הממשלה לדרוש נתוני משתמשים מחברות ויעקוף תהליכי ביקורת מנהליים ושיפוטיים מסורתיים. הממשלה תקבל לידיה כוח רב מדי, שניתן יהיה לנצלו בקלות לכל מטרה, תוך שתהיה רשאית להעמיד לדין בבית משפט חשאי, ללא שקיפות, בניגוד לחופש המידע ותוך קבלת פטורים מנהליים מיוחדים.

ההיסטוריה של חקיקה כמו חוק הפטריוט מדליקה נורות אדומות בנוגע להשפעות האפשריות שלה על חירויות האזרח, על החירויות שלנו. המבקרים טוענים כי השפה המעורפלת של הצעת החוק וסמכויותיה המוגזמות מעניקות לממשלה סמכות בלתי מבוקרת, מה שהופך אותה פגיעה לשימוש לרעה ולהתעללות. השינוי במדיניות של ממשלת ארה”ב מדאיג מאוד, וסממנים שאינם דמוקרטים משתקפים מן החוק. הבית הלבן כינה את החוק “מסגרת שיטתית לטיפול באיומים על הביטחון והבטיחות של האמריקאים”. העדפת הביטחון על פני זכויות חוקתיות היא גישה מסוכנת לדמוקרטיה ונדרש איזון עדין בין הרשויות.

כיוון שהעולם מתמודד עם אתגרים גיאופוליטיים מתפתחים, חיוני למצוא איזון בין ביטחון לאומי להגנה על זכויות הפרט. הגישה הזאת לצנזורה ולמלחמה במידע כוזב מאפיינת את כל הדיונים בפורומים הגלובליסטים השונים, כולל האו”ם והפורום הכלכלי העולמי. רק בכינוס האחרון בדאבוס אמרה הנציגה האירופאית לבכיר הממשל האמריקאי שארה”ב תיאלץ ליישם הגבלות על “שיח שנאה” ברשת למרות החוקה האמריקאית, כפי שמיושם בימים אלה באיחוד האירופאי.

לסיכום, חוק ה-Restrict הוא איום חמור על חירויות האזרח ועל הדמוקרטיה האמריקאית. הוא מעניק יותר מדי כוח לממשל הפדרלי, פוגע בזכויות החוקתיות של האזרחים ומעלה את הפוטנציאל לניצול לרעה. החשש הוא שגם בישראל יוטלו הגבלות שכאלה על עסקים, על רשתות חברתיות ועל אפליקציות מחו”ל, בהתאם למתרחש ביתר העולם.

זיהוי פנים מופעל בשדות תעופה בארה”ב

מִנהל אבטחת התחבורה (TSA) השיק תוכנית פיילוט לטכנולוגיית זיהוי פנים בשדות תעופה מרכזיים בארצות הברית, במטרה לשפר את האבטחה ולייעל תהליכים. נוסעים המשתתפים בתוכנית סורקים את תעודת הזהות שלהם ומצטלמים, והנתונים הביומטריים שלהם משמשים לאימות זהותם. נכון לעכשיו, הטכנולוגיה נבדקת ב-16 שדות תעופה, כולל אטלנטה, דנוור, לוס אנג’לס ומיאמי.

בעוד ה-TSA טוען כי הטכנולוגיה אינה חובה והנוסעים רשאים שלא להיסרק, סנטורים מעלים חשש בנוגע להפרה אפשרית של זכויות לפרטיות ושל חירויות האזרח. סנטורים מן המפלגה הדמוקרטית דווקא, ביניהם ברני סנדרס ואליזבת וורן, הביעו את דאגתם במכתב ל-TSA. הם מודאגים מהגברת המעקבים הממשלתיים, מאבטחת הנתונים הביומטריים וכן מאפליה על רקע גזעי, בין היתר, בשל מחקר משנת 2019 שממנו עלה כי מערכות זיהוי פנים נוטות יותר לשגיאות בזיהוי פנים של אסייתים ואפרו-אמריקאים, בהשוואה לגברים לבנים.

הסנטורים מאמינים שייתכן שהנוסעים לא יקבלו מידע מלא בנוגע לזכויותיהם בעת השימוש בטכנולוגיה החדשה. על פי הדיווחים, נוסעים ייתקלו בסורק זיהוי פנים לפני שימשיכו לטיסה. אף על פי שהשימוש בסורק אינו חובה, הסנטורים חוששים כי ייתכן שיופעל על הנוסעים לחץ להשתמש בו. לכן, הם דורשים שילוט ברור וחינוך הנוסעים כדי להבטיח שהם מודעים לזכויותיהם ויכולים לקבל החלטה מושכלת, שכן שימוש בטכנולוגיה ללא הבנה מלאה ומודעות של הלקוחות לזכויותיהם עלול להשפיע לרעה על זכויות הפרט שלהם.

סביר להניח שה-TSA יתייחס לחששות הסנטורים ואכן יכלול שלטים ומידע על הטכנולוגיה ועל זכויות הלקוחות שיסייעו במניעת בעיות אפשריות בעת שימוש בטכנולוגיה חדשה וביידוע הנוסעים על אודות זכויותיהם בעת שימוש בטכנולוגיות דומות בעתיד.

החששות שהעלו הסנטורים מדגישים בעיות פוטנציאליות שיש בשימוש בטכנולוגיה. על המחוקקים לשקול ולאזן היטב בין יתרונות האבטחה של הטכנולוגיה חדשה לבין ההפרות הפוטנציאליות של חירויות שהיא טומנת בחובה ולבחון את כל השפעותיה לפני שהם מאפשרים לטכנולוגיית זיהוי פנים להפוך כלי נפוץ במרחב הציבורי.

התופעה היא עולמית, ובשנים הקרובות ודאי יגבירו גם מדינות אחרות את השימוש בטכנולוגיית זיהוי הפנים. סין, למשל, השתמשה בנתוני פנים כדי לזהות מפגינים. בישראל מטמיעים את מערכת “עין הנץ”, שלה יכולות זיהוי פנים של כלל האזרחים, ומתבצעים ניסויים ברשות הסייבר הלאומית כדי לנסות להתגבר על הטעיה מכוונת של הבינה המלאכותית.

מערכת דירוג חברתי במסווה של מניעת הגירה

עליית הפופולריות של מערכת דירוג חברתי מדאיגה רבים ברחבי העולם, כיוון שהיא מאפשרת לממשלות לפקח ולשלוט על אזרחיהן. בעוד מערכות דירוג מסוימות קשורות למשטרים אוטוריטריים כמו סין, מערכות דומות מוצאות את דרכן למדינות אחרות, כולל ארצות הברית.

לאחרונה התקבלה בארה”ב הצעת חוק ביטחון הגבולות ואכיפה 2023, הכוללת בחובה הוראה להפיץ את מנגנון ה-e-Verify ברחבי ארה”ב. ה-e-Verify שהוצגה לראשונה בשנת 1997 כדי לבלום העסקת מהגרים בלתי חוקיים, הוצגה כיוזמה התנדבותית. עם זאת, הצעת החוק העדכנית שואפת להפוך את e-Verify לחובה בפריסה ארצית, ולבטל את סמכות המדינות. מהלך זה מכין את הקרקע לעתיד דיסטופי פוטנציאלי, שבו הממשלה הפדרלית תוכל ליישם מערכת דירוג חברתית והגבלות תעסוקה המבוססות על עמידה בקריטריונים שונים. המבקרים טוענים כי מערכת דירוג כזו יכולה להגביל את סיכויי העבודה ואת החופש של אנשים שאינם מיישרים קו עם דרישות הממשלה, כגון אלה המסרבים לקחת תרופות, להתחסן או המתעקשים להחזיק בנשק חם.

הצגת e-Verify מחזקת את מגמת הרחבת המעקב והבקרה הממשלתית. חברות כמו Airbnb ,Uber ו-WhatsApp כבר צוברות כמויות אדירות של נתונים אישיים, ויוצרות ציוני צרכנים כדי לקבוע גישה והרשאות. מערכת הניקוד הסודית הזאת מסייעת בקבלת החלטות, כגון איכות שירות הלקוחות או הרשאות לשהות במקומות לינה מסוימים. ככל שמערכות אלו הופכות נפוצות יותר, הגבול בין פיקוח ממשלתי לתאגידים הולך ומיטשטש.

חבר הקונגרס הרפובליקני תומס מאסי מזהיר מפני שמירת האימות האלקטרוני בהצעת החוק, ומתריע שאם אי פעם תאמץ ארה”ב מערכת דירוג אשראי חברתי, האימות האלקטרוני הלאומי יהיה הכלי המושלם לשליטה בזכאות להשתתף בחברה. גם הסנטור רון פול מזהיר זה שנים מפני אימות אלקטרוני וחקיקה דומה בנושא, כך שהצעת החוק החדשה העלתה חששות בנוגע לשימוש הפוטנציאלי בטכנולוגיה לצורך הגבלת סיכוייו של כל מי שאינו נמצא בקו אחד עם מדיניות הממשלה למצוא עבודה. לעומתם, בפלורידה מיישם בימים אלה המושל דה-סנטיס את המערכת הזאת במטרה להילחם בגלי המהגרים הלא חוקיים מאמריקה הדרומית הצפויים להגיע ממקסיקו לאחר סיום מצב חירום הקורונה.

הנושא מדגיש את הצורך במודעות ובפעולה של הציבור. חיוני להישאר מעודכן, לתמוך בזכויות הפרט ולהטיל את האחריות על הממשל ועל התאגידים כדי להגן על חירויות הפרט מול הגברת המעקב. יש חשיבות רבה בתיעדוף זכויות הפרט והפרטיות ביישום טכנולוגיה חדשה, ולנקוט משנה זהירות במידע המשותף באינטרנט, כדי לוודא שזכויותינו נשמרות.

בינה מלאכותית בשירות המלחמה בתעמולה

שר החוץ של ארצות הברית, אנתוני בלינקן, הכריז לאחרונה על טכנולוגיית AI חדשה לאיסוף תוכן מקוון אוקראיני למלחמה בדיס-אינפורמציה הרוסית, כחלק מן המאמץ של המדינה להתמודד עם התעמולה במלחמתה נגד אוקראינה. הכלי יאסוף וישתף דיס-אינפורמציה רוסית שאפשר יהיה לאמתו עם שותפים בכל רחבי העולם, בניסיון להתמודד עם הפצת מידע כוזב. אמנם התמיכה בכלי כזה מן הצד האמריקאי-אוקראיני ברורה, אך הועלו חששות בנוגע לצנזורה ולשליטה ממשלתית, בייחוד בשל היעדר שקיפות ופוטנציאל לשימוש לרעה ופגיעה בפרטיות לצורכי מעקב. השימוש של הממשלה ב-AI מערער את טענותיה כי היא מגינה על ערכים דמוקרטיים, כיוון שהוא עלול לשחוק את חופש הביטוי. הנאום הזכיר את הצורך במגילת זכויות בינה מלאכותית, אך האחריות להסדרתה מלאכותית נותרה אתגר.

עולות גם שאלות בנוגע לאופן השימוש במידע שנאסף ולמי תהיה גישה אליו. יתרה מזאת, הועלו גם חששות בנוגע לאפשרות שהכלי ישמש לסינון מידע הזמין לציבור ולבקרה עליו, מה שעלול להחמיר את התעמולה במקום את ההתנגדות לה.

בעוד לפיתוח טכנולוגיית בינה מלאכותית יש פוטנציאל לתמוך בזכויות אדם ולהילחם בדיס-אינפורמציה, חשוב שהשימוש בכלים כאלה ייבדק בקפידה כדי להבטיח שאינם פוגעים בזכויות האנשים ובחירויותיהם. חייבות להיות הנחיות ובדיקות ברורות המסדירות את השימוש בכלי ומבטיחות שיישאר ממוקד במטרה המיועדת שלו לנטרול דיס-אינפורמציה רוסית. יש ליישמו בזהירות ובשקיפות כדי למנוע שימוש לרעה בכוח.

---

המדור מאוייר בשיתוף פעולה בין יריב המר ל-AI