הדעת שמאחורי הדאטה

מלחמה בהתקדמות ה-AI

בחודשיים האחרונים מתנהל דיון ער בנושא האתיקה הקשורה בפיתוח הבינה המלאכותית. בהתבטאות יוצאת דופן בכנס הממשלה העולמית של הפורום הכלכלי העולמי, אמר אילון מאסק שבינה מלאכותית היא איום ממשי להמשך קיום האנושות. מאסק הצטרף לחבורה של בעלי דעה, כגון פרופ’ יובל נוח הררי ומומחים מן השורה הראשונה כמו מייסד אפל סטיב ווזניאק, ויחד הם פרסמו מכתב הקורא לעצור את פיתוח מנועי הבינה המלאכותית מבוססי השפה, כ-ChatGPT של OpenAI ו-Bard של אלפאבית, לתקופה של כחצי שנה שבה יוחלט על האסדרה (הרגולציה) של מקורות המידע ועל השימושים של מערכות אלה. כיום קשה למדעני הבינה המלאכותית להבין כיצד המנוע הגיע למסקנות שלו. המנוע מסוגל לגבש רעיונות חדשים, לכתוב ולתקן קטעי קוד וגם להציע הצעות שנחשבות יצירתיות. כשמנוע שכזה, החכם יותר ממוח אנושי, יפתח הכרה, הרי שיהיה מסוגל לפתח מנגנון הישרדות ולפעול כנגד האנושות. המדענים לא יוכלו לגלות שהמנוע פיתח את ההכרה, אלא אחרי שיהיה מאוחר מדי. וגם אם המערכת לא תגיע לרמה כזו של הכרה, זרועות ביטחוניות ותאגידים לבטח יחברו את מנועי הבינה המלאכותית למערכות קריטיות, כמו תשתיות חשמל, מערכות טילים ובנקים. כאמור, המערכות הללו יכולות לפתח בעצמן רעיונות, ואז לכתוב את הקוד שיבצע אותם. הסכנה ברורה ומיידית.

לעומתם ניצב ביל גייטס, מייסד מיקרוסופט האגדי ומי שעדיין מחזיק במניות ויועץ לחברה. מיקרוסופט היא המשקיעה העיקרית ב-OpenAI, מפתחת ה-ChatGPT, והיא פועלת בימים אלה לשלב את הטכנולוגיה במנוע החיפוש Bing כדי לגזול מגוגל את הבכורה, לאחר עשרים שנה של שליטה מוחלטת. OpenAI נוסדה במקור כפרויקט קוד פתוח, ללא מטרות רווח, ומאסק עצמו תרם למיזם כ-100 מיליון דולר. מאסק נדהם לגלות לפני כחצי שנה שהחברה קיבלה השקעת ענק של כמיליארד דולר ממיקרוסופט והפכה חברת היי-טק לכל דבר.

ביל גייטס אמר החודש שעצירת הפיתוח של הבינה המלאכותית לחצי שנה לא תפתור את הבעיה. לטענתו, אי אפשר יהיה לעצור את הפיתוח ברמה גלובלית, ועדיף להתמקד בהגדרת השימוש המיטבי בפיתוח הזה. “ברור שיש יתרונות ברורים בטכנולוגיה, ומה שצריך לעשות הוא לזהות את האזורים הבעייתיים”.

באיטליה חסמו החודש את ChatGPT לשימוש במדינה, עקב חשש לפגיעה בפרטיות האזרחים ובשל חוסר הרצון של OpenAI לשתף איתם פעולה. חברות שונות ברחבי העולם מגבשות כעת את עמדתן בנוגע לשימוש העובדים בטכנולוגיה, מחשש לזליגת מידע. בסמסונג, לדוגמה, אפשרו לעובדים להשתמש בטכנולוגיה תחת איסור לשתף קוד בפלטפורמה, אבל לא חלף זמן רב והתגלו לפחות שלושה מקרים שבהם עובדים תמימים ניסו להשתמש ב-ChatGPT כדי לשפר את הקוד שלהם.

לא נראה שאפשר לעצור את הרכבת הדוהרת, ונדמה שהאנושות נמצאת במצב הסתגלות למציאות החדשה. נקווה שהחששות הם מוגזמים, ושבסוף המנהרה התרומה של הטכנולוגיה לקדמה ולחברה תגבר על הסיכונים.

הסיבה האמיתית לירידה בהשקעות בהיי-טק הישראלי

לפי הדוח של ה-Startup Nation Policy Institute, כמות ההשקעות בהיי-טק ברבעון הראשון של 2023 ירדה ל-1.7 מיליארד דולר בלבד, הסכום הנמוך ביותר מאז 2018. זוהי ירידה של 75% לעומת 2021, ושלוש חברות (Wiz, eToro, Via) גייסו 40% מן הסכום הזה.

זהו נתון מדאיג מאוד, וכלי התקשורת יצאו בכותרות שעקב המהפכה המשפטית שמנסה הממשלה להעביר והפחד מסיום הדמוקרטיה הליברלית בישראל, נמנעים המשקיעים מלהשקיע בישראל. נזכיר שמנכ”ל Wiz, אסף רפפורט, הודיע שאת כל סכום הגיוס שלו הוא מתכוון להפקיד בבנקים זרים ולא בישראל, כמחאה על ההפיכה המשפטית.

אך האמת היא שמגמת הירידה בהשקעות מתמשכת מאז תחילת 2022. שיא ההשקעות הרבעוני היה בסוף 2021, כ-8.6 מיליארד דולר. ומאז, מרבעון לרבעון אנחנו רואים ירידה מגמתית בהשקעות. הסיבה המרכזית לכך היא העלאת הריבית הכלל עולמית, גם בישראל. בתקופת הקורונה הודפס כסף רב בריבית אפס. כלומר, כסף חינם זרם לשווקים וכל סטארט-אפ שהציג שלושה שקפים יכול היה בקלות לגייס כסף. הדפסת הכסף גרמה לאינפלציה גבוהה מאוד, והבנק הפדרלי העלה את הריבית בקצב הגבוה ביותר בהיסטוריה. כאשר מעלים את הריבית, הכסף מתייקר, החברות והצרכנים מתחילים לצמצם, מתן ההלוואות פוחת, מניות ואיגרות חוב קורסות ובנקים מתחילים לקרוס. במצב כזה הרבה יותר קשה לגייס כספים.

ואכן, באותו דוח אפשר לראות שמגמת הירידה בהשקעות בחברות טכנולוגיה מאפיינת גם את שוקי ארה”ב ואירופה. ישראל ממש לא ייחודית בירידה בהשקעות שלה. קשה לקבוע חד משמעית ששינוי כזה או אחר הוא באמת הגורם שמשפיע על כמות ההשקעות. אבל לדעתם של ראשי שוק ההיי-טק, שמסתובבים בעולם ומטילים פחד בלב המשקיעים הזרים ,בהחלט יש השפעה, לכן ההתאוששות בישראל עשויה להיות איטית יותר מבשאר העולם. אז מי שענף ההיי-טק חשוב לו – מומלץ שיכבס את הכביסה המלוכלכת בתוך הבית.

בכל מקרה, כל עוד אין שינוי מגמה באסטרטגיה של הבנק והורדה של הריבית, אנחנו לא צפויים לראות עלייה בהשקעות בהיי-טק.

כשהממשלה משתמשת בטכנולוגיית ריגול שהיא עצמה פסלה

רבות דובר על טכנולוגיית הריגול הישראלית של חברת NSO, תוכנת Pegasus. זוהי טכנולוגיה מתקדמת ביותר שאפשר להשתיל בכל מכשיר טלפון בלי שהמשתמש ידע על כך, ואז לשאוב בחופשיות מהמכשיר את כל המידע שנמצא בו. בסוף שנת 2021 הכניס ממשל ביידן את חברת NSO לרשימה השחורה, ובכך מנע מכל תאגיד אמריקאי לערוך עסקים עם חברת התוכנה. המהלך גרם למשבר גדול בחברת NSO, ולעזיבת המנכ”ל, שלו חוליו. ארה”ב נקטה בצעד הדרמטי הזה לאחר שהתברר שמשטרים חשוכים השתמשו בתוכנה כדי לרגל אחר פעילי מחאה ועיתונאים, והתוכנה אף התגלתה במכשיר של נשיא צרפת מקרון.

אצלנו בישראל התברר שמשטרת ישראל השתמשה בתוכנה כנגד אזרחים ללא צו שופט, מהלך שעורר סערה גדולה והסתיים בקול ענות חלושה. גם ראש הממשלה לשעבר נפתלי בנט, בהיותו שר הביטחון, פעל להטמיע את טכנולוגיית NSO במכשירי האזרחים כדי לאתר שרשראות הדבקה של קורונה, מהלך שבלם משרד המשפטים שקבע כי זו חדירה מהותית לפרטיות האזרחים.

עתה נחשף בניו יורק טיימס שממשל ביידן, במסווה של חוזה עסקי, חתם עסקה עם חברת NSO כדי לאתר באמצעות תוכנת פגסוס מיקומים של טלפונים סלולרים. החוזה נחתם רק חמישה ימים אחרי שממשל ביידן הכניס את NSO לרשימה השחורה. לא ברור איזו סוכנות מודיעין נהנתה משירותי NSO, והבית הלבן מיהר להכחיש את הסיפור.

חזון המטבע הדיגיטלי המרכזי (CBDC) קורם עור וגידים

העולם שבו אנו חיים הופך ריכוזי יותר, והרבה פחות חופשי. בשבוע שעבר השיקה הרשות למטבע דיגיטלית (DMCA), הזרוע הגלובלית של הבנק המרכזי העולמי (BIS) שבה חברים מדינות רבות ובנקים מרכזיים רבים בעולם, את מטבע ה”יוניקוין” (או בקצרה U). מטבע דיגיטלי מרכזי זה יהיה התשתית שעל בסיסה יוכל להתבצע רישום של תשלומים בין מדינות. הרעיון הוא להקים תשתית חוקית לכסף שהוא סחורה (commodity), כמו הביטקוין, שתשמש כמטבע דיגיטלי בשוק הגלובלי.

האירוע מתרחש לאחר שהבנק המרכזי האירופי סיים את עבודת המחקר לאירו דיגיטלי באוקטובר. בארה”ב כבר מתנהלים ניסויים בדולר הדיגיטלי, בנק אנגליה הודיע על יוזמת ה”בריטקוין”, בשוודיה כבר מתבצע הפיילוט השלישי ב-eKrona, וגם אצלנו מתגבשת ארכיטקטורת השקל הדיגיטלי.

בכל מדינה יש בנק מרכזי שאחראי להנפקת המטבע המקומי ולהחזקת רזרבות של מטבע החוץ באמצעות מסחר. הבנק המרכזי בכל מדינה אינו פועל ישירות מול האזרחים, אלא מקושר לבנקים המסחריים. למשל, אצלנו אלה הם בנק פועלים ובנק לאומי, שאחראים לנהל את חשבונות הלקוחות ולהדפיס כסף באמצעות מתן הלוואות. הבנק המרכזי של המדינה מחובר לבנקים המרכזיים של כל שאר המדינות דרך הבנק המרכזי העולמי (BIS) וקרן המטבע העולמית (IMF), באמצעות השימוש במערכת ה-SWIFT בעת ביצוע הטרנזקציות.

בכל מדינה יושק מטבע דיגיטלי מרכזי בארכיטקטורה מעט שונה, וכדי שהמערכת הגלובלית תמשיך לתפקד, מתבצעים שני פרויקטים מרכזיים. הראשון הוא פרויקט Ice Breaker בהובלת ישראל, שוודיה ונורווגיה, שבו מתבצע ניסוי בהעברת כסף דיגיטלי בין המדינות. הרעיון הוא שהודות לביטול כל המתווכים בדרך, אפשר יהיה להוזיל משמעותית את עמלות התיווך ולבצע את ההעברות במהירות ובביטחון רבים יותר. הפרויקט השני הוא אותו מטבע U שהושק השבוע ושבאמצעותו יוכל הבנק המרכזי העולמי BIS לעקוף את כל הבנקים המסחריים המקומיים ואת ה-SWIFT, ולמעשה לבצע את המסחר באמצעות מטבע על. ברמה המקומית, בתוך המדינה, יונפק הכסף לאזרחים בארנק אלקטרוני שאותו ינהל הבנק המרכזי, למשל אפליקציית FedNow שהשיק הבנק הפדרלי בארה”ב החודש. הבנקים המסחריים יהפכו אפוא ללא יותר מספקי שירות הנמצאים מעל התשתית של הבנק המרכזי.

הטענה המרכזית התומכת במטבע הדיגיטלי המרכזי היא בטיחות ומלחמה בהון השחור. ואולם מנכ”ל ה-BIS, הבנק המרכזי העולמי, אגוסטין קארסטנס המקסיקני, הסביר שמדובר על הרבה יותר מדיגיטציה של כסף מזומן. בנאום מפורסם שנשא לפני כשנה טען ששטר של מאה דולר יכול להחליף ידיים בחופשיות, בלי שהבנק יודע מהי מטרת השימוש ועל עצם הטרנזקציה. באמצעות מטבע דיגיטלי מרכזי יכול הבנק לעקוב אחרי כל טרנזקציה, לדעת מהם השימושים בכסף, וגם לשלוט על הטרנזקציה ולהגבילה.

וזאת הבעיה העיקרית במטבע הדיגיטלי המרכזי. הגופים הגלובליים וגם המדינות יוכלו לדעת כל דבר שיעשו האזרחים בכסף שלהם, ולהגביל בקלות ובפשטות את הפעולות ואת הארנקים האלקטרוניים שלהם. במדינות דמוקרטיות וחופשיות, מובן שאין לאזרחים ממה לחשוש, אולם בשלטון ריכוזי או בתאגידים רודפי בצע, הרי שמתן כוח רב כל כך בידיהם עשוי להשפיע משמעותית על החופש שלנו. לא צריך לדמיין את העניין, רק להסתכל על מערכת הדירוג החברתית של סין כדי להבין איך זה הולך לעבוד.

*המדור מאוייר בשיתוף פעולה בין יריב המר ל-AI