"את מבינה, צריך לרוץ הכי מהר שאת יכולה, רק כדי להישאר במקום.
כדי להגיע לאנשהו, את חייבת לרוץ לפחות במהירות כפולה מכך!"
(אפקט המלכה האדומה, מתוך אליס בארץ הפלאות).
הבינה המלאכותית, מתפתחת בצעדי ענק וכובשת טריטוריות נוספות בחיינו מדי יום. בינה מלאכותית כבר קובעת עבורנו מה לקנות, איזו מוזיקה לשמוע ועם מי להתחבר. היא אפילו עושה מניפולציות על האמונות הפוליטיות והחברתיות שלנו ובפועל משפיעה על תוצאות בחירות.
פייסבוק לדוגמא, מרוויחה יותר ככל שאנו שוהים יותר בפלטפורמה שלה. לכן האלגוריתם שלה מוכוון לחשוף את המשתמש לידיעות שליליות ופרובוקטיביות ללא קשר לאמתותן, כי זה קונה לה זמן מסך. ה"יופי" במודל העסקי של פייסבוק הוא שהיא אינה צריכה אפילו ליצור תוכן, הואיל ואחת שהיא מעלה תוכן שלילי שמשתמש אחד יצר, מיד משתמשים אחרים מגיבים עם עוד תוכן שלילי שהם יוצרים, במהלך המזין את עצמו.
איום על קוהרנטיות חברתית
קיימברידג' אנליטיקה עשתה מניפולציות על דעות ועמדות הציבור במספר מערכות בחירות באמצעות הפצת מידע מוכוון-קהל-יעד (מטורגט) על ניתוח מגזרים. כך היא שלטה בפועל על המוטיבציה להצביע ואפילו על אופן ההצבעה. באופן דומה נעשה שימוש בבוטים, חלקם זדוניים ממדינות זרות, במטרה להשפיע על הדעות של הבוחרים בשתי מערכות הבחירות האחרונות בארה"ב.
באופן זה, פעילות החברות השולטות בשוק הדיגיטלי משפיעה על הקוהרנטיות החברתית [רמת המתח בחברה] ומהווה איום ישיר על החיים כפי שהכרנו. התפתחויות אליו מציבות אתגרים חברתיים, אתיים ומשפטיים אדירים שקשה להעריך את עוצמתם היום ובוודאי מה יהיו בעתיד.
שבע מתוך שמונה החברות הגדולות בעולם הינן חברות פלטפורמה המבוססות בינה מלאכותית, המנצלות את הרשת לצבירת משתמשים, מידע עליהם ועוצמה כלכלית. השמינית היא חברת השקעות המזינה, בין היתר אותן.
מתחילת נשיאותו של ג'ו ביידן, נציבות הסחר שהיא רשות ההגבלים האמריקאית FTC (Federal Trade Commission) עוברת מהפכה שמסומלת היטב במינוי לינה קאן, המהפכנית הצעירה, לתפקיד יו"ר הנציבות אך השבוע בוטלו מכלול ההנחיות בנוגע למיזוגים שפורסם אשתקד, והתקנון נכתב למעשה מחדש.
לאור מדיניותה החדשה, הגישה הנציבות תביעה נגד פייסבוק בטענה שרכישת וואטסאפ מנוגדת לדיני ההגבלים העסקיים ויוצרת מונופול שיש לפרקו לחברות נפרדות, אף שהרכישה של וואטסאפ נעשתה בזמנו באישור. ביהמ"ש דחה את התביעה על הסף בטענות דווקניות לפיהן הנציבות לא הוכיחה שיש שוק ולא הוכיחה את כח השוק של פייסבוק. החלטה ארכאית זו התקבלה על בסיס חוק מיושן שאינו מתאים לעידן הדיגיטלי. בכדי להתמודד עם הכשל החוקי הזה, הרשות נאלצה להגיש את התביעה מחדש כאשר היא מנוסחת מחדש בכלים המיושנים.
בשוק הטכנולוגי קיימת אימרה הטוענת כי טכנולוגיה רצה פי שלושה מהר מהשוק, השוק רץ פי שלושה יותר מהר מהמדינה והמדינה רצה פי שלושה יותר מהר מהדין. מכאן נבין כי מערכת המשפט מפגרת אחר המהלכים ומתקשה להתמודד עם המציאות המשתנה. מחוקקים, בתי המשפט ומאסדרים רצים אחר השוק ומתחילים להתמודד רק כעת עם כשלי השוק שאיפשרו את צמיחת ענקיות GAFAM (אפל, גוגל, אמזון, פייסבוק ומיקרוסופט) שנוצרו לפני למעלה מעשור.
הצד החיובי והשלילי של הבינה
בעשור האחרון התפתח תחום של בינה מלאכותית בשם "למידת מכונה" או "למידה כמותית", המחברת בין מחשבים רבי עוצמה במטרה ליצור טכניקות חדשות לעיבוד מידע. כך, בכדי שמערכות הבינה המלאכותית ידעו "לדבר", הם קוראות מיליארדי ספרים ודפי אינטרנט, ויוצרות מפה סבוכה של הסתברויות לחיבור בין מילים שונות. כשמשתמשים פנו אליה עם טקסט, הבינה המלאכותית פנתה למפה שיצרה, במטרה לדעת באיזה מילים עליה להשתמש כדי לחבר משפט תשובה. המערכות האלו נשענות על "מודלי שפה גדולים". ככל שהמודל גדול יותר, הבינה נשמעת אנושית יותר.
מרשים לבחון לאורך זמן את הקפיצה המעריכית בכמות הפרמטרים הפנימיים של מערכת אחת לדוגמא: ב–2018, בגרסה הראשונה שלה, היו למערכת 117 מיליון פרמטרים פנימיים. הגרסה השנייה מ–2019 כללה 1.5 מיליארד פרמטרים כאלה. בשלישית יש כבר 150 מיליארד פרמטרים המבוססים על ניתוח של יותר מטריליון מילים — כולל כל הטקסטים בוויקיפדיה, מיליארדי דפי אינטרנט ואלפי ספרים שמייצגים את מרבית הקנון הספרותי המערבי. בינואר הכריזה גוגל על מודל שפה עם 1.6 טריליון פרמטרים.
בסן פרנסיסקו כרוניקל, פורסמה ב-20.09.21 כתבה המתארת את רצונו של בחור בשם ג'ושואה לשוחח עם ארוסתו ג'סיקה, שמונה שנים לאחר שנפטרה, באמצעות מערכת בינה מלאכותית חדשנית בשם "פרויקט דצמבר".
במערכת זו נדרשים רק שני מרכיבים עיקריים ליצירת בוט מותאם אישית: (1) דוגמה למשהו אופייני שהדמות היתה אומרת (2) הגדרת התפקידים שמשחקים שני הצדדים בשיחה. ג'ושואה הזין למערכת את כל התכתבויות הוואטסאפ שלהם והצליח למצוא מרגוע לנפשו המיוסרת לאחר כמה שעות של שיחות עומק רגישות עם "ג'סיקה", הבוט שיצר. בעקבות כך הוא נחלץ מדכאון מתמשך והשתלב חזרה בחברה.
בצד האפשרויות המדהימות שמערכות כאלה מציבות, ניצבים סיכונים מהותיים ואף קשים להערכה. הבינה המלאכותית הזאת כל כך טובה בהתחזות לאנשים, עד שמתכננים שלה, קבוצת מחקר מסן פרנסיסקו שהוקמה על ידי אילון מאסק ואחרים, שמרו את דבר קיומה בסוד מסיבות בטיחות.
הגישה הוגבלה לכמה נסיינים בלבד. מאחר שבני אדם מאמנים את התוכנה לכתוב, הם יכולים גם להגיד לה דברים נוראיים, והבינה המלאכותית תפנים אותם. סביר גם להניח שפושעים ינצלו את האפשרויות הטמונות בה כדי להפיץ דברי שטנה ברשת או להטעות את הציבור ולהתחזות לאנשים אמיתיים.
שאלות מהסוג הזה הן לכאורה יסודותיו של המדע הבדיוני אבל מתאר זה כבר מתרחש, פה ועכשיו. הניסיון הנצבר עם אדוני מערכות העל GAFAM, המנצלות את המידע שהן אוספות מהציבור להפקת רווחי עתק, מבשר שלא ניתן יהיה להסתמך רק על הנחה נאיבית כי המפתחים יגלו אחריות ומשטור עצמי שימנע ניצול זדוני של מערכות בינה מלאכותית מתקדמות כגון אלה. להתמודדות עם הסוגיות המתעוררות מכניסתן לשוק, נדרשת התגייסות נמרצת של מחוקקים, בשיתוף הדוק עם אנשי אקדמיה ותעשייה לבניית התשתית המשפטית למשטור המרחב הדיגיטלי פורץ הדרך הזה.
ג’ואל אלון הינו יזם עסקי וחברתי, יועץ פיננסי לחברות תעשייה ביטחונית בישראל, בנושא ניצול כספי הסיוע הביטחוני מארה”ב. אלון מהווה מומחה כמעט בלעדי לנושא של כספי הסיוע הצבאי מטעם ממשלת ארה”ב, וכן בעל ניסיון רב בהיבט המימון של תעשיות צבאיות.
