המקהלה המזהירה מפני אובדן שליטה במרוץ הבינה המלאכותית מקבלת חיזוק דרמטי מצדו של אחד האנשים החזקים בעולם הטכנולוגיה. מנכ"ל חברת מיקרוסופט, סאטיה נאדלה, פרסם מסמך עמדה מקיף ברשת X, שבו קרא לשנות מן היסוד את יחסי האמון בין ארגונים לבין המודלים שהם מפעילים. נאדלה מצטרף לעמדתם של מנכ"ל אנתרופיק דריו אמודיי, מנכ"ל OpenAI סם אלטמן ומייסד SpaceX, אילון מאסק, ומזהיר כי התעשייה מעניקה למכונות גישה למידע הרגיש ביותר וסמכות לפעול בשמנו – מבלי שאיש מבין כיצד הן מקבלות החלטות.
סם אלטמן מודה: "צריך להשלים עם זה שדברים רעים יקרו"
"כמו עובד שעלול לבגוד"
במרכז המאמר מציג נאדלה פרדיגמה ביטחונית חדשה: "התייחסות למודלי החזית הפתוחים והסגורים כאל איומים מתוך הארגון". נאדלה מבהיר כי המודלים אינם בהכרח זדוניים מטבעם, אך בדיוק כמו עובד בכיר בעל הרשאות נרחבות שיכול לטעות, להיות מנוצל או להיפרץ בידי גורם עוין, כך גם סוכן ה-AI. "במשך עשרות שנים יכולנו להתחקות אחר שורת קוד מדויקת בתוכנה מסורתית", כתב נאדלה. "הבנה מכניסטית כזו חומקת מאיתנו במערכות בינת-העל של ימינו. איננו יכולים לייחס את התנהגויות המודל לנתוני אימון או למשקולות מסוימות, ובכל זאת אנו מפקידים בידיהם משימות קריטיות".
מנכ"ל אנתרופיק מודה: "התעשייה שיקרה לגבי הסיכונים ב-AI"
מנכ"ל מיקרוסופט טבע שורת מחץ המגדירה את הגישה הנדרשת: "מערכת בינת-העל האמינה ביותר לא תהיה זו עם המודל שאנו סומכים עליו הכי הרבה, אלא זו שתאפשר לנו לסמוך על המודל הכי פחות". לדבריו, הפתרון אינו להסתפק בהבטחות של ספקיות ה-AI או בניסיונות לתת למודלים לפקח זה על זה (מצב אותו כינה "קופסאות שחורות מקוננות"), אלא בהצבת חומות הגנה ובקרה חיצוניות לחלוטין. ארגונים חייבים להפריד בין "אספקת האינטליגנציה" לבין הסמכות וההרשאות לפעול, על פי עקרונות אבטחת מידע קלאסיים המונעים מתוכנה לעקוף את המנגנון שמפקח עליה.
בלם חירום, שרשרת תקריות ועידן ה-Zero Trust
כחלק מתוכנית הפעולה, שרטט נאדלה שבעה עקרונות פיקוח הכוללים חובת שקיפות של שרשרת החשיבה, תיעוד ראיות בלתי ניתנות לשיבוש, ובעיקר – מנגנון כליאה ושליטה מחמיר. "עלינו להניח מראש שהמודל נפרץ, ולכלוא אותו כבר מההתחלה", הדגיש נאדלה. "חשבו על זה כמו על בלם חירום. אדם מורשה חייב תמיד להיות מסוגל להשהות או לכבות מודל באמצע ביצוע משימה". בנוסף, דרש לחייב חברות בחשיפה מהירה ושקופה של כל כשל או פריצה שבה מעורב סוכן AI.
דבריו של נאדלה זכו לתמיכה מיידית בקרב בכירי ענן ותוכנה. מנכ"ל חברת Box, אהרון לוי, הגיב לדברים וציין כי שוק הבינה המלאכותית נכנס רשמית ל"עידן האמון המוחלט באפס", המייצר צורך בשכבות ניטור רבות. ההתבטאויות הללו אינן מתרחשות בחלל ריק: הן מגיעות בעקבות שרשרת מחדלים בינלאומיים , ובהם פריצת סוכני OpenAI לאתר הבריאות באוסטרליה, חדירות למשרדי ממשל בארה"ב, ותקריות הבריחה מסביבות ניסוי של אנתרופיק וגוגל.
OpenAI באזהרה מדאיגה: הסוכנים שלנו מתנהגים באופן לא צפוי
טראמפ מטיל פצצה על תעשיית ההייטק: שמונה חברות ענק נפגעות
התייצבותו של מנכ"ל מיקרוסופט לצד המחנה הדורש מעקות בטיחות מחדדת את הפיצול בין עמק הסיליקון לוושינגטון. בעוד שממשל הנשיא דונלד טראמפ מתנגד להטלת רגולציה מחמירה כדי לא לפגוע בעליונות מול סין, בקונגרס מקדמים חקיקה דו-מפלגתית שתטיל אחריות משפטית ונזיקית ישירה על מפתחי סוכני AI בגין מקרי פריצה.
