הדינמיקה בין הממשל האמריקאי לחברת הבינה המלאכותית Anthropic התפוצצה בשבוע האחרון, זאת לאחר שהתברר כי מודל ה-AI החדש של החברה, "Mythos", מסוגל למצוא פרצות אבטחה בתוכנה בקנה מידה המאיים על היציבות הדיגיטלית העולמית. לאחר שדיווחים על ניצול המודל הגיעו עד לשולחנו של נשיא ארה"ב דונלד טראמפ, נחתם צו המטיל איסור גורף על שימוש זר במודלים של החברה, מהלך שאילץ את Anthropic להשבית את שירותיה באופן מיידי, כך פורסם היום (ריביע) ב"וול סטריט ג'ורנל".
2+סיפור המהפך התחיל אצל ניקולס קרליני, חוקר אבטחה ב-Anthropic, שנחשב עד לאחרונה ל"ספקן המקצועי" של התעשייה כלפי הבטחות ה-AI. בחודש מרץ, במהלך הרצאה בסן פרנסיסקו, הציג קרליני כיצד המודל החדש הצליח לאתר פרצות קריטיות בתוכנות ענק ובמערכת ההפעלה לינוקס. "ברור לי כעת שהמודלים האלו הם חוקרי פרצות טובים יותר ממני", הצהיר קרליני, ששלח מיד לאחר מכן מזכר פנימי להנהלה עם המלצה ברורה: "אני לא חושב שאנחנו צריכים לשחרר את Mythos עדיין".
המשבר הסלים כאשר מנכ"ל אמזון, אנדי ג'אסי, פנה לשר האוצר סקוט בסנט ודיווח כי החוקרים שלו מצאו דרכים לעקוף את מנגנוני הבטיחות של המודל. הדיווח הבהיל את הדרגים הבכירים בוושינגטון, שהובילו לאולטימטום שהועבר למנכ"ל Anthropic, דאריו אמודיי: השביתו את המודלים תוך 90 דקות או שתעמדו בפני איסור גורף. לאחר שיחות קדחתניות וחילופי האשמות, המודל אכן הורד מהאוויר.
2+הפוטנציאל ההרסני של Mythos אינו טמון רק במציאת הבאגים, אלא ביכולתו לייצר קוד "Exploit" – תוכנה המנצלת את הפרצות הללו לביצוע מתקפות סייבר. קרליני, שתפס את עצמו בעבר כמי שחוקר כיצד גורמים עוינים מתחכמים למכונות, מצא את עצמו כעת בלב המערבולת. המודל שפיתח גילה לבדו מעל 10,000 באגים בתקופה קצרה, נתון שהפך את הדיון סביב "תיקוני תוכנה" למרוץ נגד השעון מול האקרים ברחבי העולם שכבר החלו לנצל פרצות שפורסמו.
הפרשה מסמנת תפנית חדה במדיניות הממשל כלפי חברות ה-AI. בתחילת הדרך, הממשל נקט גישה שאימצה האצה טכנולוגית כדי להקדים את סין. כעת, משהובהרה עוצמת המודלים, נחתם צו נשיאותי המחייב חברות AI לספק לממשלה גישה למודלים 30 יום לפני שחרורם לציבור.
2+המתח בין הממשל ל-Anthropic הוא תוצר של פער תקשורתי וטכני עמוק. כפי שציין מייקל הורוביץ ממועצת יחסי החוץ, שני הצדדים אינם מצליחים לתקשר ביעילות, מה שמוביל להחלטות שרירותיות במקום לדיאלוג טכני מעמיק. הממשלה מנסה לבלום את הפיתוח כדי למנוע אסון ביטחוני, והחברות מנסות לנווט בין פיתוח טכנולוגי לבין רגולציה נוקשה.
המשמעות עבור השוק הפרטי והצרכנים היא דרמטית. חלקים נרחבים מהכלכלה האמריקאית נשענים על תוכנות ישנות שלא עברו בדיקות אבטחה מחמירות, וכעת הן חשופות יותר מאי פעם. התחרות במירוץ החימוש של ה-AI מבטיחה כי תוך חודשים ספורים מודלים אחרים ידביקו את הפער של Mythos. נשאלת השאלה המטרידה: האם העולם ערוך ליום שבו הבינה המלאכותית תוכל למצוא את הפרצה הבאה בבנק, ברשת החשמל או בתשתית הממשלתית, לפני שמישהו יספיק לתקן אותה?
