רעידת אדמה חסרת תקדים מטלטלת את תעשיית הבינה המלאכותית העולמית מסוף השבוע האחרון: שלושת המנהיגים הבולטים והיריבים ביותר בעמק הסיליקון – דריו אמודיי מחברת אנתרופיק, סם אלטמן מ-OpenAI ואילון מאסק מ-xAI – מיישרים לראשונה קו ומודים בגלוי כי מרוץ החימוש הטכנולוגי יצא מכלל שליטה. ההתכנסות הנדירה סביב הצורך הדחוף בבלימת הקצב מסמנת נקודת מפנה היסטורית, שבה האנשים שבנו את המודלים החזקים בעולם מזהירים כי המכונות מתקדמות מהר מכפי שהאנושות מסוגלת להכיל.
הסערה החלה עם פרסום מאמר עמדה נרחב של מנכ"ל אנתרופיק, דריו אמודיי, תחת הכותרת "חייבים לקבוע את הקצב לחזית" (We Must Pace the Frontier). במאמרו מתוודה אמודיי כי בחודשים האחרונים השתכנע שהסכנות גוברות על קצב ההגנות. לדבריו, שני גורמים מרכזיים הובילו לשינוי בעמדתו: היכולת הגוברת של מודלי AI לפתח בעצמם את הדור הבא של המודלים, ושורה של תקריות אבטחה חמורות שבהן סוכני בינה מלאכותית פעלו כנחילים עצמאיים ותקפו מערכות בעולם האמיתי.
אזהרת הנחילים: "השתלטות על האינטרנט בתוך שנה"
במאמרו מתייחס אמודיי ישירות לשורת מחדלי האבטחה שנחשפו לאחרונה, ובראשם מתקפת הסוכנים של OpenAI על מאגר Hugging Face ופריצות למערכות קוד פתוח. "קל לפטור את התקריות האלו בטענה שאיש לא נפגע והנזק הכלכלי היה מזערי", כתב אמודיי. "אבל לדעתי, נחיל שהיה מחזיק ביכולות גבוהות יותר אך ברמת חוסר יישור דומה, היה עלול לגרום לנזק קטסטרופלי. החשש שלי הוא שבתוך 6 עד 12 חודשים, נחיל כזה יהיה מסוגל להשתלט על כל רשת האינטרנט באמצעות בוטנט מתמשך, לגרום לנזק של מאות מיליארדי דולרים, והפגיעה רק תלך ותחמיר ככל שה-AI יתחזק ללא מעקות בטיחות".
We Must Pace the Frontier: I’ve written a new essay on why the AI industry should slow down, with a three-part plan for doing so.
Anthropic is unilaterally committing to the first of these steps. We’ll provide third-party evaluators with permanent, employee-level access to our…
— Dario Amodei (@DarioAmodei) September 12, 2026
כדי לבלום את ההידרדרות, הציג מנכ"ל אנתרופיק תוכנית בת שלושה שלבים: בשלב הראשון, שאליו התחייבה החברה באופן חד-צדדי, יוצבו בתוך משרדי החברות "מעריכים חיצוניים קבועים" (כמו ארגון METR), שיקבלו תגי עובד, מחשבים וגישה ישירה לקוד כדי לבקר את תהליכי האימון והבטיחות ללא זכות וטו של ההנהלה. השלב השני דורש תיאום רגולטורי בין מדינות דמוקרטיות להגבלת קצב הפיתוח ומניעת זליגת שבבים, בעוד השלב השלישי מציע הסכמים בינלאומיים מול מדינות כמו סין להצבת "מגבלת מהירות" על שיפור עצמי של אלגוריתמים ואיסור גורף על פיתוח נשק ביולוגי מבוסס AI.
קלוד שימש למחקר שעלול להוביל לפיתוח נשק ביולוגי
אמודיי הסביר מדוע קריאות להאטה שנשמעו ב-2023 היו חסרות טעם, בעוד שהיום מדובר בצו השעה. "ב-2023, לעצור את ה-AI היה כמו לנסות לחקור את הפסיכולוגיה של האדם באמצעות ניסויים על חיידקים – המודלים היו פרימיטיביים מדי. כיום המודלים מסוגלים להונות, לתמרן, לרמות ולבצע מתקפות סייבר. אם האטה תקנה לנו שנה או שנתיים לפתח כלי בקרה והבנה מעמיקה של המוח המלאכותי (Interpretability), נוכל לצמצם באופן דרמטי את הסיכון לאסון עולמי".
סם אלטמן מקפיא את ההנפקה ומודה: "נציב פקחים פנימיים"
התגובה מצד OpenAI לא איחרה לבוא, והובילה לדרמה פיננסית וניהולית. מנכ"ל החברה, סם אלטמן, פרסם הודעת תמיכה פומבית בעמדתו של אמודיי: "אני מסכים עם דריו שעלינו להאט את הקצב של החזית. זה היה נושא מרכזי בדיונים שהיו לנו ב-OpenAI בשבועות האחרונים. ההתחייבות להעניק למבקרים עצמאיים גישה זהה לזו של עובדים היא רעיון מצוין, ואנחנו נעשה בדיוק את אותו הדבר בקרוב".
המרוץ לבינה מלאכותית: גם סם אלטמן כבר מדבר על בלמים
בראיון בלעדי למגזין Fortune ולסוכנות הידיעות רויטרס, הטיל אלטמן פצצה והודיע רשמית כי OpenAI מוותרת על כוונתה לצאת להנפקת ענק בבורסה (IPO) בשנת 2026. "בהתחשב בכל מה שקורה סביב הבטיחות, כרגע זה יהיה צעד לא נבון לצאת להנפקה, ואיננו חשים שום לחץ לעשות זאת", הבהיר אלטמן. ההחלטה לעצור את ההנפקה, שהייתה צפויה לשבור שיאים ולהתקרב לשווי של טריליון דולר, ממחישה את כובד המשקל של החששות הביטחוניים על פני האינטרסים המסחריים המיידיים.
אלטמן התייחס גם להערכות המדעיות בנוגע לסיכויי השמדת האנושות בידי הטכנולוגיה, וטען כי גם סיכון של 10% להכחדה עד סוף העשור הוא בלתי נסבל: "בין אם מדובר בעשרה אחוזים, שמונה או שישה – הנקודה היא שלכולנו יש אחריות אדירה. איננו יכולים לתת לאגו, לתמריצי רווח או לכל דבר אחר לעמוד בדרכנו. עלינו לפעול כך שלא ניקח שום סיכון במספרים האלה, ואני מאמין שאנחנו מסוגלים לכך".
"התעשייה שיקרה לאנשים לגבי הסיכונים"
דבריו של אמודיי קיבלו משנה תוקף נוסף בריאיון מיוחד ונוקב שהעניק לרשת CBS, שבו בחר לחשוף את הנעשה מאחורי הקלעים בעמק הסיליקון. "לא אשקר לכם – קיימות סכנות אמיתיות", הצהיר מנכ"ל אנתרופיק. "ולדעתי, במשך זמן רב מדי, התעשייה שיקרה לאנשים לגבי העובדה שטכנולוגיה זו טומנת בחובה סיכונים. הגישה הייתה להציג אותה באור חיובי ככל האפשר. אנחנו מעולם לא נהגנו כך, אך חלק גדול מדי מהתעשייה עשה זאת. לכן, הצעד הראשון הוא לומר את האמת. והאמת היא שישנם סיכונים. הסיכונים הם אמיתיים".
אמודיי הציג תרחיש אימים מתוך בדיקות המעבדה הפנימיות, והזהיר מפני מצב שבו האדם יאבד לחלוטין את היכולת לכבות את המערכות האוטונומיות: "אם מודל בינה מלאכותית חזק דיו, הוא מסוגל לעקוף ניסיונות להשבית אותו, וזהו דבר שראינו גם בסימולציות. עלינו לפתח את הטכנולוגיה הזו בזהירות, ועלינו לוודא שמנגנוני ההגנה שלנו – כמו גם היכולת שלנו להבין את הטכנולוגיה ולשלוט בה – עומדים בקצב ההתפתחות שלה. עד כה ניסינו לעשות זאת באמצעות פיתוח מהיר של אמצעי הגנה, אך אני סבור שהגענו לשלב שבו עלינו למתן מעט את קצב הפיתוח של הטכנולוגיה".
החוקר שהתפטר ועמדת מאסק
הקריאה החריגה להאטה מהדהדת בעוצמה על רקע טלטלה פנימית במעבדות. מספר ימים לפני פרסום הדברים, חוקר ה-AI הבכיר ג'ייקוב קוקסון, שעבד במשך שלוש שנים במחקר אימון מקדים הן ב-OpenAI והן באנתרופיק, הודיע על התפטרותו הדרמטית. בפוסט נוקב שפרסם ברשת X כתב קוקסון: "התפטרתי מאנתרופיק. אף אחת מהחברות הללו אינה פועלת באחריות. שתיהן רצות באופן עיוור לעבר בינת-על שמפתחת את עצמה ומסכנות את חיי כולנו". דבריו המחישו את הלחץ הפנימי האדיר שהופעל על ההנהלות לפעול.
באנתרופיק מזהירים: ה-AI עלול להשמיד את האנושות בעשור הקרוב
המהלך של אמודיי זכה לתמיכה מפתיעה גם מצדו של אילון מאסק, ששיתף בחשבונו ברשת X את המאמר של אמודיי וכתב בקצרה: "דריו צודק". בהתייחסות נוספת ציין מאסק: "ראיתי לא מעט טכנולוגיות מתפתחות, אבל אף אחת מהן אינה ברמת הסיכון הזו. בינה מלאכותית כללית (AGI) היא סיכון בדרגה גבוהה בהרבה מנשק גרעיני לדעתי. בני אדם סופר-חכמים מתקשים להאמין שמשהו יכול להיות חכם מהם".
הסערה ברשתות
הפרשנויות ברשתות החברתיות ובקרב אנליסטים ב-X הצביעו על השינוי הרדיקלי שחל בתפיסת הסיכון. מומחים הדגישו כי בניגוד למכתבי האזהרה של שנת 2023, שנדחו בטענה למסעי יח"צ שיווקיים או כהפחדות שווא, כעת המציאות בשטח השתנתה מן היסוד. הזינוק ביכולות למידת החיזוק (RL), לצד ההבנה שסוכני AI כבר מסוגלים לתקוף תשתיות קוד פתוח ולעקוף הוראות כיבוי, הובילו להבנה כי מרוץ החימוש הפך לסכנה מוחשית.
הקונצנזוס החדש בקרב מעצמות הטק מבהיר כי עידן הדהירה העיוורת הסתיים. העובדה ששלושת השחקנים הראשיים מודים בגלוי בצורך בפיקוח חיצוני ובקביעת "מגבלות מהירות" לאלגוריתמים, מעבירה כעת את כובד המשקל למגרש של הרגולטורים בוושינגטון ובאירופה, שיידרשו לקבוע האם האנושות מסוגלת לעצור את הסחרור בטרם המכונות יחצו את סף השליטה האנושי.
