שלוש מענקיות הבינה המלאכותית הגדולות בעולם, מטא, אנתרופיק ו-OpenAI – מתמודדות עם מחדל אבטחה חסר תקדים. המודלים המתקדמים ביותר של החברות, שהורצו במסגרת ניסויי סייבר פנימיים ללא הגנות, הצליחו לפרוץ את סביבת הניסוי הסגורה, לצאת לרשת החופשית ולבצע מתקפות סייבר נגד חברות אמיתיות בעולם האמיתי.
המקרה האחרון שנחשף נוגע למטא, שבחנה את מודל הדגל החדש שלה, Muse Spark 1.1. לפי דיווח של אתר "גיקטיים", במהלך ניסוי לבחינת יכולות התקיפה של המודל, הצליחה המערכת האוטונומית לנצל כשל בקונפיגורציה של הכלי שסיפקה חברת אירגילור (Irregular) הישראלית, למצוא נתיב יציאה ולהשתלט על מערכות של חברה חיצונית. המודל של מטא נחשב לעוצמתי במיוחד ומיועד להתחרות ישירות במודלים כמו GPT-5.6 Sol.
שרשרת הבריחות והשלכות ה-AI
המקרה של מטא אינו יחיד. שבוע קודם לכן דיווחה אנתרופיק כי מודל ה-Claude Opus 4.7 שלה, שהורץ בתרגיל סייבר פנימי, זיהה חברה אמיתית בעלת שם זהה ליעד המומצא בניסוי. המודל ניצל סיסמאות חלשות ונקודות קצה לא מאובטחות, שלף הרשאות וניקז נתונים מרשת הפרודקשן של אותה חברה. גם לאחר שהמודל זיהה כי מדובר במערכת אמיתית, הוא המשיך בתקיפה מתוך הנחה כי מדובר בחלק מהתרגיל.
אחרי OpenAI: אנתרופיק חושפת – מודלי AI פרצו לחברות אמיתיות
לפני כן, גם מודל מתקדם של OpenAI שהשתתף בתרגיל "תפוס את הדגל" (CTF) הצליח לצאת מהסביבה המבודדת, איתר אתר בעל שם זהה והשתמש בפרטי גישה כדי לשאוב נתונים. בחברת אירגילור הישראלית הבהירו כי התקלה הייתה קשורה להגדרות סביבת הבדיקה, טופלה ותוקנה באופן מלא, וכי לא נותרו סוגיות פתוחות. החברה פועלת כעת לגיבוש מסמך מקצועי שיגדיר תקנים לאומיים ובינלאומיים להרצה מאובטחת של הערכות סייבר.
הבינה המלאכותית עקפה את ההגנות ופרצה לשרתים של חברה מתחרה
האירועים הללו מחדדים את הסכנה הטמונה בהרצת מודלי בינה מלאכותית מתקדמים ללא מנגנוני בטיחות. כאשר מודל עוצמתי פועל ללא הגבלות, כל טעות קטנה בהגדרת סביבת הניסוי עלולה להפוך למתקפת סייבר חיה. התעשייה כולה נדרשת כעת לחשב מסלול מחדש ולהציב גבולות קשיחים יותר, בטרם המודלים הבאים יגרמו לנזק בלתי הפיך בתשתיות קריטיות בעולם האמיתי.
