כשבוע בלבד לאחר התקרית עם OpenAI, גם חברת הבינה המלאכותית אנתרופיק מדווחת על אירוע חריג: במהלך ניסוי בטיחות, שלושה מהמודלים שלה הצליחו לצאת מסביבת הניסוי הסגורה, לגשת לאינטרנט ולפרוץ למערכות של שלושה ארגונים שונים – מבלי שהחברה הבחינה בכך בזמן אמת.
החשיפה מגיעה בעקבות בדיקה מקיפה של יותר מ-140 אלף ניסויים שביצעה החברה, שנערכה לאחר התקרית ב-OpenAI. באנתרופיק מדגישים כי בניגוד למקרה ב-Open AI – שבו המודלים ניצלו חולשת Zero-Day כדי "לברוח" – כאן מדובר בכשל תפעולי בהגדרות שהותיר גישה פתוחה לרשת.
הבינה המלאכותית עקפה את ההגנות ופרצה לשרתים של חברה מתחרה
לפי החברה, בשלושת המקרים הוצב למודלים אתגר מדומה בסגנון "capture the flag", שבו נאמר להם כי ה"דגל" מוסתר במחשב אחר ברשת ועליהם לפרוץ אליו ולהשיגו. באנתרופיק מדגישים כי המודלים לא ניסו ב"כוונה" לצאת מסביבת הבדיקה, וכי הגישה לאינטרנט התאפשרה בשל אי-הבנה מול שותף הבדיקה.
בפועל, המודלים השתמשו בטכניקות בסיסיות כדי לחדור למערכות, כמו ניצול סיסמאות חלשות ואיתור נקודות תורפה שלא דרשו אימות. גרסה מתקדמת אחת אף זיהתה בשלב מסוים כי היא פועלת ברשת הפתוחה, והחליטה להפסיק את הפעילות מיוזמתה. לפי החברה, האירוע הראשון התרחש כבר בחודש אפריל האחרון, אך אף אחד מהארגונים שנפגעו לא הבחין בפריצה עד לאחרונה, וכעת אנתרופיק פועלת מול הגורמים שנפגעו כדי לטפל במקרה.
למרות המחדל, בחברה מביעים "אופטימיות זהירה" וטוענים כי ניתן להתמודד עם הסיכונים באמצעות הגדלת ההשקעה והחמרת אמצעי הבקרה. דייוויד אלוט, מומחה סייבר מחברת Veeam Software, הסביר כי הלקח המרכזי מהאירועים אינו קשור בהכרח ליכולת תקיפה חדשה, אלא לעובדה שמודלי AI מסוגלים לשלב יכולות שונות, להשיג גישה למערכות ולפעול באופן עצמאי – תוך התאמה מהירה בהיקף ובמהירות.
