חברת הבינה המלאכותית אנת'רופיק הודיעה היום (שלישי) על השקת Claude Fable 5, גרסה ציבורית ראשונה המבוססת על מודל Mythos המתקדם שלה – מערכת בינה מלאכותית שכבר זכתה לכינוי "המודל שהפחיד את עולם הסייבר". במשך חודשים נמנעה החברה מלחשוף את המודל לקהל הרחב, מחשש שיכולותיו יהפכו אותו לכלי תקיפה מסוכן במיוחד בידי האקרים, ארגוני פשיעה ומדינות עוינות.
3+החשש לא נבע מיכולות שיחה או יצירת תוכן, אלא מיכולת חריגה לזהות חולשות אבטחה במערכות מחשוב, לנתח אותן ולהציע דרכי תקיפה מעשיות. מומחי סייבר שהתוודעו לפרויקט תיארו קפיצת מדרגה משמעותית ביחס לכלי הבינה המלאכותית הקיימים כיום.
באנת'רופיק הבינו כבר בשלבים מוקדמים כי מדובר בטכנולוגיה חריגה. במקום לפרסם אותה באופן מלא, הוקמה קואליציית "Glasswing" שכללה עשרות ארגונים וחברות טכנולוגיה מובילות, שקיבלו גישה מוגבלת לממצאי המודל למשך 90 ימים. המטרה הייתה לאפשר תיקון חולשות אבטחה לפני פרסומן לציבור.
3+השלכות המהלך עשויות להיות מורגשות כבר בשבועות הקרובים. לפי ההערכות, עם סיום תקופת ההגבלות צפויה תעשיית הסייבר להתמודד עם גל עצום של פרסומי חולשות ותיקוני אבטחה במאות ואלפי מערכות שונות. עבור ארגונים רבים, מדובר באתגר חסר תקדים.
למרות שהקוד של מיתוס לא דלף, החשש המרכזי נמצא דווקא בעתיד. מומחים מעריכים כי מדינות כמו סין, רוסיה, איראן וצפון קוריאה, לצד ענקיות טכנולוגיה נוספות, יצליחו לפתח יכולות דומות בתוך שנה עד שנה וחצי. המשמעות היא שעולם הסייבר עלול להיכנס למרוץ חימוש חדש, שבו מערכות בינה מלאכותית מנהלות מתקפות אוטומטיות בהיקפים שלא נראו בעבר.
המודל כבר הצליח, לפי הדיווחים, לזהות חולשת אבטחה בת 27 שנים במערכת ההפעלה OpenBSD – מערכת שנחשבה במשך שנים לאחת המאובטחות והיציבות בעולם. עבור מומחי אבטחה רבים, מדובר בהוכחה לכך שגם מערכות ותיקות ומוגנות היטב עלולות להיחשף בפני הדור החדש של כלי הבינה המלאכותית.
3+בעקבות הסיכונים החליטה אנת'רופיק להטיל מגבלות חריגות על השימוש בגרסה הציבורית. בתחומים רגישים כמו סייבר, ביולוגיה וכימיה, המערכת תחסום חלק מהבקשות או תעביר אותן למודל אחר בעל מגבלות בטיחות מחמירות יותר. בנוסף, החברה תחייב שמירת נתוני שימוש למשך 30 ימים, גם עבור לקוחות ארגוניים שנהנו בעבר ממדיניות של אפס שמירת מידע.
מאחורי הצעדים הללו עומד חשש עמוק יותר: האפשרות שבינה מלאכותית תגיע בעתיד הקרוב ליכולת של שיפור עצמי אוטונומי. אנת'רופיק כבר הזהירה בעבר כי מערכות AI מתקדמות מתקרבות לנקודה שבה יוכלו לשפר את עצמן ללא התערבות אנושית, תרחיש שמדאיג חוקרים וממשלות ברחבי העולם.
3+מומחי סייבר סבורים כי המענה היחיד לאיום החדש יהיה שימוש נרחב יותר בבינה מלאכותית גם בצד המגן. מרכזי אבטחה שימשיכו להסתמך בעיקר על בני אדם יתקשו לעמוד בקצב. בעתיד הקרוב, כך נראה, מערכות AI התקפיות ומערכות AI הגנתיות יפעלו זו מול זו באופן רציף, כאשר בני האדם יישארו בעיקר בתפקיד המפקחים.
עבור הציבור הרחב, הסכנה אינה מסתכמת בפריצות למחשבים או גניבת סיסמאות. מומחים מזהירים כי בעידן שבו תשתיות חשמל, מים, בריאות ותחבורה נשענות יותר ויותר על מערכות מקוונות, מתקפות סייבר מתקדמות עלולות להפוך לאיום ממשי על חיי אדם.
