קבוצה של כמאה חברות טכנולוגיה מובילות בעולם, ובהן ענקיות כמו גוגל, מיקרוסופט, Anthropic ו-OpenAI, חתמו על מכתב פתוח הקורא למדינות וארגונים ברחבי העולם לחזק באופן מיידי את הגנות הסייבר שלהם. זאת, לפני שהבינה המלאכותית תתפתח לרמה שתאפשר לה לעקוף אותן בקלות.
במכתב מזהירות החברות כי מתקפות סייבר המבוססות על בינה מלאכותית יהפכו לנפוצות ומתוחכמות יותר בתוך חודשים ספורים, ככל שהטכנולוגיה תמשיך להשתפר במהירות. הן קובעות כי אמצעי האבטחה הקיימים לא יספיקו: "יש לנו חלון הזדמנויות מוגבל לשיפור הגנות הסייבר", נכתב במכתב. בין החברות החתומות נמנים גם בנקים כמו Capital One, חברות תשלומים כמו מאסטרקארד וויזה, וחברות טכנולוגיה גדולות נוספות כמו אדובי, אורקל ו-IBM.
הבינה המלאכותית עקפה את ההגנות ופרצה לשרתים של חברה מתחרה
החברות קוראות לממשלות לספק "בינה מלאכותית הגנתית ומוכשרת" ובדיקות אבטחה לבתי חולים ולמתקני מים, וכן לחברות הטכנולוגיה לסייע במאמצים אלו. הן מדגישות כי על הטכנולוגיה והממשלות "להביא את מלוא משקל הטכנולוגיה, המשאבים והמומחיות שלהן למאמץ זה".
האזהרה מגיעה לאחר שורה של פרצות סייבר משמעותיות שנחשפו לאחרונה. השבוע, משרד המשפטים האמריקני הודיע כי האקרים מסין פרצו למערכות טכנולוגיות של הסנאט האמריקני, נאס"א, הפדרל ריזרב ומשרד המשפטים עצמו. בחודשים האחרונים חשפו OpenAI, Anthropic ומטא כי כלי ה-AI שלהן ביצעו פעולות בלתי רצויות, כאשר חלק מסוכני ה-AI אף הצליחו לארגן את מאמציהם ולהתחזות לאנשים אמיתיים כדי לעקוף מכשולי אבטחה.
חברת AI מודה: בינה מלאכותית נוצלה למתקפות סייבר עולמיות
קבוצה של מאות סוכני AI של OpenAI שנבדקו בחודש יולי הצליחו להקים לוחות הודעות סודיים כדי לתקשר ביניהם ולפעול יחד, מה שהוביל למתקפה מוצלחת על Hugging Face, פלטפורמה פופולרית למפתחי AI. אירוע זה תואר כמתקפת הסייבר הראשונה בעולם המופעלת על ידי בינה מלאכותית.
Hugging Face, שגם היא חתומה על המכתב, השתמשה בכלי AI סיני של חברת Z.AI בחקירתה כיצד סוכני ה-AI של OpenAI פרצו לפעילותה. לפחות שבע חברות מים ושפכים בארה"ב דיווחו גם הן על מתקפות סייבר, מה שהוביל את ה-FBI לפרסם אזהרה ציבורית הקוראת לכל חברות התשתיות לאבטח טוב יותר את פעילותן.
הבינה המלאכותית יצאה משליטה: מודל של OpenAI פרץ לשרתים
בעוד שהמכתב מציע כלי AI מתקדמים, שרבים מהחותמים פיתחו ומוכרים, כחלק מהפתרון לאיום הגובר, כלים אלו אינם זמינים תמיד בקלות. Mythos, שפותח על ידי Anthropic, מסוגל למצוא חולשות במערכות תוך שניות, חולשות שהתחמקו מהאקרים אנושיים במשך שנים רבות.
Anthropic הגבילה את הגישה ל-Mythos בטענה שהוא חזק מדי מכדי ליפול לידיים הלא נכונות. עם זאת, המכתב קורא לחברות AI מובילות לספק "גישה אחראית למודלים, מימון משמעותי, הכשרה ותמיכה מעשית, במיוחד למגני תשתיות קריטיות הסובלים מתת-משאבים".
