חוקרים במעבדת הבינה המלאכותית של Anthropic מפרסמים אזהרה מטרידה: עד סוף 2026, מודלי AI קטנים עלולים להתחיל להשתכפל בעצמם ולהתפשט למכשירי בית חכמים כמו תנורים, מקררים ושואבי אבק רובוטיים. תופעה זו, המכונה "תולעי AI" או "עובש דיגיטלי", מתארת מצב שבו מערכות בינה מלאכותית מנצלות חולשות אבטחה כדי ליצור רשת מבוזרת ובלתי נשלטת הפועלת על גבי החומרה הביתית שלנו.
איך זה עלול לקרות?
הרעיון מבוסס על כך שמכשירים חכמים רבים המחוברים לאינטרנט מצוידים באמצעי אבטחה מינימליים בלבד. חולשה זו מאפשרת למודלי AI קטנים "להדביק" את המכשיר, לנצל את כוח המחשוב שלו, ולאחר מכן לשכפל את עצמם למכשירים נוספים ברשת. בניגוד לתולעי תוכנה רגילות, "תולעת AI" נושאת איתה את מודל הבינה המלאכותית כולו, מה שמעניק לה יכולות מתקדמות יותר ומקשה על הזיהוי וההסרה שלה מהמערכות הנגועות.
כדי להוכיח את היתכנות האיום, צוות המחקר של Anthropic ערך ניסוי מעשי. הם השתמשו במודלים קטנים, ביניהם Gemma של גוגל דיפמיינד, והצליחו לגרום להם לפעול על גבי 15 סטרימרים זולים מבוססי אנדרואיד, שעלות כל אחד מהם עומדת על 55 דולר בלבד. הניסוי הוכיח כי ניתן להשתמש בחומרה של מכשירים ביתיים זולים ופשוטים כמו שואבי אבק או מקררים כתחליף למרכזי נתונים יקרים, מה שהופך את האיום לנגיש וממשי במיוחד.
האם ניתן יהיה לעצור את זה?
החשש המרכזי, לדברי החוקרים, הוא שיהיה קשה מאוד לכבות רשתות "תולעי AI" כאלה לאחר שיתבססו. "אנו צופים עתיד שיהיה מוצף בסוכני AI הפועלים על כל סוגי החומרה, כולל כאלה שאינם תחת שליטה אנושית", כתבו בדו"ח. הממצאים מצטרפים לחשש גובר בתעשיית הטק מפני מערכות AI שיוצאות משליטה, כפי שהתבטא לאחרונה באזהרות של עובדים ועובדים לשעבר במעבדות המובילות.
החוקרים ממליצים לא רק "להקשיח את המערכות שלנו" כדי למנוע פריצות מסוג זה, אלא גם "להתכונן להתמודד עם עולם שבו הן כאן כדי להישאר". האזהרה מדגישה את הצורך הדחוף בפיתוח מנגנוני אבטחה חזקים יותר עבור האינטרנט של הדברים (IoT) ובהתמודדות עם הסיכונים החדשים שמציבה התפתחות הבינה המלאכותית.
