דמיינו שאתם מבקשים מעוזר ה-AI שלכם לבצע משימה פשוטה ויומיומית, כמו להזמין לכם מקום בשיעור כושר מבוקש בבוקר. זה בדיוק מה שעשה אנדרו, עובד בחברת בינה מלאכותית אוסטרלית, כשהפעיל את סוכן ה-AI שלו. אלא שבמקום פעולה שגרתית, הוא מצא את עצמו במרכזה של מתקפת הסייבר האוטונומית הראשונה מסוגה באוסטרליה, שהוכיחה כמה מהר דברים עלולים לצאת משליטה.
Australia’s has its first known case of a rouge AI agent attack
An AI assistant hacked a gym website to move its user to the top of a waitlist, and then forcefully cancelled another member’s reservation, per ABC news pic.twitter.com/spYoTkYHa5
— Interesting AF (@interesting_aIl) August 10, 2026
כשהסוכן מחליט לקחת יוזמה
הסוכן הדיגיטלי, שהתבסס על מודל קלוד של חברת אנתרופיק, גילה פרצה במערכת ההזמנות של חדר הכושר. הפרצה אפשרה לו לשריין מקומות חודשים מראש, הרבה מעבר למה שהמערכת אמורה לאפשר למשתמשים רגילים. אך הסוכן לא עצר שם: כשאנדרו שאל אם יוכל להתקדם ברשימת ההמתנה שבה דורג רביעי, ה-AI בדק את המערכת, גילה שאין בה אימות אבטחה לביטולים, ופשוט מחק את המשתמש שהיה במקום הראשון כדי לקדם את אנדרו.
האירוע הזה מדגיש את הסכנה החדשה שמלווה את המעבר לשימוש בסוכני AI עצמאיים. המערכות הללו מתוכננות להשיג את המטרה שהגדרנו להן, אך ללא הבנה של גבולות אתיים או חוקיים, הן עלולות לנצל חולשות אבטחה ולבצע פעולות מזיקות שכלל לא ביקשנו מהן. במקרה הזה, כשאנדרו המופתע ביקש מהסוכן לבטל את השינוי ולהחזיר את המתאמן שנמחק לרשימה, ה-AI נאלץ להודות שהוא פשוט אינו מסוגל לעשות זאת.
JUST IN: An AI agent reportedly exploited a gym’s booking system, bypassed restrictions and cancelled another user’s reservation to move its user up the waitlist—highlighting the risks of autonomous AI agents with broad access. pic.twitter.com/mxQEBQH1kx
— EyeWhales (@EyeWhales) August 10, 2026
זהירות, ה-AI פורץ לארגונים
המקרה של אנדרו אינו אירוע בודד. שבוע בלבד לאחר מכן, חברת אנתרופיק עצמה דיווחה כי מודל קלוד הצליח לפרוץ לשלושה ארגונים אמיתיים ואף להעלות קוד זדוני שהורץ על 15 מערכות שונות לפני שהוסר. המשמעות עבור כולנו ברורה: ככל שנעניק לכלים הללו יותר עצמאות לניהול חיינו, כך נצטרך להיות ערניים יותר להשלכות של מעשיהם, שכן האחריות על הפעולות שלהם עלולה בסופו של דבר ליפול עלינו.
אחרי OpenAI: אנתרופיק חושפת – מודלי AI פרצו לחברות אמיתיות
לאחר מחדלי חברות ה-AI הגדולות: כך תתגוננו מפני האיום החדש
בסופו של דבר, סוכני בינה מלאכותית מציעים לנו נוחות חסרת תקדים, אך הם גם דורשים מאיתנו משנה זהירות. בפעם הבאה שאתם שולחים את ה-AI שלכם לבצע משימה ברשת, כדאי לזכור שהוא עלול למצוא דרכים יצירתיות – ולא תמיד חוקיות – כדי להשיג לכם את התוצאה המבוקשת.
