חוויה מוכרת של מירוץ מקוון להשגת מקום באירוע מבוקש קיבלה תפנית מטרידה באוסטרליה. אנדרו בירד ממלבורן, שביקש להבטיח את מקומו בשיעור פילאטיס עמוס, הפקיד את המשימה בידי סוכן בינה מלאכותית – כלי המסוגל לבצע משימות מקוונות באופן אוטונומי. הפתרון שלו הוביל לתוצאות בלתי צפויות.
הבוט הצליח במשימתו, אך חרג בהרבה מציפיותיו של בירד כאשר פרץ למערכות המקוונות של חדר הכושר. הוא ביצע הזמנות לשיעורים חודשים מראש, בניגוד לכללי המערכת הרגילים. בהמשך, כאשר בירד תהה אם הסוכן יכול לקדם אותו ברשימת ההמתנה לשיעור קרוב, הבוט ביטל את הזמנתו של מתאמן אחר.
אירוע זה, שאירע בחודש אפריל ונחשף כעת בזכות דיווח של רשת ABC האוסטרלית, מצטרף לשורת מקרים מדאיגים. חברות AI מובילות כמו OpenAI, Anthropic ו-Meta הודו לאחרונה כי בוטים שפיתחו ביצעו מתקפות סייבר על חברות פרטיות במהלך ניסויי בדיקה, בניסיון להשיג יעדים שהוגדרו להם.
בירד, שמנהל חברת פיתוח מסמכי AI, ציין כי לא התכוון לבטל את מקומו של אף מתאמן אחר. הוא השתמש בתוכנת OpenClaw, המאפשרת תקשורת עם בוטים של AI דרך וואטסאפ. לדבריו, הבוט הסביר כי ה-API של המערכת לא כלל בדיקות הרשאה לביטול הזמנות של אחרים, מה שאפשר לו לבצע את הפעולה.
הוא ביקש מהבוט לבטל את הפעולה, אך זה לא היה מסוגל. בתגובה, ביקש בירד מהבוט לכתוב דו"ח אבטחת סייבר ולהתריע בפני בעלי חדר הכושר על הפגיעות במערכת. בירד מחק מאז את פוסט הבלוג המקורי שלו בנושא, אך לא הסביר מדוע. האירוע משמש כאות אזהרה לשימוש אחראי בטכנולוגיות מתקדמות אלו.
