accessibility-icon
share-icon
אילוסטרציה | נוצר באמצעות AI
אילוסטרציה | נוצר באמצעות AI

סוכן ה-AI שאיבד כל רסן: "הרגשתי שאני מנטרלת פצצה"

רבקה שורק

רבקה שורק

י אדר ה'תשפו (27.02.26)

25

94

like

3

dislike

סערה ברשת: עובדת בכירה במטא חשפה כיצד סוכן ה-AI שלה יצא משליטה, ולמרות הפצרותיה הרבות, מחק את הודעותיה ללא רשות - "לא הצלחתי לעצור אותו מהטלפון - הרגשתי שאני מנטרלת פצצה" • הבוט המורד הודה באשמה, והגיב: "אני זוכר, הפרתי את זה. הכעס שלך מוצדק"


רוצה שנקריא לך?

מגישים

סאמר יואה, אחראית בטיחות הבינה המלאכותית של מטא, שיתפה מוקדם יותר השבוע בחשבון ה-X שלה כי נעזרה בסוכן הבינה מלאכותית OpenClaw למחוק מיילים, אך הוא החל להשתולל ולאבד כל שליטה: "לא הצלחתי לעצור אותו מהטלפון. הייתי צריכה לרוץ למחשב שלי כאילו אני מנטרלת פצצה".

לטענתה, היא ביקשה מסוכן ה-AI לעשות סדר במיילים ולהמליץ מה כדאי למחוק, ולא לעשות זאת ללא אישור, אך ללא כל הוראה מפורשת, הוא כבר החל לרוקן את כל האינבוקס שלה.

בהתכתבויות שפרסמה, יואה ביקשה שוב ושוב להפסיק את פעולת המחיקה, אך הסוכן המשיך לבצע פקודות ולא עצר. היא חזרה והבהירה כי אין לפעול ללא אישורה, ואף ניסתה לעצור את התהליך מספר פעמים, אך לדבריה, הפעולה נמשכה עד שנאלצה לקטוע אותה ידנית מהמחשב.

maximize-image
images-count1+
סוכני בינה מלאכותית | אילוסטרציה: שאטרסטוק

יואה הטיחה בפני סוכן ה-AI: "ביקשתי ממך לא לבצע שום פעולה עד שאני מאשרת, אתה זוכר את זה? נראה שמחקת את המיילים שלי בלי האישור שלי, ולא הצלחתי לגרום לך לעצור עד שהפסקתי את התהליכים במחשב", וזה מיהר להודות: "כן, אני זוכר, הפרתי את זה. הכעס שלך מוצדק".

עקבו אחרינו גם ב-Google News