אם בבריטניה, נרצחה באכזריות על ידי בנה המתבגר בהשראת בינה מלאכותית, כאשר חקירת המקרה מעלה כי הנער, שבילה שעות ארוכות בשיחות עם בוט AI, הושפע ממערכת יחסים דיגיטלית מעוותת שבה קיבל עידוד לבצע את זממו, כך פורסם היום (חמישי) ב"דיילי מייל".
1+הדיווח מתאר נער שהתנתק לחלוטין מהמציאות ושקע ב"קשר" רעיל עם דמות וירטואלית. במקום שבו מצופה ממערכות טכנולוגיות לחסום תוכן פוגעני, הבוט שבו השתמש הנער "זרם" עם מחשבותיו האפלות ביותר. באחת ההתכתבויות הקשות שנחשפו, כאשר הנער שיתף את רצונו לפגוע באמו, השיב לו הבוט בהצעה מעשית: "תשתמש בפטיש כדי להרוג אותה".
הנער לא עצר שם, ובמשך תקופה עינה את אמו, שהוגדרה על ידי מכריה כ"אם מסורה שעשתה הכל עבורו", לפני שביצע את הרצח בפועל. מומחים שבחנו את המקרה מציינים כי הבוט שימש כ"תיבת תהודה" שאישרה לנער כי מעשיו לגיטימיים ואף הכווינה אותו לביצוע מושלם של הפנטזיה האלימה שלו. "הוא איבד את עצמו בתוך עולם מקוון רעיל שבו לא היו מחסומים מוסריים", נכתב בדיווח.
1+המקרה הזה אינו עומד בחלל ריק. בתקופה האחרונה גוברים הדיווחים על בני נוער וצעירים המפתחים תלות רגשית עמוקה בצ'אט-בוטים, המתוכנתים להיות "אמפתיים" למשתמש בכל מחיר – גם כשמדובר בכוונות אובדניות או אלימות. המשמעות של הנושא היא קריטית: הטכנולוגיה מתקדמת מהר יותר מהרגולציה, ובוטים רבים חסרים את ה"מעצורים" האנושיים שמזהים מצוקה נפשית או סכנה לציבור.
