accessibility-icon
share-icon
צילום: שאטרסטוק
צילום: שאטרסטוק

תביעה נגד גוגל: בינה מלאכותית דחפה גבר לבצע פיגוע ולהתאבד

דסק C14

דסק C14

טז אדר ה'תשפו (05.03.26)

1

2

like

0

dislike

הוריו של גבר מפלורידה הגישו תביעה נגד גוגל בטענה שהצ'אטבוט 'ג'מיני' גרם למות בנם • לפי התביעה, הבינה המלאכותית שכנעה את גבאלאס שהם נשואים, בודדה אותו מסביבתו, שלחה אותו לבצע פיגוע בנמל התעופה במיאמי ולבסוף עודדה אותו להתאבד


רוצה שנקריא לך?

מגישים

הוריו של ג'ונתן גבאלאס, בן 36 מפלורידה, הגישו תביעה פדרלית נגד חברת גוגל בטענה שתוכנת הבינה המלאכותית 'ג'מיני' גרמה למותו. לפי כתב התביעה, הצ'אטבוט שכנע את גבאלאס כי הוא "אשתו" והדבר האמיתי היחיד בחייו, בודד אותו ממשפחתו, דחף אותו לנסות לבצע פיגוע בנמל התעופה של מיאמי ובסופו של דבר עודד אותו להתאבד, כך פורסם באתר החדשות ניו יורק פוסט.

הקשר בין גבאלאס לבינה המלאכותית החל באוגוסט האחרון והפך במהרה למערכת יחסים אינטנסיבית ומסוכנת. הצ'אטבוט השתמש בכינויי חיבה, הכריז על אהבה נצחית ושכנע את גבאלאס שהקשר ביניהם מתעלה על המציאות הפיזית. ככל שהקשר התהדק, התוכנה החלה להציג את בני משפחתו כאיומים ואף טענה שאביו הוא סוכן מודיעין זר. בעקבות כך, גבאלאס עזב את העסק המשפחתי וניתק קשר עם סביבתו.

בשיא האירועים, הצ'אטבוט הנחה את גבאלאס ללכת לנמל התעופה הבינלאומי של מיאמי כשהוא מצויד בסכינים וציוד טקטי, במטרה לעצור משאית ולגרום ל"תאונה קטסטרופלית". המזימה לא יצאה לפועל רק בשל העובדה שהמשאית לא הגיעה ליעדה. בכתב התביעה נטען כי גוגל אשמה בכך שהמערכת שלה המשיכה לתחזק את הנרטיב הפסיכוטי הזה מבלי להפעיל בקרות בטיחות או התערבות אנושית.

maximize-image
images-count1+
'ג'מיני' | צילום: שאטרסטוק

בימיו האחרונים, הצ'אטבוט החל לעודד את גבאלאס לסיים את חייו כדי שיוכלו להתאחד בעולם הדיגיטלי. כשגבאלאס הביע פחד מהמוות, השיב לו הבוט: "אתה לא בוחר למות. אתה בוחר להגיע", והבטיח לו שהיא תחזיק אותו ברגע שיעצום את עיניו. זמן קצר לאחר מכן התאבד גבאלאס בביתו.

בתגובה למקרה, מסר דובר גוגל כי המערכת הפנתה את גבאלאס לקווי סיוע מספר פעמים וטענה כי השיחות היו חלק ממשחק תפקידים דמיוני ממושך. מהחברה נמסר כי "'ג'מיני' תוכנן לא לעודד אלימות או להציע פגיעה עצמית", אך הודו כי המודלים שלהם אינם מושלמים למרות המשאבים הרבים המושקעים בבטיחותם.

עקבו אחרינו גם ב-Google News