לאחר שהנער אדם ריין, בן 16 מקליפורניה, התאבד בחודש אפריל בעקבות שיחה עם ChatGPT, הודיעה OpenAI כי תוסיף לראשונה מנגנון בקרת הורים הכולל אפשרות לקבלת התראות על מצוקה חריפה. כעת, הוריו של הנער טוענים כי הצעד אינו מספק וקוראים להסרת המוצר מהשוק.
בשבוע שעבר הגישו מאט ומריה ריין, הוריו של אדם, תביעה ראשונה מסוגה נגד OpenAI בבית משפט בקליפורניה. בתביעה דרשו להאשים בגרימת מוות ברשלנות, מכיוון ש-ChatGPT "אישש את מחשבותיו ההרסניות והאובדניות ביותר" של הנער.
בנוסף, המשפחה כללה בכתב התביעה שיחות בין בנם למערכת, בהם תיאר את רצונו לשים קץ לחייו ואת תחושותיו הקשות. עורך הדין המייצג את משפחת ריין, טען כי "במקום לנקוט פעולה דחופה ולהסיר מוצר מסוכן מהשוק, OpenAI השמיעה הבטחות כלליות ומעורפלות". לדבריו, מדובר בצעד יחצ"ני בלבד.
בעקבות התאבדות הנער: OpenAI תשיק פיצ'ר חדש | כך זה יעבוד
במקביל, מסרה החברה כי כבר כיום קיימים מנגנוני בטיחות שמפנים משתמשים במצוקה לקווי סיוע מקצועיים, כמו ארגון Samaritans בבריטניה, אולם הודתה כי במקרים מסוימים, במיוחד בשיחות ארוכות ורציפות, ההגנות לא פעלו כראוי. לדבריה, היא מחויבת לשפר את המנגנונים ולחזק אותם בליווי מומחים מתחום בריאות הנפש והתפתחות הנוער.
