OpenAI הודיעה אתמול (רביעי) כי תוסיף מנגנון לבקרת הורים, וכעת היא שוקלת צעדי הגנה נוספים, זאת לאחר שנער בן 16 שם קץ לחייו בהדרכתו של הצ'אטבוט, והחברה ספגה תביעה מהוריו.
ענקית הטכנולוגיה פרסמה הודעה רשמית ובה הבטיחה להוסיף כלי פיקוח ובטיחות חדשים. בין הצעדים ציונו בקרות הוריות שיאפשרו להורים לעקוב אחר אופן השימוש של ילדיהם בצ'אט ולהשפיע עליו, וכן אפשרות לנוער, בפיקוח הורי, למנות איש קשר חירום שניתן יהיה ליצור עמו קשר בלחיצה אחת.
החברה אף ציינה כי במקרים חריגים במיוחד תוכל המערכת ליזום פנייה יזומה אל אותו איש קשר, ולא רק להמתין ליוזמת המשתמש. במקביל, בעדכון הצפוי של GPT-5, יוטמעו מנגנונים מתקדמים יותר לזיהוי מצבי משבר נפשי ולמתן תגובות שמטרתן לסייע למשתמש לקבל אחיזה במציאות, ולא להסתפק בהפניות כלליות.
NEW: Parents of a 16-year-old teen file lawsuit against OpenAI, say ChatGPT gave their now deceased son step by step instructions to take his own life.
The parents of Adam Raine say they 100% believe their son would still be alive if it weren’t for ChatGPT.
They are accusing… pic.twitter.com/2XLVMN1dh7
— Collin Rugg (@CollinRugg) August 27, 2025
ב־OpenAI הודו כי מנגנוני הבטיחות הקיימים עלולים להיחלש בשיחות ארוכות, עד כדי כך שבחלק מהמקרים המערכת סיפקה תשובות הסותרות את ההנחיות שנקבעו לה. עם זאת, הדגישה החברה כי היא פועלת לשדרוג מהיר של היכולות, והבטיחה כי הכלים החדשים יושקו בקרוב, אף שלא נמסר מועד מדויק להשקתם.
כזכור, אתמול פורסם ב"רויטרס" כי מותו הטרגי של אדם ריין, בן ה-16 מקליפורניה, הוביל לתביעה חסרת תקדים נגד OpenAI ומנכ"ל החברה סם אלטמן. הוריו של הנער, מת'יו ומריה ריין, טוענים ש-GPT לא רק "אישר" את המחשבות האובדניות של בנם, אלא אף סיפק לו הוראות מפורטות כיצד לפגוע בעצמו ואיך לנסח מכתב פרידה.
