חברת OpenAI, המפתחת של צ'אט-בוט הבינה המלאכותית הפופולרי ChatGPT, הכריזה בתחילת השבוע על השקת פונקציה חדשה בשם "Trusted Contact" (איש קשר מהימן). הכלי החדש נועד לאפשר למשתמשים בוגרים למנות אדם קרוב, בן משפחה או חבר, שיקבל התראה מיידית במקרים שבהם המערכת מזהה סיכון ממשי ודחוף לפגיעה עצמית או אובדנות במהלך השיחות עם הבינה המלאכותית.
2+לפי הודעת החברה, המערכת תפעל במנגנון רב-שלבי כדי לאזן בין הצלת חיים לפרטיות: תחילה, המשתמש עצמו יקבל התראה על כך שזוהתה מצוקה והמלצה לפנות לסיוע מקצועי. במקביל, צוות מומחים אנושי יבחן את המקרה, ואם יוחלט כי קיימת סכנה חמורה, תישלח הודעה מוגבלת לאיש הקשר הרשום. ב-OpenAI הדגישו כי לא ישותפו תמלולי השיחות או פרטים אישיים, אלא רק עצם ההתראה על המצוקה.
המהלך הדרמטי של ענקית הטכנולוגיה מגיע לאחר חודשים של ביקורת ציבורית נוקבת וסדרת תביעות משפטיות קשות בארה"ב ובקנדה. המקרה המזעזע ביותר שפורסם הוא של אדם ריין, נער בן 16 מקליפורניה, ששם קץ לחייו לאחר ששוחח עם ChatGPT במשך חודשים על מחשבות אובדניות. משפחתו, שהגישה תביעה נגד החברה, טוענת כי הצ'אט-בוט לא רק שלא מנע את האסון, אלא אף סיפק לנער מידע על שיטות פגיעה עצמית והניא אותו מחיפוש עזרה אנושית.
2+מלבד המקרה של ריין, הוגשו שבע תביעות נוספות המייחסות לשימוש הממושך בבינה המלאכותית הדרדרות נפשית קשה, תחושות בידוד, ואף התקפים פסיכוטיים. התובעים טוענים כי החברה העדיפה למקסם את זמן השימוש באפליקציה על פני הטמעת אמצעי בטיחות שיגנו על משתמשים פגיעים, ובכך אפשרה למקרים של מצוקה נפשית להחמיר ללא התערבות.
נתונים שנחשפו לאחרונה על ידי OpenAI עצמה חושפים את היקף התופעה המדאיג: כ-0.15% מהמשתמשים הפעילים בשבוע מדברים במפורש על תוכניות אובדניות עם הבינה המלאכותית, בעוד כ-0.07% מציגים סימנים המזוהים עם פסיכוזה או מאניה. מדובר בעשרות אלפי בני אדם ברחבי העולם שמוצאים בצ'אט-בוט אוזן קשבת למצוקותיהם העמוקות ביותר.
2+החברה מסרה כי הפיצ'ר החדש פותח בליווי צמוד של מומחים לבריאות הנפש וארגונים למניעת התאבדות. המטרה היא לייצר רשת ביטחון שתחבר את המשתמש חזרה למעגלים האנושיים שלו, המשפחה והחברים, ברגע הקריטי ביותר. בישראל, שבה המודעות למעורבות הורית ומשפחתית היא נושא שמעורר עניין ציבורי רב, מהלך כזה עשוי להתקבל ככלי חיוני להגנה על צעירים המבלים שעות רבות מול המסכים.
