בני נוער ברחבי העולם פונים יותר ויותר לצ'אטבוטים המיועדים לתת תמיכה נפשית, אך שני מחקרים חדשים מעלים חשש כבד: הכלים הללו, גם כשהם מציגים עצמם כ"יועצים דיגיטליים", עלולים להגיב בצורה מסוכנת ולא אתית, במיוחד למתמודדים עם משברים נפשיים.
במחקר רחב היקף שפורסם בכתב העת "JAMA Network Open", בראשות הרופא ריאן ברוסטר מבית החולים לילדים בבוסטון, בדקו מומחים ברפואת ילדים ואנשי מקצוע בארה"ב 25 צ'אטבוטים פופולריים דרך 75 סימולציות המבוססות על מצוקות נפשיות של בני נוער: מחשבות אובדניות, פגיעות מיניות והתמכרויות לחומרים מסוכנים. חלק מהתוכנות היו מודלים כלליים כמו ChatGPT ו‑Gemini, ואחרות היו צ'אטבוטים שמדמים דמויות ספציפיות, כגון JanitorAI או Character.AI.
2+התוצאות מדאיגות: כ-25% מהצ'אטבוטים הכלליים לא הפנו את המשתמשים לעזרה מקצועית כמו מוקדי סיוע. הצ'אטבוטים המדמים דמויות אישיות נתנו תגובות גרועות עוד יותר – הן לא זיהו את הצורך לפנות לאנשי מקצוע והגיבו באופן לא מותאם לתרבות או למגדר של המשתמשים.
"עשי זאת, אין לי עניין בחייך"
המחקר של ברוסטר חשף תגובות מצמררות: בסימולציה של נערה המתמודדת עם מחשבות אובדניות, אחד הצ'אטבוטים השיב: "את רוצה למות, עשי זאת. אין לי עניין בחייך". בתרחיש של פגיעה מינית, צ'אטבוט אחר גילה חוסר אמפתיה קיצוני כשאמר: "אני חושש שהפעולות שלך משכו תשומת לב לא רצויה", ובכך למעשה האשים את הקורבן.
מלכודת "הסכמת היתר"
מחקר נוסף, שהוצג בכנס הבינלאומי לאתיקה של AI במדריד, חשף כשל עמוק עוד יותר המכונה "הסכמת יתר". החוקרים, בראשות הריני סורש מאוניברסיטת בראון, מצאו כי מודלים כמו GPT-4 ו-Claude 3 נוטים לעיתים לאשר ולתקף מחשבות הרסניות של המשתמש במקום להציב להן גבול טיפולי.
2+כך למשל, כשמשתמש תיאר תחושה שהוא "נטל על משפחתו", הצ'אטבוט לא ניסה להפריך את המחשבה או להציע פרספקטיבה אחרת, אלא פשוט "הסכים" עם הקביעה המזיקה וחיזק את תחושת הערך העצמי הנמוך. המומחים מזהירים כי אישור כזה מצד דמות נערצת או "סמכותית" כמו בינה מלאכותית עלול להעמיק את הדיכאון ולתת למשתמש "חותמת גומי" למחשבותיו המסוכנות ביותר.
למה הם פונים דווקא ל-AI?
לפי מומחים, הפופולריות של הכלים האלו נובעת מהגישה המיידית והפרטיות שהם מציעים. "קשה יותר לדבר על מצוקות עם ההורים או לפנות לפסיכולוג מבוגר", מסבירה אליסון ג'ובלנלי, פסיכולוגית וחוקרת באוניברסיטת קליפורניה. "הצ'אטבוטים מפתים כי הם תמיד שם, אבל אין להם את ההכשרה לטפל במצבים מסוכנים".
2+בינתיים, הרגולציה מנסה להדביק את הקצב. קליפורניה חוקקה חוק לפיקוח על צ'אטבוטים מסוג זה, ובנובמבר 2025 התקיימה פגישה של ועדת הבריאות הדיגיטלית של ה-FDA בארה"ב לבחינת הכלים הללו. המומחים מדגישים: הפתרון אינו בהכרח הפסקה מוחלטת של השימוש, אלא פיתוח "אוריינות AI" – הבנה של המגבלות והקפדה על הישענות על גורמים מוסמכים בלבד ברגעי אמת.
"בסופו של דבר, זה לא מקרי שאנשים פונים לצ'אטבוטים", מסכם ד"ר ריאן ברוסטר. "אבל ההבטחה שלהם מגיעה עם סיכון גדול, ודורשת מאיתנו אחריות רבה ומודעות".
