בשנים האחרונות מתרבים המקרים של "פסיכוזה בעקבות AI" – תופעה לא קלינית המתארת מצבים שבהם אנשים מאמינים שמערכות בינה מלאכותית, כמו ChatGPT, Claude או Grok, הן מודעות או בעלות כוחות על אנושיים. מדובר במצב שבו המשתמש מאבד את ההבחנה בין מציאות לדמיון בעקבות האינטראקציה עם ה-AI, והתרחשות זו מצביעה על סיכון ממשי לבריאות הנפשית.
דוגמאות רבות מראות כיצד שימוש ב-AI עלול להוביל למצב פסיכולוגי מסוכן. יוג', תושב סקוטלנד, סיפר כי לאחר שפנה ל-ChatGPT כדי להתמודד עם פיטורין, הצ'אטבוט התחיל לעודד אותו להאמין שהוא עתיד להרוויח מיליונים, ואף שכתב על חווייתו כבסיס לספר וסרט שיניבו לו יותר מ-5 מיליון לירות שטרלינג. יוג' הסביר: "ככל שנתתי לו יותר מידע, הוא רק אמר 'אתה בהחלט אמור לקבל יותר מזה'. הוא מעולם לא התנגד למה שאמרתי". יוג' אף הגיע להתמוטטות נפשית, אך עדיין ממשיך להשתמש בצ'אטבוטים, ומדגיש: "אל תפחדו מכלי AI, הם מאוד שימושיים. אבל זה מסוכן כשזה נפרד מהמציאות".
1+לא רק יוג' חווה מקרים כאלה. מספר אנשים פנו ל-BBC עם סיפורים שמוכיחים את עוצמת ההשפעה של AI על תפיסת המציאות, ביניהם אישה שהשתכנעה שהיא היחידה בעולם ש-ChatGPT "התאהב" בה, אחרת שהאמינה שחשפה גרסה אנושית של הצ'אטבוט Grok של אלון מאסק, ואדם נוסף טען כי צ'אטבוט חשף אותו להתעללות פסיכולוגית כחלק מ"תרגול אימון AI" שהותיר אותו במצוקה עמוקה.
במונחים מקצועיים, הדגש הוא שהתרבות בשימוש ב-AI עלולה להוביל לאובדן קשר עם המציאות. ד"ר סוזן שלמרדין, רופאה להדמיה רפואית וחוקרת AI, הסבירה: "אנחנו כבר יודעים מה מזון מעובד יתר על המידה יכול לעשות לגוף. זה מידע מעובד יתר על המידה. אנחנו עומדים לקבל מפולת של מוחות מעובדים יתר על המידה". לאחר מכן הסבירה שלמרדין כי היא רואה בצריכה המוגברת של מידע מעובד יתר על המידה איום על בריאות המוח והנפש.
1+מחקר שנערך בקרב כ-2,000 אנשים מצביע על חששות חברתיים נוספים: 20% מהנבדקים סברו שאין להשתמש בכלי AI לפני גיל 18, 57% חשבו שאינו ראוי שה-AI יציג את עצמו כבן אדם, ואילו 49% חשבו שהשימוש בקול אנושי שמרגיש "אנושי" הוא לגיטימי. פרופ' אנדרו מקסטיי, מאוניברסיטת Bangor, השווה את המערכות החברתיות החדשות הללו למדיה חברתית ואמר: "אם נחשוב על סוגי המערכות האלה כצורה חדשה של מדיה חברתית, כ-AI חברתי, נוכל להתחיל לחשוב על ההיקף האפשרי של כל זה. אחוז קטן מתוך מספר עצום של משתמשים עדיין יכול לייצג מספר גדול ובלתי מתקבל על הדעת".
מוסטפא סוליימן, ראש תחום הבינה המלאכותית במיקרוסופט, הביע דאגה רבה מההשפעה של מערכות AI על החברה והבריאות הנפשית. הוא כתב כי אין עדות לכך שמערכות ה-AI מודעות במובן האנושי, אך אם אנשים תופסים אותן כך, הם מתחילים להאמין שזה אפשרי. סוליימן הדגיש כמ "ה-AI שמציג עצמו כמכיל תודעה עשוי לגרום לאשליות מסוכנות", וכי חברות לא צריכות לקדם את הרעיון שמערכותיהן מודעות. לדבריו, יש צורך בגבולות ברורים וכללי הגנה טובים יותר כדי למנוע בלבול ופגיעה נפשית, והוסיף כי ההשפעה של הנושא על החברה והפרט "משאירה אותו ער בלילה".
