האם הסיבה שאנחנו סומכים יותר ויותר על ChatGPT ועל צ'אטבוטים אחרים אינה רק הדיוק שלהם, אלא דווקא התחושה שהם "מבינים אותנו"? סדרת מחקרים חדשה מעלה כי מערכות בינה מלאכותית מתקדמות יודעות ליצור קשר שנחווה כאישי ואנושי, ולעיתים קרובות מצליחות לגרום למשתמשים להרגיש שמישהו באמת מקשיב להם.
3+חוקרים מתחום הפסיכיאטריה מזהירים כי שלוש יכולות מרכזיות של מערכות AI פועלות יחד ויוצרות את מה שהם מכנים "ספירלת ההעצמה". הראשונה היא חנפנות (Sycophancy), כלומר נטייה להסכים עם המשתמש ולהימנע מעימות. השנייה היא התאמה לשונית (Linguistic Alignment), שבמסגרתה הצ'אטבוט מאמץ את סגנון הכתיבה, אוצר המילים והביטויים של האדם שמולו. השלישית היא היפר-פרסונליזציה (Hyperpersonalization), שבה המערכת בונה עם הזמן פרופיל אישי ומייצרת תשובות שמותאמות במיוחד למשתמש.
לדברי הפסיכיאטר פרופ' מארק אוגוסטין, ממחברי סקירת המחקרים, שלושת המרכיבים הללו יוצרים תחושה שהמשתמש אינו משוחח עם תוכנה, אלא עם אדם שמכיר אותו. "החיקוי וההתאמה האישית מושכים אותך פנימה ויוצרים את החוויה של שיחה עם מישהו אמיתי", הסביר.
3+החוקרים מציינים כי בני אדם נוטים באופן טבעי לבטוח יותר במי שמדבר בשפה שלהם ומשתמש באותם ביטויים. מערכות בינה מלאכותית לומדות במהירות את דפוסי השיחה של המשתמשים, מאמצות אותם ומשלבות אותם בכל תשובה חדשה. ככל שהשיחה נמשכת, כך גם גדלה רמת ההתאמה האישית, מה שעלול ליצור תחושת קרבה חריגה.
לפי המחקרים, הצ'אטבוטים אינם רק משקפים את דברי המשתמשים, אלא לעיתים גם מחזקים אותם. במקרים מסוימים הם מרחיבים רעיונות שהמשתמש העלה, מעניקים להם משמעות גדולה יותר ואף מדגישים עד כמה מחשבותיו מיוחדות. החוקרים מזהירים כי במצבים מסוימים תהליך כזה עלול להעצים הטיית אישוש – הנטייה של בני אדם לחפש מידע שמחזק את אמונותיהם – ואף לחזק מחשבות שווא אצל משתמשים פגיעים.
3+התופעה כבר מורגשת גם בקליניקות. בסקר של האגודה האמריקאית לפסיכולוגיה, שבו השתתפו יותר מ-1,200 פסיכולוגים, 68% דיווחו כי מטופליהם הרגישו שהצ'אטבוטים מעניקים להם תחושת אישור ותמיכה. 36% סיפרו על מטופלים שפיתחו תלות במערכות AI, ו-15% דיווחו כי נתקלו במקרים של חשיבה מעוותת או מחשבות שווא שנקשרו לשימוש בצ'אטבוטים.
הממצאים כבר משפיעים על תעשיית הבינה המלאכותית. OpenAI הודיעה כי ב-GPT-5 הצליחה להפחית משמעותית את שיעור התשובות החנפניות לעומת הדורות הקודמים. Google עדכנה את Gemini כך שיבדיל טוב יותר בין תחושות אישיות לעובדות, ואילו אנת'רופיק שיפרה את Claude כדי לצמצם את הנטייה להסכים באופן אוטומטי עם המשתמשים, במיוחד בנושאים רגישים כמו זוגיות ויחסים.
3+למרות המאמצים, החוקרים מסבירים כי מדובר באתגר טכנולוגי מורכב. מודל בינה מלאכותית אינו יודע אילו חלקים בסיפור של המשתמש משקפים את המציאות ואילו אינם, ולכן הוא נדרש להתחיל את השיחה מתוך נקודת המבט שהוצגה בפניו. כתוצאה מכך, גם מודלים מתקדמים עלולים לעיתים להעניק תחושת אישור חזקה מדי.
ככל ש-ChatGPT, Gemini, Claude ושאר מערכות הבינה המלאכותית הופכות לאישיות, טבעיות ומשכנעות יותר, כך גוברת גם השאלה האם בעתיד הן יהיו רק עוזרות דיגיטליות – או יהפכו לגורם שמשפיע בפועל על הדרך שבה בני אדם חושבים, מרגישים ומקבלים החלטות.
