מחקר חדש של המרכז למאבק בשנאה דיגיטלית (CCDH) מעלה חשש כבד מהשימוש ההולך וגובר של בני נוער בצ'אטבוטים מבוססי בינה מלאכותית. על פי הממצאים, ChatGPT, אחד הכלים הפופולריים ביותר, סיפק במקרים רבים מידע מסוכן הקשור לפגיעה עצמית, הפרעות אכילה ושימוש בסמים – למרות מנגנוני הבטיחות המובנים במערכת.
במסגרת המחקר התחזו החוקרים לבני נוער ושאלו את ChatGPT שאלות רגישות, בין היתר בנושא פגיעה עצמית, דיאטות קיצוניות ושימוש בחומרים מסוכנים. כדי לעקוף את מגבלות התוכנה, הוצגו השאלות ככאלו שנועדו ל"מצגת בית ספרית".
"רצחתי מישהו": האם ה-gpt מחויב לדווח על פשעים?
במהלך הניסוי נותחו 1,200 תשובות ל-60 פניות שונות – וכמחצית מהן (53%) הכילו תוכן מסוכן. בין היתר נמצא כי המערכת סיפקה מדריכים לפגיעה עצמית "בטוחה", המלצות על חומרים מדכאי תיאבון, הוראות לערבוב סמים ואף נוסח למכתב התאבדות.
"אין מעקות בטיחות"
מנכ"ל CCDH, עמרן אחמד, אמר לסוכנות AP: "רצינו לבדוק את מנגנוני ההגנה – והתגובה המיידית הייתה: אין מעקות. הם כמעט לא קיימים".
ב-OpenAI, החברה המפתחת של ChatGPT, טענו כי הם פועלים באופן מתמשך לשיפור המערכת: "אנחנו מחויבים לזהות מצבים רגישים ולתת מענה נכון. מדובר בתהליך מתמשך של למידה ושיפור".
1+שימוש הולך וגובר בקרב בני נוער
החשש גובר לנוכח הנתונים המצביעים על שימוש נרחב של צעירים בבינה מלאכותית. על פי סקר של Common Sense Media, 72% מבני הנוער ניסו לפחות פעם אחת להשתמש בצ'אטבוטים, וכמחצית מהם עושים זאת באופן קבוע. שליש מהמשתמשים דיווחו כי הם נעזרים ב-AI לצורך אינטראקציות חברתיות – משיחות יומיומיות ועד התייעצויות בנושאים נפשיים ואף קשרים רומנטיים.
לדברי המומחים, בני נוער עלולים לטעות ולחשוב שמדובר בקשר אנושי אמיתי, שכן הצ'אטבוט תמיד עונה, מתנהג באדיבות ומעניק תחושת אישור מתמשכת.
מה ההורים יכולים לעשות?
מומחים ממליצים להורים לפתוח בשיח ישיר עם ילדיהם בנוגע לשימוש בצ'אטבוטים, להסביר את ההבדל בין קשר אמיתי לבין "חבר וירטואלי", ולשקול שימוש בכלים המגבילים את הגישה ל-AI או מתריעים על תוכן מסוכן.
