תעשיית הטכנולוגיה חוזרת באופן עיוור על הטעויות ההיסטוריות של עידן הרשתות החברתיות, והפעם ההשלכות על בני נוער וילדים עלולות להיות הרסניות בהרבה. כך מזהיר טום סיגל, מי ששימש במשך 15 שנה כסגן נשיא ומייסד מערך האמון והבטיחות של חברת גוגל. סיגל קורא לעצירה והאטה מיידית במרוץ ה-AI, ומזהיר כי חברות הענק דוהרות לשלב צ'אטבוטים מתקדמים בחיי מיליוני צעירים ללא מעקות בטיחות מספקים.
מנכ"ל אנתרופיק מודה: "התעשייה שיקרה לגבי הסיכונים ב-AI"
מפגיעה בבריאות הנפש ועד לניוון החשיבה
לדברי סיגל, הסכנות שיוצרת הבינה המלאכותית חורגות בהרבה מחשיפה לתכנים פוגעניים רגילים. בריאיון בלעדי לסוכנות הידיעות רויטרס, הדגיש הבכיר לשעבר כי מדובר בתרחישי נזק קיצוניים, החל מעידוד אובדנות ומצבים פסיכוטיים בקרב צעירים במצוקה, ועד לתופעה של "פריקה קוגניטיבית", כלומר, התנוונות של יכולת החשיבה העצמאית והניתוח הביקורתי אצל תלמידים המתרגלים לקבל תשובות מוכנות מהמכונה.
הדברים נאמרים עם כניסתו של סיגל לתפקיד המנהל הביצועי של מכון הבטיחות החדש Youth AI Safety Institute, שהוקם על ידי ארגון Common Sense Media. המכון, הזוכה לתמיכת חברות כמו אנתרופיק וקרן OpenAI, נועד לייצר מנגנון פיקוח עצמאי. סיגל מבקש להחיל על עולם ה-AI סטנדרט הדומה ל"מבחני ריסוק" בענף הרכב, שיבדוק בשקיפות את רמת המסוכנות של כל מוצר בטרם יופץ לשימוש המוני בקרב קטינים.
באנתרופיק מזהירים: ה-AI עלול להשמיד את האנושות בעשור הקרוב
לאן הולכים מכאן?
במישור המעשי, סיגל מציע צעדים מיידיים שעל החברות ליישם: אימות גיל מחמיר ב-ChatGPT וב-Claude כדי למנוע כניסת ילדים ללא פיקוח, והוספת מתג הגדרה פשוט במנוע החיפוש של גוגל שיאפשר להורים לכבות עבור ילדיהם את תכונות ה-AI Overviews ואת מצב ה-AI Mode. הדרישה מגיעה לאחר שבדיקה של המכון חשפה כי תוצרי ה-AI בחיפוש של גוגל אינם אמינים ומספקים מידע מטעה עבור משתמשים צעירים.
בחברות הטק דוחים חלק מההאשמות ומציגים את כלי הבקרה הקיימים. בגוגל טוענים כי ה-AI בחיפוש מסייע לילדים בלמידה וכי קיימים כלי הגבלה להורים, בעוד ב-OpenAI מדגישים שימוש באותות התנהגותיים לזיהוי קטינים. מנגד, סיגל מבהיר כי ההנחה שהתעשייה תסדיר את עצמה ללא פיקוח חיצוני היא אשליה מסוכנת. המאבק הנוכחי מציב תמרור אזהרה בוהק לכל הורה, וממחיש כיצד הקדמה הטכנולוגית מעמידה את הדור הצעיר בקו החזית של ניסוי חברתי בלתי מבוקר.
