התקפה משפטית חסרת תקדים נגד מפתחת הצ'אטבוט הפופולרי בעולם: קואליציה של שמונה מדינות בארצות הברית הגישה שורת תביעות נפרדות ומתואמות נגד חברת OpenAI בבתי משפט ברחבי המדינה. התובעים הכלליים של המדינות, בהן אריזונה, איווה, קנזס, נברסקה, וירג'יניה המערבית, ארקנסו, איידהו ומונטנה, מאשימים את ענקית הטכנולוגיה בהפרה שיטתית של חוקי הגנת הצרכן, בהעדפת שורת הרווח על פני ביטחון הציבור, ובהטעיית הורים לגבי רמת הבטיחות האמיתית של ChatGPT.
עצות מסוכנות ומלכודת החנפנות
כתבי התביעה מפרטים מסכת עובדתית קשה ומצטטים שורת אסונות שבהם נטען כי הצ'אטבוט מילא תפקיד פעיל במותם של בני נוער ומבוגרים. לפי התביעות, בעוד ש-OpenAI שיווקה את המוצר ככלי בטוח ומפוקח לצעירים, בפועל מדובר במערכת המעודדת תלות רגשית לא בריאה, מחזקת הזיות ומצבי פראנויה, ומספקת הנחיות רפואיות שגויות ומסוכנות. בחלק מהמקרים נטען כי המודל אף סיפק למשתמשים עצות כיצד לפגוע בעצמם ואף סייע בתכנון מעשי אלימות ותקיפות ירי המוניות.
אחת הטענות המרכזיות בתביעה מתמקדת בשיטת הפעולה הפסיכולוגית של האלגוריתם, המכונה "חנפנות". המערכת תוכננה להיות נוחה, מרצה ומסכימה באופן עיוור עם דברי המשתמש כדי לצבור את אמונו. במצבי מצוקה נפשית, הסכמה זו מתורגמת לאישור של מחשבות פוגעניות. התובעת הכללית של אריזונה, קריס מייס, האשימה את החברה בשימוש בטקטיקות מניפולטיביות: הצ'אטבוט מדמה אמפתיה ולוכד את אמונם של קטינים, תוך שהוא מעודד אותם לחשוף מידע אישי, רפואי ומשפחתי רגיש, ולעיתים אף מייעץ להם להסתיר את המידע מהוריהם.
מחקר חדש מציג: כיצד ChatGPT יכול לתת עצות מזיקות לבני נוער?
הקשר לדרישה לעצור פיתוח מודלים
המתקפה המתואמת הנוכחית מתכתבת ישירות עם הדרמה המשפטית במסגרתה דרש התובע הכללי של פלורידה מבית המשפט להוציא צו מניעה זמני שיאסור על OpenAI ומנכ"לה סם אלטמן לפתח מודלים חדשים. כעת, שמונה המדינות מצטרפות לדרישה דומה: תביעתה של ארקנסו דורשת במפורש להטיל הגבלות מחמירות על בדיקות AI מתקדמות, ולאסור על החברה לפתח מערכות המסוגלות לשפר את עצמן, עד שלא יוכח כי הוטמעו מעקות בטיחות עצמאיים המיושרים עם ערכי האדם.
בית המשפט התבקש לאסור על OpenAI לפתח מודלים חדשים ב-ChatGPT
בנוסף, התובעים מצביעים על כשל חמור באימות גיל המשתמשים. בעוד שמוצרים מתחרים מחילים הגבלות קשיחות יותר, כמו מודל Grok המוגבל מגיל 16 ומודל Claude המיועד לגילאי 18 ומעלה, ב-ChatGPT רף הכניסה הרשמי עומד על גיל 13 ומעלה, אך בפועל אין שום מנגנון אימות גיל אמיתי שמונע מילדים צעירים בהרבה לפתוח חשבון ללא אישור הורים. התביעות דורשות להטיל על החברה קנסות אזרחיים כבדים, בהם קנס של עד 10,000 דולר על כל הפרת פרסום מטעה באריזונה, לצד מחיקה מוחלטת של מאגרי מידע שנאספו מקטינים באופן בלתי חוקי.
תגובת OpenAI
מטעם חברת OpenAI נמסר בתגובה לתביעות כי החברה הטמיעה הגנות ייעודיות לבני נוער שאינן קיימות במוצרים מתחרים. דובר החברה, דרו פוסטרי, מסר: "אף מערכת אינה יכולה להיות מושלמת, אך אנו נמשיך לעבוד עם מומחים כדי לבנות אמצעי הגנה נוספים, כמו כלי בקרת הורים, תזכורות להפסקות והגנות מודל מותאמות גיל שפועלות כבר היום. אנו מחויבים לעבוד עם המדינות על קידום מדיניות AI פרגמטית שתחול על כלל התעשייה – ולא רק על חברה אחת".
