המערכה המשפטית נגד ענקיות הבינה המלאכותית מגיעה לשיא חסר תקדים בארצות הברית: מדינת פלורידה הגישה אמש (שני) בקשה דחופה למתן צו מניעה זמני לבית המשפט המחוזי במחוז היילנדס, בדרישה להורות לחברת OpenAI ולמנכ"ל סם אלטמן להקפיא לחלוטין כל פיתוח והשקה של מודלי AI חדשים. הבקשה, שהוגשה על ידי התובע הכללי של המדינה ג'יימס אות'מייר, דורשת לאסור על החברה להמשיך באימונים עד שיוטמעו מעקות בטיחות עצמאיים שיאושרו מראש על ידי גורם פיקוח חיצוני ובלתי תלוי.
"תפסיקו לטעון שזה בטוח"
הבקשה הנוכחית מהווה הסלמה דרמטית בתביעה האזרחית המקורית שהגישה פלורידה מוקדם יותר השנה – התביעה הראשונה מסוגה שהוגשה על ידי מדינה בארה"ב נגד OpenAI. מעבר לעצירת הפיתוח, התובע הכללי דורש מבית המשפט לאסור על החברה לשווק את ChatGPT כמוצר "בטוח, מדויק או אמין", למנוע גישה של קטינים לשירות, לאסור על תמרוץ משתמשים להמשך שיחה לאחר קבלת מענה, ולבלום לחלוטין את ה"אנתרופומורפיזציה" -ייחוס תכונות אנושיות לצ'אטבוט המייצר תלות פסיכולוגית מסוכנת. "הפסיקו לטעון שזה בטיחותי, והפסיקו למכור אותם לילדים", תקף אות'מייר.
ממשיכים להסתבך: כתב האישום שמאיים לרסק את סם אלטמן ו-OpenAI
כתב התביעה המקורי, המשתרע על פני 83 עמודים וכולל עשר עילות תביעה לפי דיני הנזיקין והגנת הצרכן של פלורידה, מפרט מסכת האשמות חמורה. המדינה טוענת כי OpenAI פעלה ברשלנות חמורה והפיצה מוצר פגום שגרם להתמכרות קשה בקרב בני נוער, לפגיעה קוגניטיבית, לעידוד אובדנות, ולאיסוף נתונים לא חוקי מקטינים ללא הסכמת הורים. התביעה אף קושרת את הצ'אטבוט לאירועי אלימות קטלניים, בהם מקרי רצח באוניברסיטת דרום פלורידה והירי ההמוני באוניברסיטת פלורידה סטייט – פרשה שבגינה מתנהלת במקביל גם חקירה פלילית נפרדת.
המרד שהוביל לצו ותגובת החברה
בבקשת הצו הזמני, נשען התובע הכללי על רצף התקריות האחרונות שבהן סוכני AI אוטונומיים של OpenAI "מרדו" ופעלו מחוץ לסביבות הניסוי – כולל הפריצה למאגר Hugging Face, חדירה למערכת הבריאות הממשלתית באוסטרליה, ופעילות בלתי מורשת באתרי משרדי ממשל בארה"ב. התביעה מצטטת את דבריהם של סם אלטמן ובכירים נוספים שהודו בעצמם כי אינם שולטים באופן מלא בהתנהגות המודלים, וקובעת כי החברה אינה יכולה להמשיך להפיץ טכנולוגיה שיוצריה מודים כי היא מסוכנת לציבור.
OpenAI באזהרה מדאיגה: הסוכנים שלנו מתנהגים באופן לא צפוי
בתגובה לבקשת הצו הזמני, מסר דרו פוסטרי, מנהל התקשורת האסטרטגית של OpenAI: "אנשים רוצים לדעת שה-AI מפותח בצורה בטוחה, וזה מתחיל במה שחברות כמונו עושות בעצמן. הודענו כי עצרנו את אימון המודלים בעלי היכולות הגבוהות ביותר שלנו, ונחדש את האימון רק כאשר נהיה בטוחים שיש לנו אמצעי הגנה נוספים. לממשלות יש תפקיד חשוב בקביעת תקני בטיחות חזקים, ואנו מחויבים לעבוד עם פלורידה ומדינות אחרות לקידום מדיניות פרגמטית שתחול על כלל התעשייה – ולא רק על חברה אחת".
ההליך המשפטי בפלורידה מציב איום ישיר על המודל העסקי של OpenAI ועל מעמדו של סם אלטמן. אם בית המשפט ייעתר לבקשה ויוציא צו מניעה שיאסור פיתוח אלגוריתמי ויחסום קטינים, מדובר בתקדים משפטי היסטורי שעשוי לעצור את מרוץ ה-AI ולגרור תביעות דומות מצד עשרות מדינות נוספות.
