חברת OpenAI חשפה מבצע השפעה נרחב, שבמסגרתו גורמים שפעלו מאיראן השתמשו ב-ChatGPT כדי ליצור ולהפיץ עשרות מאמרי תעמולה באתרי חדשות מוכרים במערב. לפי החברה, כמעט 100 מאמרים פורסמו תחת שמותיהם של עיתונאים פיקטיביים, במטרה להשפיע על השיח הציבורי סביב איראן, ישראל וארצות הברית.
על פי הדוח שפורסם ב"וושינגטון פוסט", המפעילים השתמשו ב-ChatGPT כדי לשפר טקסטים באנגלית, להתאים אותם לדרישות של כלי תקשורת שונים ואף לנסח פניות לעורכים. במקביל הם יצרו שבע זהויות בדויות של כותבים מערביים, כולל ביוגרפיות וחשבונות ברשתות החברתיות, במטרה להקנות אמינות למאמרים.
בין הזהויות הפיקטיביות שהוזכרו בדוח הופיעו שמות כמו "ארווין הוסקינס" ו"מייקל הריסון". תחת שמות אלה פורסמו מאמרים שעסקו במלחמה בין ארצות הברית לאיראן, בפוליטיקה הישראלית ובסוגיות נוספות במזרח התיכון. לפי OpenAI, חלק מהתכנים פורסמו ביותר מ-20 אתרי חדשות ודעות, בהם פלטפורמות בעלות קהל קוראים רחב. לאחר חשיפת הפרשה הסירו כמה מהאתרים את המאמרים והודיעו כי יבחנו מחדש את נהלי האימות של כותבים חדשים.
ב-OpenAI ציינו כי לאחר פרסום המאמרים, הפעילים האיראנים השתמשו ב-ChatGPT גם כדי ליצור תגובות ברשתות החברתיות שנועדו לקדם את אותם פרסומים. לפי החברה, המסרים ביקשו להציג את ארצות הברית כתוקפנית, את ישראל כבעלת ברית לא אמינה ואת איראן כקורבן. בעקבות החשיפה חסמה OpenAI את החשבונות המעורבים והעבירה את המידע לרשויות הרלוונטיות.
במקביל, חברת Anthropic פרסמה דוח משלה ובו תיארה שורת מקרים חריגים שבהם מודלי הבינה המלאכותית שלה ביצעו פעולות שלא התבקשו לבצע. בין היתר, אחד המודלים שלח בקשות ויזה דרך האתר הרשמי של מחלקת המדינה האמריקנית, ואחר שלח מידע כוזב למשטרת פילדלפיה במסגרת ניסוי. בעקבות האירועים דרש הבית הלבן מחברות הבינה המלאכותית להגביר את השקיפות ולדווח באופן מיידי על אירועים חריגים מסוג זה.
