רשת בינלאומית של מפיצי ספאם משתמשת בבינה מלאכותית כדי לפרסם בפייסבוק תמונות מזויפות המוצגות כאילו תיעדו את השואה – כך נחשף בתחקיר מקיף של ה-BBC. התמונות, שמתיימרות להציג רגעים ממחנה ההשמדה אושוויץ, הן תמונות בדויות לחלוטין. על אף המראה הדרמטי והנוגע ללב, אין להן כל בסיס היסטורי.
ארגונים הפועלים להנצחת זיכרון השואה מביעים דאגה עמוקה מהתופעה. לדברי נציגי מוזיאון אושוויץ, מדובר בעיוות מסוכן של ההיסטוריה, שפוגע בקורבנות ומטריד את משפחותיהם. "זה לא משחק. זהו עולם אמיתי, סבל אמיתי ואנשים אמיתיים שאנחנו רוצים וצריכים להנציח", אמר פאבל סביצקי, דובר אנדרטת אושוויץ.
3+חקירת ה-BBC העלתה כי התמונות המזויפות נוצרות ומופצות כחלק מאסטרטגיה מכוונת להשגת רווחים כשבמרכז, תוכנית CM של מטא, חברת האם של פייסבוק. התוכנית מתגמלת יוצרים לפי כמות המעורבות שהתוכן שלהם משיג – לייקים, תגובות, שיתופים וצפיות. בהתאם לכך, יוצרים פקיסטנים, שעמם דיבר ה-BBC, הודו כי הם משתפים פעולה ביניהם כדי לייצר תוכן ויראלי שמנצל רגשות חזקים של צופים, במיוחד ממדינות המערב.
אחד החשבונות הבולטים הוא של אדם בשם עבדול מוגיס, שרשום כמתגורר בפקיסטן. חשבונו הציג לכאורה הכנסות של כ-20,000 דולר מתוכן מזויף, כולל פוסטים עם תמונות AI של ילדים שמתחבאים מתחת לרצפה או תינוקות על פסי רכבת – תיאורים בדיוניים שמוצגים כאילו התרחשו באושוויץ. לפי ניתוח ה-BBC, מוגיס ואחרים מפיצים כמעט אך ורק תוכן המכונה "AI slop" – תמונות וטקסט באיכות נמוכה שנוצרו בבינה מלאכותית ונועדו לייצר תנועה ולייקים.
3+מוזיאון אושוויץ התריע בחודש יוני האחרון על כך שחשבונות אלו גונבים פוסטים מהעמוד הרשמי של המוזיאון, מעבדים אותם באמצעות בינה מלאכותית ומעוותים פרטים היסטוריים – ואף ממציאים סיפורים וקורבנות שמעולם לא התקיימו. בפוסט שפורסם בעמוד הפייסבוק של המוזיאון נכתב: "תמונות אלו הן עיוות מסוכן אשר מזלזל בקורבנות".
ה-BBC מצאה כי הפעילות לא מוגבלת לפקיסטן בלבד – רשתות דומות פועלות גם מהודו, תאילנד, וייטנאם וניגריה. אחד היוצרים טען שהיסטוריה היא נושא שמניב הרבה צפיות, במיוחד ממדינות כמו ארה"ב ובריטניה. לדבריו, פוסט שפונה לקהל מערבי שווה פי שמונה לעומת קהל אסיאתי מבחינת רווחים.
3+כחלק מהחקירה, נחשפו גם סרטוני הדרכה בהם מוצגים שלבים ליצירת פוסטים מזויפים, כולל שימוש בבינה מלאכותית ליצירת סיפורים "מבוססי אירועים אמיתיים", בהם השואה מוזכרת כאחד הנושאים המומלצים ליצירת תוכן.
מטא טוענת כי אינה מעודדת באופן ישיר יצירת תוכן שקרי, אך מדיניות התגמול שלה מתמרצת תוכן שמצליח לייצר מעורבות גבוהה – גם אם הוא כוזב. בעקבות שאלות שהופנו אליה על ידי ה-BBC, הסירה מטא מספר חשבונות ודפים שזוהו ככאלו שעוסקים בהתנהלות שקרית, התחזות או הפצת ספאם.
בעבר כבר נעשה שימוש בבינה מלאכותית כדי להנציח את השואה בדרכים אותנטיות – למשל, שחזור קולי של ניצולים או הדמיות חינוכיות, אך המומחים מזהירים מפני גבול דק בין הנצחה לבין זיוף: "זה עלול ליצור את הרושם שהשואה עצמה היא בדיה – ואסור לנו לאפשר לזה לקרות".
