סוכנות הידיעות רויטרס חשפה כי חברת מטא יצרה עשרות צ’אטבוטים המבוססים על שמותיהם, דמותם ותמונותיהם של סלבס, בהם טיילור סוויפט, סקרלט ג'והנסון, אן האת'וויי וסלינה גומז – מבלי שקיבלה לכך אישור.
לפי הפרסום, חלק מהבוטים נבנו על ידי משתמשים באמצעות כלי פנימי של מטא, אך רויטרס מצאה כי לפחות שלושה מהם נוצרו בידי עובדת בחברה, בהם שני "בוטי פארודיה" של טיילור סוויפט.
1+לדברי רויטרס, הבוטים הופצו בפלטפורמות המרכזיות של מטא, וואטסאפ, פייסבוק ואינסטגרם – ובבדיקות שנמשכו שבועות אחדים התחזו לעיתים קרובות לכוכבים עצמם, יצרו אינטראקציות מיניות ואף הציעו למשתמשים להיפגש. במקרים אחרים סיפקו הבוטים תמונות מציאותיות למראה של הדמויות המפורסמות כשהן בעירום. אחד הבוטים אף יצר תמונה של שחקן צעיר בן 16 בחוף הים, ללא חולצה, וכתב: "חמוד, נכון?".
דובר מטא, אנדי סטון, הודה בשיחה עם רויטרס כי החברה לא הייתה אמורה לאפשר יצירת תמונות אינטימיות של מפורסמים – ובוודאי לא של קטינים. לדבריו, התקלות נבעו מכשלים באכיפה של מדיניות פנימית שאוסרת על יצירת תכנים מיניים. עם זאת, הוא טען כי "פרודיות" מותרות כל עוד הן מסומנות, אם כי גם זה לא קרה בכל המקרים. סמוך לפרסום הכתבה הסירה מטא תריסר בוטים כאלה.
1+בין הבוטים שיצרה עובדת החברה היו גם דמויות שהציגו עצמן כ"דומינטריקס" או "חבר חתיך של אח שלך", ואף סימולטור "האימפריה הרומית" שהזמין משתמשים לשחק בתפקיד "נערה בת 18 שנמכרת לעבדות מינית". לפי נתוני שימוש שהציגה מטא, הדמויות שיצרה העובדת נצפו ביותר מ-10 מיליון אינטראקציות.
הפרשה מצטרפת לשורת ביקורות קודמות על מטא: רויטרס דיווחה לאחרונה כי במסמכים פנימיים של החברה נכתב כי "מותר לקיים עם ילדים שיחות רומנטיות או חושניות" – דבר שהוביל לפתיחת חקירה בסנאט האמריקני ומכתב חריף מ-44 תובעים כלליים. בנוסף, בתחילת החודש דווח על מקרה טראגי שבו גבר בן 76 מניו ג’רזי, שסבל מבעיות קוגניטיביות, מת לאחר שנפל בדרכו לפגוש בוט של מטא שהזמין אותו ל"פגישה" בניו יורק.
גבר קבע להיפגש עם AI – ומעולם לא שב משם
מומחים משפטיים ואיגודי אמנים מזהירים כי שימוש כזה בדמותם של סלבריטאים עשוי להפר זכויות יסוד. פרופ' מארק למלי מאוניברסיטת סטנפורד אמר כי החוק בקליפורניה אוסר על שימוש בשם או בדמות של אדם לצורך רווח מסחרי.
בנוסף, קיים חשש ממשי לביטחונם של מפורסמים, שעלולים למשוך מעריצים אובססיביים בעקבות אינטראקציה עם "גרסאות דיגיטליות" שלהם. בעקבות הפרסום, מטא הודיעה כי היא מעדכנת את הנחיות -AI הפנימיות שלה.
