בין אם זה טיפ לראיון עבודה, התלבטות על זוגיות או סתם בדיחה פרטית, יותר ויותר אנשים פונים לצ'אטבוטים של בינה מלאכותית כדי לפרוק, להתייעץ ולהתבדח. אבל מה שקשה לזכור שלעיתים עומדים מאחורי המערכת הזו גם בני אדם בשר ודם
לפי תחקיר שפורסם במגזין Fortune, עובדים חיצוניים שמועסקים על ידי מטא נחשפים לשיחות אישיות רבות שמתקיימות עם צ'אטבוטים בפלטפורמות כמו פייסבוק ואינסטגרם. לדברי העובדים, רבות מהשיחות כוללות מידע אישי בלתי מצונזר, שמות מלאים, מספרי טלפון, כתובות דוא"ל, תמונות סלפי ואפילו תמונות אינטימיות.
לפי הדיווח, מה שמדאיג עוד יותר הוא שבמקרים רבים, לא מדובר בטעות במערכת או פעולה אגבית, אלא בהודעות שהועברו לעין אנושית לצורכי תחקור, שיפור אלגוריתמים ובמסגרת מדיניות מכוונת.
השימוש בסוקרים אנושיים לצורך אימון מודלי שפה הוא תופעה מוכרת בתעשייה, וגם הקשר הרגשי שמשתמשים יוצרים עם צ'אטבוטים תועד במקרים רבים. אולם לנוכח ההיסטוריה הבעייתית של מטא בתחום הפרטיות, העובדה שמידע כה אישי נחשף לבני אדם מעוררת סימני שאלה.
בתגובה ל-Fortune, נמסר ממטא כי החברה פועלת לפי "מדיניות מחמירה שמסדירה את הגישה לנתונים אישיים של עובדים וקבלנים כאחד". עוד נמסר כי "למרות שאנו נעזרים בקבלנים כדי לשפר את איכות נתוני האימון, אנו מגבילים במכוון את המידע האישי שהם רואים, ויש לנו נהלים ברורים כיצד עליהם לפעול אם הם נתקלים במידע מהסוג הזה".
