פקיד באחת מרשויות אכיפת החוק בסין חשף בטעות מבצע השפעה והפחדה נגד מתנגדי משטר סינים. על פי דוח חדש שפורסם של חברת OpenAI הפקיד השתמש בצ'אטבוט הפופולרי כמעין "יומן אישי" כדי לתעד, לנהל ולעקוב אחר מסע הדיכוי החשאי של ממשלת סין. השימוש הלא זהיר הזה אפשר לחוקרי OpenAI לנטר את הפעילות, לחשוף את שיטות הפעולה המדויקות של הרשת ולחסום את המשתמש לצמיתות.
3+התחזות, זיופים ו"מוות מדומה"
חוקרי החברה הצליחו להצליב את התיאורים שהזין הפקיד ל-ChatGPT עם פעילויות זדוניות שהתרחשו בפועל ברחבי הרשת. המבצע כלל מאות מפעילים סינים ואלפי חשבונות מזויפים ברשתות החברתיות. בין הטקטיקות המרכזיות שנחשפו:
- התחזות לגורמי ממשל אמריקאים: סוכנים סינים התחזו לפקידי הגירה בארה"ב כדי לאיים על מתנגדי משטר סיני שחיים באמריקה, תוך אזהרה שהצהרותיו הפומביות מהוות עבירה על החוק.
- זיוף מסמכים משפטיים: הרשת השתמשה במסמכים מזויפים של בית משפט מחוזי בארה"ב בניסיון לאלץ פלטפורמות להסיר חשבונות רשת של מתנגדי משטר.
האם הטכנולוגיה שמשמשת את הפנטגון נגנבה לסין?
- בימוי מוות: המפעילים יצרו מודעת אבל מזויפת ותמונות של מצבה עבור מתנגדי משטר סיני.
3+קמפיינים פוליטיים מעבר לים
היעדים של הרשת לא הוגבלו רק לאזרחים סינים. באחד המקרים, הפקיד ביקש מ-ChatGPT להכין תוכנית מרובת שלבים להשמצת ראש ממשלת יפן, על ידי ליבוי זעם ברשת בנוגע למכסים. למרות ש-ChatGPT סירב לייצר את התוכן, קמפיין הכפשה זהה בדיוק הופיע זמן קצר לאחר מכן בפורומים יפניים.
חושף את סודותיכם: הטרנד המדאיג ב-ChatGPT
"דיכוי מתועש"
בן נימו, החוקר הראשי ב-OpenAI, תיאר את הממצאים כהמחשה ל"דיכוי הטרנס-לאומי המודרני של סין", וציין כי לא מדובר ב"סתם טרולים", אלא במערכת תקיפה מתועשת שנועדה לפגוע במבקרי השלטון הסיני בכל מקום ובכל זמן.
3+חשיפה זו מגיעה בשיאו של מאבק טכנולוגי בין ארה"ב לסין על העליונות בתחום הבינה המלאכותית, ומדגימה כיצד משטרים סמכותניים כבר משלבים בפועל כלי AI מתקדמים בתוך מנגנוני הריגול, המעקב ומלחמות המידע שלהם.
עם עשרות מיליוני צפיות: הציוץ ש-GPT לא ירצה שתראו
