סרטון דרמטי שהופץ לאחרונה ברשתות החברתיות, בעיקר בעולם הערבי, מציג לכאורה 'כתבת חדשות' המדווחת לאחר תקיפה ברצועה, בזמן הפסקת אש. "מספר רב של פצועים בהפצצה אלימה של הכיבוש שבוצעה לעבר אזורים ברצועת עזה", היא אומרת למצלמה, כשמאחוריה נראית זירת הרס. הסרטון הפך ויראלי וזכה לשיתופים רבים, אך מה שהם פספסו זה – שהסטון הוא זיוף מוחלט שנוצר כולו באמצעות טכנולוגיית בינה מלאכותית.
הסרטון פורסם בערוץ טיקטוק בשם "signs.esharat", שצבר למעלה ממאה אלף עוקבים ומיליוני צפיות. באופן אירוני, יוצרי הערוץ אפילו לא מנסים להסתיר את השימוש בטכנולוגיה. בתיאור העמוד שלהם נכתב: "ערוץ החדשות הראשון המשולב במלואו עם טכנולוגיית בינה מלאכותית. החדשות שלנו מגיעות מלב האירוע… ואנחנו משתמשים בכלים שלהם כדי למסור 'את האמת'". במילים אחרות, הם מודים שהם משתמשים בכלי AI כדי לייצר תעמולה, בעוד הצופים התמימים משוכנעים שהם רואים דיווח אותנטי מהשטח.
@signs.esharat 🚨 #عاجل | شهداء وإصابات كبيرة جراء قصف الاحتلال لمناطق متعددة في قطاع غزة. بُعيد إعلان ما يُفترض أن يكون تهدئة، فجّر الاحتلال صمته بقذائف مدفعية وطائرات، مستهدفاً الحياة المدنية. المدنيون يدفعون الثمن… والمجتمع الدولي يشاهد بصمت. 📌 غزة، قصف، إصابات شهداء، تهدئة مُخترقة، الاحتلال #غزة #شهداء #CeasefireViolation #GazaUnderFire ♬ الصوت الأصلي – عاجل الاخبار
"גם עין מיומנת תטעה"
מקס גומברג, יזם ומייסד אקדמיית Max Ai, מזהיר בשיחה עם C14 מפני הסכנה הגוברת. "אנחנו נכנסים לעידן שבו מיום ליום יהיה קשה יותר להבחין מה אמיתי ומה פייק, וגם עין מיומנת תטעה", הוא אומר. "נצטרך להצליב ולאמת מידע ממקורות שונים, לבחון מה מקור המידע ולהיות הרבה יותר זהירים במה שאנחנו מאמינים בו".
אז איך בכל זאת אפשר לזהות זיוף?
גומברג מספק מספר סימנים שיכולים לעורר חשד:
פריים "נקי" מדי: לעיתים קרובות, התמונה בסרטוני AI נראית חלקה ומושלמת מדי, כאילו צולמה באולפן מקצועי ולא בתנאי שטח מאתגרים.
חוקי פיזיקה מעורערים: מודלי הבינה המלאכותית עדיין מתקשים לחקות את העולם הפיזי באופן מושלם. חפשו עצמים שזזים בצורה לא הגיונית, עיוותים בתנועה או אינטראקציה לא טבעית עם הסביבה.
פערים בסאונד: האודיו הוא נקודת תורפה נפוצה. למשל, בדיווח על הפצצה, סביר להניח שהיינו שומעים רעשי רקע של מטוסים או אמבולנסים. כמו כן, בפיצוץ ממרחק אמור להיות פער זמנים (דיליי) בין מראה הפיצוץ לקול הנפץ.
חיפוש סימן מים (Watermark): במקרים רבים, יוצרי הסרטונים יטמיעו סימן מים קטן או כיתוב נסתר המעיד על השימוש ב-AI.
הסרטון הזה הוא תזכורת מדאיגה לכך שבעידן החדש, חובת ההוכחה עברה לצופה: להצליב, לבדוק, ולא להאמין לכל מה שהעיניים רואות.
