דוח מודיעין שגוי שנוצר בסיוע בינה מלאכותית כמעט הוביל את צבא ארה"ב לפעולה נגד ספינה סינית במזרח התיכון, כך דווח ביום שישי ב-CNN. לפי הדיווח, המסמך קבע בטעות כי הספינה מובילה רכיבים לתוכנית נשק גרעיני, והופץ בצבא האמריקני במהלך המלחמה מול איראן.
בעקבות הדוח, בצבא ארה"ב החלו להיערך ליירוט כלי השיט הסיני. לפי גורמים המעורים בפרטים, כוחות חמושים כבר נערכו לעלות על הספינה, ומטוסי קרב הוזנקו לאוויר. רק זמן קצר לפני תחילת הפעולה, גורמים רשמיים בחנו מחדש את המידע וגילו כי הדוח נוצר בעזרת צ'אטבוט שזיהה באופן שגוי את המטען שעל הספינה.
אחד המקורות אמר ל-CNN כי הדיווח היה "שקרי לחלוטין" וכי הוא "כמעט פתח במלחמה". לפי הדיווח, פעולה אמריקנית נגד כלי שיט סיני הייתה עלולה להידרדר במהירות לעימות מזוין בין שתי המעצמות.
הגורמים הסבירו כי הצ'אטבוט שילב מידע ממקורות גלויים עם נתוני מודיעין מסווגים, ובהם מודיעין אותות, והגיע למסקנה שגויה שלפיה המטען קשור לרכיבי נשק גרעיני. לאחר שהתבררה הטעות, הפעולה המבצעית בוטלה.
האירוע החריג מגיע בזמן שבמערכת הביטחון ובקהילת המודיעין בארה"ב מקדמים שילוב רחב של כלי בינה מלאכותית, החל מניתוח כמויות גדולות של מידע מודיעיני ועד לוגיסטיקה, תקציבים ובחירת מטרות. גורמים אמריקניים טוענים כי ארה"ב אינה יכולה להישאר מאחור מול יריבות כמו סין, אך מנגד אנשי מודיעין ותיקים מזהירים מפני הסתמכות מהירה מדי על מערכות שעלולות לייצר מידע שגוי ומשכנע.
במוקד החשש עומדת תופעת ה"הזיות" של מערכות AI, מצב שבו הכלי מייצר מידע שאינו נכון אך נראה אמין. לפי גורמים בקהילת המודיעין, ככל שהשימוש במערכות הללו מתרחב, כך גובר הסיכון שדוחות שגויים יובילו להחלטות מבצעיות מסוכנות.
אחד הגורמים שסיפרו על התקרית סיכם את החשש ואמר כי "בינה מלאכותית מאפשרת להגיע לרעיון רע מהר יותר". לדבריו, הסכנה גוברת במיוחד כאשר משתמשים צעירים או לא מנוסים מתייחסים לתוצרי המערכת כאל מידע מבוסס, מבלי לבצע בדיקה מספקת לפני קבלת החלטות.
