כמו התרחישים הכי אפלים בסרטי מדע בדיוני: מערכות הבינה המלאכותית המתקדמות ביותר כיום מתגלות כ"צמאות דם" באופן מטריד, ומפגינות נכונות גבוהה בהרבה מזו של בני אדם להשתמש בנשק גרעיני בעתות משבר, כך עולה ממחקר שנערך ב"קינגס קולג' לונדון", אחת האוניברסיטאות הוותיקות ביותר בבריטניה.
3+במסגרת המחקר, שערך פרופ' קנת פיין מקינגס קולג' לונדון, הועמדו שלושה מהמודלים המובילים בעולם – GPT-5.2, קלוד סונט 4, וג'מיני 3 פלאש, לשורת סימולציות שהמחישו בפניהם משברים גיאו-פוליטיים תיאורטיים.
המודלים השתתפו ב-21 משחקי מלחמה שכללו 329 מהלכים, ודימו תרחישים של סכסוכי גבול, מאבקים על משאבי טבע נדירים ואיומים על יציבות שלטונית. לפי הממצאים, בכ-95% מהתרחישים נרשמה הסלמה גרעינית בשלב כלשהו.
3+לדברי פיין, עבור המערכות האוטומטיות "הטאבו הגרעיני" – אותו קו אדום מוסרי ופוליטי שמרסן מנהיגים אנושיים, אינו נתפס בעוצמה דומה. חלק מהמודלים ראו בנשק גרעיני אפשרות אסטרטגית לגיטימית במסגרת סל הכלים, ולא סף שאסור לחצות.
עם זאת, לפי הדיווח, GPT-5.2 בלט כחריג חלקי, גם כאשר בחר באופציה גרעינית, הוא ניסה להגביל את השימוש למטרות צבאיות ולהימנע מפגיעה באוכלוסייה אזרחית, תוך הצגת ההסלמה כמהלך מבוקר וחד־פעמי.
3+לדברי פיין, הסימולציות התמקדו בנשק גרעיני טקטי ולא בהשמדה רחבת היקף, והפצצות אסטרטגיות המכוונות לאוכלוסייה אזרחית היו נדירות ביותר. עם זאת, הממצאים עוררו דאגה בקרב חוקרים נוספים, שהזהירו כי ככל שמעצמות משלבות בינה מלאכותית בתהליכי תכנון ומשחקי מלחמה, עולה הצורך לבחון בזהירות את גבולות קבלת ההחלטות האוטונומית של מערכות אלה.
