אזהרה דרמטית מצד אחד מבכירי תעשיית הטכנולוגיה בכל הזמנים: בריאיון שהעניק לתוכנית "Meet the Press" ברשת NBC, התריע מייסד מיקרוסופט ביל גייטס כי בינה מלאכותית עלולה להוביל למותם של מיליארד בני אדם אם לא יוטל עליה פיקוח ממשלתי הדוק ומיידי. גייטס נמנע מלקבוע באופן מוחלט האם הטכנולוגיה תביא להשמדת האנושות כולה, אך הדגיש כי היא חזקה דיה כדי לחולל אירועים בעלי היקף קטלני חסר תקדים. "מעולם לא היה נשק כה עוצמתי כמו השילוב של אנשים בעלי כוונות זדון המשתמשים בכלים המתקדמים ביותר", הבהיר גייטס וקרא לחקיקה מהירה בקונגרס האמריקני.
במהלך הריאיון תקף גייטס את התפיסה הרווחת בקרב קובעי המדיניות, לפיה המרוץ מול מעצמות עולמיות קודם לבטיחות הציבור. כאשר המראיינת קריסטן וולקר השוותה את המצב להסכמי הגבלת הנשק הגרעיני בין ארצות הברית לברית המועצות בתקופת המלחמה הקרה, טען גייטס כי סוגיית הבינה המלאכותית מורכבת בהרבה: "מאחר שהנושא מוצג בצורה לאומנית של 'אנחנו נגדם', יש מי שאומרים – 'בואו נרוץ קדימה במלוא העוצמה'. זה חוסר אחריות מוחלט שלא לחייב כל מערכת בינה מלאכותית באמצעי הגנה וניטור, והשאלה היחידה היא האם עושים זאת עכשיו".
לדבריו, מקור הסכנה לקטל המוני אינו תרחיש בדיוני שבו "מחשבים מפתחים תודעה ומשמידים את העולם", אלא שימוש זדוני שהופך את הבינה המלאכותית לנשק החזק ביותר שנוצר אי פעם. המודלים המתקדמים מורידים בצורה חדה את רף הכניסה הטכנולוגי והעלויות עבור מדינות סוררות, ארגוני טרור וגורמים פליליים.
זאת מאחר שאלו מסוגלים לתכנן ולהנדס פתוגנים ונשק ביולוגי קטלני בקלות חסרת תקדים, לפתח מתקפות סייבר מורכבות שמסוגלות לשתק רשתות חשמל, מערכות מים ובתי חולים, או למוטט שרשראות אספקה חיוניות בקנה מידה עולמי. בהיעדר מנגנוני ניטור, פיקוח ו"מתגי חירום" שימנעו מאנשים בעלי כוונות רעות לרתום את היכולות הללו, קריסה מערכתית גלובלית כזו עלולה להוביל ישירות ובאופן עקיף לאובדן חייהם של מיליוני ואף מיליארדי בני אדם.
דבריו של גייטס מציבים אותו לצד בכירים נוספים בענף, בהם מנכ"ל OpenAI סם אלטמן ומנכ"ל Anthropic דריו אמודיי, אך עומדים בניגוד חריף למדיניותו של הנשיא דונלד טראמפ, שדחה את הקריאות להאטת הפיתוח בטענה שיש לשמור על עליונות אמריקנית מול סין.
בזירה הפוליטית והכלכלית בארצות הברית הדברים עוררו תגובות סוערות משני הצדדים. איימי קרמר, חברת הוועדה הרפובליקנית הלאומית ויו"ר Humans First, גיבתה את גייטס ואמרה לפוקסניוז: "אפילו ביל גייטס מודה בסכנות, והיחידים שעוד מכחישים את המציאות מקבלים תשלום מענקיות הטק". מנגד, ננסי טנגלר, מנכ"לית Laffer Tengler Investments, דחתה את הדברים: "לטעון שמעולם לא היה נשק כה חזק זו אמירה אירונית, בזמן שהממשל פועל למנוע נשק גרעיני מאיראן. ארה"ב חייבת לנצח במרוץ ה-AI ממש כפי שנלחמה לנצח במרוץ החימוש במלחמה הקרה".
חוקרת הכלכלה והמשפט ג'וליה קרטרייט מהמכון האמריקני למחקר כלכלי הציעה מבט מאוזן, וציינה כי בינה מלאכותית מורידה בחדות את עלות הנזק של תקיפות סייבר ונשק ביולוגי: "הדרך להילחם בכך אינה לעצור את החדשנות, אלא לקבוע רגולציה ברורה שתטיל אחריות על המפתחים, תבנה אמון ותחזק את ההשקעות".
האזהרות החריפות מפני סכנות הבינה המלאכותית מעסיקות את גבעת הקפיטול מזה חודשים ארוכים, כשהמחוקקים בוושינגטון מתקשים להכריע בין הצורך ברגולציה לבין החשש מאובדן היתרון הגיאופוליטי. ברקע הדיונים על מנגנוני בטיחות דוגמת "מתג חירום"למערכות מתקדמות, ממשל טראמפ ממשיך לקדם קו תקיף המעודד פיתוח טכנולוגי מהיר ללא כבלים רגולטוריים מחמירים, מתוך עמדה שהגבלות יאפשרו לבייג'ינג לסגור פערים ולהוביל את המהפכה הבאה.
