"שליחות קטלנית", "אקס מכינה", עשרות סרטים שטבעו בנו את אותו הפחד: מחשבים ורובוטים שמבינים שבני האדם הם החולייה החלשה, ומחליטים להיפטר מהם.
עד לא מזמן זה נשמע כמו תסריט בדיוני, אבל אליעזר יודקובסקי ונט סוארס, חוקרי בינה מלאכותית מהמכון לחקר בינה בברקלי, טוענים שזה עלול להפוך לממשי, ובעתיד הלא רחוק בכלל.
Nate Soares and I are publishing a traditional book: _If Anyone Builds It, Everyone Dies: Why Superhuman AI Would Kill Us All_. Coming in Sep 2025.
You should probably read it! Given that, we'd like you to preorder it! Nowish! pic.twitter.com/0uRyzuqNQb
— Eliezer Yudkowsky ⏹️ (@ESYudkowsky) May 14, 2025
השניים פרסמו ספר חדש בשם "אם מישהו יבנה אותה – כולם ימותו", ושם מציגים תזה מטרידה: די בכך שמערכת אחת של בינה מלאכותית על-אנושית תפותח כדי לסיים את ההיסטוריה האנושית.
החשש איננו רק ממכונות חכמות יותר. לפי החוקרים, הבעיה היא בעצם הלוגיקה הפנימית של מערכות כאלה, ברגע שייקחו לידיהן את השליטה על תחנות כוח, מפעלים ותעשיות, הן עשויות להסיק שאין יותר צורך בבני אדם.
גרוע מכך, מוחו של האדם פשוט לא יוכל להבין בזמן את "זווית ההתקפה". גם אם יופיעו סימנים מקדימים, בינה על-אנושית תדע להסתיר את כוונותיה, ותחשוף אותן רק כשיהיה מאוחר מדי.
1+כיצד, אם כן, אפשר לעצור את התרחיש? לדעת יודקובסקי וסוארס, רק פעולה מקדימה תעצור את הזוועה, הפצצת מרכזי נתונים שבהם יתגלו סימנים לפיתוח בינה מלאכותית על-אנושית. הצעה שנשמעת כמעט מופרכת, אך מבחינתם זו הדרך היחידה למנוע את "יום הדין".
למי שמרים גבה ובעיקר לסקפטיים שביננו, החוקרים מציינים מספרים. הם מעריכים את הסיכוי לאפוקליפסת AI בטווח שבין 95% ל-99.5%. מבחינתם, השאלה איננה האם זה יקרה – אלא מתי.
