האם ההתקדמות הטכנולוגית המשמעותית בעקבות הבינה המלאכותית שצוברת תאוצה בשנים האחרונות, עלולה לצאת משליטה? לפי המדען האמריקני ג'ון הופפילד שזכה בפרס נובל לפיזיקה על מחקר חלוצי שביצע בתחום הבינה המלאכותית, התשובה חיובית.
לפי הופפילד, שתי טכנולוגיות שהוגדרו במהלך חייו כחדשניות עלולות להיות מסוכנות. הראשונה – הנדסה ביולוגית והשנייה – פיזיקה גרעינית. לדבריו, "אנחנו רגילים לטכנולוגיות שהן לא רק טובות או רעות, אך יכולות ללכת לשני הכיוונים. כפיזיקאי אני מאד מודאג ממשהו שאי אפשר לשלוט בו".
לדבריו, על אף שמערכות הבינה המלאכותית הן פלא מוחלט, אופן פעולתן עדיין לא ברור מספיק – עובדה מטרידה מאד מבחינתו. "מסיבה זו אני מדגיש את הצורך בהבנה טובה יותר של מערכות אלו, שעלולות להגיע ליכולות משמעותיות יותר ממה שאנו יכולים לדמיין כעת".
אחד התרחישים ממערכות הבינה המלאכותית נוגעות לתרחיש שנחשב לדמיוני, לפיו מערכות ה-AI ישתלטו על האנושות. זהו תרחיש שנראה דמיוני וחסר סיכוי בעיני רבים, אך לא מעט אחרים, כדוגמת החוקר הופפילד סבורים כי עלולות להיות למערכות אלו השלכות בלתי צפויות על עתידנו.
