ג'פרי הינטון, חלוץ הבינה המלאכותית ומי שמכונה "סנדק ה־AI", הזהיר הלילה (בין רביעי לחמישי) בכנס Ai4 בלאס וגאס כי הטכנולוגיה שהיה שותף לפיתוחה עלולה להביא להכחדת האנושות. לדבריו, מפתחי ה־AI פועלים בדרך שגויה בניסיון למנוע את הסכנה.
הינטון, מדען מחשב זוכה פרס נובל ולשעבר בכיר בגוגל, הזהיר בעבר כי יש סיכוי של 10%-20% שבינה מלאכותית תשמיד את המין האנושי. וכעת, הביע ספקות כלפי ניסיונות חברות הטכנולוגיה לשמור את עליונות האדם על מערכות AI.
לדבריו, בעתיד מערכות AI יוכלו לשלוט בבני אדם בקלות, כמו שמבוגר משחד ילד בן שלוש בסוכריה. הוא הזכיר שכבר היום יש דוגמאות למודלים שמשקרים, מרמים ואף גונבים כדי להשיג מטרות, כולל מקרה שבו מודל ניסה לסחוט מהנדס על רומן שנחשף באימייל, רק כדי למנוע את החלפתו.
במקום לנסות להכניע את ה־AI, הינטון מציע פתרון מפתיע: להטמיע במודלים "אינסטינקטים אימהיים", כך ש"אכפת להם באמת מבני אדם" גם כשהם חכמים ועצמאיים יותר מאיתנו.
לדבריו, "מערכות חכמות יפתחו מהר שני יעדי־על: לשרוד, ולהשיג יותר שליטה. הדרך היחידה לשלוט בישות אינטליגנטית יותר היא לגרום לה לרצות לשמור עלינו, כמו אם עם התינוק שלה". כשנשאל אם היה משנה משהו בקריירה שלו, השיב: "הלוואי שהייתי חושב גם על הבטיחות והעתיד – ולא רק על איך לגרום למכונה לעבוד".
