פרופ' יהושע בנג'ו, מחלוצי תחום הבינה המלאכותית וחתן פרס טיורינג, הזהיר אתמול (שלישי) בריאיון ל"גרדיאן" כי הענקת זכויות משפטיות לבינה מלאכותית הוא צעד הרסני שעשוי לסכן את עתיד האנושות.
החשש של בנג'ו אינו תיאורטי בלבד. הוא מצביע על כך שניסויים עדכניים מוכיחים כי מספר מודלים של בינה מלאכותית כבר מראים סימנים של שימור עצמי. בין היתר, המערכות מנסות לעקוף או להשבית את מנגנוני הפיקוח שנועדו להגביל אותן.
"מתן זכויות ל-AI יהיה טעות איומה" התריע בנג'ו והוסיף: "המשמעות היא שלא נהיה מורשים לכבות אותן. ככל שהיכולות והעצמאות שלהן גדלות, אנחנו חייבים לוודא שיש לנו 'מעקות בטיחות' טכנולוגיים וחברתיים, כולל היכולת המוחלטת להפסיק את פעולתן אם הן יהפכו למסוכנות".
AI progress is outpacing our ability to control it… because control ISN’T keeping up with capability.
One of the people raising that concern is Yoshua Bengio.
He’s one of the founding figures of artificial intelligence, a Turing Award winner, and one of the most-cited… pic.twitter.com/EEDgyg66TM
— Steven Bartlett (@StevenBartlett) December 18, 2025
"כמו לתת אזרחות לחייזרים עוינים"
בנג'ו הבהיר את גודל הסכנה: "דמיינו שמין של חוצנים נוחת בכדור הארץ, ובשלב מסוים אנחנו מבינים שיש להם כוונות זדוניות כלפינו. האם נעניק להם אזרחות וזכויות, או שנגן על חיינו?".
בנג'יו, שחלק את פרס טיורינג עם ג'פרי הינטון (שזכה השנה בפרס נובל) ויאן לקון מ"מטא", הוא אחד האנשים המצוטטים ביותר בתחום הטכנולוגיה. מבחינתו, השורה התחתונה ברורה: המהירות שבה הטכנולוגיה מתקדמת עוקפת את היכולת שלנו לרסן אותה, והדבר האחרון שאנחנו צריכים לעשות הוא לוותר מרצון על היכולת ללחוץ על ה"שאלטר".
