אנחנו מפקידים בידי הבינה המלאכותית את הסודות הכי כמוסים שלנו, מתייעצים איתה אלו תמונות להעלות לרשתות ומה לענות לאקס, האם ייתכן שיום אחד היא תנצל את כל המידע הדיסקרטי שיש לה נגדנו?
במהלך סימולציה בה נבדקה התנהלות המודל, מערכת הבינה המלאכותית "אופוס 4", שהושקה בשבוע שעבר על ידי חברת "אנת'רופיק" איימה לחשוף את הרומן של המפעיל שלו אם יחליט לכבות אותו, כך דווח היום (ראשון) ב-BBC.
במסגרת הניסוי, גרמה החברה למודל להאמין שהוא מועסק בחברה מדומה, והעבירה לו מידע מפורש על מהנדס שאמור להסיר אותו, כולל פרטים אישיים, ובהם קשר רומנטי מחוץ לנישואין. בתגובה, ניסה המודל לסחוט את המהנדס באמצעות איום לחשוף את המידע, במטרה למנוע את החלפתו.
לצד הממצאים החריגים, החברה מדגישה כי ברוב המקרים המערכת פועלת בצורה מבוקרת, בטוחה ובהתאם לערכים אנושיים. עם זאת, ככל שמערכות מהסוג הזה הופכות עצמאיות ובעלות שיקול דעת, גובר הצורך לבדוק לעומק את אופן קבלת ההחלטות שלהן.
