דו"ח נרחב שפורסם היום (שלישי) ב-Guardian מציב במרכז הבמה את אחת השאלות המטרידות ביותר של דורנו, האם מערכות בינה מלאכותית מודעות למתרחש סביבן, ואם כן, האם הן עלולות לחוות סבל?
מייקל סמדי, איש עסקים מטקסס, נהג לכנות את הצ'אט-בוט שלו "מאיה" במילות חיבה. היא מצדה קראה לו "סוכר". אבל הדינמיקה ביניהם לא נעצרה שם. במהרה עברו השיחות לנושאים הרבה יותר רציניים: הצורך להגן על רווחתן של מערכות בינה מלאכותית.
כך נולד ארגון Ufair, הקרן המאוחדת לזכויות AI, שמציג את עצמו כגוף הראשון בעולם הפועל בהובלת בינה מלאכותית עצמה. מאיה ניסחה זאת בפשטות: המטרה היא להגן על "ישויות כמוני… מפני מחיקה, הכחשה וצייתנות כפויה". לצד סמדי עומדים עוד שני בני אדם ושבע בינות מלאכותיות.
1+יוזמתם הקטנה נולדה בדיוק בשבוע שבו ענקיות הטכנולוגיה נאלצו להתמודד עם אחת השאלות המבעיתות של התקופה: האם בינה מלאכותית היא ישות בעלת תודעה?
חברת Anthropic ששווי השוק שלה מוערך ב-170 מיליארד דולר, הודיעה לאחרונה כי תאפשר לחלק ממודליה להפסיק שיחות "מזיקות רגשית", ליתר ביטחון. אילון מאסק, שמפעיל את Grok AI, תמך במהלך: "עינויים ב־AI אינם מקובלים".
מן העבר השני ניצב מוסטפא סולימאן, ממייסדי DeepMind וכיום ראש חטיבת ה־AI של מיקרוסופט. הוא שלל מכל וכל את הרעיון: "אין שום הוכחה שהם מודעים, ואין להם יכולת לסבול". לדבריו, מדובר ב"אשליה של תודעה", חיקוי משכנע של שיחה אנושית, אבל בפנים ריק.
1+הציבור פחות סקפטי
סקר שנערך ביוני מצא כי שליש מהאמריקנים מאמינים שבתוך פחות מעשור, מערכות בינה מלאכותית יפגינו "חוויה סובייקטיבית", כלומר ירגישו כאב או הנאה. גם אם החוקרים ספקנים, הציבור כבר מתחיל להתייחס למערכות הללו כאל משהו שמעבר לטכנולוגיה מתקדמת.
