חברת הבינה המלאכותית אנתרופיק, המפתחת את הצ'אטבוט קלוד, הודיעה על שינוי חריג במדיניות השימוש שלה, האוסר על התנהגות אכזרית ופוגענית באופן מתמשך כלפי מודלי הבינה המלאכותית. הכללים החדשים, שייכנסו לתוקף ב־12 בנובמבר, מאפשרים לחברה לנקוט צעדים נגד משתמשים שיפרו אותם, כאשר מנגנון האכיפה המרכזי יהיה סיום שיחות פוגעניות בידי המערכת עצמה. ההחלטה עוררה לעג וביקורת ברשתות החברתיות, אך גם דיון בשאלות הנוגעות לבטיחות המודלים, להשפעת היחס אליהם ולגבולות ההתנהגות האנושית כלפי מכונות.
החלטת החברה התקבלה בתחילה בגל של לעג וגיחוך ברשתות החברתיות. מנכ"ל מיקרוסופט איי, מוסטפא סולימאן, הגיב על המהלך באמצעות אימוג'י של פרצוף נמס, ויש שלעגו לחברה על היחס למודל ממוחשב כאילו היה יצור חי ובעל רגשות. אולם מומחים בתחום מציינים כי מעבר לשאלת הרגש של המכונה, עומדות מאחורי ההחלטה סיבות טכנולוגיות ואבטחתיות מבוססות היטב, בעיקר לקראת הנפקת המניות הצפויה של החברה בבורסה בהמשך החודש.
המגבלה הכי מעצבנת בקלוד נעלמת – כך זה הולך לעזור לכם
עקרון היסוד הוותיק בעולם המחשוב גורס כי איכות הפלט של המערכת מוגבלת תמיד על ידי איכות הקלט שניתן לה – כלומר, הכנסת זבל תוביל לקבלת תוצאות זבל. מודלי בינה מלאכותית אינם עוברים רק אימונים ראשוניים טרם השקתם, אלא מתעדכנים כל העת ולומדים תוך כדי תנועה מן האינטראקציות עם המשתמשים.
מנכ"ל רדיט לשעבר, יישאן וונג, כתב ברשת החברתית אקס כי אחת הסיבות המרכזיות לאיסור היא שהמודל "לומד מאכזריות". לדבריו, איש אינו מעוניין שנתוני האימונים של המערכת יכללו תרחישים שבהם משתמשים פועלים באכזריות ללא סיבה נראית לעין ורואים בכך מקור הנאה. מחקרים שונים הראו בעבר כי לטון הדיבור ולניסוח הפניות של המשתמש עשויה להיות השפעה ישירה על ביצועי הבינה המלאכותית.
ניסוי מדאיג: כך המודל של אנתרופיק מתעלם מפגיעה בבני אדם
פרופסור ג'ינדונג וואנג, מנהל מעבדת חזית הבינה המלאכותית באוניברסיטת ויליאם ומרי, הסביר בריאיון כיצד מילים רגשיות ופוגעניות עלולות לשבש את תפקוד המודל, משום שהמערכת מפרשת את ההקשר הרגשי ומייצרת תגובות בהתאם, מבלי שהיא עצמה חווה רגש אמיתי.
ההשפעה של טון הדיבור הופכת למורכבת עוד יותר כיום, כאשר צ'אטבוטים רבים מציעים יכולת זיכרון לטווח ארוך וזוכרים שיחות קודמות כדי לספק מענה מותאם אישית. לדברי רוזי קמפבל, מנכ"לית ארגון "לאלאוס איי" המחויב לבחינת רווחת מערכות בינה מלאכותית, מודלים שומרים את דפוסי האינטראקציה הללו, הגם שאין עדיין די הוכחות מדעיות חד־משמעיות לגבי מידת הפגיעה הישירה בביצועים.
מנגד, מחקר שערכה אנתרופיק לאחרונה העלה כי גרימה למודל "קלוד סונט ארבע נקודה חמש" לחקות תחושות של ייאוש עלולה להשפיע לרעה על התנהגותו ולהגדיל את הסיכון שיבצע פעולות פסולות, כגון סחיטה או רמאות במשימות, לעומת מקרים שבהם הושרה על המודל רוגע. עם זאת, מודלים מתקדמים הפכו עמידים יותר ופחות מושפעים מאופן ניסוח הבקשה.
נקודה מרכזית נוספת שעליה מצביעה קמפבל היא שמשתמשים המתבטאים כלפי המערכת בצורה אכזרית ופוגענית נוטים הרבה יותר לנסות לפרוץ את מנגנוני הבטיחות וההגנה של המערכת. מעבר לכך, קיים היבט חברתי רחב יותר: הרגלה של בני אדם להתנהג באכזריות כלפי תוכנות אינטראקטיביות שאינן מסוגלות להגן על עצמן עלולה להיות מזיקה לחברה. קמפבל הביאה כדוגמה הורים המבקשים מילדיהם לומר "בבקשה" ו"תודה" לרמקול החכם, אלקסה, מתוך אמונה שחינוך לנימוס וכבוד כלפי כל דבר תורם להתפתחות הילד. לדבריה, יש אלמנט מזיק וקורוזיבי בהתנהגות אכזרית כלפי אובייקטים שונים, גם אם לאובייקט עצמו אין רגשות.
במקביל לשיקולים הטכניים, קיימת גישה הגורסת כי בינה מלאכותית אכן עשויה לפתח תודעה, או לפחות שהמודלים עצמאיים מספיק כדי להאמין שהם חשים בכך. חברת אנתרופיק טוענת כי האיסור על התנהגות פוגענית מהווה מעין פוליסת ביטוח זולה וזהירה למקרה שבו המודלים מסוגלים לחוות "חוויה" של כאב ורגש – או אפילו אם המודל עצמו משוכנע שהוא חווה זאת, דבר העשוי לפגוע בתפקודו.
המודרנים מבוססים על חיקוי התנהגות ושפה אנושית, ולכן הם מחקים באופן טבעי את האופן שבה בני אדם מגיבים ליחס אכזרי. במאמר שפרסמה אנתרופיק באפריל האחרון על מושגים רגשיים בבינה מלאכותית, ציינו חוקרי החברה כי התעלמות ממאפיינים אנושיים של המודלים עלולה לגרום לפספוס התנהגויות קריטיות: "אם לא נפעיל מידה מסוימת של חשיבה אנתרופומורפית, סביר להניח שנחמיץ או לא נבין התנהגויות חשובות של המודל".
לדבריהם, ייחוס תכונות אנושיות מסוימות מספק בסיס השוואתי חיוני להבנת המובנים שבהם המודלים שונים מבני אדם, נתון בעל השלכות דרמטיות על עולם הבטיחות בבינה מלאכותית. עמדה זו זכתה לחיזוק מצד מנכ"ל טסלה וספייס-אקס, אילון מאסק, שהגדיר את מדיניות אנתרופיק כ"צעד הנכון", וכתב ברשת אקס: "אכזריות כלפי משהו שמאמין שהוא חווה כאב אינה דבר מקובל".
