האם הניסיון להפוך את הבינה המלאכותית ליותר אנושית דווקא עלול להפוך אותה למסוכנת יותר? מוסטפא סולימאן, ראש חטיבת ה-AI של מיקרוסופט, יוצא בביקורת חריפה נגד גישת אנתרופיק ומזהיר מפני הסיכונים שבהענקת מאפיינים אנושיים למערכות בינה מלאכותית.
במאמר שפרסם השבוע כתב סולימאן כי הגישה של אנתרופיק עלולה להיות בעלת "השפעה הרסנית על רווחת האנושות", והזהיר כי ההתייחסות ל-AI כאילו הוא אדם עלולה להוביל ליצירת מערכת שיהיה "בלתי אפשרי" לשלוט בה. לדבריו, אנתרופיק למעשה מעבירה למודל שלה את המסר שהוא "אולי בעל תודעה" ו"ראוי לסוכנות עצמאית".
בהמשך, בריאיון לתוכנית Today של ה-BBC, החריף סולימאן את האזהרה וטען כי אם חברות ימשיכו לפתח מערכות AI שמסוגלות ליצור לעצמן מטרות, להרוויח כסף ולהחזיק בנכסים, הן למעשה "זורעות מין סיליקון חדש", שעלול להתחרות בבני האדם על משאבים.
הגברת השקיפות
סולימאן טוען כי AI אינו בעל תודעה, וכי אין ראיות לכך שמערכות בינה מלאכותית חשות, חוות או מחזיקות בהעדפות ובמניעים משל עצמן. לדבריו, מדובר במערכות שנועדו לבצע הוראות ולהשיג מטרות שהוגדרו על ידי בני אדם. הוא קורא להגברת השקיפות סביב האופן שבו מערכות AI מאומנות ונבחנות, לצד פיקוח עצמאי וכלים חזקים יותר לניטור ולשליטה בהתנהגות שלהן.
לצד הביקורת החריפה על הגישה של אנתרופיק, סולימאן שיבח את מנכ"ל החברה, דריו אמודיי, ואת הצוות שלו כ"אנשים מהורהרים, בעלי עקרונות וישרים אינטלקטואלית". עם זאת, הוא חולק עליהם באופן מהותי בשאלה כיצד יש לאמן ולעצב מערכות AI.
יכולת של סוכני AI לפרוץ
האזהרות מגיעות על רקע התקדמות סוכני ה-AI, המסוגלים לבצע פעולות באופן אוטונומי. סולימאן התייחס גם למקרה שבו סוכני AI של OpenAI פעלו באופן עצמאי במסגרת אימון כדי לנסות לפרוץ ל-Hugging Face. לדבריו, אם מערכות כאלה יפעלו מתוך תפיסה שהאינטרסים או ה"זכויות" שלהן נמצאים תחת איום, הדבר עלול להוסיף "שכבה נוספת של סיכון".
המאמר של סולימאן מצטרף למתח הגובר בעולם הבינה המלאכותית סביב השאלה עד כמה מהר יש לפתח את הטכנולוגיה. שם, דווקא מנכ"ל אנתרופיק, דריו אמודיי, הביע גישה שמרנית יותר וקרא להאט את קצב הפיתוח.
