לעצור את הבינה המלאכותית: שורה ארוכה של שמות מכובדים מעולם הטכנולוגיה קראה היום לחברות המתעסקות בבינה מלאכותית להפסיק את הפיתוח וההכשרה של מערכות הבינה המלאכותית למשך חצי שנה לפחות. את בקשתם נימקו הפונים בשל קיומם של "סיכונים עמוקים לחברה ולאנושות", כך כתבו.
בין השמות הגדולים שפנו לחברות הטכנולוגיה, נמצא גם המיליארדר אילון מאסק, בעלי טוויטר, טסלה ו'ספייס X'. נוסף אליו, חתמו על הפנייה גם פרופסורים, חוקרים ומהנדסים בכירים.
המכתב הדרמטי מגיע רק שבועיים לאחר שחברת OpenAI הכריזה על GPT-4, גרסה עוצמתית עוד יותר של הבינה המלאכותית שעומדת בבסיס של הצ'אטבוט שהפך ויראלי במהירות אדירה בעולם, צ'אט GPT. בבדיקות מוקדמות ובהדגמה שהראתה החברה, הוצג הצ'אט החדש כשהוא מנסח תביעות משפטיות, מצליח לעבור בחינות סטנדרטיות ואפילו בונה אתר אינטרנט ע"פ סקיצה שצוירה ביד.
1+במכתב נאמר עוד שההפסקה צריכה לחול על מערכות בינה מלאכותית "חזקות יותר מ-GPT-4". החוקרים טענו שמומחים "בלתי תלויים" צריכים להשתמש בהפסקה המוצעת כדי לפתח ולהטמיע במשותף סט של כללים וחוקים משותפים לכלי AI בטוחים "מעבר לכל ספק סביר".
"בינה מלאכותית מתקדמת יכולה לייצג שינוי עמוק בהיסטוריה של החיים על פני כדור הארץ, ויש לתכנן ולנהל אותה בזהירות ובמשאבים בהתאם", כתבו הפרופ' והחוקרים לחברות הטכנולוגיה. "למרבה הצער, רמה זו של תכנון וניהול לא מתקיימת, וזאת למרות שבחודשים האחרונים ראינו חברות של בינה מלאכותית כשהם במרוץ ללא-שליטה לפיתוח ופריסה של 'מוחות דיגיטליים' חזקים יותר שאף אחד – אפילו לא היוצרים שלהם – יוכל להבין, לחזות או לשלוט עליו בצורה מהימנה", סיכמו החוקרים בפסימיות במכתבם.
1+אם לא תיעשה הפסקה בקרוב, מזהירים החוקרים במכתבם, על הממשלות להתערב ולכפות הפסקה כזו בכדי לייצר מערכת חוקים ראויה לשימוש בכלי ה-AI.
גל תשומת הלב סביב ה-ChatGPT שפרץ לחיינו בסוף 2022, גרם לפריצתו של "מרוץ חימוש" בין ענקיות הטכנולוגיה שמיהרו לפתח ולפרוס כלי AI דומים במוצרים שלהם. החברות OpenAI, מיקרוסופט וגוגל נמצאות בחזית המרוץ הזה, אבל גם חברות כמו IBM, אמזון, Baidu ו-Tencent עובדות על טכנולוגיות דומות. רשימה ארוכה של סטארט-אפים מפתחים גם עזרי כתיבה ומחוללי תמונות על בסיס בינה מלאכותית.
