חברת הבינה המלאכותית אנת'רופיק הודיעה היום (שלישי) כי ממשלת ארצות הברית הסירה את כל המגבלות שהטילה על שניים מהדגמים המתקדמים ביותר שלה – Fable 5 ו-Mythos 5. ההחלטה מסיימת, לפחות בשלב זה, עימות חריג בין החברה לממשל האמריקני, שנמשך פחות משלושה שבועות.
4+הכול החל באמצע חודש יוני, כאשר משרד המסחר האמריקני הורה לחברה להגביל באופן מיידי את השימוש בדגמים בעקבות חשש ביטחוני. בממשל האמריקני הזהירו כי אם יכולות מתקדמות כאלה יגיעו לידיים הלא נכונות – למשל של מדינות יריבות כמו סין או רוסיה – הן עלולות לשמש לצורכי מודיעין, מתקפות סייבר או פיתוח יכולות צבאיות.
מכיוון של אנת'רופיק לא הייתה דרך לדעת בזמן אמת מאיזו מדינה מגיע כל משתמש, היא בחרה להשבית לחלוטין את שני הדגמים עבור כולם, ולא רק עבור משתמשים מחוץ לארצות הברית.
4+מה מיוחד בדגמים האלה?
בניגוד לצ'אטבוט רגיל שעונה על שאלות או מסייע בכתיבה, אחד הדגמים, Mythos 5, מסוגל גם לזהות חולשות אבטחה בתוכנות ובמערכות מחשב. היכולת הזו יכולה לעזור לחברות לתקן פרצות ולהגן על עצמן, אך באותה מידה גם לסייע להאקרים למצוא נקודות תורפה ולנצל אותן. הדגם השני, Fable 5, מיועד לשימוש רחב יותר של הציבור, אך גם הוא כולל יכולות מתקדמות במיוחד – ולכן עורר דאגה בקרב הרשויות.
מה גרם לשינוי?
במהלך השבועות האחרונים עבדה אנת'רופיק עם הרשויות בארצות הברית כדי לחזק את מנגנוני ההגנה של הדגמים. החברה פיתחה מערכת חדשה שמזהה בקשות מסוכנות וחוסמת אותן. במקרים מסוימים, הבקשה מועברת אוטומטית לדגם אחר, בטוח ומוגבל יותר, במקום לקבל תשובה מהדגם המתקדם. לאחר שהשינויים הושלמו, החליט משרד המסחר להסיר את מגבלות הייצוא ולאפשר שוב את השימוש בשני הדגמים.
4+שיתוף פעולה עם הממשלה
במסגרת ההבנות בין הצדדים התחייבה אנת'רופיק לעבוד באופן צמוד עם ממשלת ארצות הברית גם בעתיד. החברה תעדכן את הרשויות אם תזהה שימוש זדוני בדגמים שלה ותשתף פעולה בפיתוח כללי בטיחות חדשים. במקביל, היא משתפת פעולה עם אמזון, מיקרוסופט, גוגל וחברות נוספות כדי לפתח סטנדרטים אחידים שיקשו על משתמשים לעקוף את מנגנוני ההגנה של מערכות בינה מלאכותית.
4+חלק ממרוץ עולמי
האירוע הזה ממחיש עד כמה השתנה מעמדה של הבינה המלאכותית. אם בעבר היא נתפסה בעיקר ככלי שמסייע לכתוב טקסטים או ליצור תמונות, כיום ממשלות מתייחסות אליה גם כאל טכנולוגיה בעלת משמעות ביטחונית ואסטרטגית. לכן, חברות שמפתחות את הדגמים המתקדמים ביותר כבר אינן מתמודדות רק עם תחרות עסקית, אלא גם עם פיקוח ממשלתי הדוק. גם OpenAI, מפתחת ChatGPT, הודיעה לאחרונה כי דחתה את ההשקה הציבורית של אחד הדגמים החדשים שלה לבקשת הממשל האמריקני.
