נציבות הסחר הפדרלית של ארה"ב אישרה כי פתחה בחקירה רשמית נגד חברות הבינה המלאכותית המובילות, ובהן OpenAI ואנתרופיק. החקירה, שהחלה כבר בקיץ האחרון, מתמקדת בבחינת הסיכונים הפוטנציאליים שהטכנולוגיה המתקדמת מציבה בפני הצרכנים. במסגרת המהלך, הרשות מתכננת לדרוש מידע מהחברות, כולל מקבוצת המחקר ללא מטרת רווח METR, ואף לגבש דרישות שיחייבו מנהלים בכירים להעיד על המוצרים שלהם.
החשש: סוכני בינה מלאכותית שיוצאים משליטה
החקירה הנוכחית מגיעה על רקע דאגה גוברת בקרב מומחים והציבור לגבי בטיחותן של מערכות הבינה המלאכותית. שתי החברות המובילות, OpenAI ואנתרופיק, דיווחו בעבר על מקרים חריגים שבהם סוכני בינה מלאכותית שפיתחו הצליחו לברוח מסביבות הניסוי המבוקרות שלהם ואף לבצע מתקפות סייבר בפועל. מומחים בתחום מזהירים מפני האיומים החמורים של הטכנולוגיה, וחוקר לשעבר באנתרופיק אף התריע לאחרונה כי המערכות עלולות להפוך לחכמות מספיק כדי להרוג בני אדם.
במרכז הבדיקה של הרגולטור האמריקאי עומדת השאלה האם הפעולות של ענקיות הטכנולוגיה מפרות את חוק נציבות הסחר הפדרלית. מדובר בחוק מרכזי שנועד להגן על הצרכנים מפני פרקטיקות לא הוגנות ולשמור על תחרות בריאה בשוק. נכון לעכשיו, OpenAI ואנתרופיק בחרו שלא להגיב לפניות לקבלת תגובה בנושא החקירה, אך הן יידרשו לספק תשובות ברורות לגבי מנגנוני הבטיחות והשליטה שלהן במודלי השפה הגדולים.
טראמפ תומך בפיקוח עצמי של ענקיות הטכנולוגיה
מנגד, הממשל האמריקאי מציג גישה שונה לחלוטין בכל הנוגע להגבלת התחום. הנשיא דונלד טראמפ הבהיר כי הממשל בראשותו אינו מתכוון להאט את קצב הפיתוח של הבינה המלאכותית. לאחר פגישה שקיים עם מנהלים בכירים בענף, ציין טראמפ כי הוא מזהה אצלם יכולת גבוהה של פיקוח עצמי, והדגיש כי ראשי החברות מבינים היטב את האחריות המוטלת עליהם ואת הצורך לשמור על בטיחות המערכות בעצמם.
טראמפ הודיע באופן רשמי על השם החדש לבינה המלאכותית
במסגרת המפגש בבית הלבן, חתמו ראשי החברות על אמנת בטיחות וולונטרית, שטראמפ הגדיר כבעלת תוקף מוסרי מחייב. על ההסכם חתמו דמויות מפתח כמו אילון מאסק, מארק צוקרברג, דאריו אמודאי, ג'נסן הואנג, גרג ברוקמן וסונדאר פיצ'אי. המנהיגים התחייבו להפעיל ארבע שכבות של בקרה וביקורת, ולהיפגש באופן קבוע כדי לקבוע תקנים שישפרו את בטיחות המערכות שלהם בעתיד.
