משרד המסחר האמריקני הודיע היום (שלישי) כי המרכז לחדשנות ב-AI יבצע "הערכות טרום-פריסה ומחקר ממוקד". המטרה היא להבין לעומק את היכולות והסיכונים הנלווים לכלים החדשים לפני שהם משוחררים לציבור הרחב.
3+במסגרת המהלך, עודכנו גם ההסכמים הקודמים עם החברות Anthropic ו-OpenAI, כדי להתאים אותם להנחיות החדשות של הנשיא טראמפ ושר המסחר הווארד לוטניק בנוגע לביקורת ביטחונית.
החשש: פריצות סייבר ומתקפות טרור
ההחלטה על הידוק הפיקוח מגיעה על רקע דאגה גוברת מכלים עוצמתיים, כמו מודל ה-"Mythos" של חברת Anthropic. בכירי החברה הזהירו בעצמם כי המודל עלול לחולל גל של מתקפות טרור ופריצות סייבר אם יפול לידיים הלא נכונות.
3+ניתוח פנימי של Anthropic העלה תרחישים לפיהם המודל מסוגל לנצל פרצות ברשתות חשמל, תחנות כוח ובתי חולים. החברה אף הצהירה כי המודל כבר איתר אלפי פרצות אבטחה חמורות בכל מערכות ההפעלה ודפדפני האינטרנט המרכזיים. בשל כך, הגישה למודל מוגבלת כרגע לקבוצה מצומצמת של חברות הכוללת את אמזון, גוגל וג'יי.פי מורגן.
המירוץ מול סין ושינויי המדיניות
המרכז לביקורת, שהוקם במקור תחת ממשל ביידן כ"מכון לבטיחות AI", עבר שינוי תחת ממשל טראמפ. המדיניות הנוכחית שואפת להסיר חסמי בטיחות מסוימים כדי להאיץ את פיתוח המודלים, מתוך מטרה מוצהרת לנצח את סין במירוץ הגלובלי לשליטה ב-AI.
3+עם זאת, היכולות המרעישות של מודלים כמו Mythos גרמו גם לקובעי המדיניות לעצור ולחשוב. כריס פול, מנהל המרכז, ציין כי "מדע מדידה קפדני ועצמאי חיוני להבנת ההשלכות של הבינה המלאכותית על הביטחון הלאומי".
השוק נערך להשקות מוגבלות
התחרות בתחום הבינה המלאכותית נמשכת בעוצמה, מנכ"ל Anthropic, דריו אמודי, מעריך כי המתחרים צפויים לסגור את הפער הטכנולוגי בתוך חודשים ספורים בלבד. במקביל, OpenAI צפויה להשיק באופן מוגבל את המודל החדש שלה, "GPT-5.5-Cyber", וזאת בשל חששות ביטחוניים דומים שמובילים לגישה זהירה יותר בפריסת הטכנולוגיה החדשה.
3+למרות המירוץ הטכנולוגי, נראה כי הציבור האמריקני נותר סקפטי. על פי סקר של Pew Research, כ-50% מהאמריקנים מביעים יותר דאגה מאשר התרגשות בנוגע לשילוב הבינה המלאכותית בחיי היומיום.
