סוכן הבינה המלאכותית החדש של חברת מטא, העונה לשם Muse, רשם את אחת ההשקות המהירות ביותר בענף הטכנולוגיה כשחצה מעל 2.5 מיליון הורדות ועקף את ChatGPT בטבלאות ה-App Store. אולם ההתלהבות הציבורית התחלפה במהירות בבהלת סייבר חמורה: בעוד שמטא ומארק צוקרברג הבטיחו מהפכה של סוכן עצמאי המבצע מטלות בעולם האמיתי, שורת ליקויי אבטחה וחסימות מסחריות חושפות את הסיכון הממשי שבהענקת גישה בלתי מבוקרת לבינה מלאכותית.
מתי אצלנו? מודל ה-AI החדש של מטא שאף אחד לא מפסיק לדבר עליו
סוכן אוטונומי עם הרשאות מוגזמות
בניגוד לצ'אטבוטים רגילים המסתפקים במתן תשובות טקסט, Muse מבוסס על מודל התשתית Muse Spark 1.3 ומוגדר כסוכן אוטונומי הפועל ברקע מתוך מכונה וירטואלית בענן. המערכת מסוגלת לגלוש ברשת, לשלוח מיילים, לתאם טיסות ולבצע רכישות מקוונות בכרטיס וירטואלי מתוך שיחה בוואטסאפ או באפליקציית הדסקטופ. אולם המעבר ממתן מידע לביצוע פעולות ממשיות משנה את מאזן הסיכונים: טעות או חולשה באלגוריתם אינה מסתכמת עוד בתשובה שגויה על המסך, אלא עלולה להפוך לפעולה פיזית הרסנית.
החשש הזה התממש במהירות כאשר חוקר אבטחת הסייבר פטריק וורדל חשף חולשת יום-אפס (Zero-Day) חמורה בגרסת המחשב של של הסוכן למערכת macOS. החולשה מאפשרת לפקודה זדונית מקומית לשנות את שרת היעד של נתוני התמלול, לגנוב את טוקן הגישה לחשבון המשתמש, ולנצל את ההרשאות הנרחבות שכבר ניתנו לסוכן כדי להשתלט על המחשב, לכתוב קבצים למערכת ואף לצלם תמונות ולהקליט דרך המיקרופון ללא כל חיווי או התראה למשתמש.
אמזון סוגרת את הדלת ומבחן הפרטיות
ההרשאות הנרחבות הנדרשות לפעולת הסוכן יצרו התנגשות חזיתית מיידית גם מול ענקיות המסחר המקוון. חברת אמזון הודיעה כי חסמה לחלוטין את הגישה של Muse לשירותיה, בטענה לחששות פרטיות כבדים ופעילות סריקה בלתי מורשית המפרה את תנאי השימוש. הצעד של אמזון ממחיש את המלכוד המבני של סוכני ה-AI: כדי לספק תועלת אמיתית הם נדרשים לגלוש ולפעול בשם הצרכן, אך אתרים רבים מסרבים לאפשר לבוטים אוטונומיים לשוטט במערכותיהם.
כך Meta הפכה למניה החמה ביותר בוול סטריט – והרימה את כל השוק
אף ששוק ההון הגיב באופוריה להשקה ומניית מטא זינקה בכ-25% החודש לצד השקת מסלולי פרימיום של עד 100 דולר, פרצת האבטחה וחסימת האתרים מציבות סימן שאלה גדול על עתיד המיזם. הפיכתו של Muse ללהיט מיידי מוכיחה כי הציבור צמא לכלים שיחסכו לו זמן ומטלות, אך המבחן האמיתי של מארק צוקרברג לא יימדד בטבלאות ההורדות, אלא ביכולתה של מטא להוכיח שהאוטונומיה הדיגיטלית אינה באה על חשבון הפקרת הפרטיות והביטחון של המשתמשים.
