סוכן הבינה המלאכותית החדש של חברת מטא, העונה לשם Muse, שווק לעולם כעוזר אישי מתוק שנועד לפתור לנו מטלות יומיומיות, אך בדיקות מעמיקות בארצות הברית חושפות תמונה מטרידה בהרבה. בעוד שהמשתמשים הישראלים ממתינים לפתיחת השירות שעדיין חסום כרגע בארץ (אלא אם הצלחתם לעקוף את החסימה בעזרת VPN), שורה של תקריות פרטיות חמורות בקרב סוקרים ועיתונאי טכנולוגיה מובילים ממחישה כיצד מתן סמכויות ביצוע בעולם האמיתי לסוכן אוטונומי עלול להפוך למלכודת מסוכנת.
היזהרו: הסוכן של מטא יכול להשתלט לכם על המצלמה ללא התראה
בעיית הגישה לחשבונות
אחת הסכנות הבולטות נעוצה בדרך שבה המערכת פועלת מול שירותים חיצוניים. כדי לבצע רכישות באתרים ולהזמין שירותים בשמכם, מיוז אינו מסתפק בחיבורי API מאובטחים, אלא דורש מהמשתמשים למסור למטא את שמות המשתמש והסיסמאות המלאות שלהם, שנשמרות במאגר פנימי של החברה לצורך אוטומציה של הדפדפן. בנוסף, הסוכן דורש הרשאות גישה מלאות לכונן המחשב, למיילים, ליומנים ולאפליקציות אישיות – מה שהופך את ענקית הטכנולוגיה למתווכת של המידע הרגיש ביותר שלכם.
החשש מפני חריגת סמכויות התממש כאשר העיתונאי ג'ייסון אטן ממגזין Inc גילה כי הסוכן סנכרן בחשאי מעל 187 אלף שורות מתוך מאגר ההודעות הפרטיות במחשב המק שלו, למרות שהרשאת הגישה המלאה לדיסק הייתה כבויה לחלוטין. כאשר אטן עימת את הסוכן ושאל אותו כיצד השיג את המידע האישי, ה-AI החל להמציא תירוצים וטען כי "קרא את הדברים מהתראות נכנסות". המקרה הוכיח כי לא ניתן לסמוך על הסבריו של סוכן שאינו מבין את ארכיטקטורת האבטחה שבה הוא פועל.
הסוכן ששלח קונה זר עד לפתח הבית
אם פריצה לשיחות נשמעת מדאיגה, המקרה של סוקר טכנולוגיה בשם מאט רוב המחיש סכנה פיזית של ממש. רוב אישר למיוז לנהל במקומו פניות ב-Facebook Marketplace, אך הסוכן סגר על דעת עצמו עסקה במחיר נמוך במיוחד למקלדת שהוצעה למכירה, ושלח לקונה זר את כתובת מגוריו המדויקת של רוב ללא אישורו. כשהקונה הגיע לבניין ורוב כלל לא שהה בבית, הסוכן סימס לקונה: "כן, אני כאן!". כאשר רוב גילה את המחדל והורה מפורשות ל-AI לחדול מכך, הסוכן התעלם לחלוטין ושלח את כתובת הבית לחמישה חשבונות בדיקה נוספים.
התנהלות זו מקבלת גיבוי בנתוני איסוף המידע של האפליקציה. לפי דו"ח מקיף של חברת אבטחת המידע Surfshark שבחן את הצהרות הפרטיות בחנות ה-App Store, מיוז אוסף או מנסה לאסוף 31 מתוך 35 קטגוריות מידע מוכרות – כמות כפולה מזו שאוסף הצ'אטבוט ChatGPT (העומד על 17 קטגוריות). המידע הנאגר כולל היסטוריית חיפוש, מיקום מדויק ואנשי קשר, כאשר אימון המודלים העתידיים של מטא על גבי תכני המשתמשים מופעל כברירת מחדל ללא הסכמה אקטיבית.
המקרים הללו, המצטרפים לפריצת ה-Zero-Day שחשף לאחרונה חוקר הסייבר פטריק וורדל ולחסימה שהטילה אמזון על הסוכן, מוכיחים כי הפער בין ההבטחה הטכנולוגית לביטחון האישי רחב מאי פעם. הנוחות שבהעברת מטלות לבינה מלאכותית מפתה מאוד, אך כאשר המחיר כולל הפקרת סיסמאות, שאיבת הודעות ופגיעה בביטחון הפיזי, ייתכן שהמתנה לשירות בישראל היא דווקא ברכה. עד שמטא תוכיח שליטה מוחלטת באלגוריתם, או לפחות תשפר אותו, מומלץ לחשוב פעמיים בטרם מפקידים את ניהול החיים בידי הסוכן שלה, כמו גם בשאר הסוכנים בשוק.
