לאחר ש-OpenAI השיקה ביום שלישי האחרון את דפדפן הבינה המלאכותית שלה ChatGPT Atlas, שנועד לאפשר שימוש בבינה מלאכותית לא רק לחיפוש מידע אלא גם לביצוע פעולות באינטרנט כמו הזמנת טיסות וסיכום תוכן באתרים, אך כעת מתברר כי הוא גם חושף את המשתמשים לסיכונים חדשים.
חוקרי אבטחת מידע מזהירים כי הסכנה המרכזית היא הזרקת פקודות (Prompt Injection) – טכניקה שבה האקרים מטמיעים הוראות נסתרות בדפי אינטרנט שגורמות למודלים לקרוא ולהוציא לפועל פקודות זדוניות. באתר fortune דווח כי ג'ורג' צ'להוב מאוניברסיטת UCL אמר: "תמיד יישאר סיכון מסוים להזרקות פקודות, כי מערכות כאלה מבוססות על שפה טבעית שמבצעת פעולות. זה משחק חתול ועכבר." מנגד, דיין סטאקי, מנהל אבטחת המידע של OpenAI, כתב כי החברה "חוקרת ומפחיתה את הסיכונים סביב הזרקות פקודות באופן מעמיק וזהיר" והוסיף כי הוטמעו אימונים ומערכות גילוי ותגובה.
1+ברשת כבר הצביעו על דוגמאות מעשיות לסכנה: הוראות מוסתרות בטקסט לבן על רקע לבן, פקודות בתוך תמונות שמופעלות בעת צילום מסך, והחלפה אוטומטית של תוכן הלוח (clipboard) בקישורים זדוניים. חברת Brave פרסמה פוסט המתאר מתקפות אופייניות נגד דפדפני בינה, והזכירה פרצות שחשפה בעבר בדפדפן Comet של Perplexity. מומחי סייבר טוענים כי טווח ההתקפה רחב בהרבה מזה של דפדפנים מסורתיים – כיוון שה-AI אינו רק מציג תוכן אלא מסוגל לפעול בשמו של המשתמש.
מעבר לסיכוני ההזרקה, עולות גם בעיות פרטיות וניהול הרשאות: גישה ל-keychains, לאימיילים ולחשבונות עלולה לאפשר לדפדפן לשאוב סיסמאות, מידע פיננסי ואף לבצע העברות אם ניתן לו רשות לפעול. OpenAI הוסיפה פונקציות כמו "מצב מנותק" ו-"Watch Mode" שמטרתן להגביל או לעקוב אחרי פעולות הסוכן (agent), אך החוקרים קוראים לפרוטוקולי אבטחה חזקים יותר ולשקיפות מלאה אודות תהליכי ההגנה.
1+החשש המרכזי שעולה מהדברים הוא לאדם הממוצע קל מאוד לפספס את הסכנות הטמונות בטכנולוגיה: תכנים זדוניים יכולים להיות בלתי נראים לעין אנושית אך קריאים למודלי הבינה המלאכותית, ולכן המשתמש חושב שהוא מקבל שירות חכם מהבינה המלאכותית – בעוד הטכנולוגיה עלולה לפעול נגדו.
