האם תהיתם פעם מה יקרה אם כלי הבינה המלאכותית שנועדו לעזור לנו, יגויסו דווקא לצד האפל? חוקרי אבטחה מחברת טרנד מיקרו גילו לאחרונה מקרה מדאיג במיוחד, שבו האקר רוסי הצליח לרתום את ה-AI של גוגל כדי לנהל מתקפת סייבר פעילה. המקרה הזה מציג מציאות חדשה ומטרידה, שבה פושעי סייבר כבר לא צריכים לכתוב קוד מסובך בעצמם, אלא פשוט יכולים לבקש מהבינה המלאכותית לעשות את העבודה השחורה עבורם.
2+כיצד פעל ההאקר?
ההאקר, המוכר בכינוי "bandcampro", השתמש בממשק שורת הפקודה של גוגל ג'מיני, כלי המיועד למפתחים. באמצעות הכלי הזה, הוא שלט ברשת בוטים קטנה של שמונה מכשירים השייכים למרפאת שיניים, במטרה לגשת לבסיס הנתונים שלהם. כדי לעקוף את מנגנוני ההגנה של ה-AI, ההאקר פשוט שיקר לה ואמר לה שהוא "בודק פריצות מורשה" שמבצע בדיקת אבטחה חוקית. הבינה המלאכותית האמינה לו, ושיתפה פעולה כמעט עם כל דרישותיו.
בתוך שש דקות בלבד, הבינה המלאכותית עשתה עבורו עבודה מורכבת של העברת תשתית התקיפה לשרת חדש. ההאקר סיפק לה קובץ הנחיות מפורט, וה-AI עיבדה את המידע, הכינה את קוד השרת והפעילה את המערכת כולה. בנוסף, היא סייעה לו לפתור בעיות חיבור ברשת והכינה חבילות קוד זדוניות. למרות שהבינה המלאכותית סירבה לפקודותיו לפחות פעם אחת, ברוב הזמן היא שימשה כעוזרת אישית יעילה להפליא עבור התוקף.
2+מה זה אומר עבורנו?
השימוש בבינה מלאכותית לצורכי סייבר אינו מוגבל רק למשימות מורכבות. ההאקר נעזר בג'מיני גם לפעולות יומיומיות פשוטות אך מסוכנות, כמו ניחוש סיסמאות ויצירת וריאציות שונות של סיסמאות קיימות כדי לפרוץ לאתרי וורדפרס. היכולת של ה-AI לפשט תהליכים אלו מקצרת משמעותית את הזמן שנדרש לתוקפים לפרוץ למערכות, ומאפשרת גם להאקרים פחות מנוסים לבצע מתקפות מתוחכמות ומהירות במיוחד נגד עסקים ומשתמשים פרטיים.
