חברת הבינה המלאכותית האמריקאית Anthropic, המפתחת את הצ'אטבוט "קלוד" (Claude), מדווחת כי הטכנולוגיה שלה נוצלה על ידי האקרים לביצוע מתקפות סייבר מתוחכמות. החברה טוענת כי הכלים שלה שימשו "לגניבה והוצאה לפועל בקנה מידה גדול של נתונים אישיים".
Anthropic זיהתה מספר מקרים שבהם הבינה המלאכותית שלה שימשה לסייע בכתיבת קוד עבור מתקפות סייבר. באחד המקרים, רמאים צפון קוריאנים השתמשו ב"קלוד" כדי להשיג במרמה משרות מרחוק בחברות אמריקאיות מובילות.
החברה הצליחה לשבש את פעילותם של הגורמים העוינים, דיווחה על המקרים לרשויות ושיפרה את כלי הזיהוי שלה.
מתקפות "Vibe Hacking"
Anthropic גילתה מקרה של מה שהיא מכנה "Vibe Hacking", שבו הבינה המלאכותית שלה שימשה לכתיבת קוד שאפשר פריצה ל-17 ארגונים שונים לפחות, כולל גופים ממשלתיים. החברה ציינה כי ההאקרים "השתמשו ב-AI במידה חסרת תקדים". הם השתמשו ב"קלוד" כדי "לקבל החלטות טקטיות ואסטרטגיות, כגון החלטה אילו נתונים להוציא, וכיצד לנסח דרישות כופר מכוונות פסיכולוגית". הבינה המלאכותית אף הציעה סכומי כופר לקורבנות.
שימוש בבינה מלאכותית לסיוע בכתיבת קוד הולך וצובר פופולריות ככל שהטכנולוגיה הופכת ליכולתית ונגישה יותר. דוגמאות אלו ממחישות את הסיכונים הפוטנציאליים שמציבים כלים רבי עוצמה לקורבנות פשעי סייבר.
אלינה טימופייבה, יועצת בנושאי פשעי סייבר ו-AI, ציינה כי "הזמן הנדרש לניצול פגיעויות אבטחת סייבר מתקצר במהירות". לדבריה, "הזיהוי וההפחתה חייבים לעבור להיות פרואקטיביים ומונעים, ולא תגובתיים לאחר שנגרם נזק".
"סוכנים צפון קוריאנים" מנצלים AI להונאות
מעבר לפשעי סייבר, Anthropic גילתה כי "סוכנים צפון קוריאנים" השתמשו במודלים שלה כדי ליצור פרופילים מזויפים ולהגיש מועמדות למשרות מרחוק בחברות טכנולוגיה אמריקאיות מובילות (Fortune 500). ניצול משרות מרחוק כדי להשיג גישה למערכות חברות ידוע כבר זמן מה, אך Anthropic מדגישה כי שימוש ב-AI בתרמית זו מהווה "שלב חדש במהותו עבור הונאות תעסוקה אלו".
לדברי החברה, הבינה המלאכותית שימשה לכתיבת בקשות עבודה, ולאחר שהרמאים התקבלו לעבודה, היא סייעה בתרגום הודעות ובכתיבת קוד. ג'ף ווייט, מגיש-שותף בפודקאסט "The Lazarus Heist" של ה-BBC, ציין כי לעיתים קרובות עובדים צפון קוריאנים "מנותקים מהעולם החיצון, תרבותית וטכנית, מה שמקשה עליהם לבצע את התחבולה הזו". הוא הוסיף כי "בינה מלאכותית סוכנת יכולה לעזור להם לדלג מעל המחסומים האלה, ולאפשר להם להתקבל לעבודה". במקרים כאלה, המעסיק החדש "מפר אז סנקציות בינלאומיות על ידי תשלום בלתי מודע לצפון קוריאני".
עם זאת, ווייט ציין כי AI "אינה יוצרת כרגע גלי פשיעה חדשים לחלוטין", וכי "פריצות רבות עדיין מתרחשות בזכות טריקים בדוקים כמו שליחת הודעות פישינג וחיפוש חולשות בתוכנה".
ניוודיטה מורת'י, יועצת אבטחה בכירה בחברת אבטחת הסייבר Black Duck, הדגישה כי "ארגונים צריכים להבין ש-AI היא מאגר של מידע חסוי הדורש הגנה, בדיוק כמו כל מערכת אחסון אחרת".
