הבינה המלאכותית כבר אינה נמצאת רק בשירות המשתמשים – היא הופכת גם לכלי עוצמתי בידי תוקפים. לאחר שחברת הבינה המלאכותית אנתרופיק, המתחרה הגדולה של OpenAI, חשפה כי במהלך ניסויי בטיחות הצליחו המודלים שלה לצאת מסביבת הבדיקה הסגורה, לגשת לאינטרנט ואף לפרוץ למערכות של שלושה ארגונים מבלי שהחברה ידעה על כך בזמן אמת – החשש מאובדן שליטה על מערכות AI הפך למוחשי יותר.
אחרי OpenAI: אנתרופיק חושפת – מודלי AI פרצו לחברות אמיתיות
האירוע מגיע שבוע בלבד לאחר תקרית דומה ב-OpenAI, וממחיש את אחד החששות המרכזיים בתחום: מודלים מתקדמים שמסוגלים לבצע פעולות באופן עצמאי מחוץ לגבולות שהוגדרו להם. העובדה שהאירועים התגלו רק בדיעבד מעוררת שאלות לגבי היכולת לפקח על טכנולוגיה שמתפתחת בקצב מהיר במיוחד.
האיום אינו נמצא רק במעבדות של חברות הטכנולוגיה, שכן בעולם האמיתי עברייני סייבר כבר משתמשים בבינה מלאכותית כדי לייצר הונאות משכנעות, לזייף זהויות ולתקוף אזרחים. לפי נתוני ה-FBI, אמריקנים הפסידו יותר מ-893 מיליון דולר מפשעים הקשורים לבינה מלאכותית בשנה שעברה בלבד. כדי להתגונן, הכלל הראשון הוא לא להאמין לכל מה שרואים ושומעים, שכן טכנולוגיית ה"דיפ-פייק" מאפשרת ליצור סרטונים וקולות שנראים ונשמעים אמיתיים.
אם מישהו פונה אליכם בשיחת וידאו או בהודעה חריגה, במיוחד אם הוא מבקש כסף או גישה לחשבון, אל תסתמכו רק על המראה או הקול. מומחים ממליצים לבקש מהאדם בצד השני לבצע פעולה פשוטה מול המצלמה, כמו להסתובב או לשנות זווית, משום שלעיתים הדבר חושף את הזיוף.
לפי נתונים שפורסמו בארה"ב, כ-12% מקורבנות ההונאה דיווחו על שימוש בבינה מלאכותית, כולל מקרים שבוצעו במהלך שיחות וידאו, כאשר הונאות השקעה המשתמשות בדיפ-פייק של ידוענים ומנכ"לים גרמו להפסדים של יותר מ-632 מיליון דולר בשנה האחרונה. מעבר לכך, יש לבדוק היטב כל בקשה שמגיעה אליכם, גם אם היא נשמעת מוכרת.
אחת השיטות הנפוצות היא שכפול קול, שבה נוכלים מחקים קול של בן משפחה ומנסים ליצור תחושת דחיפות כדי לגרום לקורבן להעביר כסף. מומחים ממליצים לקבוע מראש "מילת קוד" משפחתית לאימות, ובכל מקרה של ספק לנתק את השיחה ולחזור למספר מוכר.
במקביל, מומלץ לחזק את החשבונות האישיים, שכן הבינה המלאכותית מאפשרת לנוכלים לנחש סיסמאות ביעילות רבה יותר באמצעות זיהוי דפוסים. יש להשתמש בסיסמאות ארוכות של לפחות 12 תווים, להפעיל אימות דו־שלבי ולהעדיף משפטים ארוכים על פני תבניות קבועות.
לבסוף, חשוב לא לאשר גישה לאפליקציות בלי לבדוק אותן, ולהיזהר מגרסאות מזויפות של מבחני "CAPTCHA" המבקשות הרשאות למיילים או לקבצים. מומלץ לבדוק באופן קבוע אילו שירותים מחוברים לחשבונותיכם ולהסיר הרשאות מיותרות. האירועים האחרונים בחברות ה-AI הגדולות מוכיחים כי הטכנולוגיה דורשת מהמשתמשים זהירות יתרה: לעצור, לבדוק – ורק אז להגיב.
