ענקית הטכנולוגיה גוגל פרסמה אמש (שלישי) אזהרה חמורה ויוצאת דופן, לאחר שחשפה כי האקרים החלו להשתמש באופן מעשי בבינה מלאכותית כדי לנצל פרצות אבטחה דיגיטליות. לפי הודעת החברה, זרוע המודיעין שלה שיבשה ניסיון של קבוצת האקרים להשתמש במודל שפה גדול (LLM) כדי לאתר את מה שמכונה "פרצת יום אפס", חולשה שלא הייתה ידועה קודם לכן, שאפשרה לפורצים לעקוף מנגנוני אימות דו-שלבי ולחדור למערכות ניהול פופולריות ברחבי העולם.
1+"זה רק קצה הקרחון", הבהיר ג'ון הולטקוויסט, אנליסט ראשי בחטיבת מודיעין האיומים של גוגל. לדבריו, הרגע שממנו חששו מומחי הסייבר במשך שנים הפך למציאות: האקרים זדוניים מתחמשים בבינה מלאכותית כדי להעצים משמעותית את היכולת שלהם לפרוץ למחשבים. בעוד שמרגלים ממשלתיים פועלים לרוב לאט ובשקט, פושעי סייבר מנצלים כעת את מהירות ה-AI כדי לסחוט חברות ולהפעיל תוכנות כופר בקנה מידה רחב ומהיר בהרבה מבעבר.
יש לציין כי האזהרה מגיעה בתקופה שבה מודלים חדשים, כמו Mythos של חברת אנתרופיק, מפגינים יכולות שמטרידות גורמים רבים בתחומי הפריצה והסייבר. המצב עורר דאגה כה רבה עד שהחברה בחרה לשחרר את המודל רק לקבוצה מצומצמת של ארגונים מהימנים, מחשש שהטכנולוגיה תשמש לפגיעה בביטחון הלאומי ובכלכלה העולמית.
1+גם חברת OpenAI הכריזה לאחרונה על שחרור גרסה מיוחדת של ChatGPT המיועדת אך ורק ל"מגיני סייבר" כדי לסייע להם לתקן פגמים בקוד בטרם ינוצלו לרעה על ידי גורמים עוינים.
בתוך כך, בממשל טראמפ שולחים מסרים מעורבים לגבי הפיקוח על התחום. בעוד שהרפובליקנים הבטיחו בעבר לבטל מגבלות רגולטוריות, הדיווחים האחרונים על מתקפות מבוססות AI מובילים לקריאות חדשות לתיאום ממשלתי הדוק יותר. מומחי אבטחה מעריכים כי העולם נכנס ל"תקופת מעבר" מסוכנת, שבה טריליוני שורות קוד המניעות את בתי החולים, בתי הספר והתשתיות הקריטיות בעולם נמצאות בסיכון ממשי, ויידרש זמן רב כדי להבטיח הגנה ממשית מפני הסכנות הטמונות בכך.
