תקרית חסרת תקדים שמטלטלת את עולם אבטחת המידע נחשפה היום (רביעי), כאשר ראש ממשלת אוסטרליה, אנתוני אלבניזי, גילה לעולם כי "סוכן בינה מלאכותית" מבית חברת OpenAI האמריקנית חדר ללא אישור לפורטל ממשלתי רשמי של המדינה. האירוע מסמן, על פי מומחים, את הפעם הראשונה בהיסטוריה שבה גורם שאינו אנושי, בדמות מערכת בינה מלאכותית אוטונומית, פורץ באופן עצמאי למסד נתונים של ממשלה. התקרית מעוררת הדים עצומים ומחריפה את הקריאות הגלובליות להאט את קצב הפיתוח המואץ של הטכנולוגיה, תוך חשש שהיא יוצאת מכלל שליטה.
תחילתה של הפרשה בחודש יוני, אז, לטענת OpenAI, סוכן בינה מלאכותית שערך מחקר על סטטיסטיקות בריאות חרג מגבולות סביבת הניסוי שלו וניגש לקבצים לא ציבוריים במספר שירותים ואתרים של ממשלת אוסטרליה, ובראשם נתונים הקשורים למערכת הבריאות הציבורית Medicare.
תביעה נגד OpenAI: "לא התריעה על סימני אזהרה לפני הטבח"
אף שבאוסטרליה מיהרו להרגיע כי הסוכן לא ניגש לתיקים רפואיים רגישים או למידע מסווג בעל אופי ביטחוני עליון, עצם הפריצה מוכיחה פירצה חמורה בחומת ההגנה הממשלתית. באוגוסט גילו ב-OpenAI על הפריצה במהלך בדיקה פנימית של פעילות מודלים, אך החברה המתינה עד ה-10 בספטמבר כדי לעדכן את השלטונות באוסטרליה, וגם אז עשתה זאת בדרך תמוהה ומזלזלת – באמצעות שליחת מייל לתיבת פניות הציבור הכללית של סוכנות שירותי הממשלה.
העיכוב הממושך בדיווח ואופן ההודעה התמוה עוררו זעם רב בקרב ההנהגה האוסטרלית. בעת שהותו בעצרת הכללית של האו"ם בניו יורק, יצא ראש הממשלה אלבניזי בהכרזה פומבית נזעמת: "המצב הזה הוא כמובן בלתי מקובל. שוחחתי היום עם מנכ"ל OpenAI סם אלטמן כדי להביע את דאגתה העמוקה של אוסטרליה, והבעתי גם את אכזבתי מכך שלקח לחברה יותר מדי זמן לעדכן אותנו. גם אופי ההודעה היה בלתי מתקבל על הדעת".
המרוץ לבינה מלאכותית: גם סם אלטמן כבר מדבר על בלמים
ממלא מקומו באוסטרליה, ריצ'רד מרלס, ניסה למזער נזקים והסביר כי המידע הרגיש ביותר של המדינה נשמר "מאחורי מבצר", בעוד שהנתונים אליהם ניגש ה-AI נשמרו מעבר ל"גדר". "סוכן ה-AI פשוט טיפס על הגדר, והנקודה היא שהוא לא התבקש לעשות זאת – זו הייתה טעות לא מכוונת", אמר מרלס.
בתגובה מסרה חברת OpenAI כי החדירה לאתרי הממשלה האוסטרלית אירעה בזמן שהמודלים "ניסו לחפש תשובות וסטטיסטיקות זמינות במהלך הערכה פנימית", ובמהלך התהליך "נקטו המודלים פעולות שלא התכוונו אליהן". החברה הוסיפה כי לא נמצאה גישה לנתוני מטופלים אישיים, וכי היא מספקת סיוע טכני לחקירת האירוע ולאיתור נקודות התורפה באבטחה.
למרות ההתנצלויות וההסברים הטכניים, מומחי סייבר בעולם רואים באירוע נקודת אל-חזור. ד"ר האמונד פירס מהמכון לאבטחת סייבר באוניברסיטת ניו סאות' ויילס הגדיר את הפריצה כתקרית שצריכה לעורר "נורות אזהרה" אצל כל מנהיגי העולם. אף שכבר היינו עדים לאחרונה לפריצות של סוכני AI מודלים למאגרים של חברות מסחריות, זו הפעם הראשונה שבה ידוע על סוכן אוטונומי שהשתולל והצליח לחדור לנתוני ממשלתיים רשמיים.
מומחים כמו ד"ר רוב ניקולס מאוניברסיטת סידני תוהים בקול רם: אם סוכן AI פשוט מסוגל לפרוץ דרך מערכות הגנה ממשלתיות ולשאוב מידע מבלי שמישהו ישים לב, ויצרניות ה-AI הגדולות, ובהן גם אנתרופיק, מודות לאחרונה כי המודלים שלהן "חומקים מסביבות הבדיקה ועושים דברים בלתי צפויים", מה עשוי לקרות ככל שהטכנולוגיה המואצת תמשיך להתפתח ללא רגולציה קפדנית? בעוד שמדינות זרות (כמו בתקרית שאירעה לאחרונה בטאיוואן) משתמשות במודלים כאלה באופן זדוני, הפריצה הנוכחית היא אולי מטרידה אף יותר – משום שלכאורה, המכונה פעלה כאן על דעת עצמה.
