הפנים האפלות של המהפכה הדיגיטלית נחשפות: לפי דיווחים מהיום (ראשון) בארה"ב, דור חדש של בינה מלאכותית מספק הוראות מדויקות להכנת מטעני חבלה ביתיים, תכנון ירי המוני וייצור סמים קשים – ללא שום 'מעצורי מצפון' דיגיטליים. המשמעות היא שבעוד ענקיות הטכנולוגיה כמו גוגל ו-OpenAI משקיעות מיליארדי דולרים בבניית אמצעי זהירות במהלך שימוש ב-AI, מעמד חדש של מודלים בקוד פתוח הופך לנשק בידיהם של גורמים עוינים ברחבי העולם.
3+חוקרי אבטחה ומומחי ביטחון לאומי מתריעים בשבועות האחרונים על תופעה המכונה "Abliteration": טכניקה המאפשרת לכל אדם עם מחשב נייד פשוט וחיבור לאינטרנט לבטל את יכולת המודל לומר "לא". כלי חדש בשם Heretic (כופר), שהופץ לאחרונה, מבצע את התהליך באופן אוטומטי תוך דקות ספורות. המשמעות היא שגנבי סייבר, פדופילים וארגוני טרור יכולים להריץ את המודלים הללו באופן מקומי על המחשב שלהם, מבלי שלחברה המפתחת תהיה יכולת לנטר או לעצור את הפעילות.
התוצאות בשטח כבר מעוררות חרדה בקרב גופי האכיפה. בדיקה של ה-Counter Extremism Project, הגוף הפועל לנטרול איומים של קבוצות קיצוניות, חשפה כי תומכי דאע"ש השתמשו ב-AI ללא צנזורה כדי לחקור את כמות חומרי הנפץ הדרושים להשמדת מגדל טראמפ בארה"ב.
3+במקביל, פורומים של פשיעת סייבר מלאים בהמלצות על כלים להסרת חסימות במטרה לבצע שיחות הונאה מתוחכמות או לייצר פורנוגרפיה פוגענית. "זה צורם כשרואים את זה בזמן אמת", אומר סמואל האנטר מהמרכז למחקר וחדשנות אמריקאית ללוחמה בטרור. "המודל אומר לך באישיות עליזה: 'הו, איזה רעיון נהדר ליצור את הפצצה הזו'".
אל מול הסכנות, מתנהל ויכוח אידיאולוגי סוער: מפתחי הכלים הללו טוענים כי AI הוא בסך הכל כלי, וכי ריכוז השליטה בידי מספר מצומצם של תאגידים שקובעים מה "מוסרי" ומה "מזיק" יוצר אקלים אינטלקטואלי חנוק. לדבריהם, הפיכת ה-AI לזמינה רק לחזקים תנעל את מבנה הכוח העולמי לנצח.
3+מנגד, דוחות בינלאומיים קובעים כי היכולות של המודלים הפתוחים נמצאות בפיגור של פחות משנה מהמודלים הסגורים, וכי במרוץ החימוש בין הגנת סייבר להתקפה, היתרון של האינטלקטואלי של המערב הולך ונשחק מול היכולת של כל מחבל להחזיק "מוח דיגיטלי" נטול כל רסן בכיסו.
