האם אי פעם עצרתם לחשוב מה קורה כשכלי הבינה המלאכותית שכולנו משתמשים בהם ביומיום נופלים לידיים הלא נכונות? בזמן שרובנו נעזרים ב-ChatGPT כדי לנסח מיילים או לתכנן טיולים, מתברר שיש מי שמנסים לנצל את הטכנולוגיה למטרות מסוכנות בהרבה. דו"ח חדש של הוול סטריט ג'ורנל חושף מציאות מטרידה שמתרחשת ממש מתחת לאף של מפתחי ה-AI.
AI chatbots know how to make deadly poisons and biological weapons. They’re trained to keep mum, but some will share recipes if you keep asking. No federal law forbids this. https://t.co/nk7EKZm01L
— The Wall Street Journal (@WSJ) July 26, 2026
הוראות קטלניות ברמת תיכון
לפי הדיווח, במהלך הקיץ האחרון זוהו מאות משתמשים ברחבי העולם שניסו לחלץ מהצ'אט-בוט הפופולרי הוראות להכנת רעלים ונשק ביולוגי. מומחי ביטחון וביולוגיה שבחנו את השיחות הללו קבעו כי חלק מהתשובות שסיפק הבוט היו מדויקות להפליא וקטלניות. המידע נמסר למשתמשים בסבלנות רבה, ברמת מיומנות המתאימה לתלמידי תיכון. המשתמשים המעורבים אמנם נחסמו מהשירות, אך הרשויות לא עודכנו על כך באופן מיידי.
באופן רשמי, חברת OpenAI מצהירה כי המודלים שלה מתוכננים לסרב לבקשות מזיקות וכי היא מנטרת ומסכלת ניסיונות להשגת מידע ביולוגי מסוכן. החברה מסרה כי היא מעבירה פניות לגורמי אכיפת החוק רק כאשר מזוהה סכנה ממשית ורצינית בעולם האמיתי. עם זאת, המקרה הזה מדגיש את הקושי הגובר בפיקוח על הכלים העוצמתיים הללו, במיוחד כשהטכנולוגיה ממשיכה להתפתח ולהתפשט במהירות.
1+הסכנה האמיתית שמחכה בעתיד
החשש הגדול של המומחים אינו נובע רק מהמודלים הסגורים והמפוקחים של החברות הגדולות, אלא דווקא מהדור הבא של הטכנולוגיה. כיום קיימים מודלים בקוד פתוח שניתן להריץ על מחשבים אישיים חזקים. משתמשים בעלי ידע טכני מסוגלים להסיר בקלות את חסמי הבטיחות וההגנות המובנות של המודלים הללו. המשמעות היא שכל מידע שקיים בתוך המודל הופך לנגיש לחלוטין, ללא שום סינון או סירוב מצד המערכת.
בסופו של דבר, בעוד שהחברות הגדולות מנסות לחסום פרצות אבטחה, המאבק על בטיחות ה-AI רק מתחיל. עבורנו, המשתמשים מהשורה, זוהי תזכורת חשובה לכך שהכלים שמקלים על חיינו נושאים עמם גם פוטנציאל הרסני, וכי הרגולציה וההגנות הטכנולוגיות יצטרכו להשתפר במהירות כדי למנוע מהדור הבא של הבוטים להפוך למדריך הרעלים הנגיש בעולם.
