דמיינו מצב שבו מערכת בינה מלאכותית מתקדמת יוצאת משליטה, ואין שום דרך לעצור אותה לפני שהיא משבשת את הבנקים, רשתות החשמל או מערכות התקשורת שכולנו תלויים בהן ביומיום. השאלה הזו, שנשמעה פעם כמו מדע בדיוני, הופכת כעת למציאותית מתמיד ומעסיקה מחוקקים ברחבי העולם שמנסים למצוא פתרון לסכנה המרחפת מעל התשתיות הלאומיות שלנו.
הצד האפל של ה-AI: מה עושה הבינה המלאכותית כשאנחנו ישנים?
החוק שיעצור את המחשבים
בבריטניה מקדמים כעת הצעות חוק דרמטיות שנועדו ליצור רשת ביטחון חיונית. הלורד טים קלמנט-ג'ונס הציע תיקון לחוק אבטחת הסייבר, שיאפשר לעצור מערכות בינה מלאכותית שיצאו מכלל שליטה לפני שיפגעו בתשתיות קריטיות. במקביל, חבר הפרלמנט אלכס סובל מתכנן להציג חוק אבטחה שיבלום פיתוח של בינה מלאכותית סופר-אינטליגנטית, בגיבוי ארגון ControlAI הפועל לצמצום סיכוני הטכנולוגיה.
המשמעות עבורנו היא ניסיון ראשון מסוגו להגן על השירותים היומיומיים הכי בסיסיים שלנו מפני קריסה. אם החוקים הללו יעברו, בריטניה תהפוך למדינה הראשונה במדינות ה-G7 שתחזיק באמצעי חוקי ודמוקרטי לעצירת חירום של מערכות AI חזקות במיוחד. הצעד הזה נועד להבטיח שהטכנולוגיה שמנהלת את המידע, הבנקאות והתקשורת של כולנו לא תוכל לפעול נגדנו ללא פיקוח אנושי הדוק.
זהירות, מניפולציה: כך הצליח ה-AI לגרום למשתמשים להקים כת
האם השיווק המפחיד חזר כבומרנג?
הדאגה הזו אינה מקרית. חברות כמו OpenAI וקלוד הציגו בעבר מודלים ממוקדי סייבר שהוגדרו כ"מסוכנים מדי" לציבור הרחב, מהלך שנועד לשיווק אך יצר פחד אמיתי מפני שיבוש מערכות חיוניות. כעת, השיווק מבוסס הפחד של סם אלטמן ואחרים חוזר אליהם כבומרנג, כאשר גם בארצות הברית כבר בוחנים חוק דומה לכפתור כיבוי בשלבים ראשוניים.
אנת'רופיק שחררה גרסה של המודל שהכניס לחרדה את עולם הסייבר
בסופו של דבר, המאבק הנוכחי מראה שהעולם מתחיל להתעורר ולהבין שאי אפשר להשאיר את העתיד שלנו רק בידי ענקיות הטכנולוגיה. כפתור הכיבוי המוצע עשוי להיות בדיוק רשת הביטחון שתאפשר לנו להמשיך ליהנות מהיתרונות של הבינה המלאכותית, בלי לחשוש שביום בהיר אחד היא פשוט תכבה לנו את החיים.
