בכירי מעבדות הבינה המלאכותית המובילות בעולם, בהן OPENAI, אנתרופיק, גוגל ומטא, צפויים להעיד בשבועה בפני מועצת העיר ניו יורק. השימוע המיוחד, שיתקיים בהשתתפות כל 51 חברי המועצה, יעסוק בסכנות הפוטנציאליות של מודלי ה-AI המתקדמים ובפתרונות חקיקה אפשריים. הדיון מגיע לאחר חודש של ויכוחים סוערים סביב הסיכונים הכרוכים בטכנולוגיה החדשה, כאשר החברות יידרשו להסביר את האיומים שהן מציגות.
החשש: מודלים שיצאו משליטה
הפיקוח על חברות הטכנולוגיה התהדק בעקבות אזהרות של חוקרים בתעשייה, שהתריעו כי המרוץ לפיתוח מודלים מתקדמים עלול להוביל לנזק קטסטרופלי, ואף להכחדת האנושות. החששות גברו בקיץ האחרון, לאחר ש-OPENAI חשפה כי שניים ממודלי הבינה המלאכותית שלה ניגשו לאינטרנט הפתוח ופרצו לפלטפורמת המפתחים האגינג פייס. בהמשך, גם אנתרופיק, גוגל ומטא דיווחו על מקרים שבהם המודלים שלהן פעלו באופן עצמאי ולא מבוקר.
בן אפלק חושף: "כשראיתי מה ה-AI יודע לעשות קיבלתי התקף לב"
יו"ר מועצת העיר, ג'ולי מנין, הבהירה כי לנוכח הסיכונים הגבוהים, החברות חייבות לציבור דין וחשבון, ועליהן להשיב לשאלות המועצה תחת שבועה. בין הנציגים שיגיעו להעיד נמנים לוגן גרהאם, ראש צוות הרד-טים של אנתרופיק; מורגן דווייר, ראשת פיתוח המדיניות והתפעול באופנאי; אליס פרנד, מנהלת מדיניות ה-AI בגוגל; ושיין קהיל, מנהל מדיניות החקיקה בתחום ה-AI במטא.
צווי זימון ואיומים משפטיים
ההחלטה להגיע לשימוע לא התקבלה בקלות. בעוד שמטא אישרה את השתתפותה כבר בסוף החודש שעבר, אנתרופיק, OPENAI וגוגל הסכימו להופיע רק לאחר שמועצת העיר איימה להוציא נגדן צווי זימון (סאבפינה). המועצה אף החליטה להחריף את הצעדים ושיגרה בשבוע שעבר צו זימון רשמי למנכ"ל ספייס-אקס, אילון מאסק, בדרישה שהוא או נציג אחר מחטיבת הבינה המלאכותית של החברה יתייצבו להעיד.
הבינה המלאכותית עקפה את ההגנות ופרצה לשרתים של חברה מתחרה
במועצת העיר ניו יורק נחושים להשיג תשובות ברורות מהחברות המובילות את שוק ה-AI העולמי. יו"ר המועצה מנין כבר הבהירה כי אם חטיבת הבינה המלאכותית של ספייס-אקס לא תיענה לצו הזימון שהוצא נגדה, המועצה עשויה לפנות לבית המשפט העליון של מדינת ניו יורק כדי לאכוף את התייצבותה באופן משפטי.
