סכנת הבינה המלאכותית: הבית הלבן יארח היום (חמישי) מנכ"לים של חברות בינה מלאכותית מובילות, כולל ענקיות הטכנולוגיה גוגל ומייקרוסופט, כדי לדון בסיכונים ובהשלכות של כלים מבוססי AI ובאמצעי הגנה נגד האיומים השונים.
זמן לא רב חלף מאז הושקה האפליקציה ChatGPT והיא כבר מעוררת באזז בזירה הטכנולוגית, ובכלל בקרב מיליוני משתמשים ברחבי העולם שהתלהבו מהיכולות המרשימות של צ'אט העל, בין היתר כתיבת תסריטים, יצירת תקצירים משפטיים, ניפוי באגים בתוכנות, ביצוע אבחנות רפואיות ועוד.
2+הבינה המלאכותית יצרה חוסר וודאות מוחלט סביב לא מעט משרות שעלולות להיעלם לטובת הבוטים הטכנולוגיים. הבינה המלאכותית מביאה בכנפיה סכנות נוספות, בהן הפרות פרטיות, הונאות והפצת מידע מוטעה באופן שיקשה להבחין בין המציאות האבסולוטית לבין זו השקרית.
"אנו שואפים לקיים דיון פתוח לגבי הסיכונים שטמונים בפיתוח הבינה המלאכותית הנוכחית והעתידנית" אמר בכיר בממשל האמריקני. "אם אנחנו מעוניינים לנצל את היתרונות של ה-AI, אנחנו צריכים להתחיל לנהל סיכונים".
2+בדיון ישתתפו נציגים מגוגל, מייקרוסופט, OpenAI ו-Anthropic, יחד עם סגנית הנשיא קמילה האריס ופקידי ממשל נוספים כולל ראש הסגל של ביידן ג'ף זיינטס, היועץ לביטחון לאומי ג'ייק סאליבן ומנהל המועצה הלאומית לכלכלה.
יצוין כי ענקיות הטכנולוגיה הבטיחו פעמים רבות להילחם בתעמולה ופייק ניוז בתקופת בחירות, חדשות מזויפות על אודות נגיף הקורונה, מסרים גזעניים וסקסיסטיים, פורנוגרפיה, ניצול ילדים והודעות שנאה המכוונות לקבוצות אתניות. אחוזי ההצלחה שלהם נמוכים במיוחד, כאשר על פי מחקר של ה-NGO, רק כתבה אחת מכל חמש כתבות מזויפות באנגלית הוסרו מהרשתות או תויגו כמידע מוטעה.
האזהרה המצמררת של המפתח שפרש מתחום הבינה המלאכותית
אני חושב שהם לא צריכים להמשיך לפתח את הבינה המלאכותית יותר עד שיבינו אם הם יכולים לשלוט בזה", אומר ג'פרי הינטון המכונה 'סנדק הבינה המלאכותית'. הינטון, שעבד בגוגל מעל עשור ופיתח טכנולוגיה שסללה את הדרך למערכות בינה מלאכותית (ai) חדשניות כמו chatgpt, פורש מגוגל ומזהיר את האנושות מפני עתיד הטכנולוגיה.
עם פרישתו הכריז הינטון על כל במה שניתנה לו מהסכנות שהטכנולוגיה מציבה: "אני מתחרט על העבודה שתרמתי לתחום", אמר לרשת הניו-יורק טיימס, עיתון אמריקני בר השפעה עם קהל קוראים גדול ברחבי העולם. "אני מנחם את עצמי בתירוץ הרגיל: אם לא הייתי עושה את זה, מישהו אחר היה עושה". את חששותיו הוא מחלק לשני חלקים: הראשון הוא לטווח הקצר, והשני צופה פני העתיד הרחוק.
2+בטווח הקצר, הוא חושש שהטכנולוגיה תביא לכך שאנשים "לא יוכלו לדעת מה נכון יותר" בגלל ריבוי תמונות מזויפות, סרטונים ודיפ פייק. בראייה לעתיד, הוא חושש מיכולתה של הבינה המלאכותית להתפתח בלימוד התנהגות בלתי צפויה ומסוכנת, ושמערכות כאלה בסופו של דבר יניעו דברים רעים כמו רובוטים רוצחים.
