אימת הטכנולוגיה: "אני חושב שהם לא צריכים להמשיך לפתח את הבינה המלאכותית יותר עד שיבינו אם הם יכולים לשלוט בזה", אומר ג'פרי הינטון המכונה 'סנדק הבינה המלאכותית'. הינטון, שעבד בגוגל מעל עשור ופיתח טכנולוגיה שסללה את הדרך למערכות בינה מלאכותית (AI) חדשניות כמו ChatGPT, פורש מגוגל ומזהיר את האנושות מפני עתיד הטכנולוגיה.
עם פרישתו הכריז הינטון על כל במה שניתנה לו מהסכנות שהטכנולוגיה מציבה: "אני מתחרט על העבודה שתרמתי לתחום", אמר לרשת הניו-יורק טיימס, עיתון אמריקני בר השפעה עם קהל קוראים גדול ברחבי העולם. "אני מנחם את עצמי בתירוץ הרגיל: אם לא הייתי עושה את זה, מישהו אחר היה עושה". את חששותיו הוא מחלק לשני חלקים: הראשון הוא לטווח הקצר, והשני צופה פני העתיד הרחוק.
2+בטווח הקצר, הוא חושש שהטכנולוגיה תביא לכך שאנשים "לא יוכלו לדעת מה נכון יותר" בגלל ריבוי תמונות מזוייפות, סרטונים ודיפ פייק. בראייה לעתיד, הוא חושש מיכולתה של הבינה המלאכותית להתפתח בלימוד התנהגות בלתי צפויה ומסוכנת, ושמערכות כאלה בסופו של דבר יניעו דברים רעים כמו רובוטים רוצחים.
הוא גם נמנה בקרב מנבאי הרעות לשוק התעסוקה בטענה שהטכנולוגיה תזיק לשוק באופן משמעותי ותותיר אנשים רבים מחוץ למעגל העבודה, אך הוא בהחלט לא היחיד שחושש מכך, וכדוגמה לכך מצטברות הוכחות רבות בשטח: רק לפני פחות מיממה הכריז מנכ"ל IBM ארווינד קרישנה שהחברה תקפיא גיוס של 7,800 עובדים שיוחלפו על ידי בינה מלאכותית. לדבריו, ניתן יהיה להחליף לפחות 30% מתפקידי בק אופיס (Back Office) בתוך פחות משלוש שנים.
2+"הרעיון שהדבר הזה יכול להיות יותר חכם מאנשים – אנשים האמינו בזה, אבל חשבו שזה רחוק", הוא אומר. "גם אני חשבתי שזה רחוק, לפחות עוד 30 שנה, ברור שאני כבר לא חושב ככה". הוא הוסיף והזהיר כי נדרשת רגולציה כדי להבטיח שחברות ענק כמו גוגל ומייקרוסופט לא יינעלו ב"מירוץ מסוכן", כפי שכינה אותו. הוא מעלה השערה לא מבוססת שאומרת שייתכן שהחברות הללו כבר עובדות על מערכות מסוכנות בסתר.
ד"ר הינטון הוא אינו המומחה הראשון ל-AI שמשמיע קול זעקה על הסכנות שבטכנולוגיות שהם בעצמם פיתחו: בחודשים האחרונים, שני מפתחים גדולים הזהירו מפני "הסיכונים העמוקים לחברה ולאנושות" שהבינה הזו מהווה, ונחתמו על ידי רבים מהאנשים שעזרו ליצור אותה.
2+כמו רבים אחרים, ד"ר הינטון אמר שהוא מודאג יותר מהסיכונים של הטכנולוגיה במהלך השנה האחרונה, עם התפתחות טכנולוגיות כמו ChatGPT של חברת OpenAI וה-Bard של גוגל. השקפתו השתנתה כשהתחיל להאמין שהמערכות מתחילות להתנהג בדרכים שלא היו אפשריות כלל במוח האנושי.
זה עשוי להיות נכון עוד יותר בשנים הבאות, ככל שחברות משכללות ומשדרגות את מערכות ה-AI שלהן. ככל שהם עושים זאת, המערכות הופכות למסוכנות יותר. "תראו איפה זה היה לפני חמש שנים ואיפה זה עכשיו", אמר הינטון על הטכנולוגיה בחשש, "זה מפחיד".
