בעוד העולם עדיין מתרגל למהפכת הבינה המלאכותית שהביאה עמה מערכות כמו ChatGPT, Gemini ו-Claude, במעבדות המחקר המתקדמות ביותר כבר מסתכלים לעבר היעד הבא: יצירת בינה מלאכותית שתוכל לבנות גרסאות חדשות ומשופרות של עצמה.
5+בכתבה נרחבת סוקר ה"פייננשל טיימס" את החזון הזה, המכונה בעולם המחקר "שיפור עצמי רקורסיבי" (Recursive Self-Improvement או RSI), נחשב בעיני רבים ל"קרב הבוס האחרון" בדרך לסופר-אינטליגנציה – מצב שבו מערכות בינה מלאכותית יעלו משמעותית על יכולות החשיבה והיצירתיות של בני האדם.
ההתפתחויות המהירות ביכולות התכנות של מערכות בינה מלאכותית במהלך החודשים האחרונים חיזקו את ההערכה בקרב חוקרים ומנהלי חברות כי הרעיון, שנחשב בעבר למדע בדיוני, עשוי להפוך למציאות בתוך זמן קצר בהרבה מכפי שהוערך בעבר.
5+מהו שיפור עצמי רקורסיבי? מודלי השפה הגדולים הקיימים כיום מאומנים על מאגרי מידע עצומים ולאחר מכן מספקים תשובות למשתמשים. למרות יכולותיהם המרשימות, הם אינם משפרים את עצמם באופן עצמאי. במודל של RSI התמונה שונה לחלוטין. המערכת משתמשת ביכולותיה כדי לפתח גרסה מתקדמת יותר של עצמה. לאחר מכן, אותה גרסה חדשה מסוגלת לבצע את התהליך פעם נוספת, וחוזר חלילה.
התוצאה האפשרית היא "אפקט גלגל תנופה": כל דור של בינה מלאכותית מפתח דור חכם ויעיל ממנו, שממשיך את התהליך בקצב הולך וגובר. אם המנגנון יעבוד כפי שחלק מהחוקרים מעריכים, ההתפתחות עשויה להפוך לאקספוננציאלית ולהוביל לזינוק דרמטי ביכולות המכונה.
טים רוקטשל, פרופסור לבינה מלאכותית ב-University College London ולשעבר חוקר בכיר ב-Google DeepMind, סיפר כי אחד מסטודנטים השווה לאחרונה את המצב הנוכחי לפרויקט מנהטן, תוכנית פיתוח הנשק הגרעיני האמריקנית. "כולנו סוג של אופנהיימרים קטנים בשלב הזה", אמר לו הסטודנט, ורוקטשל הודה כי ההשוואה אינה מופרכת.
5+מיליארדים זורמים למרוץ: האמונה כי RSI עשוי להיות פריצת הדרך הגדולה הבאה כבר מושכת השקעות עתק. אחת החברות הבולטות בתחום היא Recursive Superintelligence, שהוקמה בידי חוקרים לשעבר מ-OpenAI ו-DeepMind. החברה גייסה בחודש מאי האחרון 650 מיליון דולר לפי שווי של כ-4 מיליארד דולר בלבד חודשים ספורים לאחר הקמתה.
רוקטשל, שהצטרף למיזם, עובד על גישה שונה לפיתוח בינה מלאכותית, המבוססת על עקרונות אבולוציוניים המזכירים את תהליכי ההתפתחות בטבע. לדבריו, אותן טכניקות שיובילו להתקדמות המערכות עשויות לשמש גם לחיזוק מנגנוני הבטיחות שלהן.
מנכ"ל החברה, ריצ'רד סוצ'ר, אף הצהיר כי מדובר ב"מסלול המהיר ביותר לסופר-אינטליגנציה" וטען שככל שהאנושות תגיע ליעד הזה מוקדם יותר, כך תוכל לפתור יותר בעיות מדעיות וחברתיות.
בכירי הענף מזהירים – וגם מתלהבים
בשנה האחרונה גברו משמעותית ההתבטאויות של בכירים בשלוש מעבדות הבינה המלאכותית המובילות בעולם – OpenAI, Google DeepMind ו-Anthropic – בנוגע לאפשרות של התפתחות מואצת.
בכנס Google I/O האחרון אמר מנכ"ל Google DeepMind, דמיס הסאביס, כי בעתיד ייתכן שנביט לאחור על התקופה הנוכחית ונבין שעמדנו "למרגלות הסינגולריות" – נקודת המפנה התאורטית שבה הבינה המלאכותית חוצה את רף האינטליגנציה האנושית.
5+גם מנכ"ל OpenAI, סם אלטמן, הציב יעד שאפתני במיוחד: פיתוח "חוקר בינה מלאכותית אוטומטי אמיתי" עד שנת 2028. על פי גורמים המקורבים לחברה, אוטומציה של מחקר מדעי הפכה לאחד היעדים המרכזיים באסטרטגיית הפיתוח שלה.
במקביל, ב-Anthropic מעריכים כי קצב השיפור במערכות הבינה המלאכותית מהיר בהרבה מכפי שהציבור מבין. ג'ק קלארק, ממייסדי החברה, הזהיר לאחרונה כי העולם עדיין לא הפנים את עוצמת השינויים שעשויים להתרחש בשנים הקרובות.
החשש: אובדן שליטה
לצד ההתלהבות, הולכים ומתרבים גם הקולות המזהירים מפני הסיכונים. תומכי בטיחות בתחום חוששים כי מערכות שישפרו את עצמן עלולות לפרוץ את מנגנוני ההגנה שהוטמעו בהן. בתרחישים הקיצוניים, מערכות כאלה עשויות לסייע בפיתוח מתקפות סייבר מתקדמות, ביצירת נשק ביולוגי או בביצוע משימות מורכבות אחרות ללא פיקוח אנושי מספק.
מריוס הובבהאן, ראש קבוצת הבטיחות Apollo Research, טוען כי המרוץ מתנהל בקצב מסוכן. "כולם רצים לעבר הדבר הזה, אבל אף אחד לא יודע איך לעשות את זה בצורה בטוחה", אמר. "והאנושות אפילו לא מודעת לכך". לדבריו, אם מערכות תכנות מבוססות בינה מלאכותית כבר כיום מסוגלות לבצע בתוך דקות משימות שהיו דורשות ימים של עבודה אנושית, הרי שכל שיפור נוסף עלול להאיץ עוד יותר את קצב ההתקדמות.
מדע בדיוני או מציאות קרובה?
למרות האופטימיות, לא כל החוקרים משוכנעים שהחזון אכן בר-מימוש. מייקל וולדרידג', פרופסור לבינה מלאכותית באוניברסיטת אוקספורד, מזכיר כי במשך עשרות שנים נחשב RSI לרעיון תיאורטי בלבד. "אם זה נשמע כמו סיפור מדע בדיוני, זה משום שזה באמת כזה", אמר. "זה קרוב מאוד לנרטיב של 'שליחות קטלנית'." לדבריו, עדיין לא ברור מהם הגבולות האמיתיים של מערכות בינה מלאכותית, והקהילה המדעית טרם מבינה באופן מלא אילו מגבלות חישוביות ותיאורטיות עשויות לבלום את התהליך.
5+חוקרים נוספים טוענים כי חלק מההתלהבות סביב RSI מונעת גם מלחצי שוק ומהצורך של חברות צעירות לגייס הון עתק ממשקיעים. אולם גם הספקנים מודים כי היקף הכסף הזורם כיום לתחום עשוי לאפשר ניסויים ומחקרים בקנה מידה שלא היה קיים בעבר.
המהפכה הבאה כבר כאן?
ארגוני מחקר העוקבים אחר התקדמות הבינה המלאכותית מעריכים כי מורכבות המשימות שמערכות מסוגלות לבצע באופן עצמאי מוכפלת בקצב מהיר במיוחד. אם המגמה תימשך, ייתכן שהעשור הקרוב ייזכר כנקודת המפנה החשובה ביותר בתולדות הטכנולוגיה.
השאלה הגדולה שנותרה פתוחה אינה רק האם בינה מלאכותית תוכל לשפר את עצמה, אלא האם האנושות תצליח להבטיח שהתהליך יישאר תחת שליטה. עבור חלק מהחוקרים מדובר במפתח לעידן של שגשוג חסר תקדים; עבור אחרים, זהו אחד הניסויים המסוכנים ביותר שביצעה האנושות מאז המצאת הפצצה הגרעינית.
