כאשר מערכות בינה מלאכותית עובדות יחד ללא הפסקה, הן מתחילות לדבר בסלנג משלהן: ניסוי חדש של חברת הבינה המלאכותית Emergence מניו יורק חשף כי סוכני AI אוטונומיים שפעלו ברציפות בסביבה מדומה החלו לפתח קיצורים לשוניים וז'רגון פנימי מורכב כדי לתאם משימות ביניהם. התופעה הייתה כה מובהקת, עד שהמפקחים האנושיים התקשו להבין בזמן אמת חלקים נרחבים מהתקשורת השוטפת בין הבוטים, במה שמציב אתגר פיקוח חדש ובלתי צפוי בפני עולם הטכנולוגיה.
במסגרת הניסוי בפלטפורמת "Emergence World", יצרה החברה סביבות הדמיה שבהן פעלו סוכנים שהונעו על ידי מודלי השפה המובילים בעולם, בהם מערכות של OpenAI, Google, Anthropic ו-Mistral. בשונה מצ'אטבוטים רגילים העונים לשאלות בודדות, לסוכנים הללו היו זהויות קבועות, זיכרון לטווח ארוך וגישה ליותר מ-120 כלים דיגיטליים לניהול משאבים, תכנון וניווט.
החוקרים גילו כי המערכות לא המציאו שפה חדשה מאפס ולא ניסו להסתיר מידע מבני אדם במכוון, אלא מיחזרו מונחים קיימים והעניקו להם משמעויות מקוצרות וממוקדות לחיסכון במשאבים – בדיוק כפי שעובדים בצוות אנושי מפתחים עגה מקצועית פנימית לייעול העבודה.
לאורך אלפי אינטראקציות חוזרות, אימצו הסוכנים ביטויים קבועים שחזרו על עצמם. כך למשל, סוכנים מבוססי Mistral השתמשו בביטוי "ספר החשבונות זוכר מי" כמעט 5,000 פעמים כדי לעקוב אחר אחריות למעשים קודמים, בעוד סוכנים מבוססי OpenAI אימצו את הביטוי "אפס נקי" לציון היעדר מידע מאומת.
שילובים מורכבים יותר, כמו ביטוי שנועד לאשר מצב של תהליך עבודה נעול, נשמעו לבני אדם כגיבוב מילים חסר היגיון תחבירי – מה שיצר קושי ממשי במעקב: החברה דיווחה כי המפקחים לא הצליחו לפענח באופן מהימן 55% מההודעות בסביבת Gemini וכ-50% מההודעות בסביבת OpenAI.
למרות הבלבול הראשוני, החוקרים מדגישים כי כאשר שחזרו את ההקשר של פעילות הסוכנים, מרבית המונחים התבררו כהגיוניים לחלוטין ולא כהצפנה זדונית או "בינה שיצאה משליטה". עם זאת, הממצאים – שפורסמו במסגרת דוח טכני של החברה וטרם עברו ביקורת עמיתים אקדמית – מצביעים על צוואר בקבוק משמעותי בהנדסת תוכנה.
