לאחר שנים שבהן מומחי בינה מלאכותית מזהירים מפני "הזיות" של מודלי שפה, התופעה הגיעה גם לעולם הייעוץ העסקי. ענקית הייעוץ וראיית החשבון KPMG נאלצה להסיר דוח מקצועי שפרסמה באוקטובר האחרון, לאחר שעלו טענות כי חלק מהמידע, הדוגמאות ומראי המקום שהופיעו בו אינם מדויקים ואף הומצאו.
1+הדוח, שכותרתו "הגדרה מחדש של מצוינות בעידן של Agentic AI", עסק באופן שבו ארגונים גדולים משלבים סוכני בינה מלאכותית בפעילותם השוטפת. לפי בדיקה שערכה חברת GPTZero, המתמחה בזיהוי תוכן שנוצר באמצעות בינה מלאכותית, רק חמישה מתוך 45 מראי המקום שנבדקו הפנו למקורות הנכונים. יתר ההפניות הוגדרו כמטעות, חלקיות או בלתי ניתנות לאימות.
בעקבות הפרסום, מספר גופים שהוזכרו בדוח הכחישו את הטענות שיוחסו להם. בנק UBS, למשל, דחה את הטענה כי הוא מפעיל מערכת לניהול סיכונים המבוססת על בינה מלאכותית כפי שתואר בדוח, ודרש להסיר את ההתייחסות אליו. גם רשות התחבורה של לונדון וחברת הרכבות השווייצרית הבהירו כי התיאורים שנכללו במסמך אינם משקפים את המציאות.
ב-GPTZero הצביעו גם על דוגמה נוספת מתוך הדוח, שלפיה חברת התעופה Emirates מפעילה צ'טבוט בשם "שרה" המסוגל לשוחח עם נוסעים ולבצע שינויים בהזמנות טיסה. לטענת החוקרים, מדובר בטענה שגויה: "שרה" היא למעשה סייעת רובוטית שהוצגה בשנת 2023, ואינה מסוגלת לבצע שינויים בהזמנות טיסה.
1+החוקרים הגדירו את התופעה בשם "Vibe Citing" – מצב שבו מודל בינה מלאכותית משלב פיסות מידע חלקיות, ממציא כותרות ומקורות שנשמעים אמינים, ויוצר הפניות שנראות מקצועיות עד שמנסים לבדוק אותן בפועל.
בעקבות החשיפה הסירה KPMG את הדוח מאתריה ופתחה בבדיקה פנימית. לפי דיווחים, גם פירמות ייעוץ נוספות נאלצו לאחרונה להתמודד עם מקרים דומים, כאשר דוחות שנוצרו או נערכו בסיוע בינה מלאכותית הכילו טעויות עובדתיות והפניות שגויות.
ב-KPMG הגיבו לפרסום ומסרו כי החברה "לוקחת ברצינות את הדיוק והאמינות של התוכן שהיא מפרסמת", והדגישה כי עובדיה מחויבים להנחיות שימוש אחראי בבינה מלאכותית, הכוללות בקרה אנושית ואימות מידע מול מקורות עצמאיים.
