הפיתוי להשתמש בבינה מלאכותית כדי לקצר תהליכים בעבודה הוא עצום. כולנו רוצים לחסוך זמן יקר, וכלים כמו ChatGPT נראים לפעמים כמו קסם שיכול לפתור לנו כל בעיה בשניות. אבל לפני שאתם מעתיקים ומדביקים את הטקסט הבא שהמחשב ייצר עבורכם, כדאי שתכירו את הסיפור המדהים של עורך הדין שחשב שמצא קיצור דרך מושלם, וגילה בדרך הקשה שהטכנולוגיה הזו עלולה להרוס קריירה שלמה ברגע אחד.
כשהבינה המלאכותית ממציאה עדים
סטיבן ד. אהרונס, עורך דין מניו מקסיקו שייצג נאשם ברצח אשתו, החליט להיעזר ב-ChatGPT כדי לכתוב סיכום משפטי עבור בית המשפט. הוא הניח שהכלי יפיק עבורו סיכום מושלם, אך במקום זאת, הבינה המלאכותית פשוט המציאה עדים ועדויות שלא היו ולא נבראו. בין היתר, ה-AI המציא אדם בשם דני סטנטון שקיבל איומים, ואישה בשם לינדה סטנטון שטענה שבעלה אוים, לצד תיאורים מומצאים לחלוטין על לבושו ומראהו של היורה בתיק.
השופטים עלו על התרמית במהירות והיו המומים מהעצלנות של עורך הדין. כשאהרונס נקרא לבירור, הוא הודה ב"טיפשותו" וטען להגנתו כי שמע על רופאים שמשתמשים בבינה מלאכותית למחקר רפואי ולכן סמך על הכלי. השופטים לא קנו את התירוץ ותהו כיצד משפטן פעיל לא שמע על תופעת ה"הזיות" של ה-AI, שהפכה לחדשות יומיומיות בכל העולם. הם הבהירו לו כי בחירה לא לדעת או פשוט להמר היא התנהגות שאינה הולמת את קוד ההתנהגות המקצועי.
המחיר הכבד של הקיצור
ההשלכות על אהרונס היו מיידיות וכואבות. בית המשפט מצא אותו אשם בביזיון ישיר, קנס אותו ב-5,000 דולרים, השעה אותו מהופעה בפניו והדיח אותו מהתיק. המקרה הזה הוא תמרור אזהרה בוהק לכולנו: בינה מלאכותית היא כלי עזר נהדר, אך הסתמכות עיוורת עליה ללא בדיקה קפדנית של העובדות עלולה לעלות לכם בפרנסה ובמוניטין האישי
