כשמנהל מאציל משימה לעובד, הוא עושה משהו שלכאורה התאמן עליו שנים. הוא בוחר את העובד, מסביר מה צריך ומשאיר מקום לשיקול הדעת שלו. כשיוצא בסוף משהו אחר ממה שביקש, יש למי לפנות ואפשר לשאול מה קרה.
בשנה האחרונה אני רואה מנהלים המאמצים את אותו ההרגל מול כלי בינה מלאכותית שונים ומניחים שזה אותו הדבר. אולי זה הסרטונים שמציפים את הרשת לאחרונה ומסבירים לכולם שאין צורך יותר בעובדים, וצבא של בוטים מסוגל לעשות הכל עבורכם, אבל המצב לא כל כך פשוט. בטח כשמדובר בארגונים.
אז איפה ההבדלים?
ההאצלה למכונה נראית קלה יותר אבל בפועל היא כבדה יותר, ורוב אי ההבנות סביב בינה מלאכותית בארגון מתחילות בדיוק שם. כתבתי לא מעט על השאלה מי אחראי על הבינה המלאכותית בארגון, כלומר על מי מחזיק בבעלות. הפעם מדובר במשהו אחר לגמרי: מה קורה לאחריות עצמה ברגע שמאצילים אותה למכונה?
כשמאצילים לאדם, האחריות מתפצלת. חלק ממנה עובר יחד עם הסמכות, והעובד נושא בה. לעומת זאת, כשמאצילים לבינה מלאכותית, הסמכות עוברת במלואה והאחריות אינה זזה. היא נשארת אצל האדם שנתן את הפקודה (״פרומפט״). אפשר כמובן לבנות מנגנונים שמקלים על נשיאתה: לוגים, נקודות ביקורת אנושיות ומסגרות הערכה. אבל הם מקלים על הנשיאה ואינם מעבירים אותה, והיא נשארת אצל מי שהחליט להשתמש בכלי.
זה נשמע הבדל משפטי, אך הוא מעשי לגמרי: מנהל שמסר משימה לעובד יכול לחזור אליו ולשאול מדוע התוצאה נראית כפי שהיא נראית, ולקבל תשובה. מנגד, מנהל שמסר את אותה משימה למכונה מקבל תוצר, ואם משהו בו לא נכון אין אף אחד לשאול. הוא היחיד שיודע מה ביקש ועליו האחריות לוודא שהתוצר אכן עמד בקריטריונים שהציב.
יש כאן עוד פער, והוא המפתיע מבין השניים: עובד ממלא לבד את מה שלא נאמר לו. הוא מכיר את הלקוח, הוא זוכר איך עשינו את זה בפעם הקודמת, ואם משהו נראה לו מוזר הוא ניגש לשאול. אנחנו רגילים לזה עד כדי כך שלא שמים לב כמה מכל בקשה נשען על ההשלמה האנושית הזאת. בינה מלאכותית משלימה גם היא, אבל מתוך הסתברות וההקשר שניתן בלבד, ולא מתוך היכרות עם הניואנסים האנושיים.
למה בכלל אנשים מנוסים נופלים בזה?
לא מדובר בחוסר תשומת לב. בינה מלאכותית שכותבת עברית תקינה ומנומסת מפעילה את אותו מנגנון שמופעל מול קולגה. הרושם הזה נוצר בשנייה הראשונה של הקריאה, הרבה לפני שנבדק אם התוכן נכון, וקשה מאוד להתעלם ממנו.
ככל שהניסוח טוב יותר, כך גדל הפיתוי להאציל כמו שמאצילים לאדם. זו מלכודת ה״מספיק טוב״: הטקסט נשמע מקצועי, ולכן סף הבדיקה יורד. כדי להתמודד איתה כדאי לאמץ הרגל פשוט: צ׳ק-ליסט קצר וקבוע לפני שמאשרים כל תוצר שיוצא מהארגון. בלי זה, האמון בנשמע מחליף את הבדיקה בפועל.
אז מה זה משנה בפועל?
הדבר הראשון שמשנה הוא מה מותר ואפשר בכלל להאציל: אפשר להאציל למכונה רק שלב שאני יודע לבדוק את התוצר שלו. אי אפשר להאציל תוצאה שאני רק מקווה לה. לדוגמה: ״לנסח תשובה ללקוח לפי ההנחיה שכתבתי, כולל שלוש נקודות מפתח וטון אדיב״ הוא שלב. אני יכול לבדוק אותו תוך שלושים שניות. לעומת זאת, ״לטפל בפנייה של הלקוח עד שהבעיה תיפתר״ הוא תוצאה. אני אדע אם זה הצליח רק כשהלקוח יגיב, או כשלא יגיב. כלומר, אותה משימה יכולה להפוך משלב לתוצאה רק בגלל איך שמגדירים אותה. לכן חשוב לפרק אותה מראש.
הדבר השני שמשנה הוא גם מתי הבדיקה נבנית: בסוף, מול עובד אנושי אפשר להסתדר עם בקרה שנוצרת תוך כדי, כי הוא מסמן בעצמו כשמשהו נראה לו לא הגיוני. מול מכונה הבדיקה חייבת להיות מוכנה מראש, כי שום דבר בצד השני לא יעצור באמצע.
חשוב להגדיר גם מה זה לא אומר – כי זו הטעות ההפוכה
זה לא אומר להאציל פחות. אני מאציל לבינה מלאכותית הרבה, וזה מה שמאפשר לי לעתים לעבוד כמו צוות שלם. זה אומר שההשקעה עוברת מקום: הזמן שהייתי משקיע בהסבר לאדם עובר להגדרה של מה נחשב תוצר טוב. זה פחות נעים, כי הסבר מרגיש כמו עבודה והגדרה מרגישה כמו עיכוב.
החלק שהכי מטריד אותי בשיחות האלה אינו כשמנהל אומר שהוא לא סומך על הכלי, זה בסדר גמור ואפשר לעבוד עם זה. הבעיתיות היא כשמנהל אומר שהכלי טעה. ברגע שהמשפט הזה נאמר, האחריות כבר עברה בראשו למקום שאינו יכול לשאת בה.
בסופו של דבר, מכונה אינה מקבלת אחריות. היא מקבלת סמכות בלבד, ואת המחיר של השימוש בה משלם מי שנתן אותה, לכן כדאי לדעת להאציל נכון לפני שחותמים על התוצר.
נועם כהן הוא מייסד CritiqeIL, חברת ייעוץ והטמעת AI לארגונים בישראל.
