אם שלחתם לאחרונה קורות חיים ולא חזרו אליכם, יכול להיות שהאשמה היא בכלל לא בכם, אלא באלגוריתם שפשוט החליט להמציא עליכם סטיגמה. יותר מ-90% מהחברות משתמשות כיום בבינה מלאכותית בתהליכי הגיוס שלהן. אלא שמחקר חדש ומרעיש של אוניברסיטאות פרינסטון ושיקגו חושף כי מודלי ה-AI המובילים לא רק משחזרים הטיות אנושיות קיימות, אלא מסוגלים לפתח באופן עצמאי לחלוטין סטיגמות חברתיות חדשות ומפתיעות, גם כלפי קבוצות שאינן קיימות במציאות.
איך המודל החכם ביותר הופך למפלה ביותר?
במסגרת המחקר, 15 מודלים מובילים של ענקיות טכנולוגיה כמו גוגל, מטא ו-OpenAI השתתפו במשחק סימולציית גיוס עובדים. המודלים נדרשו למיין מועמדים פיקטיביים מקבוצות אתניות מומצאות, כאשר לכולם היה סיכוי שווה להצליח. החוקרים גילו כי המודלים נטו להסיק מסקנות מכלילות ומוטעות על סמך הצלחה או כישלון בודדים בעבר. באופן מפתיע, דווקא המודל המתקדם ביותר של OpenAI, ה-o3 החדש, הציג את רמות האפליה והחלוקה המעמדית הקשות ביותר מבין כל המודלים שנבחנו.
הסיבה לכך נעוצה במנגנון קבלת ההחלטות של המערכות הללו, המכונה "איזון בין חקירה לניצול". בניגוד לבני אדם שמוכנים לפעמים להסתכן ולנסות אפשרויות חדשות, מודלי ה-AI מתוכנתים למקסם רווחים ונוטים "ללכת על בטוח". ככל שהמודל חזק ומתוחכם יותר, כך הוא מסיק מהר יותר מסקנות נחרצות מתוצאות העבר. במקום להמשיך ולבחון מועמדים חדשים באופן אובייקטיבי, המערכת מעדיפה לשחזר את מה שעבד לה פעם אחת, ובכך יוצרת סטריאוטיפים חסרי בסיס.
1+ההשלכות הקשות
הבעיה הזו כבר מזמן אינה תיאורטית בלבד, והיא משפיעה ישירות על שוק התעסוקה ועל החיים של כולנו. חברת התוכנה הענקית וורקדיי (Workday), המספקת כלי גיוס מבוססי AI, מתמודדת כעת עם תביעה ייצוגית בטענה שהכלים שלה מפלים מועמדים. אפילו עובדים בענקית הטכנולוגיה מטא תבעו את החברה, בטענה שהחלטות על פיטוריהם התקבלו על ידי מערכת בינה מלאכותית שהפלתה לרעה עם מוגבלויות או כאלו שיצאו לחופשות מחלה מוגנות.
הנטייה של הבינה המלאכותית לזהות תבניות במהירות היא הכוח הגדול שלה, אך היא גם זו שהופכת אותה למסוכנת כשהיא פועלת ללא פיקוח. ההשפעות הללו כבר זולגות לתחומים קריטיים נוספים כמו בריאות ודיור. בפעם הבאה שאתם מגישים מועמדות למשרה, כדאי לזכור שהאתגר הגדול של עולם הטכנולוגיה כיום הוא למצוא את האיזון שימנע מהאלגוריתמים לפסול אתכם בגלל תבניות דמיוניות.
