הבטחה הייתה פשוטה: בינה מלאכותית (AI) שתהפוך את הכירורגיה למדויקת יותר, בטוחה יותר וחסינה מפני טעויות אנוש. אך תחקיר מקיף שפורסם היום (שני) בסוכנות הידיעות רויטרס מצייר תמונה מדאיגה בהרבה. התחקיר חושף שורה של כשלים חמורים במערכות אוטונומיות ואוטונומיות-למחצה שנועדו לסייע למנתחים.
3+טעויות בזיהוי ואיברים שנפגעו
במרכז התחקיר עומדים מקרים שבהם מערכות הראייה הממוחשבת של רובוטים מנתחים כשלו במשימה הבסיסית ביותר: זיהוי נכון של האנטומיה האנושית. באחד המקרים המתוארים, המערכת זיהתה בטעות כלי דם ראשי כרקמה שולית, מה שהוביל לחתך שגוי ולדימום מסיבי שכמעט עלה בחיי המטופל.
במקרה אחר, בינה מלאכותית שאמורה הייתה "ללמוד" את תוואי הניתוח בזמן אמת, סימנה איבר בריא כגידול סרטני. המנתח, שסמך על הדיוק הטכנולוגי של המערכת, הסיר את האיבר לפני שהתברר גודל הטעות.
3+האם אנחנו סומכים על המכונה יותר מדי?
אחת הבעיות המרכזיות שעולות מהתחקיר היא "הטיית האוטומציה" (Automation Bias) – הנטייה של רופאים אנושיים לסמוך על החלטות המכונה גם כשהן סותרות את שיקול דעתם המקצועי. מומחים שהתראיינו לכתבה מזהירים כי המהירות שבה בתי חולים מאמצים טכנולוגיות חדשות, לעיתים כדי להפחית עלויות או להצטייר כחדשניים, עולה על היכולת של הצוותים הרפואיים לפקח עליהן ביעילות.
"אנחנו נמצאים בשטח הפקר רגולטורי", אמר גורם בתעשייה לרויטרס. "התוכנה משתנה ומתעדכנת כל הזמן, אבל הפרוטוקולים של בטיחות המטופל נשארו מאחור".
3+התנערות מאחריות
התחקיר מעלה גם שאלות משפטיות סבוכות: מי אחראי כשה-AI טועה? חברות הטכנולוגיה טוענות לרוב כי המערכות הן "כלי עזר" בלבד וכי האחריות הסופית היא על המנתח. מנגד, עורכי דין המייצגים מטופלים שנפגעו טוענים כי המערכות מוצגות כ"חכמות" ו"אוטונומיות", מה שיוצר מצג שווא של בטיחות מוחלטת.
מבט לעתיד
בעוד שחסידי הטכנולוגיה מדגישים כי הבינה המלאכותית כבר הצילה חיים רבים על ידי זיהוי מוקדם של סיבוכים, הדיווחים על ניתוחים כושלים וזיהוי שגוי של חלקי גוף מהווים תמרור אזהרה בוהק. נראה כי הדרך לחדר ניתוח אוטונומי באמת עוד ארוכה, וכי כרגע, האיזון בין בינה מלאכותית לביקורת אנושית רחוק מלהיות מושלם.
