הבינה המלאכותית חולשת על תחומים רבים בחיינו, מיצירת תכנים וניהול לוחות זמנים ועד לחיזוי מגמות בשווקים הפיננסיים. אך כעת, כשהיא חודרת אל חדר הניתוח, אך תחקיר של "רויטרס" חושף את הסכנות הרבות הטמונות בכך.
3+התחקיר מתמקד במערכת ניווט לניתוחי סינוסים בשם TruDi, ששולב בה אלגוריתם מבוסס למידת מכונה, שנועד לסייע למנתחים לאתר בזמן אמת את מיקום כלי הניתוח בתוך ראש המטופל.
לפי התחקיר, עד להטמעת הבינה המלאכותית במערכת, התקבלו שבעה דיווחים על תקלות בפעילות המכשיר ואחד על פגיעה במטופל, אולם מאז השדרוג הטכנולוגי, מספר הדיווחים קפץ ללפחות מאה תקלות ואירועים חריגים.
3+בין התקלות, היו נתונים שגויים לגבי מיקום כלי הניתוח בזמן אמת, שהובילו לפגיעות קשות, ובהן דליפת נוזל מוחי-שדרתי דרך האף, ניקוב בסיס הגולגולת ופגיעה בעורק הקרוטיד שגרמה לשבץ מוחי אצל מטופלים.
לפי הדיווח, בטקסס, שתי מטופלות הגישו תביעות נגד חברה יצרנית, בטענה כי רכיב ה-AI במערכת היה גורם ישיר לפציעתן. מנגד, החברה דוחה את ההאשמות וטוענת כי אין הוכחה לקשר סיבתי בין הטכנולוגיה לבין הנזקים שנגרמו.
3+השימוש בבינה מלאכותית ברפואה נמצא בעלייה מתמשכת. כיום מאושרים בארצות הברית לפחות 1,357 מכשירים רפואיים המשלבים טכנולוגיות AI, נתון המהווה פי שניים ממספר המכשירים שאושרו עד שנת 2022.
אולם, לצד הגידול המואץ, נרשמה עלייה חדה בדיווחים על תקלות. בין שנת 2021 לאוקטובר 2025 הוגשו לרגולטור האמריקני לפחות 1,401 דיווחים הנוגעים למכשירים אלו, כאשר ב-115 מהם צוינו במפורש בעיות בתוכנה או באלגוריתם עצמו.
3+התקלות אינן מצויות רק בחדרי הניתוח. התחקיר מציין מקרה שבו תוכנה לניתוח אולטרסאונד טרום-לידתי כשלה בזיהוי נכון של איברי עובר, וכן דיווחים על מוניטורים לבביים מושתלים מתוצרת Medtronic שלא זיהו הפרעות קצב מסכנות חיים.
החברות המעורבות טענו בתגובה כי לא נמצאו ראיות לנזק ישיר למטופלים, וייחסו חלק מהאירועים לבלבול של המשתמשים או לבעיות בתצוגת הממשק, ולאו דווקא לליבה האלגוריתמית.
