הבינה המלאכותית כבר יודעת לנסח סיכומי ביקור, לנתח מידע רפואי ולסייע בהחלטות קליניות. עכשיו הרגולטורים נדרשים לשאלה מורכבת בהרבה: כיצד מאשרים מכשיר רפואי שמסוגל להשתנות ולייצר תשובות חדשות גם לאחר שנכנס לשימוש?, מנהל המזון והתרופות האמריקני, ה-FDA, פרסם היום מסמך דיון ראשון מסוגו שמתמקד בשיקולים לרגולציה של מכשירים רפואיים המבוססים על בינה מלאכותית גנרטיבית.
לא עוד תוכנה "קפואה"
אחד האתגרים המרכזיים הוא שמערכת GenAI אינה בהכרח פועלת תמיד באותה הדרך. היא יכולה לייצר תשובות שונות בהתאם למידע שהוזן אליה, לעבור עדכונים ולהשתנות לאורך זמן. לכן ה-FDA מבקש לבחון כיצד יש להעריך סיכון עוד לפני שהמערכת מגיעה לשוק, אילו בדיקות יש לדרוש מהיצרנים וכיצד לבצע ניטור לאחר תחילת השימוש.
מה קורה אם המערכת טועה?
בין הסוגיות שהרשות מעלה: הערכת סיכונים, בחינת המוצר לפני אישורו ופיקוח לאחר השיווק. מבחינה רפואית מדובר בשאלה משמעותית במיוחד כאשר AI אינו משמש רק ככלי אדמיניסטרטיבי, אלא משפיע על אבחון, המלצות טיפול או החלטות רפואיות.
עדיין לא תקנות חדשות
חשוב להדגיש: ה־FDA לא פרסם היום רגולציה מחייבת חדשה. מדובר במסמך דיון ובפתיחת תהליך לקבלת הערות מהציבור ומהתעשייה, שמטרתו לסייע בגיבוש המדיניות העתידית.
