מה צריך לדעת לפני שמשתפים את המידע הרפואי בבינה המלאכותית? בואו נודה באמת – במציאות המודרנית של היום, כשכואב לנו משהו בגוף, או כשלא ברור למה פתאום מגרד לבן המשפחה, סביר להניח שנפנה קודם להתייעצות עם AI לפני שניגש לרופא. זה זמין ונגיש, והנתונים בשטח מעידים שאנחנו לא לבד – יותר ויותר אנשים פועלים כך. אבל לצד היתרונות, יש גם סכנות שחייבים להכיר.
סקר שנערך בחודש מרץ על ידי ארגון מדיניות הבריאות KFF מצא כי אחד מכל שלושה מבוגרים בארה"ב התייעץ עם בינה מלאכותית בנוגע לבריאותו. ChatGPT, כלי הבינה המלאכותית הנפוץ ביותר בארה"ב, נמצא בשימוש של 44% מהמבוגרים האמריקנים, וחברת OpenAI מסרה כי יותר מ-300 מיליון בני אדם ברחבי העולם משתמשים בו מדי שבוע כדי לקבל תשובות לשאלות רפואיות.
תוכניות בינה מלאכותית יכולות לספק מידע כללי כמעט על כל נושא, אך בשנים האחרונות חברות שונות הקלו על משתמשים להעלות מסמכים רפואיים ונתונים, כדי לקבל מידע רפואי מותאם אישית המבוסס על סיכומי רופאים, תוצאות בדיקות מעבדה, מספר הצעדים שהם מבצעים במהלך היום, המזון שהם אוכלים וכמות השינה שלהם.
בשבוע שעבר הודיעה OpenAI כי היא מרחיבה את האפשרות למשתמשים בארה"ב להעלות את הרשומות הרפואיות שלהם ל-ChatGPT, כדי להבין טוב יותר את המידע, לעקוב אחר שינויים במצב הבריאותי ולנהל שיחות מושכלות יותר עם גורמי רפואה – ואף לקבל הצעות כמו מתכונים עבור אנשים עם צרכים רפואיים מסוימים, למשל רמות ברזל נמוכות.
עם זאת, למרות האפשרויות החדשות, רבים חוששים לפרטיות המידע. רוב המשתתפים בסקר KFF אמרו שיש להם חששות בנוגע לשיתוף מידע רפואי רגיש עם חברות בינה מלאכותית, אך 41% מאלו ששאלו שאלות רפואיות סיפרו כי אכן העלו את המידע הרפואי האישי שלהם.
יש מומחים שסבורים כי העלאת מידע רפואי רגיש צריכה להיות בחירה אישית, וכי ניתן לסמוך על הבטחות החברות לשמור על פרטיות המידע, אך אחרים מזהירים מפני הסתמכות על בינה מלאכותית בתחום הבריאות. הבינה המלאכותית אמנם הצליחה לעבור מבחני רישוי רפואיים, ו-OpenAI מסרה כי הגרסה האחרונה של ChatGPT נבדקה על ידי מאות רופאים וכי המודלים שלה "מסוגלים כיום להסיק ברמה שווה או טובה יותר מזו של רופאים אנושיים" – אך מומחים מדגישים כי הטכנולוגיה עדיין אינה מושלמת.
לדבריהם, לבינה מלאכותית יש הטיות הקשורות לגזע ולמגדר שעשויות להשפיע על ההמלצות שלה, ובנוסף, היא בנויה במידה רבה כדי לספק למשתמש תשובה נעימה ומשכנעת – גם כאשר היא שגויה. במקרים מסוימים היא עלולה לפספס מצבי חירום ולהמליץ לאדם להישאר בבית במקום לפנות מיד לקבלת עזרה.
בתי חולים ורופאים מחויבים לכללי אתיקה ולתקנות שנועדו להגן על מידע רפואי רגיש – אך תוכנות בינה מלאכותית אינן כפופות לאותם כללים מחמירים. חברות כמו Anthropic, Microsoft, Perplexity ו-OpenAI מצהירות כי הן מציעות אינטראקציות מאובטחות, שהשיחות מוצפנות ושהמידע אינו משמש לאימון המודלים או לפרסום, אך ד"ר בוב וכטר מאוניברסיטת קליפורניה הדגיש כי למרות האינטרס העסקי של החברות לשמור על פרטיות, "הסיכון אינו אפס".
מומחים אחרים מזכירים כי ללא חקיקה ברורה המידע עלול לשמש בדרכים לא צפויות, ומציינים כדוגמה את פרצת הענק בחברת 23andMe שחשפה פרטים של מיליוני לקוחות. בעיה מרכזית נוספת היא דיוק ההמלצות. התשובות עשויות להישמע משכנעות גם כשהן שגויות או מומצאות. סקר KFF מצא כי כחמישית מהמשתמשים פנו לבינה מלאכותית כי לא היה להם רופא זמין או בגלל עלויות כספיות, אך מחקרים מעלים בעיות קשות.
מחקר ב-JAMA Oncology מצא כי ChatGPT סיפק המלצות לא מתאימות לטיפול בסרטן ביותר משליש מהמקרים, ומחקר נוסף ב-Nature Medicine הראה כי המערכת המעיטה בחומרת מצבים מסכני חיים כמו התקפי אסתמה וחמצת סוכרתית, ולא המליצה על פינוי לחדר מיון כשזה היה הכרחי.
לצד זאת, ישנם מומחים שמתרשמים מהיכולת לזהות פרטים עדינים בהיסטוריה הרפואית, אך ההמלצה הגורפת היא להשתמש בטכנולוגיה ככלי מסייע בלבד ולא כתחליף לרופא. מומלץ להעלות מידע בזהירות, לפתוח שיחה חדשה בכל פעם כדי למנוע הסתמכות על מידע ישן, ולבקש מהמערכת להציג ראיות. המסר המרכזי נותר ברור: לא לסמוך באופן עיוור על המכונה, ובכל מקרה של ספק או מצב חירום – לפנות מיד לטיפול רפואי אנושי.
