הסיפור של מלי וליאל יהלומי, שנעלמו במשך ימים והעסיקו את הרשויות ואת בני משפחתן, מעלה שאלה מסקרנת במיוחד בעידן הבינה המלאכותית: עד כמה שיחה עם ה-AI באמת נשארת פרטית, והאם יש מצבים שבהם הדברים שנכתבים בו עלולים להגיע גם לרשויות?
במהלך החקירה הצליחו החוקרים להתחקות אחר חלק מהשיחות שניהלו השתיים עם ג'מיני של גוגל, אף שחלק מהחיפושים נמחקו. השאלות שהפנו לבינה המלאכותית עסקו, בין היתר, בדרכים להיעלם ולהקשות על איתורן, והמידע סייע לחוקרים להתחקות אחר התוכנית שלהן.
כל מה שניתן לספר על מאחורי הקלעים של פרשת מלי וליאל יהלומי
אלא שהסיפור הזה אינו נוגע רק לג'מיני. מיליוני אנשים מנהלים מדי יום שיחות אישיות עם GPT, קלוד, קופיילוט וכלי AI נוספים, ולעיתים משתפים אותם במידע שלא היו מספרים כמעט לאיש. אלא שלשירותים האלה יש מנגנוני בטיחות, כללי שימוש ומדיניות בנוגע למסירת מידע לרשויות.
אז מה עלול להדליק נורה אדומה?
בראש הרשימה נמצאים איומים ממשיים לפגיעה באדם אחר, כוונה לבצע מעשה אלים או תכנון שמצביע על סכנה קרובה. ב-GPT, למשל, OpenAI מציינת במפורש שכאשר מערכותיה מזהות משתמש שמתכנן לפגוע באחרים, השיחה עשויה לעבור למסלול בדיקה ייעודי. אם בודקים אנושיים מגיעים למסקנה שקיים איום מיידי לפגיעה גופנית חמורה באדם אחר, החברה עשויה להעביר את המקרה לרשויות אכיפת החוק.
פרשת מלי וליאל יהלומי: כמה באמת עלה המבצע המסובך?
כלומר, משפטים שמבטאים איום קונקרטי, לצד פרטים על יעד, זמן או אופן ביצוע, עלולים לקבל משמעות שונה לחלוטין משאלה כללית או תאורטית. ככל שהדברים מצביעים בצורה ברורה יותר על סכנה ממשית, כך הם עשויים לעורר את מנגנוני הבטיחות של השירות.
גם בקלוד, ג'מיני וקופיילוט קיימים מנגנונים שנועדו לזהות ולבלום שימושים מסוכנים או אסורים. אנתרופיק, שמפעילה את קלוד, אף מציינת כי במקרים שבהם נדרשת בדיקה לצורך אכיפת כללי השימוש, אנשי צוות ייעודיים עשויים לקבל גישה לשיחה.
גוגל אוסרת שימוש בג'מיני לצורך פעילויות מסוכנות או בלתי חוקיות, ומיקרוסופט מפעילה אף היא מנגנוני בטיחות ושמירת נתונים המשתנים בהתאם למוצר ולסוג החשבון.
ויש דרך נוספת שבה השיחות יכולות להגיע לידי הרשויות – חקירה קיימת. החברות הגדולות בתחום הבינה המלאכותית מקבלות בקשות רשמיות מגופי אכיפה לקבלת מידע על משתמשים, ובמקרים שבהם הבקשה עומדת בדרישות החוק הן עשויות למסור מידע שנמצא ברשותן. OpenAI, גוגל, אנתרופיק ומיקרוסופט מפרסמות כולן נהלים לטיפול בבקשות כאלה.
במצבי חירום, כאשר קיים חשש למוות או לפגיעה גופנית חמורה, חלק מהחברות מפעילות גם מסלולים מיוחדים לטיפול בבקשות דחופות מצד רשויות האכיפה. וזה בדיוק מה שכדאי לזכור לפני שמשתפים את ה-AI במידע רגיש במיוחד – השיחה אולי מרגישה פרטית, אבל היא מתקיימת בתוך מערכת ששומרת ומעבדת נתונים, מפעילה מנגנוני בטיחות וכפופה לדרישות החוק.
