שיחות עם צ'אטבוטים הפכו עבור מיליוני בני אדם למקום שבו הם שואלים שאלות אישיות ולעיתים חושפים מחשבות שלא היו משתפים עם אדם אחר, אלא שכתבה שפרסם היום (חמישי) ה"וושינגטון פוסט" מראה כי במקרים מסוימים התכתובות האלה יכולות להפוך לראיות. בדיקת מסמכים פומביים ודיווחים מקומיים העלתה כי שיחות עם צ'אטבוטים צוטטו ב-12 הליכים משפטיים בארה"ב בשנתיים האחרונות, כאשר בחלק מהמקרים הן הגיעו לרשויות בעקבות חיפוש במכשיר ובאחרים נאספו במסגרת הליך משפטי אזרחי.
כשנער שהוגדר במסמכי בית המשפט בראשי התיבות R.K.C. התקשה להבין משהו שאמר לו אביו, הוא פנה ל-ChatGPT. באוקטובר 2024 הוא כתב כי אביו אמר שיקבל פיצוי בשווי מיליון דולר ושאל את הצ'אטבוט למה התכוון. השיחה הזאת, יחד עם תכתובות אישיות נוספות שלו עם ChatGPT, הגיעה בסופו של דבר לרשומות הפומביות של בית המשפט.
הנער הגיש עוד ב-2023 תביעה נגד Meta, Snapchat, TikTok ו-YouTube, שבה טען כי האפליקציות של החברות גרמו לו במשך שנים להתמכר לרשתות החברתיות ולסבול מבעיות נפשיות. במסגרת ההתגוננות מפני התביעה הוכנסו שיחותיו עם ChatGPT לתיק המשפטי. עד סוף יולי הגיעו עורכי דינו להסדרים עם Snap, TikTok ו-YouTube, והתביעה נגד Meta נמשכה. החברות הכחישו את טענותיו.
המקרה ממחיש תופעה רחבה יותר. בדיקת ה"וושינגטון פוסט" מצאה כי שיחות עם צ'אטבוטים הופיעו ב-12 תיקים משפטיים במהלך השנתיים האחרונות. המספר האמיתי עשוי להיות גבוה יותר, משום שלא כל החומרים שהמשטרה או צדדים בתביעות משיגים מגיעים בסופו של דבר לרשומות הפומביות של בית המשפט.
מייק מורגן, שותף במשרד עורכי הדין שייצג את R.K.C., המחיש את הרגישות ואמר: "ילד בן 15 עשוי להקליד לצ'אטבוט דברים שהוא לא יאמר למטפל, להורה או לחבר, ולעשות זאת מבלי להבין שזה עלול להגיע לדוח של מומחה מטעם ההגנה". לדבריו, רישומי ה-ChatGPT של הנער לא השפיעו על האופן שבו הסתיים התיק.
הסיבה לכך ששיחות כאלה עשויות להפוך לראיות משמעותיות היא האופי שלהן. בניגוד לחיפוש רגיל באינטרנט, אדם יכול למסור לצ'אטבוט רקע מפורט, להסביר מה הוא חושב, להמשיך בשאלות ולנהל שיחה ארוכה. מייקל פרייס, מנהל תחום הליטיגציה במרכז לתיקון הרביעי באיגוד הלאומי של עורכי דין פליליים בארה"ב, הסביר: "זו לא רק השאלה, אלא כל הפרומפט והרקע שסיפקת והשיחה הלוך ושוב. אין צורך לנחש מה היה תהליך החשיבה שלך ומה הייתה הכוונה שלך, זה מאוד ברור".
אחד המקרים המתוארים בכתבה התרחש בפלורידה. לפי תצהיר משטרתי, OpenAI פנתה ל-FBI לאחר שמשתמש סיפר שוב ושוב ל-ChatGPT על תוכניות לכאורה לאנוס ולרצוח את בת זוגו לשעבר וכן לפגוע בעצמו. ה-FBI העביר את המידע למשטרה המקומית, שהצליחה לזהות את האישה. האיש נעצר במאי והואשם בהטרדה ובאיומים אלקטרוניים על בסיס הודעות ששלח לבת זוגו לשעבר ול-ChatGPT. בהמשך הודה באשמה ונידון לשמונה שנות מאסר על תנאי.
OpenAI מסרה כי היא משתמשת במערכות שמזהות סימנים להתנהגות מסוכנת ומעבירות מקרים מסוימים לבדיקה אנושית. אם הבדיקה קובעת ששיחה מצביעה על "סיכון מיידי ואמין לפגיעה באחרים", החברה מדווחת לרשויות אכיפת החוק. החברה לא מסרה ל"וושינגטון פוסט" כמה פעמים דיווחה על משתמשים למשטרה.
עם זאת, שיחות אינן מגיעות לרשויות רק באמצעות חברות הבינה המלאכותית. לדברי פרייס, בתיקים פליליים הדבר מתרחש פעמים רבות משום שאנשים עצמם מאפשרים למשטרה גישה לטלפון שלהם. בארה"ב התיקון הרביעי לחוקה מעניק בדרך כלל לאדם זכות לסרב לחיפוש בתוכן המכשיר ללא צו, אך לדבריו אנשים רבים בכל זאת מסכימים.
כך קרה במקרה של ריאן שייפר, שהיה סטודנט באוניברסיטת מיזורי סטייט ונחשד בגרימת נזק ל-17 מכוניות בחניון בקמפוס. לפי הדוח המשטרתי, הוא הסכים לאפשר לשוטרים לחפש בטלפון שלו. שם נמצאו שיחות שבהן שאל את ChatGPT עד כמה הסתבך ומה יקרה אם ניפץ כמה מכוניות, ובהמשך שאל: "האם יש איזושהי דרך שהם יוכלו לדעת שזה הייתי אני?" הוא נעצר בהמשך על בסיס הדברים, הודה בעבירת נזק לרכוש ונידון לחמש שנות מאסר על תנאי.
גם בתביעות אזרחיות שיחות עם צ'אטבוטים עשויות להיחשף. במקרה במישיגן, מעסיק לשעבר שתבע איש מכירות גילה במסגרת איסוף הראיות שיחה שבה שאל האיש את ChatGPT אם ספק הדואר האלקטרוני שלו יכול לשחזר הודעה שמחק שנה קודם לכן, ואף שאל אם ניתן יהיה להשיגה באמצעות צו של בית משפט. המעסיק טען כי השיחה תומכת בטענה שהאיש ניסה לשבש ראיות, והשופטת קבעה כי התנהלותו מהווה "ראיה משכנעת" לכך שמידע הוסתר במכוון.
השאלה המרכזית שמתעוררת בעקבות המקרים הללו היא האם שיחה עם מערכת בינה מלאכותית צריכה לקבל הגנה משפטית מיוחדת. כיום, לפחות בארה"ב, התשובה אינה זהה להגנה שניתנת לשיחות מסוימות עם בעלי מקצוע.
מנכ"ל OpenAI סם אלטמן טען בעבר כי שיחות עם צ'אטבוטים צריכות לקבל הגנה משפטית הדומה לחיסיון הקיים ביחסים בין עורך דין ללקוח. לדבריו, כפי שהחברה החליטה להעניק הגנה מיוחדת למידע שאדם מוסר לרופא או לעורך דינו, יש להחיל רמת הגנה דומה על שיחות עם בינה מלאכותית, שאליה אנשים פונים יותר ויותר בנושאים רגישים ואישיים.
אלא שהמצב המשפטי הנוכחי שונה. פרופ' לורה אבלסון מאוניברסיטת Southern Methodist, המתמחה בדיני ראיות, הסבירה כי שיחות עם צ'אטבוטים אינן נהנות כיום מחיסיון כזה. לדבריה, "במרחב שאינו מוסדר, מאוד לא סביר שבית משפט כלשהו יקבע שהתקשורת הזאת חסויה".
הסוגיה כבר הגיעה לבית משפט פדרלי בניו יורק. מנהל בתחום הפיננסים שנחקר בחשד להונאה התייעץ עם מודל הבינה המלאכותית Claude בנוגע לאסטרטגיות הגנה אפשריות. לאחר שהשיחות נמצאו במכשיריו במסגרת צו חיפוש, הוא טען כי התביעה אינה רשאית לעיין בהן משום שהן צריכות להיות חסויות. השופט דחה את הטענה וקבע שהחיסיון בין עורך דין ללקוח אינו חל: Claude אינו עורך דין, וגם עורכי דינו של האיש לא הורו לו להתייעץ עם הצ'אטבוט.
