אנחנו רגילים לשפוך את הלב מול ChatGPT. הוא עונה בסבלנות, לא שופט, ותמיד זמין – אפילו בשעות הקטנות של הלילה. לפעמים זה מגיע עד לרמות של גילוי לב מפתיע: רגשות חבויים, וידויים אישיים, ואפילו… פשעים. אבל רגע לפני שאתם משתפים אותו בסודות הכמוסים ביותר – חשוב להבין: האם המערכת באמת שומרת את זה לעצמה?
לפי חוק הבינה המלאכותית של האיחוד האירופי, התשובה הקצרה: כן, אבל. GPT אינו מחובר למערכות אכיפה, לא מזהה את המשתמשים, ולא מדווח על דברים שנאמרים בשיחה – גם אם מדובר בהתוודות על פשע. המערכת מתוכנתת שלא לספק סיוע לפעולות בלתי חוקיות, אך אין לה יכולת (או סמכות) לדווח לרשויות.
ובכל זאת, יש כוכבית: חלק מהשיחות נשמרות לצורכי שיפור המערכת, ובמקרים נדירים – כשמתגלה תוכן מסוכן או מאיים במיוחד – צוות אנושי עשוי לבדוק אותו. גם אז, מדובר בהליך פנימי של החברה, ולא בדיווח לרשויות החוק.
נכון להיום, אין שום חוק שמחייב את OpenAI או את GPT לדווח על הודאות בפשע. המערכת אינה נחשבת לגורם טיפולי או משפטי – ולכן אינה כפופה לחובת דיווח כמו פסיכולוג, רופא או עובד סוציאלי.
