חברת הבינה המלאכותית אנתרופיק הודיעה כי תטמיע 'סימן מים סמוי' בטקסטים שמייצר צ'טבוט הבינה המלאכותית שלה, קלוד. סימן המים החדש אינו משנה את משמעות הטקסט או את קריאותו, אך הוא מלווה אותו בעת העתקה והדבקה ועשוי להישאר גם לאחר עריכה קלה. המהלך, שיוחל על כל הדגמים החדשים של החברה ברחבי העולם, מבוצע כחלק מהתחייבויותיה של אנתרופיק לעמידה בחוק הבינה המלאכותית של האיחוד האירופי.
לפי ה-Business Insider הטכנולוגיה החדשה עשויה להשפיע באופן משמעותי על תעשיית ההוצאה לאור, שמתמודדת לאחרונה עם משברים כלכליים סביב ספרים שנכתבו על ידי בינה מלאכותית. רק לאחרונה ביטלו שתי הוצאות ספרים בארה"ב את תמיכתן ביצירות שהעלו חשד כי נוצרו בעזרת בינה מלאכותית. כעת, סימן המים החדש של קלוד עשוי להעניק למוציאים לאור, לבתי ספר ולאוניברסיטאות כלי יעיל יותר לחקירת מקרים מסוג זה ולמנוע הגשת עבודות וספרים מזויפים.
הפרצות שנותרו פתוחות
ב-Business Insider מציינים כי למרות ההבטחה הגדולה, באנתרופיק מודים כי המערכת אינה חסינה לחלוטין וקיימות בה פרצות. עריכה מאסיבית של הטקסט, שכתוב שלו, תרגום לשפה אחרת או שילוב של פלט המחשב עם כתיבה אנושית מקורית עלולים להעלים את סימן המים לחלוטין. בנוסף, הימצאות הסימן אינה מוכיחה בהכרח כי קלוד כתב את הטקסט מלכתחילה, שכן גם שימוש פשוט בתוכנה לצורך הגהה או תרגום בלבד ישאיר את חותמה על המסמך.
האם הטקסט שאתם קוראים נוצר ב-AI? מעכשיו תוכלו לבדוק את זה
יש לציין כי אנתרופיק היא חברת הבינה המלאכותית הגדולה השנייה שמציגה פתרון מסוג זה לטקסטים. בשנת 2024 הכריזה גוגל דיפמיינד על הטמעת סימני מים בטקסטים ובסרטוני וידאו המיוצרים באפליקציית ג'מיני שלה, לאחר שכבר הציגה גרסה דומה לתמונות שנה קודם לכן. כעת, נותר לראות האם הכלים החדשים יצליחו להחזיר את האמון הכלכלי והאמנותי לשוק הספרים העולמי.
