בשבוע האחרון נקלעה חברת הבינה המלאכותית אנת'רופיק למוקד סערה לאחר שנחשף כי כלי התכנות הפופולרי שלה, קלוד קוד, כלל מנגנון נסתר שנועד לזהות ניסיונות לעקוף את מנגנוני ההגנה של החברה. החשיפה עוררה ביקורת מצד מפתחים, שטענו כי הקוד פעל ללא גילוי מפורש למשתמשים והעלה שאלות בנוגע לשקיפות ולפרטיות.
2+הפרשה החלה לאחר שמפתח המכונה Therealo פרסם ממצאים שלפיהם Claude Code בדק את כתובת ה-URL המשמשת לגישה ל-API של החברה. כאשר זוהתה כתובת שונה מהרגיל, הכלי אסף מידע נוסף, ובהם אזור הזמן של המחשב ושם המארח (Hostname), במטרה להעריך אם מדובר בגורמים הקשורים למעבדות בינה מלאכותית בסין, לחברות מתחרות או למי שמספקים גישה מסחרית לחשבונות Claude. לדברי המפתח, עיקר הביקורת לא הופנתה לעצם ניסיונה של אנת'רופיק להגן על הטכנולוגיה שלה, אלא לכך שהמנגנון הוטמע מבלי שהמשתמשים קיבלו על כך הודעה ברורה.
בעקבות הפרסום פרסמה אנת'רופיק עדכון שקט, שבמסגרתו הוסר הקוד השנוי במחלוקת מכלי הפיתוח. מהנדס החברה טאריק שיחיפאר אישר ברשת X כי מדובר היה בניסוי שהחל בחודש מרץ, במטרה להגן על החברה מפני "זיקוק" מודלים ושימוש לרעה בחשבונות שנמכרו לצדדים שלישיים. לדבריו, בחודשים האחרונים פותחו מנגנוני הגנה מתקדמים יותר, ולכן ממילא תוכנן להסיר את הקוד הישן.
2+"זיקוק" (Distillation) הוא אחד האיומים המרכזיים מבחינת חברות הבינה המלאכותית. במסגרת השיטה, חברות או חוקרים מזינים למודל מסחרי כמו Claude כמויות גדולות של שאילתות, ולאחר מכן משתמשים בתשובות שהוא מספק כדי לאמן מודלים מתחרים, מבלי להשקיע את המשאבים האדירים שנדרשו לפיתוח המודל המקורי.
הפרשה הנוכחית אינה הראשונה בתחום. כבר בחודשים האחרונים הצהירה אנת'רופיק כי היא משקיעה משאבים משמעותיים בפיתוח מנגנוני הגנה מפני זיקוק. במסגרת דליפת קוד מקור קודמת של החברה אף נחשף כי היא מפעילה מנגנוני "הרעלה", שמטרתם לשבש את איכות הפלט במקרה של חשד לניסיונות לאמן מודלים מתחרים.
למרות זאת, נראה כי מנגנוני ההגנה אינם חסינים לחלוטין. רק לאחרונה טענה אנת'רופיק כי חברת הטכנולוגיה הסינית עליבאבא הצליחה לעקוף חלק מההגנות ולנצל את פלטי Claude לצורך אימון מודלי בינה מלאכותית משלה – עדות נוספת למרוץ החימוש הטכנולוגי המתנהל בין ענקיות ה-AI בעולם.
