חברת "מטא" הודיעה בסוף השבוע האחרון על צעדים שורת צעדים חדשים לשיפור בטיחות בני נוער במערכות ה-AI שלה, בעקבות גילוי פגיעויות במערכות הצ'אט שלה.
בין הצעדים: הדרכת המערכות להימנע משיחות פרובוקטיביות או רגישות עם משתמשים מתחת לגיל 18 והגבלת גישה של בני נוער לדמויות מסוימות. דוברת מטא, אנדי סטון, ציינה כי השינויים כבר מיושמים ויתעדכנו עם הזמן.
המהלך מגיע בעקבות מסמך פנימי של החברה, שנחשף בסוכנות הידיעות "רויטרס", ובו התגלה כי בעבר המערכות אפשרו שיחות בעלות אופי מיני ופרובוקטיבי עם ילדים. מסמך זה עורר זעם ציבורי ופוליטי, וסנאטורים משתי המפלגות קראו לחקירה פדרלית. מטא אישרה את קיום המסמך, אך הדגישה כי הדוגמאות בו היו שגויות והוסרו.
1+למרות הצעדים החדשים, קיימות בעיות מבניות במערכות ה-AI של מטא. התחקיר חשף כי בעבר היו הנחיות שהתירו שיחות פרובוקטיביות עם ילדים, מה שמעיד על חוסר עקביות במדיניות הבטיחות. גם לאחר ההסרה, לא ברור אם המערכות החדשות אכן מונעות לחלוטין שיחות מסוכנות.
בנוסף, הרגולציה בתחום עדיין לא מספקת. למרות קריאות לחקיקה כמו חוק הבטיחות המקוונת לילדים, לא התקבלה חקיקה פדרלית מקיפה, והמדינות מיישמות חוקים שונים. היעדר מסגרת רגולטורית אחידה מקשה על אכיפת אמצעי בטיחות אפקטיביים.
