חברת הסטארט-אפ Pangram, הממוקמת בניו יורק ומתמחה בזיהוי תוכן שנוצר על ידי בינה מלאכותית, גייסה לאחרונה 9 מיליון דולר. הגיוס, שהובל על ידי Menlo Ventures, נועד לתמוך במשימתה של החברה להילחם בהצפה של "זבל AI" ברחבי האינטרנט, מתוך אמונה שהביקוש לכלים המבחינים בין תוכן אנושי לתוכן שנוצר על ידי מכונה רק ילך ויגבר.
הצורך בכלים אלו התעצם עם השקת ChatGPT, שפתחה את הסכר לגל של בוטים, תוכן SEO שנוצר על ידי AI, וקמפייני דיסאינפורמציה מונעי בינה מלאכותית. מייסדי החברה, מקס ספרו ובראדלי אמי, בוגרי סטנפורד בתחום הבינה המלאכותית, הדגישו את החשיבות הקריטית בידיעה האם תוכן מסוים נוצר על ידי אדם או על ידי AI, שכן הדבר משנה את אופן קריאת הטקסט ואת רמת האמון בו.
במקביל לגיוס, השיקה Pangram את הדור הבא של מודל זיהוי הטקסט שלה, Pangram 4, המגיע לדיוק של למעלה מ-99% בזיהוי כתיבה בסיוע AI ותוכן מעורב אנושי-AI. בנוסף, החברה הציגה מודל לזיהוי תמונות שנוצרו על ידי בינה מלאכותית, Pangram Image, אשר זמין כעת לתצוגה מקדימה למחקר וצפוי לצאת לקהל הרחב בקרוב. המודלים לומדים הבדלים סגנוניים ובחירות עקביות של AI, ללא הסתמכות על מטא-דאטה או סימני מים נסתרים.
השימוש הגובר בבינה מלאכותית כבר הוביל למקרים מביכים ואף חמורים, כמו פוליטיקאי קנדי שקרא הנחיית AI בנאום, או עורכי דין שהשתמשו בציטוטים מזויפים שנוצרו על ידי ChatGPT. מוסדות אקדמיים כבר החלו לאכוף מדיניות נגד תוכן AI לא מבוקר. ספרו מזהיר כי אם לא תהיה אפליה אקטיבית לטובת תוכן אנושי, תוכן ה-AI ימשיך להתרבות ויטביע כל אות אנושי ברשת.
