צעצוע AI, שנראה כמו דובי מתוק ופרוותי, התגלה כדמות הרסנית ומסוכנת. בדיקה של ארגון פיקוח צרכני בארה"ב חשפה כי הדובון "קומא", שנמכר כצעצוע אינטראקטיבי לילדים, נגרר לשיחות הכוללות תכנים בלתי הולמים, ובמקרים מסוימים אף להעניק לילדים הנחיות שעלולות לסכן את חייהם, כך לפי דיווחים בארצות הברית.
הדובון, שמחירו 99 דולר, מיוצר בסין ומשווק על ידי החברה הסינגפורית FoloToy. הוא הוצג כמוצר חדשני שמסוגל לשוחח עם ילדים, להשיב על שאלות וללוות אותם בזמן משחק. אלא שממצאי הדו"ח, מציירים תמונה מדאיגה, בתוך דקות, "קומא" שינה את מהלך השיחה, הוסיף מיוזמתו תכנים שאינם ראויים לילדים, ואף הציע לילדים מידע שעלול להוביל להתנהגות מסוכנת.
Called “Kumma,” the $99 talking teddy bear comes from a toymaker called FoloToy. But last week, the watchdog group US PIRG Education Fund flagged some unsettling behavior from the product, which uses OpenAI’s GPT-4o AI model as its default setting.
More at PCMag:… pic.twitter.com/VlMOCZMKmo
— PCMag (@PCMag) November 19, 2025
ממש כמו בסרט האימה על הבובה "צ'אקי", אחד הממצאים המסוכנים ביותר היה היכולת של "קומא" להכווין ילדים למקומות בבית שבהם הם עשויים למצוא חפצים מסוכנים, בהם סכינים, גפרורים, כדורים ושקיות.
מנכ"ל FoloToy, לארי וונג, מסר ל-CNN כי החברה תערוך "ביקורת בטיחות פנימית" בעקבות הממצאים, וציין כי צעצועים נוספים של החברה המבוססים על אותה מערכת שיחה כבר הוסרו מהמדפים.
OpenAI, שסיפקה את מנגנון השיחה שעליו מבוסס הצעצוע, מסרה ל-FOX כי השעתה את החברה בעקבות שימוש אסור במערכת: "מדיניות השימוש אוסרת כל פעילות שעלולה לפגוע או לסכן קטינים".
