בשנים האחרונות, וביתר שאת עם ההתפתחות המהירה של כלי הבינה המלאכותית, הטכנולוגיה עברה ממעבדות המחקר כמעט לכל תחום בחיינו. אלא שלצד היכולת לכתוב, ליצור תמונות, לנתח מידע ולייעל עבודה, הולך ונחשף גם הצד המסוכן שלה: כבר קיימים כלי AI המסוגלים ליצור זיופי קול ותמונה משכנעים במיוחד, חברות בוחנות כיצד הטכנולוגיה תשנה את כוח האדם שלהן, ובמערכות ביטחוניות מתמודדים עם השאלה כמה סמכות ניתן להעביר לאלגוריתם. מחקרים ונתונים מהשנים האחרונות מראים שהסכנות אינן כולן תרחישים עתידניים – חלקן כבר הפכו למציאות.
אחת הטענות המטרידות ביותר סביב AI נוגעת למה שמתרחש במכשירים האישיים כאשר בעליהם אינם משתמשים בהם. טלפונים מודרניים אכן מבצעים פעולות ברקע, וחברות טכנולוגיה משתמשות גם בעיבוד מקומי – כלומר, פעולות שמתבצעות בתוך המכשיר ולא בהכרח בשרת חיצוני.
אחת השיטות היא "למידה פדרטיבית" (Federated Learning), שבאמצעותה ניתן לשפר מודלים מבלי להעביר למרכז את כל המידע הגולמי של המשתמש. הרעיון הוא שהמכשיר מבצע חלק מתהליך הלמידה בעצמו ומשתף תוצאות או עדכונים הנחוצים לשיפור המערכת.
אלא שכאן צריך להפריד בין הטכנולוגיה האמיתית לבין טענות שלא נמצאה להן תמיכה מספקת. לא מצאתי בסיס אמין לנתון שלפיו מכשיר ממוצע שולח מדי לילה "20–40 מגה-בייט של פרופיל פסיכולוגי ומסחרי", וגם לא לכך שטלפונים מנתחים באופן גורף את ההודעות והתמונות הפרטיות בלילה כדי לבנות פרופיל אישיות לצורך אימון מודלי AI גדולים. לכן לא נכון להציג טענות כאלה כעובדה.
גם בכל הנוגע לטענות על "האזנה פעילה" לצורך פרסום, יש להיזהר מקביעה גורפת שלפיה הטלפון מאזין באופן שגרתי לחדר השינה, מנתח שיעולים או שיחות ומכין בעקבותיהם פרסומות. זו טענה דרמטית שדורשת ראיות חזקות יותר.
