אין פתרון לאלימות? חברת אבטחה שמוכרת סורקי נשק המופעלים ע"י בינה מלאכותית לבתי ספר בארה"ב מתמודדת עם שאלות חדשות לגבי הטכנולוגיה שלה – זאת לאחר שתלמיד הותקף בסכין שהמערכת, ששוויה 3.7 מיליון דולר, לא הצליחה לזהות.
בליל כל הקדושים בשנה שעברה, תלמיד בשם אאני לר הטו הלך במסדרון בית הספר שלו באוטיקה, ניו יורק, כשתלמיד אחר ניגש מאחוריו ודקר אותו בסכין. בשיחה בלעדית ל-BBC, עורך דינו של הקורבן אמר כי בן ה-18 סבל מפצעי דקירה מרובים בראשו, בצווארו, בפניו, בכתפו, בגבו ובידו. הסכין, ששימשה את המתקפה האלימה, הוכנסה לבית הספר התיכון "פרוקטור" למרות מערכת זיהוי מבוססת בינה מלאכותית עם מאגר של מיליוני כלי נשק. המערכת החדישה הותקנה על ידי חברה בשם Evolv Technology.
3+Evolv Technology היא חברת אבטחה שרוצה להחליף את גלאי המתכות הידניים המסורתיים בסורקי נשק מבוססי בינה מלאכותית. במקום פשוט לזהות מתכת, החברה אומרת שהסורק שלה "משלב טכנולוגיית חיישנים עוצמתית עם בינה מלאכותית מוכחת", וזאת בכדי לזהות כלי נשק. כאשר המערכת מזהה נשק נסתר – כמו סכינים, פצצות או רובים – היא מפעילה התראה. החברה הצהירה בפומבי שהמערכת שלה מדויקת ביותר, ובעבר התגאתה שהסורקים שלה יכולים לעזור ליצור "אזורים ללא נשק".
מנכ"ל החברה, פיטר ג'ורג', התייחס למערכת הקיימת: "יש במערכת את החתימות והיכולת לזהות את כל כלי הנשק שנמצאים שם בחוץ". הודעות קודמות לעיתונות האמריקאית פירטו את כלי הנשק שהמערכת יכולה למצוא, ובתוכם: כלי נשק, מטעני חבלה וסכינים.
3+עם זאת, חקירה של ה-BBC בשנה שעברה גילתה בעזרת בדיקה שהמערכת לא יכלה לזהות באופן אמין סכינים גדולים, וזאת לאחר ביצוע ניסוי בו הסורק של Evolv החמיץ 42% מהסכינים הגדולות ב-24 מעברים בתוך הסורק. המערכת כבר נמצאת בשימוש באצטדיונים גדולים ברחבי ארה"ב ובמנצ'סטר ארנה בבריטניה. הבודקים אמרו לחברה שעליה ליידע לקוחות פוטנציאליים. למרות זאת, החברה התרחבה לבתי ספר, וכעת טוענת שהיא נמצאת במאות מהם ברחבי ארה"ב.
במרץ 2022, מועצת בתי הספר של יוטיקה קנתה את מערכת סריקת הנשק של Evolv עבור 13 בתי ספר. המערכת הותקנה במהלך חופשת הקיץ, במטרה לשמש את התלמידים בבטחה במהלך שנת הלימודים. למרות הטכנולוגיה החדישה והמבטיחה, ב-31 באוקטובר הותקף התלמיד בן ה-18 ע"י תלמיד אחר שנכנס עם הסכין לתיכון פרוקטור ועבר דרך סורקי הנשק Evolv.
"כשצפינו בסרטון המחריד, כולנו שאלנו את אותה שאלה. איך התלמיד הכניס את הסכין לבית הספר?" אמר בריאן נולאן, מפקח בתי הספר של אוטיקה. הסכין ששימשה בדקירה הייתה באורך של יותר מ-22.8 ס"מ. התקיפה האלימה הזו עוררה חקירה פנימית של מחוז אוטיקה. "בתוצאות החקירה נקבע שמערכת זיהוי הנשק Evolv לא תוכננה לזהות סכינים", אמר נולאן.
3+הסורקים הוסרו באופן מידי מתיכון פרוקטור והוחלפו ב-10 גלאי מתכות, אך הסורקים עדיין פועלים ב-12 בתי הספר הנותרים של המחוז. מר נולאן אומר שהמחוז לא יכול להרשות לעצמו להיפטר מהמערכת של Evolv בשאר בתי הספר שלו על אף החשש, וזאת מפאת העלויות הגבוהות. מאז המתקפה ההיא, מר נולאן אומר ששלוש סכינים נוספות נמצאו על תלמידים בבתי ספר אחרים במחוז שבו ממשיכות לפעול מערכות Evolv.
אחד הסכינים היה באורך 7 אינץ', אחר היה בעל להב מעוקל עם חורי אצבעות והשלישי היה אולר. נולאן אומר שכולם נמצאו בגלל שדווחו לצוות בית הספר, ולא בגלל שסורק הנשק זיהה אותם. "הילדים שהחזיקו את הסכינים – כולם אמרו שהם עברו ישר דרך מערכת זיהוי הנשק, שאלנו אותם על זה. זה באמת לא מוצא סכינים", אמר.
עד אוקטובר אשתקד, עמוד הבית של Evolv כלל כותרת שהתפארה ב"אזורים ללא נשק". לאחר האירועים הללו הסירה החברה את הניסוח הזה, ושינתה את הטקסט ל"אזורים בטוחים". חברת Evolv טוענת שהמערכת שלה משתמשת בטכנולוגיית AI חדשנית כדי למצוא כלי נשק. עם זאת, מבקריה אומרים כי לא ידוע מספיק על אופן פעולת המערכת – או עד כמה הטכנולוגיה הזו יעילה במציאת סוגים שונים של כלי נשק.
3+מחברת Evolv לא נמסרה תגובה ל-BBC אודות הטענות.
למרות ש-Evolv לא נתנה תגובה ל-BBC, היא כן הפנה אותה לפוסט בבלוג של המנכ"ל שלה , פיטר ג'ורג', שבו הוא מגן על חוסר הפירוט במה שהחברה אמרה על אופן פעולת הטכנולוגיה: "שיווק אבטחת גילוי נשק דורש איזון עדין בין חינוך בעלי עניין על טכנולוגיה חדשה, לבין אי מתן מידע לשחקנים שיכולים להשתמש בה כדי להזיק".
ה-BBC יצר קשר עם שבעה מחוזות בתי ספר אחרים שכולם משתמשים בסורקי נשק של Evolv שבחרו לא להגיב.
