המאבק של האמריקנים במקרי הירי בבתי הספר מוביל את מערכת החינוך להכניס יותר ויותר טכנולוגיה אל תוך שגרת הביטחון - והבינה המלאכותית היא השחקנית החדשה. בבתי ספר רבים הוטמעו בשנה האחרונה מערכות AI שמנתחות את צילומי מצלמות האבטחה ומתריעות על כל חפץ שנראה כמו נשק. אלא שבמקרה האחרון, באחד התיכונים במחוז בולטימור, האלגוריתם טעה בגדול - והתוצאה כמעט הפכה לטרגדיה.
טאקי אלן, תלמיד תיכון, ישב מחוץ לבית הספר עם חבריו אחרי אימון פוטבול ואכל שקית דוריטוס. לפתע, לדבריו, הבחין בשוטרים חמושים מתקדמים לעברו. "בהתחלה בכלל לא הבנתי שהם באים אליי, עד שהם התחילו לצעוק 'תשכב על הקרקע!'," סיפר לתקשורת המקומית. השוטרים כיוונו אליו נשקים, הורו לו לכרוע ברך ואז אזקו אותו - מול עיניהם ההמומות של חבריו. רק לאחר שחיפשו עליו ולא מצאו דבר, הראו לו תמונה שהפעילה את ההתראה: שקית דוריטוס, כשאצבע אחת מושטת קדימה - תנוחה שהמערכת פירשה בטעות כאקדח.
על פי בית הספר, צוות האבטחה כבר הספיק לבטל את ההתראה, אך המידע עבר למשטרה המקומית, שהגיבה במהירות. "אנחנו מבינים עד כמה המקרה היה קשה עבור התלמיד וכל מי שהיה עד לאירוע," כתבה מנהלת בית הספר, קייטי סמית, במכתב להורים. לדבריה, הוצעה תמיכה רגשית לתלמידים שחוו את המפגש הטראומטי.
חברת Omnilert, שמפעילה את מערכת הזיהוי, הביעה צער על המקרה אך הדגישה כי "התהליך פעל כמתוכנן" - הצהרה שעוררה ביקורת ציבורית חריפה. "אף הורה לא רוצה לראות את הילד שלו במצב כזה," אמר סבו של אלן, למונט דייוויס.
בהמשך לאירוע, התעורר דיון ציבורי רחב יותר על עצם השימוש בבינה מלאכותית במוסדות חינוך. מומחים לבטיחות ולטכנולוגיה טוענים כי בעוד שהמטרה - הגנה על תלמידים - מוצדקת, ההסתמכות הגוברת על אלגוריתמים עלולה להוביל לטעויות מסוכנות. "מערכת כזו לא מבינה הקשר, רק צורה," הסביר אחד המומחים ל־CNN.