AI 再度誤判:美國佛州中學緊急封鎖 引發安全科技反思
美國佛羅里達州一所中學近日因 AI 武器檢測系統的誤報而全校緊急封鎖,雖然最終證實為虛驚一場,但事件暴露了科技在校園安全應用中的潛在挑戰。
事件經過:
事件主角是美國佛羅里達州奧維耶多市塞米諾爾縣學區的 Lawton Chiles Middle School。一名學生在走廊持單簧管行走,姿勢被系統解讀為「像持槍」,ZeroEyes AI 平台立即觸發警報。即使有專業分析員二次確認,這次仍未能攔截誤判,導致全校進入緊急封鎖狀態。警方到場後迅速確認僅為樂器,警報很快解除。校長 Melissa Laudani 在致家長信中解釋,學生「以類似持武器的姿勢」攜帶樂器觸發系統,並提醒家長教育孩子避免類似動作。這起事件雖短暫,但讓師生經歷不必要驚嚇。
技術背景:AI 如何運作與其商業模式
根據官網信息,其平台利用雲端電腦視覺演算法,分析 CCTV 畫面中的物件輪廓,識別潛在武器。系統經過數百種槍械影像訓練,能在幾秒內發出警報。塞米諾爾縣學區與 ZeroEyes 簽訂的合約價值 25 萬美元,涵蓋多所學校,顯示校園安全市場對 AI 解決方案的需求日益增長。
該系統已在全美 43 州部署,塞米諾爾縣學區每年支付約 25 萬美元訂閱服務。商業上,ZeroEyes 積極遊說州立法,在部分地區成為指定供應商,加速市場滲透。這反映校園安全需求強勁,特別在槍枝暴力隱憂下,學區願意投資高科技層級防護。
樂觀面:額外安全網的潛力
這類 AI 補充人力不足,能在威脅顯露時提供秒級警報。美國國土安全部報告肯定其即時性優勢,ZeroEyes 也宣稱有成功攔截案例。對許多學區來說,這是「多一層保障」的務實選擇,尤其成本相對低,利用既有監控。
但謹慎而言,過去數月,便曾有同類型系統將多力多滋(Doritos)脆片誤判為槍,引發封鎖。批評者指出,ZeroEyes 公開的準確率、誤報統計或真實攔截數據極少,第三方獨立評估也付之闕如。
數據透明度不足:準確率成謎
ZeroEyes 對外公開的效能數據相當有限。公司未提供詳細的誤報率、識別準確率或成功攔截真實威脅的統計。塞米諾爾縣安全部門僅泛泛描述系統為「有效工具」,缺乏具體證據支持。
有獨立技術分析人士指出,目前鮮有對 ZeroEyes 的客觀評估,呼籲更多公開測試。
值得一提,紐約公民自由聯盟(NYCLU)就曾對長島(Long Island)學區的 AI 監控系統發出警告,擔憂未經充分討論的安裝可能侵犯學生隱私。再者,高誤報率不僅浪費資源,更嚴重的是,可能引發「警報疲勞」(alarm fatigue)現象,讓學生們對真正危機麻木不仁。
撰文:TouchDown 創·著陸