警用AI平台導入「彩蛋」機制 確保人類審核決策可追溯性

商傳媒｜林昭衡／綜合外電報導

為確保人工智慧（AI）在執法領域應用的準確性與可信度，一家名為 Code Four 的新創公司開發了一款警用AI平台，該平台運用獨特的「彩蛋」（隱藏機制）來驗證人類審核，並輔以多重安全措施。

由 George Cheng 與 Dylan Nguyen 兩位麻省理工學院輟學生共同創立的 Code Four，去年獲得 Y Combinator 的種子資金，並持續獲得帕蘭泰爾（Palantir Technologies）獎學金計畫的支持。目前，Code Four 的服務客戶已涵蓋近 140 個執法機構。George Cheng 表示，該平台旨在從海量數據中提取關鍵資訊，例如將嫌犯手機中的 15,000 張照片篩選出 100 張最重要的內容。

Code Four 的軟體不僅能強化案件檔案、數位證據、密錄器畫面和報告的搜尋功能，還能自動起草逮捕令、宣誓書、敘述文件及檢察官檔案。為了防止執法人員僅是複製貼上 AI 生成的內容，Code Four 在文件中嵌入「彩蛋」，這些是罕見詞彙（例如「axolotl」、「stupendous」）或自創詞，警員必須手動移除這些詞彙才能完成文件，確保他們確實審閱並進行有意義的修改。

此外，該平台還有第二道驗證機制，透過將超連結嵌入生成內容中，要求警員手動核實陳述內容及其有效性，並與支援文件相互比對。Code Four 擁有自己的 AI 模型，不同於市面上如 ChatGPT、Gemini 或 Claude 等通用型 AI 工具。George Cheng 強調，通用型 AI 系統可能無法妥善處理敏感的刑事案件數據，且機構無法得知這些模型如何使用其資料。Code Four 的模型未以實際執法機構的數據進行訓練，所有處理過的案件數據均保存在機構內部，符合聯邦調查局（FBI）刑事司法資訊服務部門（Criminal Justice Information Services Division, CJIS）的安全標準。

George Cheng 預測，在未來幾年內，所有執法機構都將部署某種形式的 AI 應用。他指出，目前許多 AI 工具不符合 CJIS 標準，因此各部門將轉向符合規範的解決方案，這將成為未來趨勢。