自駕車上路前的魔鬼考官,Laplace Intelligence 用 AI 代理打造極端情境模擬
來自美國密西根州安娜堡的 Laplace Intelligence,正把「先找出失敗,再上路部署」變成一門生意。這家密西根大學衍生的新創公司主打自動化紅隊演練(Red Teaming),透過 AI 代理與高擬真模擬環境,刻意設計各種極端與罕見情境,在部署前檢驗機器人、自駕車與其他實體 AI 系統是否有錯誤。
創辦團隊認為,實體 AI 若要真正安全,不能只靠人類測試,而必須做到「以 AI 測試 AI」。Laplace 的核心技術是一套以真實世界資料重建的模擬系統,搭配能持續尋找弱點的 AI 代理,可重現從亞利桑那州公路到巴黎行人穿越道等各種場景,並依即時交通與壅塞資訊動態調整環境。開發者甚至能用自然語言指令即時改變測試條件,例如模擬午後車流量增加的情境。
Laplace 的模擬技術不只能重建場景,也能模擬其他交通參與者的行為。報導指出,在一次展示中,受測車輛被指示偏入對向車道時,對向來車會主動閃避,避免出現不合邏輯的碰撞結果。Laplace 強調,傳統做法是將錄影資料轉成模擬,或由人工構思邊緣案例(Edge Cases),相較之下,這種方式更能主動挖掘潛在風險。
Laplace 共同創辦人 Sun 表示,團隊過去 8 年投入學術研究,探索如何在模擬環境中挑戰自駕 AI。目標是協助企業在部署前發現並修正問題,進而建立一套讓客戶、保險公司與監管機關都能信服的證據基礎。目前 Laplace 的營收主要來自自駕領域,客戶包括日本卡車製造商五十鈴(Isuzu),以及美國德州自駕卡車新創公司 Bot Auto。
Laplace 也將登上 TechCrunch Disrupt 的 Startup Battlefield 舞台,展示「以 AI 測試 AI」的新方法,並試圖證明這種動態、具互動性的測試流程,將成為實體 AI 安全驗證的新標準。
(首圖為示意圖,來源:shutterstock)