MIT 新技術讓 AI 決策說人話，讓自駕車告訴你「我為何這樣開」
自駕車多半由深度學習模型操控，卻可能意外失誤，如毫無理由煞停、擋住迎面而來的緊急車輛，駕駛或乘客得在極短時間內反應才能避免碰撞。麻省理工學院（MIT）與自駕技術公司 Motional 共同開發新方法，能把模型決策過程翻譯成人類看得懂的說法，論文刊登於《自然》（Nature）期刊。
新方法稱為概念包裝網路（Concept-Wrapper Network，CW-Net）。身為自駕車「大腦」的機器學習規劃器會處理攝影機與光達資料、判斷下一步動作並輸出行駛軌跡，但內部推論通常是人類很難理解的黑箱。團隊把 CW-Net 這個概念分類器嵌入既有規劃器架構的中段，將內部推論轉譯為「接近停止的車輛」、「靠近自行車騎士」等概念，並強制架構的最後一段必須依據這些概念決定車輛動作。
論文第一作者、MIT 前博士後研究員 Eoin Kenny 指出，自駕車這類高風險場域，解釋本身不能造成誤導；CW-Net 決策面具因果忠實性，故解釋內容有一定保證。團隊以 1.3 億筆自駕場景資料訓練 CW-Net 辨識概念，並讓它模仿原規劃器的駕駛決策，避免拖累車輛表現。評估顯示，導入後主要行駛指標的差異不到 1%。
實車測試在私人場地進行，由安全駕駛操作 Motional 的自駕計程車。有一次車輛接近自行車騎士時停下，安全駕駛以為是偵測到對方，CW-Net 的解釋卻揭露模型根本未正確設定以偵測騎士，選擇的軌跡原本會造成碰撞，最後是距離過近觸發緊急煞車程序才停住。掌握這項資訊後，駕駛在類似情境可提早減速或切換手動駕駛，工程師也能據此修正模型。
團隊另以拉斯維加斯實際道路情境進行大規模線上模擬研究，100 名受試者的結果同樣顯示，CW-Net 的解釋大幅提升人們預測自駕車行為程度與情境覺察，對經驗豐富與初次接觸自駕車的使用者皆有效。
共同資深作者、MIT 教授暨電腦科學暨人工智慧實驗室（CSAIL）互動機器人研究群主任 Julie Shah 表示，除非能以可信賴、可預測行為的方式打造這些技術，否則基礎並不穩固。研究員認為，這套方法可延伸到自主無人機、機器人手術平台等安全關鍵系統。
System helps humans predict when self-driving cars will make mistakes
Drivers Predict Self-driving Car Actions Better With AI Insights
（首圖來源：shutterstock）