你的桌上有兩個碗,一個是 PP 材質的塑膠碗、另一個是有金屬裝飾的玻璃碗。當你要求某人將桌上的碗放進微波爐,他可能知道哪個才是正確的選擇、又或是會再三向你確認;但若是機器人收到這樣模糊的指令,很可能會直接將金屬裝飾的玻璃碗送進微波爐加熱,最後在爐內出現陣陣火光
——日前一款名為 KnowNo 的 AI 模型問世,目的就是要解決這樣的問題。它訓練機器人在收到不確定的指令時,能主動向人類進行確認,且會盡可能減少不必要的對話、不過度打擾。
https://robot-help.github.io/videos/knowno-microwave-score-handbrake.mp4 來源:Intelligent Robot Motion Lab
結合兩項工具,提升機器人完成任務的成功率
KnowNo 開發者之一、Google DeepMind 的研究科學家 Andy Zeng 表示,雖然目前機器人在特定情境中的功能強大,但在需要基本常識的大範圍任務上表現較差,「不過現在大型語言模型(large language model, LLM)可以改善這項問題,因為它們已內建許多基本常識與知識。」
KnowNo 除了使用 LLM 外還結合一項統計工具——信心水準。當它收到像是「把碗放進微波爐」的模糊指令時,會先透過 LLM 生成多種可能性,並為它們創建一個個信賴指數,預測哪一個才是最佳選擇;而後會再將幾個最佳選項與人類指令進行比對,若仍有疑問,便會提出問題進行確認。
對此,研究負責人、普林斯頓大學機械暨航空太空工程系助理教授 Anirudha Majumdar 表示,KnowNo 對不同領域的機器人應用非常有幫助,「像是若要在醫療場合中使用機器人,就必須非常謹慎。」
機器人會主動提問,能提升人類對它的信任與好感
研究團隊用 KnownNo 在 3 個機器人上進行超過 150 種情境的測試。結果顯示,經過 KnownNo 訓練的機器人與接受其他訓練的機器人相比,能在較少人類的輔助下準確地完成任務。
未參與研究的維吉尼亞理工學院助理教授 Dylan Losey 說:「當機器人向人類求助時,能提升它們進行決策的透明度,促進人與機器間的良好互動。」
Majumdar 也同意機器人主動提出問題能提升人們對此的信賴,「這使我們更加了解機器人的安全性和成功率。」
解密製造、零售、金融產業的 Edge AI & AI Cloud 新效能
立即下載《2024 趨勢觀察報告》
【推薦閱讀】
賀!家事機器人學會 109 項家務了——20 分鐘學一個新技能,我們懶在家的那天快到了
*本文開放夥伴轉載,參考資料:《MIT Technology Review》、《TS2 SPACE》,首圖來源:Intelligent Robot Motion Lab
(責任編輯:鄒家彥)