微軟副總裁：AI聊天機器人勿編造答案 必須學會求助

生成式人工智慧（Generative AI）工具雖然能為企業節省大量時間和金錢，但微軟公司（Microsoft）副總裁辛赫（Vik Singh）坦言，模型還不會承認自己並非無所不能，現在真正缺少的是，會有模型舉手說「嘿，我不確定，我需要幫助」。真正聰明的人正試圖尋找方法解決這問題。

從去年以來，微軟、谷歌（Google）及其競爭對手一直迅速推出類似ChatGPT的生成式AI應用程式，這些應用程式可以依據要求生成各種內容，給予用戶一種無所不知的錯覺。

儘管取得了進展，生成式AI應用程式依然「產生幻覺」或編造答案。

這是微軟高層需要解決的重要問題，辛赫的企業客戶無法承受微軟AI系統出包的後果。

雲端軟體巨擘Salesforce執行長班紐夫（Marc Benioff）近日指出，他看到許多客戶對微軟人工智慧輔助工具Copilot的胡言亂語愈來愈感到沮喪。

辛赫堅稱，「真正聰明的人」正試圖尋找方法，讓聊天機器人承認「它不知道正確答案，並尋求幫助」。