別被騙！AI提供錯誤資訊　學者研究：77%被使用者誤信

【記者王良博／台北報導】ChatGPT等對話式人工智慧（AI）正夯，台大心理系教授黃從仁研究團隊近期發表研究，發現此類對話機器人生成的錯誤內容，有77%會成為使用者的記憶，且即使這些對話機器人寫上警語，告知內容不一定正確，也無法阻止錯誤內容變成使用者的記憶。黃從仁建議，應對對話機器人輸出的內容保持懷疑，不要照單全收。

台灣科技媒體中心今（22）日發布專家意見，台灣科技媒體中心表示，黃從仁研究團隊今年11/20在《美國心理學家》（American Psychologist）期刊，發表對話機器人研究。研究發現，對話機器人的訊息中有77％的錯誤詞彙（misinformed word）成為參與者的記憶。

研究也發現，一次性的警語無法減少錯誤的記憶。即使相對頻繁、針對特定項目的預先警告參與者，也無法阻止錯誤資訊被參與者記憶。

這項研究使用對話機器人RoBoHoN與台灣大學生對話，檢查機器人提供情感和價值中立但內容錯誤的訊息中，是否有預告的警語，例如警告參與者要對錯誤資訊持保留的態度，以及檢查這些訊息中，有多少比例會在之後的認知測驗中，變成一個人記憶的錯誤資訊。

對於這項研究結果，黃從仁表示，對話機器人會回答錯誤資訊已不是新聞，但若錯誤資訊進到人們記憶中，就會影響人們的決策。此研究證實，對話機器人提供的錯誤資訊中，有七、八成會變成人們的記憶，且即便在提供錯誤資訊前，對話機器人已自我懷疑並提出警告，但這些警告無法避免錯誤資訊成為記憶。

黃從仁說，對話機器人應儘量不要輸出錯誤的資訊，例如透過人工方式，剔除學習資料中的錯誤資訊，或是讓對話機器人透過網路搜尋，先對答案進行事實查核。此外，若對話機器人無法確認自己的答案是否正確，應該直接回答不知道。

黃從仁強調，ChatGPT聊天介面中，有ChatGPT可能產生錯誤資訊的警語，但此警語實際上是脫責且無效，對於對話機器人的輸出內容應保持懷疑，不要照單全收。

台大資工系副教授陳縕儂也說，黃從仁的研究中只探討了「錯誤資訊」造成的影響，然而「偏頗資訊」的影響力可能更大，因為偏頗訊息不一定錯誤，因此難以經由事實查核加以驗證。

陳縕儂強調，要對機器提供的資訊抱持懷疑，也要具備思辨能力與查核力，做出自我的最終判斷，才能夠避免AI影響人類想法、言論，最終變成一言堂。

★加入《壹蘋》Line，和我們做好友！