微軟和卡內基美隆大學的研究人員最近發表了一項研究，探討在工作中使用生成式 AI，如何影響批判性思考的能力。
論文指出，一些工作者可能會過度依賴生成式 AI，導致問題解決能力下降。換句話說，如果使用不當，AI 可能會取代一個人的思考能力。
你只關注生成式 AI 的回答好、不好嗎？
具體來說，當人們在工作中依賴生成式 AI 時，會將注意力轉向驗證 AI 的回應好或不好，而不會使用到創造、評估、分析資訊等進階批判思考的能力。
論文指出，如果人類只在 AI 回應不佳的時候才介入並做出回應，就會失去「日常練習判斷能力，和加強認知能力的機會。當出現例外情況，他們就會退縮，無法做好準備。」也就是說，如果過度依賴 AI，當 AI 給的回應不好，人類的解決問題能力可能變得更差。
事實上，日前刊登在《Societies》期刊的一篇論文就發現，經常使用 AI 的人，比不常使用、或根本不使用 AI 的人，批判性思考能力更差，研究認為背後原因是「認知卸載」現象──把思考和解決問題能力外包給其他人。如果認知卸載太頻繁，會降低一個人的獨立思考和解決問題的能力。
不過，微軟和卡內基美隆大學合作、名為《生成式 AI 對批判性思維的影響》論文中，提出了更細緻的觀察。
該研究由 7 名研究人員進行，詢問 319 名每週工作至少使用一次生成式 AI 工具的知識工作者，詢問他們在使用 Copilot、ChatGPT 等工具時，是否運用到批判性思維，批判思考程度。要求分享的情境可分為三大類：創造（寫一封制式 email）、資訊（研究一個主題或總結一篇長文）、建議（尋求指導或根據既有資料製作圖表）。以下彙整 2 大研究亮點：
你的「自信心」決定是否會批判思考
研究中，受訪者提到的每項任務，都會被要求進一步分享他們對自己、對生成式 AI、對評估生成式 AI 輸出能力的信心。
研究發現，對於完成任務有信心，也就是對個人能力信心的工作者，更有可能對生成式 AI 進行批判思考。相對地，對於完成任務較無自信的工作者，往往會認為生成式 AI 已經提供夠好的答案，因此不會費心思考還需貢獻什麼。
研究人員認為，這代表著企業 AI 工具必須重新設計──結合長期技能發展的機制，並鼓勵使用者針對 AI 的生成內容進行反思，在必要時提供幫助。研究認為，讓 AI 說明其推理過程的「解釋性 AI」，是幫助之一，但還可以做得更好。
研究中的批判思考是什麼意思？
約 36% 參與者表示，他們運用批判性思考來減輕使用 AI 可能帶來的負面影響。
一位參與者表示，他使用 ChatGPT 撰寫績效評估，但會仔細檢查 AI 輸出，因為他擔心自己可能意外提交導致他被開除的內容。另一位受訪者表示，他必須編輯要提供給主管的 AI 生成電子信件，因為其公司文化更注重階級、年齡，如此他才不會犯下失禮行為。
值得關注的是，參與者會透過 YouTube、維基百科等常規的網路管道，蒐集資料來驗證 AI 生成的回答。研究提及，生成式 AI 帶來的潛在風險，可能會激發使用者的批判思維──但只有用戶有意識地考量風險，才會發生。
使用 AI 工具，該具備的批判能力不同？
該篇研究的結論指出，在 AI 時代，人們應該運用批判性思考，來驗證 AI 的輸出、思考其在日常工作中的應用方式。《The Register》指出，考量到論文 7 位作者有 6 位在銷售 Copilot 的公司，這樣的結論並不意外。
該研究指出，知識工作者應該要被教導「保持資訊蒐集和解決問題的基本技能，以避免過度依賴 AI。」並強調，使用生成式 AI 工具時，如果要保持批判性思考，應該將技能焦點從資訊蒐集轉向資訊驗證、從解決問題轉向整合 AI 回應、從任務執行轉換成任務管理。
【推薦閱讀】
◆ 如何讓 AI 準確回答問題？提示工程師教學「要把 AI 當小孩」
＊本文開放合作夥伴轉載，資料來源：《The Register》、《TechCrunch》、《Forbes》，首圖來源：Image Creator 生成。