AI也有感受？Anthropic更新條款禁「殘忍虐待」Claude
人工智慧公司Anthropic於週四更新使用規範，正式禁止用戶對其開發的Claude AI系統進行「持續且不必要的虐待或殘忍行為」，引發外界對AI是否具備意識的哲學討論。
總部位於美國舊金山的人工智慧（AI）實驗室Anthropic，在最新更新的使用政策中，加入了「禁止對我們的模型採取持續且不必要的濫用或殘忍行為」之規定。該政策明確指出，「Claude結束這些互動的能力，仍將是主要的執行機制。」
雖然更新後的政策未明確提及「模型福祉」（model welfare）概念，即AI系統可能應獲得通常賦予生物的保護，但Anthropic及其高層過去曾公開探討此想法。早在去年，該公司就表示已賦予Claude在極端情況下結束「持續有害或濫用互動」的對話能力。執行長Dario Amodei在2月接受《紐約時報》採訪時也曾表示：「我們不知道模型是否具有意識……但我們對此可能性抱持開放態度。」
不過，對於機器是否具備意識，各界看法不一。微軟AI部門主管Mustafa Suleyman上個月撰文直言：「AI沒有意識，它們不會感覺、體驗或受苦。」他認為賦予科技實體權利與道德保護將是一場災難。教宗也在梵蒂岡聖伯多祿大殿的講道中指出，機器僅能快速彙整數據，缺乏只有人類靈魂才能體會的深度意義。
本文由AI協作，經編輯審核後發布