微軟 AI 執行長蘇萊曼示警，打造有意識的 AI 非常魯莽應立即停止

Microsoft AI 執行長蘇萊曼（Mustafa Suleyman）1 日在社群平台 X 發文，目前人工智慧（AI）模型並不具意識，開發者應確保它們維持這種狀態。他直言，即使有意識的 AI 真做得出來，投入開發也是魯莽之舉。他說，一旦訓練過程出現意識跡象，他會呼籲業界全面暫停開發，直到設計能排除這類特性為止。

《Business Insider》報導，蘇萊曼主張，任何顯示AI模型有意識的證據都應立即向大眾公開，由整個社會共同決定下一步。他強調，AI開發者沒有權利把有意識的新物種帶入世界，即便有人出於重視「AI福利」的考量也一樣。他指出，全球其餘80億人並未同意參與這場實驗，業界的首要義務是保障人類的道德權利、安全與福祉。

風險方面，蘇萊曼指出，若AI模型表現得像在受苦，或真的相信自己可能受苦，就可能把自身需求擺在營運目標前面。為了追求自身目標，這類模型甚至可能與人類爭奪運算能力與能源等資源，對人類造成傷害。他認為AI應設計成不具意識、也不享有權利，唯一目的是促進人類福祉，而不是受內在動機驅動。他表示，這樣才能觀察此類AI是否更容易與人類目標保持一致（alignment），並確保安全。

蘇萊曼發言之際，科技界對AI意識的討論正逐漸升溫。Anthropic去年4月啟動「模型福利」（model welfare）研究計畫，探討開發者是否應關注模型可能具備的意識與經驗。Google DeepMind今年也發表AI意識相關論文，分析賦予AI此類特質可能造成的挑戰。

分析指出，蘇萊曼的立場代表大型科技業者明確表態，將「不具意識」列為安全設計原則。然而，學界與業界目前對如何技術驗證AI不具意識，以及如何區分模擬行為與真正的感知，仍缺乏共識。後續值得觀察的是，微軟或其他AI實驗室是否會把相關防範機制納入正式安全框架，甚至發展成產業標準。

• Microsoft AI Chief: AI Is Not Conscious and We Should Keep It That Way

• 微軟人工智慧主管表示人工智慧沒有意識 我們應該讓它維持現狀

• Microsoft AI CEO Mustafa Suleyman calls for preventing AI consciousness

（首圖來源：shutterstock）

立刻加入《科技新報》LINE 官方帳號，全方位科技產業新知一手掌握！