AI巨頭安全研究員突宣布離職！稱這點理念不合...示警「世界處於危險中」

人工智慧透過數據輸入、演算法訓練與模型推論等來學習模式並執行任務，為人類帶來許多便利，不過日前美國人工智慧新創公司Anthropic一名人工智慧安全研究員警告，AI毫無節制的發展，導致「世界正陷於危險之中」，同時因與公司價值觀不合，宣布離職。

美國人工智慧新創公司Anthropic開發聊天機器人、可以產生文字或想法的工具，其中包括程式Claude，然而米里南克．夏爾馬（Mrinank Sharma）曾為Anthropic公司人工智慧安全研究主管，日前他在社群發布辭職信，指出因人工智慧的進步存在生物恐怖主義等相關風險，讓「世界正處於危險之中」，因與公司理念不合，辭去年薪20餘萬美元職位。

夏爾馬表示，過去在團隊中，致力讓人工智慧免於傷害、攻擊人類，曾建設過防禦機制，防止人工智慧遭不法份子用於製造生物武器，同時研究大量人工智慧諂媚症（Sycophancy）等問題，盼能避免過度認同用戶，導致扭曲人們價值觀及感知能力。

不過夏爾馬發現，人工智慧毫無節制的成長，當全球包括戰爭、流行病、氣候變遷等議題交織在一起時，他擔憂，當ChatGPT這類大型語言模型經過數百萬篇科學論文訓練，可能提供製造新型生物武器方式，讓世界變得不安，直指公司在公共安全方面的承諾背道而馳。

加入《鏡報》官方帳號，精彩新聞不漏接

更多鏡報報導

他將「老婆遺體藏牆裡」28年謊報失蹤　清潔工意外揭「骯髒秘密」
臨終前有感應？ICU護士揭「神秘1句話」病人說完就會走：病情都沒惡化