AI安全風險引發擔憂 OpenAI等巨頭擬共組標準機構

生成式AI開發商OpenAI在15日表示，全球最大的幾家AI企業正致力於建立一個標準機構，因為人們越來越擔憂AI構成的危險，並面臨到建立更安全的AI技術的壓力。

OpenAI表示，該公司正在與Anthropic和Google合作，討論一項由Google旗下DeepMind執行長哈薩比斯(Demis Hassabis)提出的構想，仿效監管美國銀行與投資公司的金融業監管局(Financial Industry Regulatory Authority，FINRA)，建立一個自律機構。

今年7月，哈薩比斯呼籲美國建立一個機構，在最強大的AI系統公諸於世前進行測試。

哈薩比斯寫道：「資金需求相當可觀，而且可能主要由業界出資，才能吸引世界級技術人才，並提供大規模測試所需的計算資源。」

OpenAI執行長阿特曼(Sam Altman)15日支持業界合作，並承認大眾擔心各大企業與各國之間競爭可能忽略安全性。

阿特曼15日在一場會議上表示：「我認為這對我們的產業來說是件好事，表達我們想要團結一致，我們想要能夠協調，確保我們有足夠的時間安全地做這件事。」

阿特曼補充說，當存在某些業界人士可能「不會做正確的事情時，這會讓人們非常恐懼。」

部分科技界人士則擔憂AI巨擘之間的合作可能排除小型的競爭者。

加拿大AI開發商Cohere共同創辦人兼執行長葛梅茲(Aidan Gomez)近期指控美國AI企業以安全為由，組成「壟斷聯盟」。

葛梅茲13日在部落格寫道：「AI需要護欄。這沒有爭議，也從來不是爭議所在。爭議在於誰來制定它們，誰有資格參與，以及這些規定保護了誰的利益。」(編輯:王志心)