OpenAI 員工批評 AI 公司漠視安全　要求確保「警告權」容許員工舉報問題

AI 技術一日千里，不過同時越來越多人也擔心新科技帶來的惡性影響。有 OpenAI 員工聯署公開信，批評 AI 公司未有重視產品安全，要求確保員工舉報問題的權利，不對「吹哨者」報復。

包括 OpenAI 現任和前任員工，以及一名 Google DeepMind 成員和一名前 DeepMind 研究員在內的 11 名 AI 專家最近聯署了一封公開信，敦促 AI 公司保護舉報人和批評者。這封題為《警告權》（Right to Warn）的公開信強調 AI 技術帶來的嚴重風險，包括不平等、內容操縱、錯誤資訊和自動化系統失控等，嚴重者可能導致人類滅絕。

信中批評 AI 公司在開發過程中缺乏監督、只重視目前利益，同時壓制反對聲音。他們建議 AI 公司應該自願採納四項原則：不簽署或執行「禁止詆毀」協議、建立匿名舉報流程、鼓勵公開批評以及在其他舉報方式失敗後不對分享風險相關資訊的員工進行報復。

今次的公開信剛好是在 OpenAI 高層人士變動後，成立新的安全團隊後所聯署，顯示在 OpenAI 內部仍然有不少擔心公司對 AI 安全把關不足，未來對社會造成危害聲音，未來如何平衡產品發展和社會責任，將會是 AI 開發公司都需要面對的課題。

來源：Right to Warn

• 不想錯過新科技 ? 請 Follow unwire.hk FB 專頁http://facebook.com/unwirehk/
• 要入手生活科技潮物 即上 unwire store
https://store.unwire.hk/