中國AI爭議頻傳 馬斯克：北京或推監管新規

（德國之聲中文網）推特、特斯拉執行長馬斯克（Elon Musk）結束上週為期兩天的訪中行程後，週一（6月5日）與美國民主黨總統候選人甘迺迪（Robert F. Kennedy Jr.）在推特音訊空間（Twitter Space）談話提到，中國政府正在推動人工智慧（AI）法規。

馬斯克並未詳細說明，僅表示他在中國期間會見了當地高層，並就AI的風險及監管必要性，進行了「富有成效的討論」。他說，他也從這些談話中得知，中國計畫啟動AI的相關監管措施。

AI詐欺、假訊息興起

AI在中國飛速發展，該國AI相關欺詐案近期也有所激增。《華爾街日報》5日報導，中國各地警方近日都在官方社交媒體上，廣泛警告民眾小心犯罪份子藉AI假冒成朋友進行詐騙。

報導指，一名郭姓中國男子4月在微信上接到一通詐騙視訊電話，詐騙者在影像中以AI換臉、語音合成技術冒充其友人的容貌和聲音，假可亂真地說服他將約60萬美元的款項轉入內蒙古的銀行帳戶。直到郭姓男子聯繫朋友確認款項，才得知自己受騙上當。根據內蒙古警方的微信貼文，中國當局已終止該筆交易，並試圖追回受騙款項。

此事在中國網民間引起熱議，一度在微博上以「#AI 詐騙正在全國爆發」的標籤廣傳，該話題隨後受審查限制，無法再顯示搜索結果。同月，安徽警方因一起類似案件逮捕了一名詐騙份子。

除詐騙案外，AI也在中國造成多起假訊息事件。甘肅5月有男子藉網路收集的新聞片，以ChatGPT捏造了一篇火車事故的假貼文，在允許用戶分潤的博客平台上發表，藉此得利。警方將其逮捕後稱，該篇文章獲得了1萬5000次瀏覽。同月，河南當局也稱，有名男子藉ChatGPT生成「餐館發生暴力扭打，一名女性被磚擊頭部後身亡」的假訊息，藉以獲得流量。

OpenAI並未在中國提供ChatGPT服務，但仍有許多中國民眾「翻牆」使用。

政府出手監管

為應對層出不窮的AI案件，中國政府已出台相關法規。

針對假消息、詐騙等案件，中國網信辦1月宣布，禁止以AI生成的圖像、音頻和文本，傳播錯誤、違法或「破壞經濟或國家安全」的訊息內容。《華爾街日報》指，這些籠統而廣泛的定義，給了中國當局相當大的執法自由。

中國網信辦4月也公佈了管理生成式AI服務（如百度「文心一言」、阿裡巴巴「通義千問」等）的措施草案，規定AI產出的內容須「符合國家社會主義核心價值觀」、「不得宣揚恐怖主義、歧視、暴力」，並要求企業需為「訓練AI產品的數據的合法性負責」，且在公開推出產品之前，須先提交當局進行「安全評估」。

倘若企業未遵守上述指導方針，將被處以1萬元人民幣（約1450美元）以上的罰款，並得停止旗下AI服務，面臨刑事調查。

彭博社引述分析師說法指，中國網信辦的相關規定可能影響未來中國訓練AI模型的方式。

除中國外，世界各國也都在尋求規範AI機器人發展的方法。義大利4月一度以個人訊息、隱私疑慮，以及生成內容不準確為由暫時禁止ChatGPT，並於ChatGPT母公司OpenAI更新隱私條款後解除禁令。

美國商務部4月亦曾針對「AI模型是否應經認證後才能上市」一事公開請求意見。對此，OpenAI回應「強大的AI系統應受嚴格的安全評估」，若想落實此類評估，就需要對AI加以監管，因此該公司願「積極與政府合作，以制定此類監管的最佳形式」。

（路透社、彭博社、《華爾街日報》、中國網信辦）

© 2023年德國之聲版權聲明：本文所有內容受到著作權法保護，如無德國之聲特別授權，不得擅自使用。任何不當行為都將導致追償，並受到刑事追究。