AI寫假新聞功力大增！OpenAI新技術太危險連官方都怕
特斯拉（Tesla）執行長，同時也是OpenAI共同創辦人伊隆．馬斯克（Elon Musk）昨（18）日在推特上表示，由於「部分理念不合」等因素，將離開OpenAI。消息公布前幾天，OpenAI才介紹他們最新研發的自然語言模型（Natural Language Model），但因為新技術太強悍，在散播不實資訊上有很大的風險，因此決定延後釋出的時程。
馬斯克稱「理念不合」退出，OpenAI新文字產生技術引發爭議
OpenAI創立於2016年，是一間旨在研發更安全、更實用的人工智慧技術的非營利研究團隊。然而，馬斯克表示，因為特斯拉與SpaceX有太多工程與製造上的難題要處理，所以已一年沒有參與OpenAI的營運。他已於去年2月辭去董事會的職務，如今更因為爭奪人才以及理念不合的原因，正式退出團隊。
OpenAI這項充滿爭議的文字產生技術稱為GPT-2。使用者只需要丟一段文字進去，這個AI程式就能透過分析與預測編寫出邏輯清晰、架構完整並且呼應主題與風格的文章。專精於自然語言處理（Natural Language Processing，NLP）的紐約大學電腦科學教授Sam Bowman在試用過GPT-2後表示：「在內容方面，它產出的文章比我們過去所看過的任何程式都要繁複、完整。」
水能載舟，亦能覆舟，這樣強大的功能很快引發各界憂慮。除了可能會被用來散播更難分辨真偽的假新聞外，偽裝並模仿他人的寫作風格，以及更加自動且全面性地在社群媒體上散播恐嚇言論，都是GPT-2做得到的事。
在OpenAI公開的一個案例中，團隊給了GPT-2這段文字：「一台載有核能材料的貨櫃列車今天在辛辛那提市遭竊，目前下落不明。」從這短短一句話，程式能生出一篇有七個段落的文章，甚至包含政府官員的發言引述，但內容完全是杜撰的。由於這個新技術的風險難以管控，團隊決定延遲釋出完整版本，僅創建了一個工具，讓用戶可以試用這項新的演算法。
打擊假新聞與AI發展相互拉扯，OpenAI籲美政府介入控管
自2016年美國總統大選的通俄門事件後，世界各國政府開始嚴加防範不實資訊的傳播。不僅歐盟砸下440萬英鎊（約新台幣1.73億元）做為防堵假新聞的預算來保護今年的歐洲議會選舉，Facebook也於去年年底成立新單位「作戰室」專門打擊假新聞。在這樣的國際氛圍下，OpenAI的新發明難免被認為是提供有心人士操作輿論的一條捷徑。
對此，OpenAI強調這一個新技術的立意是良善的，它可以協助翻譯、為創意寫作提供靈感、為軟體程式除錯，或幫公司及政府整理出政策概要等等。但團隊也呼籲美國政府，應開始規劃如何系統性地控管AI相關技術在社會上造成的影響，並確保這樣的控管系統能夠與時俱進。目前OpenAI並未透露何時會對外開放GPT-2的完整版本。
資料來源：The Bloomberg、Techcrunch
留言 1