OpenAI 早就有工具可抓 AI 生成內容！為何選擇「蓋牌」不釋出？

生成式 AI 的進步，讓人們更難以辨識各種內容的真假，更有一些不肖份子，將其用來詐騙、影響選舉、作弊等，因此也出現各種用以檢測 AI 成內容的工具。

根據《華爾街日報》報導，作為生成式 AI 先驅之一的 OpenAI，其實早已開發出準確率高達 99.9% 的 AI 檢測工具。然而，內部已經爭論了將近 2 年，目前依然未開放使用，選擇蓋牌。

1. 如果大規模公開，技術恐被破解

《華爾街日報》解釋，OpenAI 的內部文件揭露，這套 AI 檢測工具是透過稍微改變 AI 選擇 token 的策略，ChatGPT 生成的文字會留下可供辨識的浮水印，並且不會影響生成內容的品質；藉由這些浮水印，該檢測器可以給出一個整個文檔或部分文檔由 ChatGPT 編寫可能性的分數。據內部文件，當由 ChatGPT 建立的新文本足夠多時，就能 99.9% 確認文章是否為 AI 生成。

該公司內部普遍認為，決定「誰」可以使用這個檢測工具將是個挑戰。如果使用的人太少，仰賴機器學習的檢測工具，也無法發揮作用；如果太多人能夠使用，一定會有人企圖破解這個浮水印技術。

自從 ChatGPT 問世以來，如何預防學術界運用 AI 寫論文、作弊，一直是話題的中心，OpenAI 這項工具固然對於解決生成式 AI 衍生出的複雜問題，尤其針對是學生使用 AI 生成論文與作業等，有很大的助益，將會大幅度改善教育界的困境。

因此，目前 OpenAI 正在討論直接將工具提供給教育機構或公司，專門協助學校確認學生的論文是否為 AI 產出。

對此，教育界呼籲，OpenAI 應該正視生成式 AI 對學校、教育的影響，科技政策領域非營利性組織民主與科技中心（Center for Democracy & Technology）最近進行的一項調查發現，有 59% 的受訪國高中教師確信一些學生使用 AI 來完成作業。「運用 AI 幫忙沒有問題，問題在於，當學生使用 ChatGPT 完成所有作業時，他們甚至不知道自己寫了什麼。」一名為教育工作者提供 AI 顧問的肯茲（Mike Kentz）說。

2. 檢測工具恐打擊 ChatGPT 使用率

但另一方面，AI 檢測工具恐將會降低 ChatGPT 使用者的使用意願，影響 OpenAI 的獲利。

該公司對 ChatGPT 忠實用戶進行的一項調查發現，有 69% 的用戶認為 AI 檢測技術會導致對 AI 使用者的錯誤指控；近三分之一的用戶表示會因為檢測技術而減少使用，或轉而使用其他 AI 工具，OpenAI 一位發言人表示，他們尤其擔心此工具對母語非英語的用戶群體產生影響。

如何同時解決 AI 的衍生問題，並且避免使用者流失？OpenAI 該如何兼顧兩者？目前尚未有定論。「我們正在開發的檢測方法在技術上很有前景，但也存在我們必須權衡的商業風險，所以也同時在研究替代方案。」OpenAI 發言人說。

【推薦閱讀】

◆ iPhone 16 採台積電 N3E 製程！蘋果發表會日期提前曝光，除了新機還有哪些驚喜？

◆ 韓國將推「AI 教科書」讓 8 歲小孩贏在起跑點，為何家長、專家卻群起抗議？

◆ 機器人如何成為人類的好幫手？4 大趨勢讓機器人變得更好用

＊本文開放合作夥伴轉載，參考資料：《華爾街日報》、《Tom’s Hardware》、《ZDNET》，首圖來源：Unsplash。

（責任編輯：廖紹伶）

加入『 TechOrange 官方 LINE 好友』 掌握最新科技資訊！