準確率過低，OpenAI 悄悄關閉 AI 內容檢測工具
OpenAI 悄悄關閉自今年 2 月推出、用於辨識 AI 文字內容的工具 AI Classifier，這款工具試圖區分人工撰寫或 AI 產生的文字內容。
AI Classifier 試圖去區分文字內容究竟由人工撰寫、還是 AI 產生，卻因準確率過低飽受批評，不到半年的時間就被關閉，無法達成目的。OpenAI 官方部落格更新的文章顯示，從 7 月 20 日起關閉 AI Classifier。
「我們努力整合意見回饋，目前正在研究更有效的文字出處技術」，OpenAI 還承諾，計劃開發和部署一套機制，讓用戶能夠了解音訊或影片內容是否為 AI 產生。
OpenAI 坦承 AI Classifier 從來都不擅長捕捉 AI 產生的文字內容，使用上至少需要 1,000 個字，或大約 150 個至 250 個詞，但成功率僅為 26% 並非特別精準，並警告它可能會誤報，把 AI 產生的文字內容標記成人工撰寫。
AI 文字內容具有一些辨識特徵或模式，理論上可檢測出來，但目前尚未在具體執行過程獲得證實。此外，AI 文字內容有些附加說明或出處，但大型語言模型之間的差異以及各家開發速度不一，使得附加說明不容易被信賴。現在有賴 AI 領域的公司和專家們持續尋找解決方案，才能克服 AI 應用在教育領域或打擊錯誤資訊所遭遇的問題。
（首圖來源：Unsplash）