不看措辭看想法，IdeaLens 改從核心論點判斷文章出自人類還是 AI
馬里蘭大學、Google DeepMind 與西門菲莎大學研究人員開發 IdeaLens，先把文件剝除原始措辭、只留核心論點大綱再判斷來源，在人類寫作經 AI 小幅潤飾的情境下，誤判率遠低於現有偵測工具。
多數 AI 偵測工具靠分析字詞與句型找出 AI 生成文字的痕跡。新工具 IdeaLens 改走另一條路：它檢查的是文件背後的想法，而不是措辭本身，目標是判斷一份文件的核心論點出自人類還是機器，不論最終稿是誰寫的。開發團隊來自美國馬里蘭大學（University of Maryland）、Google DeepMind 與加拿大西門菲莎大學（Simon Fraser University）。
根據研究論文，團隊以約 100 萬份已標記為 AI 或人類撰寫的文件訓練 IdeaLens。他們先用語言模型去除原始用字，把每份文件化約成只剩核心論點的簡單大綱，迫使系統從想法而非寫作風格中學習。
在完全由單一來源撰寫的文件上，IdeaLens 正確標出 91% 的 AI 生成作品，把人類寫作誤判為 AI 的比例只有 0.6%，但這項表現仍不及 Pangram 等成熟偵測工具。換到經過 AI 小幅編修的文字，IdeaLens 把 95% 的人類文件判為人類所寫，Pangram 平均只有 44%。
人類與 AI 想法混雜時，結果更能看出兩者差異。若 AI 依照人類寫好的詳細大綱撰文，Pangram 等傳統工具抓出 92% 的 AI 參與，IdeaLens 只標出 7%，因為想法本身來自人類；反過來由人類依 AI 生成的大綱動筆，IdeaLens 抓到 68% 的 AI 影響，Pangram 只有 8%。
研究人員發現，人類產生的想法通常帶有較具體的細節、可查證的來源，也會承認研究限制；AI 生成的想法則多是籠統細節、無法查證的數字、過度概括的主張，以及完美得可疑的答案。不過 IdeaLens 對部分較新的 AI 模型仍判斷吃力，團隊表示還需要更多測試，才能廣泛用於期刊與課堂。
（首圖來源：IdeaLens）