AI 寫論文暴增 33%，arXiv 創辦人示警學術可靠性危機
在科學出版界，人工智慧（AI）的迅速崛起引發了對學術可靠性日益加劇的擔憂。根據最近的分析，AI 的使用不僅影響了學術界的創作過程，還可能導致低品質的機器生成內容充斥文獻，進一步削弱了科學的信任度。
自1991年以來，arXiv做為一個預印本資料庫，為科學家提供一個快速分享研究成果的平台。然而，隨著AI技術的發展，arXiv的可靠性正受到威脅。arXiv的創始人保羅·金斯巴格（Paul Ginsparg）指出，AI的使用使得一些研究者能生成看似合理的論文，這些論文的數量比未使用AI的研究者多出33%。這個現象引發了對科學品質評估標準的質疑，因為傳統的語言複雜性等指標已不再可靠。
不僅arXiv面臨挑戰，整個學術界也在經歷一場信任危機。最近在《自然》雜誌上發表的一篇文章揭示了一位德國科學家馬塞爾·布赫（Marcel Bucher）因依賴ChatGPT生成教學材料而導致的尷尬情況。當他試圖暫時禁用數據同意選項時，ChatGPT意外刪除了他儲存的所有資訊，讓他感到兩年的學術工作瞬間消失。這起事件突顯了在學術界中過度依賴AI可能導致的嚴重後果。
此外，開放獲取期刊面臨著透過文章處理費（APC）來加速和膨脹出版量的壓力，這使得學術界在追求數量的同時，忽視了品質的把控。根據研究，97%的神經學期刊禁止AI為作者、96%要求披露AI的使用情況、93%則允許AI輔助寫作，這反映了學術界在AI使用上的矛盾與挑戰。
隨著AI技術的進步，專家們強調AI應被視為增強人類工作的工具、而非取代者。然而，當前的趨勢顯示，學術界在同行評審和可重複性方面面臨著越來越深的挑戰。
（首圖來源：AI生成）