AI生成虛假引文恐觸法 內布拉斯加州律師遭停職引警惕

商傳媒｜何映辰／台北報導

美國內布拉斯加州最高法院近日裁定，暫時吊銷一名律師的執業資格，因其在提交給法院的法律文件中使用人工智慧（AI）生成了大量虛假引文。此舉對全球法律界發出了強烈警示，提醒法律從業人員務必審慎運用AI工具。

奧馬哈（Omaha）律師格雷格·雷克（Greg Lake）在處理一宗離婚上訴案時，其提交的法庭文件內容出現重大疏漏。根據報導，該文件共63條引文中，有57條存在缺陷，其中20條為AI憑空捏造的參考資料，更有4條引用了根本不存在的判例。該離婚上訴案主要針對婚姻資產分割和子女監護權的生效日期爭議。

早在今年二月，法官在口頭辯論環節中就發現了文件中的錯誤，這些錯誤與內布拉斯加州（Nebraska）已公布的判例法不符。當被質疑時，格雷格·雷克聲稱因電腦故障，導致誤上傳了錯誤版本的文件。然而，經紀律委員會調查後，發現格雷格·雷克曾利用AI撰寫這份文件，卻向法院否認此事，此舉已違反了對法庭應當誠實的專業行為準則。

內布拉斯加州最高法院的判決書指出，AI如同其他科技工具，雖然能為法律界帶來助益，但使用時必須抱持謹慎與謙遜的態度。法院強調，這些錯誤本可透過標準的法律研究平台進行基本查核，輕易避免。法院最終認定格雷格·雷克未能履行其對法庭誠實的義務。

此案例並非孤例。巴黎高等商業研究學院（HEC Paris）研究員 Damien Charlotin 正持續追蹤全球範圍內超過1,200宗AI「幻覺」（hallucination）案例，其中約800宗發生在美國法院。AI生成虛假內容的速度已達到一天之內在十個不同法院出現十宗案例。過往也曾有相關案例，例如奧勒岡州曾對一名律師因AI相關文件錯誤處以總計109,700美元的罰款，而美國聯邦第六巡迴上訴法院（Sixth Circuit）則對兩名田納西州（Tennessee）律師因捏造引文處以30,000美元罰款。

內布拉斯加州對格雷格·雷克施加的無限期停職，若在上訴後維持原判，將成為美國首宗因AI相關文件錯誤而導致律師全面停業的紀律處分。法律界對此類AI「幻覺」的回應，被視為定義高風險監管環境中「負責任部署」的預警信號。這也預示著，在金融諮詢、醫療決策及政府應用等高利害領域，類似的AI監管框架將陸續出爐。