AI風暴3／美國民眾花錢請律師讓AI對罵！ 上訴審不准AI寫判決
AI生成判決及訴狀問題逐漸在世界各國的司法界蔓延，不但發生兩造律師利用AI寫訴狀在法院攻防對罵的荒謬現象，連法院裁判也遭AI「淪陷」！路透社等外電報導，美國密西西比的聯邦地方法院亨利．溫蓋特法官（Henry Wingate）的助理因使用Perplexity AI工具撰寫暫時限制令，導致裁定書出現虛構人名與錯誤當事人，法官未核實審查便簽署發布，引發重大司法爭議。美國第五巡迴上訴法院今年8月擬將本案重新分案和移轉管轄其他法院。
另一名犯下類似錯誤的法官是新澤西州聯邦地方法院法官尼爾斯，他在2025年6月公布的一宗判決被發現錯漏百出，甚至引述並不存在的案例。尼爾斯承認一名法學院實習生在未經授權和沒有披露下，利用人工智能聊天機器人ChatGPT蒐集法律資料。他說現已制定人工智能使用政策，加強審核程序。
其實類似案例在美國恐怕只是冰山一角，不只是法官，有律師也犯下類似離譜的錯誤，同樣在密西西比，兩造律師被發現利用AI引用虛擬案例，法官沙里昂·艾科克（Sharion Aycock）決定取消審訊，並對涉案律師進行制裁。
艾科克法官發現，兩造律師均使用生成式AI準備法律文件，且雙方律師在訴狀中均引用了由AI「幻覺」產生的不存在案例，形成AI工具互相辯論的荒謬場景，氣壞的艾科克法官做出裁決：取消審訊、撤銷所有四名涉案律師的資格，且對其中兩名律師被禁止在該法庭執業兩年，所有涉案律師被處以1000至3500美元不等的罰款。
對此，美國參議院司法委員會主席格拉斯利曾表示，聯邦法官及司法機構都有義務確保使用人工智能不侵犯當事人的權利。
美國聯邦最高法院院長約翰．羅伯茲（John Roberts）2023年12月31日公布的年終報告指出：AI顯然具有巨大的潛力，讓人們更容易獲取關鍵信息。但它有可能侵犯隱私利益，使法律失去人性。他表示，AI有潛力增加貧困訴訟當事人訴諸司法的機會，徹底改變法律研究，並協助法院更快、更便宜地解決案件。但羅伯茲強調，AI可能虛構事實，也無法複製人類法官的自由裁量權。
羅伯茲也認為，上訴法官不會很快被取代，因為許多上訴裁決取決於下級法院是否濫用自由裁量權，這本質上涉及特定事實的灰色地帶，「通常涉及灰色地帶仍然需要人類判斷。他認為人工智慧主要基於現有資訊，它可以提供資訊，但不能做出此類決策。」