AI模型名實不符引關注 恐衝擊服務合約及法律證據

商傳媒｜責任編輯／綜合外電報導

隨著人工智慧（AI）模型的應用日益普及，業界發現，用戶支付特定AI模型的費用後，實際獲得的回應可能並非來自同一個模型，而是經過替換、降級或靜默更新的版本。這種「名不符實」的現象正引起市場關注，並可能對商業合約和法律證據帶來深遠影響。

根據《MarkTechPost》報導，AI模型的身份正在三個獨立面向產生「裂解」，但這些差異通常未被區分：首先是「替換（Substitution）」，例如 Anthropic 的 Fable 5 模型，在處理敏感請求時，可能會被路由至功能較弱的 Opus 4.8 模型。業者 Anthropic 表示，當敏感內容篩選觸發時，系統會將請求轉發給 Opus 4.8 並通知用戶。此外，Cursor 開發的 Router 軟體會根據查詢的語境、複雜度和領域，自動將請求分派給最適合的模型，據稱早期測試用戶的成本節省了 30%至50%。

其次是「降級（Degradation）」，這指相同模型以較低精度（quantized weights）提供服務。例如，OpenRouter 服務就提供使用量化權重的選項，能降低成本，但可能影響特定提示的回應品質，且該功能預設為開啟，用戶需手動選擇關閉。再者是「漂移（Drift）」，即模型名稱不變，但其內部權重（weights）可能在未通知用戶的情況下靜默更新，導致模型行為改變。

這些技術實務上的優化，在商業和法律層面卻製造了極大混淆。報導指出，若一個應用程式呼叫 API 時指定了 Fable 5，但實際回應來自 Opus 4.8，使用者收到的回應物件中雖然會標示實際運行的模型，卻凸顯出名稱與實際不符的問題。法律專家指出，AI模型服務通常被視為「服務」而非「商品」，因此難以適用傳統的商品保固法規，這使得合約條款的清晰度變得更加關鍵。

美國聯邦貿易委員會（美國FTC）的欺騙原則，可能也適用於此類未充分揭露的行為。若業者將模型替換或降級的資訊隱藏在文件深處，且預設選項對用戶不利，這將被視為一種「暗黑模式」（dark pattern）。

更嚴重的問題則出現在法律證據層面。現行法規（如美國聯邦證據規則 Federal Rule of Evidence 901(b)(9) 以及印度的 Bharatiya Sakshya Adhiniyam, 2023, §63）皆要求在法庭上驗證電子證據時，能夠明確指認產生該證據的系統。然而，若律師使用AI工具生成法律文件，卻因模型路由而無法確切追溯是哪個模型、哪個版本、哪種精度產生了特定內容，將導致「證據鏈中斷」，使得證據的真實性和可信度面臨質疑。

為解決此問題，業界與法律專家呼籲，應開發「可證明模型身份（attestable model identity）」。這意味著每次模型回應都應附帶經硬體認證簽署的數位聲明，其中包含所服務的模型識別碼、權重雜湊（weights hash）、精度以及系統提示雜湊，確保模型身份在法律上具有可驗證性。目前，部分回覆物件已包含服務模型名稱，但缺乏可法律驗證的機制，這讓模型ID在悄然成為法律識別碼的同時，其識別的具體內容卻仍不明確。