全球最大開源模型Kimi K3發布 2.8兆參數挑戰AI巔峰
月之暗面 (Moonshot AI) 趕在 WAIC 開幕前,於周三 (16 日) 正式推出新一代旗艦大模型 Kimi K3。其具備 2.8 兆 (2.8T) 參數、1M 上下文窗口與原生多模態能力,一舉成為目前全球參數規模最大的開源模型,規模比 DeepSeek V4 Pro 高出約 75%。
月之暗面宣布,K3 的完整權重將於 7 月 27 日前正式發布,這也是全球首個邁入 3 兆門檻並面向公眾開源的模型。
性能表現:挺進「御三家」之列
在各項基準測試中,Kimi K3 展現了逼近頂級閉源模型的實力。根據 Artificial Analysis 的智能指數 (Intelligence Index),K3 的得分僅次於 Claude Fable 5 與 GPT-5.6 Sol,穩居全球第三,正式取代 Google 成為 AI 界的新一代「御三家」。
特別是在 Frontend Code Arena(前端程式碼競技場) 中,K3 以 1679 的 Elo 分數奪冠,超越了 Fable 5 與 Sol,在品牌營銷、數據分析等 6 個領域均排名第一。
核心技術:KDA 與 AttnRes 的雙重突破
K3 採用高度稀疏的 MoE(混合專家) 架構,總參數雖達 2.8T,但每次推理僅激活 16 個專家 (共 896 個)。其架構引入了兩項關鍵創新:
Kimi Delta Attention (KDA):一種混合線性注意力機制,將 KV 緩存使用量減少 75%,在百萬字上下文下的解碼吞吐量提升最高 6 倍。
Attention Residuals (AttnRes):允許模型選擇性跨層檢索信息,防止底層知識在深層網絡中被「遺忘」。 這些技術讓 K3 的訓練效率較上一代提升了約 2.5 倍。
實戰應用:具備強大的長程自主性
與以往模型不同,K3 的核心升級在於其長程自主性。官方演示顯示,K3 能在 48 小時內獨立完成一顆 4 mm² 晶片的設計、優化與驗證,集成了 146 萬個標準單元。
在科研場景下,它能在兩小時內復現複雜的天體物理研究,閱讀 20 多篇論文並生成 3000 多行程式碼,將原本需資深研究員一到兩周的工作縮短至數小時。
局限與價格:機遇與挑戰並存
儘管實力強勁,K3 仍存在已知局限。其幻覺率達 51%,雖然準確性提升,但出錯時往往過於自信。此外,模型因過於優化長程任務,在處理模糊指令時可能顯得過於主動而替用戶做出決策。
在定價方面,K3 的 API 價格對標 Sonnet 模型,每百萬 Token 輸入定價為 20 元 (未命中緩存),若命中緩存則大幅降至 2 元。
雖然 K3 將於 7 月 27 日開源權重,但由於參數規模巨大,本地運行門檻極高,官方建議至少配備 64 個加速器 的超級節點配置。
更多鉅亨報導
•月之暗面傳赴港 IPO 估值上看180億美元
•矽谷大轉向!美國科技巨頭悄悄將中國AI模型納入核心基礎設施 GLM與Kimi受青睞