7月17日,月之暗面發布新一代Kimi K3,參數規模達2.8萬億,為目前全球參數最大的開源模型。消息傳出后,美股盤前納斯達克100指數期貨一度跌逾1.8%,英偉達等AI龍頭普遍走低,市場重現“DeepSeek時刻”。
月之暗面公布的信息顯示,Kimi K3模型原生支持圖像輸入和100萬Token上下文,采用Kimi Delta Attention(KDA)、注意力殘差(Attention Residuals)以及高度稀疏的混合專家架構,處理每個Token時僅從896個專家中有效激活16個,以提高算力利用效率。
月之暗面稱,相關架構和數據訓練方法使其整體擴展效率較Kimi K2提高約2.5倍,并補充道Kimi K3在內部評估中,端到端知識工作能力領先GPT-5.5和Claude Opus 4.8。
發布當日,馬斯克在相關評測報道評論區留言:“令人印象深刻。”
7月18日,馬斯克再次發表評論稱,“我們的2萬億參數模型將在下周完成初始訓練,有可能超越Kimi。”
![]()
Kimi則回應稱,“@ElonMusk 歡迎加入「2 萬億+」俱樂部 ”
![]()
據每日經濟新聞報道,目前,Kimi K3的完整模型權重尚未發布,月之暗面表示將于今年7月27日前發布。更多技術細節將隨技術報告一并公布。
本文系觀察者網獨家稿件,未經授權,不得轉載。
特別聲明:以上內容(如有圖片或視頻亦包括在內)為自媒體平臺“網易號”用戶上傳并發布,本平臺僅提供信息存儲服務。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.