国金证券月之暗面KimiK3发布全球首个开源三万亿参数模型.pdfVIP

KimiK3发布，多重架构实现底层创新

2026年7月16日月之暗面在WAIC前夕推出KimiK3，是全球首个开源的近3万亿参数大模型，拥有2.8万

亿参数、100万token超长上下文，原生支持视觉理解，完整权重将于7月27日前公开。模型搭载多项原创架构

技术：自研KDA混合线性注意力可大幅降低长文本缓存消耗、提升长序列解码速度；Block注意力残差以极小算力

开销优化训练效率；配合896专家仅激活16个的高稀疏MoE、MXFP4/MXFP8量化感知训练，整体扩展效率相较K2

提升2.5倍，攻克万亿参数模型稳定训练的技术难点。

综合性能跻身全球第一梯队，大幅收窄与闭源顶尖模型差距

KimiK3综合实力显著拉近与GPT-5.6Sol、ClaudeFable5等海外闭源旗舰的差距，改写此前“开源落后闭源半

年”的行业现状。在编程、通用智能体、视觉智能体各类权威基准测试中多项成绩名列前茅，Arena.AI前端开发

WebDev榜单直接超越ClaudeFable5登顶；仅整体综合上限仍小幅不及海外头部闭源模型，国产开源