月之暗面开源了Kimi K3模型的权重与技术报告,并公开了支撑其训练的三项关键Infra技术。Kimi K3是一个拥有2.8万亿参数的混合专家模型,具备原生视觉理解能力,并支持100万token的上下文窗口。
据悉,该模型在有限算力下,通过一系列技术创新,实现了规模化效率2.5倍的提升。目前,任何人都可以自由下载并部署该模型,用于研发或集成到产品中。
支撑Kimi K3训练效率与稳定性的三大关键技术分别是MoonEP、FlashKDA和AgentEnv。其中,MoonEP是为超大细粒度MoE设计的高性能通信库。FlashKDA是高性能算子,能显著提升推理速度。AgentENV则是用于大规模运行Agent环境的沙箱系统。








