月之暗面正在发布 Kimi K3 的模型权重和技术报告
作者：杖雍皓
月之暗面正在发布 Kimi K3 的模型权重和技术报告。 Kimi K3 是我们最强大的模型：一个 2.8T MoE 模型，具有原生视觉理解能力和 1M 令牌的上下文窗口。 全新模型架构：每单位计算的智能水平提升 2.5 倍，而不仅仅是参数更多。 与 Kimi K3 一起，我们还将开放其背后的更多技术栈——高性能注意力内核、MoE 通信库，以及大规模运行代理环境的基础设施。 模型权重：http://huggingface.co/moonshotai/Kimi-K3 技术报告：http://github.com/MoonshotAI/Kimi-K3/blob/master/k3_tech_report.pdf 技术博客：http://kimi.com/blog/kimi-k3 https://x.com/Kimi_Moonshot/status/2081760186235289764?s=20 KimiK3 月之暗面 大语言模型 MoE架构 长上下文