英伟达优化Kimi K3推理，GB300 NVL72上提速1.68倍

调研机构 SemiAnalysis 发文称，英伟达通过一项上游 vLLM 优化，让 2.8 万亿参数量的 Kimi K3 模型实现 423 tok/s/user 的推理速度，对比相同硬件（GB300 NVL72）性能提升 1.68 倍。

据介绍，该项优化由英伟达 CentML 工程师 Benjamin 完成，通过大规模 Megakernel 融合，使用 Cute DSL 编写英伟达新推出的解码专用内核。该 Megakernel 包含 1.2 万行代码，代表着 AI 辅助生成高级计算内核的未来方向。英伟达除此之外，还在为 vLLM 开发 DeepSeek V4.1 等其他模型的优化。