Kimi K3 模型结构（8）：训练并行，MoonEP 与四类等待
本文详细介绍了Kimi K3模型的训练并行结构，重点探讨了MoonEP技术及其解决EP负载不均、host等待shape、SM间偏斜和流水线气泡中ViT问题的方法。文章通过推导MoonEP定理，说明每个rank预留E/R个冗余expert槽位可实现完全平衡的router输出。
博客雷达不转载正文。这里只有标题、作者、时间和一小段 AI 生成的摘要；全文在作者自己的站点上，阅读请点上面的按钮过去——文章的版权一直在原作者手里。
你也在写博客？做一张「已被博客雷达收录」的徽章挂回自己的站，想挂就挂，也不占首页。