DeepSeek-V4.1 模型结构(8):KV cache 的管理与 SWA Bounded Replay
本文是DeepSeek-V4.1模型结构系列的最后一篇,主要讨论了KV cache的管理策略,包括滑窗KV不适合保留在磁盘缓存的原因、V4.1的解决方案以及重建代价;同时介绍了CSA2跨层共享在流水线并行下的训练方法,以及多模态训练的系统改动。
博客雷达不转载正文。这里只有标题、作者、时间和一小段 AI 生成的摘要;全文在作者自己的站点上,阅读请点上面的按钮过去——文章的版权一直在原作者手里。
你也在写博客?做一张「已被博客雷达收录」的徽章挂回自己的站,想挂就挂,也不占首页。