DeepSeek-V4 模型结构（1）：序列维度（上），从 MLA 到压缩 KV
本文分析了DeepSeek-V4模型在序列维度上的优化，探讨了从MHA到CSA/HCA的注意力机制演进，解释了V4的压缩算子推导过程，包括重叠窗口和逐通道softmax，并讨论了K=V的单头MQA和分组输出投影技术。
博客雷达不转载正文。这里只有标题、作者、时间和一小段 AI 生成的摘要；全文在作者自己的站点上，阅读请点上面的按钮过去——文章的版权一直在原作者手里。
你也在写博客？做一张「已被博客雷达收录」的徽章挂回自己的站，想挂就挂，也不占首页。