DeepSeek-V4 模型结构（3）：序列维度（下），HCA、混合排布与零件
本文深入探讨了DeepSeek-V4模型中的序列维度处理技术，包括HCA压缩原理、混合排布策略、滑窗分支必要性，以及K=V带来的绝对位置问题解决方案。同时分析了attention sink的softmax缺陷、Q/KV归一化的优势，并计算了1M上下文的KV cache和FLOPs。
博客雷达不转载正文。这里只有标题、作者、时间和一小段 AI 生成的摘要；全文在作者自己的站点上，阅读请点上面的按钮过去——文章的版权一直在原作者手里。
你也在写博客？做一张「已被博客雷达收录」的徽章挂回自己的站，想挂就挂，也不占首页。