博客雷达 中文独立博客的 RSS 信息聚合站
Java不加糖
收录自 blog.javazero.top · 这家的全部文章 · 这家的收录页

DeepSeek-V4.1 模型结构(4):深度维度,Single-Pass mHC

2026-10-02 20:40 技术

本文分析了DeepSeek-V4.1模型中的mHC结构,通过计算访存量下界,发现V4实现是下界的两倍。文章详细介绍了如何通过合并kernel优化,包括将归一化移到投影后,让读算子使用上一个子层的权重,并与官方代码对比找出三处改动。

博客雷达不转载正文。这里只有标题、作者、时间和一小段 AI 生成的摘要;全文在作者自己的站点上,阅读请点上面的按钮过去——文章的版权一直在原作者手里。

你也在写博客?做一张「已被博客雷达收录」的徽章挂回自己的站,想挂就挂,也不占首页。