DeepSeek-V4 模型结构（5）：宽度维度，DeepSeekMoE 的四个改动
DeepSeek-V4的MoE模型在宽度维度进行了四处改动：路由打分方法变更、前三层采用hash routing、增加序列级平衡损失、SwiGLU添加硬截断。文章详细分析了每项改动的目的、实现方式和参数量计算。
博客雷达不转载正文。这里只有标题、作者、时间和一小段 AI 生成的摘要；全文在作者自己的站点上，阅读请点上面的按钮过去——文章的版权一直在原作者手里。
你也在写博客？做一张「已被博客雷达收录」的徽章挂回自己的站，想挂就挂，也不占首页。