博客雷达中文独立博客的 RSS 信息聚合站
博客雷达
Java不加糖
收录自 blog.javazero.top · 这家的全部文章 · 这家的收录页

Kimi K3 模型结构(11):从推理代码看 K3.1 Pro 的 Gated DSA

2026-11-12 20:00 技术

本文分析了Kimi K3.1 Pro模型的结构变化,特别是将原来的24层Gated MLA改为Gated DSA。作者通过推理代码分析,确认K3.1 Pro仍是KDA与MLA家族注意力交替的混合MoE模型,详细介绍了索引器的工作原理和模型配置。

博客雷达不转载正文。这里只有标题、作者、时间和一小段 AI 生成的摘要;全文在作者自己的站点上,阅读请点上面的按钮过去——文章的版权一直在原作者手里。

你也在写博客?做一张「已被博客雷达收录」的徽章挂回自己的站,想挂就挂,也不占首页。