并行策略总览：六个维度各切什么、怎么通信
本文详细介绍了并行计算中的六个维度：batch、序列、权重矩阵的行列、层、expert和注意力内部的序列。文章分析了每种切法的原理、通信机制、通信量以及计算和显存优化，并对比了Megatron、DeepSpeed等框架在实现这些切法时的不同方式。
博客雷达不转载正文。这里只有标题、作者、时间和一小段 AI 生成的摘要；全文在作者自己的站点上，阅读请点上面的按钮过去——文章的版权一直在原作者手里。
你也在写博客？做一张「已被博客雷达收录」的徽章挂回自己的站，想挂就挂，也不占首页。