流水线并行：1F1B、虚拟段与气泡
本文探讨了模型分段后的micro-batch调度策略，从GPipe到1F1B再到interleaved 1F1B和Zero Bubble的演进过程，分析了推气泡占比、在途激活数量和虚拟段显存代价等关键因素，并提供了可视化时间线工具。
博客雷达不转载正文。这里只有标题、作者、时间和一小段 AI 生成的摘要；全文在作者自己的站点上，阅读请点上面的按钮过去——文章的版权一直在原作者手里。
你也在写博客？做一张「已被博客雷达收录」的徽章挂回自己的站，想挂就挂，也不占首页。