显存账本：每张卡上存了什么，各项怎么省
本文介绍了训练时一张显卡显存的五类构成：权重、梯度、优化器状态、激活和通信缓冲，分析了各类显存占用的影响因素，并指出每种节省显存的技巧都需要权衡相应的代价，如计算量、精度或通信效率。
博客雷达不转载正文。这里只有标题、作者、时间和一小段 AI 生成的摘要；全文在作者自己的站点上，阅读请点上面的按钮过去——文章的版权一直在原作者手里。
你也在写博客？做一张「已被博客雷达收录」的徽章挂回自己的站，想挂就挂，也不占首页。
本文介绍了训练时一张显卡显存的五类构成：权重、梯度、优化器状态、激活和通信缓冲，分析了各类显存占用的影响因素，并指出每种节省显存的技巧都需要权衡相应的代价，如计算量、精度或通信效率。
博客雷达不转载正文。这里只有标题、作者、时间和一小段 AI 生成的摘要；全文在作者自己的站点上，阅读请点上面的按钮过去——文章的版权一直在原作者手里。
你也在写博客？做一张「已被博客雷达收录」的徽章挂回自己的站，想挂就挂，也不占首页。