大语言模型的不确定性
本文探讨了即使设置temperature=0和seed=0，大语言模型也无法保证完全确定性的原因。作者分析了采样配置陷阱、浮点数值误差、Batch动态调度、MoE路由竞争以及底层算子差异等因素，指出工程实践中应追求业务可接受的稳定性而非数学意义上的完全一致。
博客雷达不转载正文。这里只有标题、作者、时间和一小段 AI 生成的摘要；全文在作者自己的站点上，阅读请点上面的按钮过去——文章的版权一直在原作者手里。
你也在写博客？做一张「已被博客雷达收录」的徽章挂回自己的站，想挂就挂，也不占首页。