16GB 显存跑 Qwen3.8-27B Q4_K_M:从爆显存到反超 llama.cpp 的 CUDA 推理优化
作者在16GB显存的RTX 5060 Ti上成功运行16.46GB的Qwen3.8-27B模型,通过优化词嵌入表、主干层和输出头的显存分配,并对757个解码算子进行CUDA优化,使单并发解码速度达到24.94 tok/s,超过了同配置的llama.cpp性能。
博客雷达不转载正文。这里只有标题、作者、时间和一小段 AI 生成的摘要;全文在作者自己的站点上,阅读请点上面的按钮过去——文章的版权一直在原作者手里。
你也在写博客?做一张「已被博客雷达收录」的徽章挂回自己的站,想挂就挂,也不占首页。