点滴记忆

收录自 blog.quickso.cn · 这家的全部文章 · 这家的收录页

使用llama.cpp部署本地大模型

本文详细介绍了如何使用llama.cpp框架在本地部署大模型，包括GGUF模型格式的特点、安装依赖、编译不同版本(CPU、NVIDIA GPU、AMD显卡、Apple Silicon)、下载模型以及CPU推理的具体参数设置。

博客雷达不转载正文。这里只有标题、作者、时间和一小段 AI 生成的摘要；全文在作者自己的站点上，阅读请点上面的按钮过去——文章的版权一直在原作者手里。

你也在写博客？做一张「已被博客雷达收录」的徽章挂回自己的站，想挂就挂，也不占首页。