本文为资料整理,非实机评测。本文不含任何本机跑分或速度测量,所有版本号、功能和价格均取自三家官方页面与官方仓库,抓取日期为 2026-10-28。
先在本地跑一个大模型,你迟早要面对同一个问题:用 Ollama、LM Studio,还是直接上 llama.cpp?三个工具都在跑同一类模型(GGUF 量化权重),差别全在安装方式、能不能自己选量化、要不要掏订阅费这三件事上。
一句话结论
- 只想装完就能聊天:选 LM Studio(免费档就能离线跑本地模型)。
- 想让本地模型变成接口,给脚本和 App 调用:选 Ollama。
- 显存紧张、要在 CPU 和显卡之间混着跑,或要最细的量化控制:选 llama.cpp。
参数与功能对比表
数据来自 ollama.com、lmstudio.ai、github.com/ggml-org/llama.cpp 与各自官方文档,抓取日期 2026-10-28。
| 对比项 | Ollama | LM Studio | llama.cpp |
|---|---|---|---|
| 形态 | 命令行 + 本机接口 | 图形界面桌面应用 | 命令行工具集与库 |
| 当前版本(抓取日) | v0.40.12(2026-10-27 发布) | Bionic 1.1.9(changelog 页) | 最新标签 b11954(2026-10-28);另有 v0.7.0(2026-10-15) |
| 本地要不要付费 | 不要,本地运行无需订阅 | 不要,Free 档即含本地推理 | 不要,MIT 许可开源 |
| 模型来源 | ollama.com 模型库;热门条目含 deepseek-v4.1-flash、glm-5.3、nemotron-3.5-bolt、minimax-m3.1-flash、lfm3-vl | 应用内搜索下载,支持 GGUF 与 MLX 两种格式 | 直接拉 Hugging Face,官方示例 llama serve -hf ggml-org/Qwen3.5-0.8B-GGUF |
| 自己控制量化 | 不能。官方文档明确:导入 GGUF 时 Ollama 不做量化,要先用 llama.cpp 的 llama-quantize 处理好再导入 | 可以,下载时按量化档(如 Q4_K_M、Q6_K)挑文件 | 可以,量化与后端全部自己选 |
| 显卡后端 | 官方文档有 Hardware support 与 Troubleshooting 章节 | 走 llama.cpp 扩展包(1.1.9 提到 llama.cpp 2.62.0 / 2.61.0)与 MLX | CUDA、AMD 的 HIP、摩尔线程 MUSA、Vulkan、SYCL,Apple 芯片走 Metal |
| 大模型跑法 | 文档未单独说明 | 文档未单独说明 | CPU+GPU 混合推理,可跑比显存总量更大的模型 |
| 对外接口 | /api/chat、/api/generate、/api/embed |
本地接口(OpenAI 兼容) | llama serve 起 OpenAI 兼容接口 |
| 跨设备 | 文档未提及 | LM Link,Free 档限 5 台设备 | 文档未提及 |
| 上手难度 | 低 | 最低 | 中高,要选二进制和参数 |
价格表(抓取日期 2026-10-28,官方定价页)
三家本地运行都免费,差别在云端订阅:
| 档位 | Ollama Cloud(ollama.com/pricing) | LM Studio Bionic(lmstudio.ai/pricing) | llama.cpp |
|---|---|---|---|
| 免费档 | Pay as you go:$0 起,按 token 计费,本地运行无需订阅,含 3 个并发请求 | Free $0:本地跑模型、Bionic Agent、离线语音转写、LM Link(限 5 台设备) | 无收费项 |
| 中间档 | Pro:$20/月 或 $200/年(年付折算 $16.67/月),每月 $60 用量额度 | Bionic+:$20/月,含 Kimi K3、GLM 5.3、DeepSeek V4 Flash 等托管开源模型 | — |
| 高档 | Max:$100/月,$300 额度,10 并发 | Pro:$100/月,5 倍用量额度 | — |
| 团队 | Team:$500/月,团队共享 $1,000 额度 | 有组织统一计费入口,页面未公开价格 | — |
llama.cpp 侧的 GitHub 数据:132,605 star,MIT 许可(api.github.com 同一天抓取)。
逐个说清各自的坑
Ollama:装模型最省事,量化这一环被它接管了。 官方文档的 Importing a Model 页面写得很直接:导入 GGUF 时不会顺手帮你量化,得先用 llama.cpp 的 llama-quantize 把模型处理好,再写 Modelfile 跑 ollama create。接口是它的强项,/api/chat、/api/generate、/api/embed 三个入口齐全,写脚本调本地模型基本不用额外装东西。代价是你想在量化档上反复试,工具链就得分开用。
LM Studio:图形界面最省事,但产品重心明显在云端。 它本身建在 llama.cpp 上(Hugging Face 官方 hub-docs 也是这么写的),Mac(Apple 芯片)、Windows、Linux 都能装,量化档在下载时挑,Hugging Face 的 “Use this model” 按钮可以直接把 GGUF 或 MLX 模型送进来。要留意的是它现在的定价页标题是 “Bionic Pricing”,Free 档保留本地推理,但 $20 与 $100 两档卖的是美国托管、零数据保留的云端推理。只想离线用,Free 档就够;看到 “Bionic+” 别误以为那是本地功能。
llama.cpp:上限最高,代价是所有决定都归你。 官方 README 列的后端包括 NVIDIA 的 CUDA 自定义 kernel、AMD 的 HIP、摩尔线程的 MUSA、Vulkan 与 SYCL,Apple 芯片走 Metal 与 Accelerate;量化覆盖 1.5 位到 8 位整数。最有价值的一条是 CPU+GPU 混合推理,能跑比显存总量更大的模型。入门命令已经很短:llama cli -hf ggml-org/Qwen3.5-0.8B-GGUF 直接跑,llama serve -hf ... 起 OpenAI 兼容接口。但选哪个预编译包、开哪个后端、上下文开多大,都得自己定。
分情况怎么选
- 第一次折腾本地模型:LM Studio 或 Ollama 二选一,看你要不要接口。llama.cpp 不适合第一天就上。
- 要给脚本、NAS 上的服务、自己的 App 调用:Ollama。要最可控的推理参数和后端:llama.cpp,用它的
llama serve当接口。 - 预算敏感:先用免费档把事跑通——Ollama 的 Pay as you go 按 token 计费、LM Studio 的 Free 档跑本地。订阅费在决定要不要买显卡之前先别付。
- 想让手机或另一台电脑访问本机模型:LM Studio 的 LM Link(Free 档限 5 台设备)是三家里唯一在免费档写清跨设备数量的。
- 显存不够:只有 llama.cpp 在官方文档里明说 CPU+GPU 混合推理,这是它相对另外两个的实质优势。
顺便提醒一句成本:本地模型的真实门槛通常是显卡和内存,而不是这三家的订阅。本站 10 月 27 日刚记录过一轮涨价——显卡与内存同时涨价:RTX 5080 单卡涨 2000 元、32GB DDR5 套装涨 434%,显存直接决定你能开多大的量化档。另外本地模型不是唯一选项,批量任务也可以先试免费接口,参考这篇的失败与限速记录:Pollinations 免费 API 批量打标签实测:7 次调用 2 次撞限速。
未验证项
Ollama 与 llama.cpp 各自的并发与性能参数、各家在国内的下载速度、llama.cpp 是否有官方托管服务,官方页面均未说明,本文不作判断。
数据来源与抓取日期
均为 2026-10-28 抓取:ollama.com/pricing、docs.ollama.com(Importing a Model、API Reference)、GitHub ollama/ollama releases、lmstudio.ai/pricing、lmstudio.ai/changelog、GitHub ggml-org/llama.cpp(README、releases、仓库元数据)、openrouter.ai/api/v1/models。