它是什么
Ollama 是一个用于在本地运行开源大语言模型的命令行工具与推理运行时。它把「获取模型权重、适配量化格式、加载到硬件、启动推理服务、对外暴露接口」这一整条链路收敛成一条命令，使用者只需要执行 ollama run <模型名>，就能在自己的机器上开始对话。项目采用 MIT 协议开源，在 GitHub 上拥有超过 18 万 Stars，官方描述强调可以快速跑通 Kimi-K2.6、GLM-5.2、MiniMax、DeepSeek、gpt-oss、Qwen、Gemma 等一批开源模型。
在此之前的常见做法是：自行下载 GGUF 等格式的权重文件、配置 llama.cpp 或类似推理后端、处理不同硬件的加速库、再自己写一层 HTTP 服务。Ollama 的价值在于把这套重复劳动标准化——模型以统一的命名从模型库拉取，本地以一个常驻服务的形式运行，并按固定协议对外提供接口，从而使「本地模型」从一次性实验变成可被应用长期依赖的组件。
核心功能 / 内容清单
- 模型库与一键运行：官方模型库（ollama.com/library）承担了模型分发与版本管理的角色，
ollama run会在首次使用时自动完成下载与加载。这解决的是模型来源分散、命名混乱、格式不统一的问题，让切换模型的门槛降到只改一个名字。 - 本地 REST API 服务：Ollama 以常驻服务形式运行，默认在
localhost:11434暴露 HTTP 接口，如/api/chat，可被任意语言通过普通 HTTP 请求调用。这意味着本地模型可以像云端模型一样，被接入到已有的应用代码中。 - 官方客户端库：提供
ollama-python与ollama-js两个官方库，分别面向 Python 与 JavaScript/TypeScript 生态，减少手写请求封装的工作量。 - 与编码类 Agent 集成：通过
ollama launch <集成名>可直接拉起已适配的编码工具，README 列出的包括 Claude Code、Codex、Copilot CLI、DeepSeek Harness、Droid、OpenCode。其意义在于：许多编码 Agent 默认指向云端 API，这一机制让它们转而使用本地模型，代码与上下文不出本机。 - 个人 AI 助手接入：
ollama launch openclaw用于借助 OpenClaw 把本地模型变成跨渠道的助手，README 提到可覆盖 WhatsApp、Telegram、Slack、Discord 等聊天平台。 - 多平台安装与容器化分发：macOS、Windows、Linux 均提供脚本或安装包，另有官方 Docker 镜像
ollama/ollama，便于在服务器或容器环境中部署。
典型使用场景
场景一：数据不能出内网的编码辅助。 在受合规或保密要求约束的开发环境中，把代码交给云端 API 往往不被允许。此时可以在开发机或内网服务器上安装 Ollama，拉取一个代码能力较强的开源模型，再用 ollama launch claude（或其他受支持的集成）把编码 Agent 的推理后端切换成本地服务。整个链路中，代码片段与对话内容只在本机或内网流转，同时仍保留了编码 Agent 的工具调用与交互体验。
场景二：自建模型接口供内部应用调用。 当需要为内部工具（文档摘要、知识库问答、客服辅助、批处理文本加工等）提供模型能力，又不想引入按量计费的外部依赖时，可以启动 Ollama 服务，然后以标准 HTTP 请求调用。README 给出的形式是：
```shell
curl http://localhost:11434/api/chat -d '{
"model": "gemma4",
"messages": [{"role": "user", "content": "Why is the sky blue?"}],
"stream": false
}'
```
业务代码只需替换请求地址与模型名，就能把原本指向云端的调用改为本地推理，便于在开发阶段低成本迭代。
场景三：开源模型的横向对比与选型。 由于模型拉取与加载被统一，评估不同模型只需要更换模型名重复执行同一批提示词，适合做输出质量、响应速度、资源占用的对比测试，为后续部署选型提供依据。
场景四：跨渠道个人助手。 借助 OpenClaw 集成，可把本地模型接到即时通讯平台，构建一个由自己硬件承载的助理，适用于对消息内容隐私敏感、又不希望长期支付订阅费用的使用者。
适合谁用
- 个人开发者与学习者：希望低成本上手大模型应用开发，或想理解推理服务如何被调用，Ollama 提供了几乎没有前置成本的入口。
- 企业内部工程团队：对数据外流有硬性限制，需要把模型能力部署在自有硬件与内网环境中。
- 应用开发者：需要一套稳定的本地接口来做原型验证，之后再决定是否迁移到云端或自建推理集群。
- 研究者与评测人员：需要频繁切换开源模型、批量跑同一组输入做对比。
- 相对不适合的情况：硬件资源有限（尤其是显存或内存不足）、期望直接获得最强闭源模型能力、或需要极高并发与低延迟生产级吞吐的场景，本地部署可能无法满足。
快速上手
安装按平台选择（macOS、Windows、Linux 均有对应脚本或安装包，也可使用 Docker 镜像）：
```shell
macOS / Linux
curl -fsSL https://ollama.com/install.sh | sh
Windows (PowerShell)
irm https://ollama.com/install.ps1 | iex
```
安装完成后直接运行 ollama，会进入引导流程，可选择运行某个模型，或把 Ollama 连接到已有的 Agent 与应用。最直接的体验方式是运行一个模型并对话：
```shell
ollama run gemma4
```
如需与编码工具联动，可使用 ollama launch claude、ollama launch opencode 等；如需作为个人助手接入聊天平台，使用 ollama launch openclaw。更多模型见官方模型库页面，接口细节见官方 API 文档。具体的安装参数、环境变量、手动安装步骤与各集成的配置方式，以官方 README 与 docs.ollama.com 为准。
注意事项
- 硬件决定上限：本地推理的可行模型规模受内存与显存约束，模型参数量、量化等级与可用硬件必须匹配；CPU 也能运行，但速度通常明显低于 GPU 加速。选择模型前应先确认机器资源。
- 服务默认面向本机：Ollama 的接口默认监听本地端口，设计上服务于本机或可信内网。若要暴露到公网或跨网段访问，需要自行补充鉴权、访问控制与防火墙策略。
- 协议边界：MIT 协议针对的是 Ollama 工具本身，通过它拉取的各个模型权重有各自的许可证，商用或再分发前需要逐一确认对应模型的条款。
- 模型标识会变化：README 与官方描述中出现的模型名称、集成列表会随版本迭代调整，实际可用项应以仓库当前内容和官方文档为准，避免照抄过期命令。
- 存储与网络：模型文件体积通常较大，首次拉取耗时且占用磁盘，需预留空间并注意网络环境。
- 容器部署细节：Docker 方式需要额外处理 GPU 透传、模型数据卷挂载等问题，否则容易出现无法调用加速硬件或模型重复下载的情况。
- 环境变量与配置：上下文长度、并发数、模型存储路径等通常通过环境变量或配置调整，改动前建议先查阅官方文档，避免与默认行为冲突。