Ollama

Ollama 装好后在后台常驻，你在终端里敲一行命令，它就把模型下载下来、直接开聊。它还自带一个本地接口（API，就是给别的程序调用的入口），聊天软件、Claude Code 这类工具和你自己写的脚本，都能通过它用上电脑里的模型。

适合谁

• 会一点命令行，或者愿意让 AI 帮你敲命令的人
• 想给 Cherry Studio 这类聊天软件接上本地模型的人
• 写脚本、做小工具，想在程序里调用本地模型的人

怎么开始

1. 从官网下载安装包：Mac 是 Ollama.dmg，拖进「应用程序」文件夹；Windows 是 OllamaSetup.exe，双击安装。Linux 用官网给的一行命令装。
2. 打开终端（就是电脑上那个黑底白字、靠打字下命令的窗口），输入 ollama run gemma4:e2b。它会先下载模型，这个约 7GB，下完就在窗口里开始对话，输入 /bye 退出。
3. 换模型：在官网的模型库里找到名字，替换命令里的 gemma4:e2b，比如 ollama run deepseek-r1:14b。冒号后面是尺寸，按自己的内存挑。
4. 接聊天软件：Ollama 的接口默认在 http://localhost:11434，在 Cherry Studio 这类软件里选 Ollama、填这个地址就能用。
5. 想让 Claude Code 用本地模型，输入 ollama launch claude，它会帮你把连接设好。

要注意

• Mac 要 macOS 14 以上。M 系列芯片能用上 GPU 加速，Intel 芯片的 Mac 只能用 CPU，会慢很多。Windows 要 Win10 22H2 以上，有 N 卡的话显卡驱动要 551.61 或更新。
• 模型默认存在用户目录下的 .ollama 文件夹里，大一点的模型一个就几十 GB，先看看硬盘够不够。
• 名字里带 cloud 的模型是在 Ollama 的服务器上跑的，要先登录 Ollama 账号，对话会发到它那边处理。只想在本机跑，就选不带 cloud 的。
• 软件开源免费（MIT 许可），跑本地模型不需要 API 密钥。