OMLX

oMLX 待在 Mac 顶部的菜单栏里，负责在后台把 MLX 格式的本地模型跑起来，再开一个接口给别的软件用：Cherry Studio 拿它聊天，Codex、Claude Code 这类工具拿它干活。它还带一个网页管理后台，能下载模型、看内存占用、直接对话。

适合谁

• 用 M 系列芯片的 Mac，想让本地模型一直在后台待命的人
• 想让 Claude Code、Codex 这类工具换成本地模型试试的人
• 内存大、想同时挂几个模型，用完自动卸载省内存的人

怎么开始

1. 从项目的发布页下载 .dmg 安装包，拖进「应用程序」文件夹。也可以用 Homebrew（Mac 上用命令装软件的工具）装，README 里有现成的命令。
2. 打开 oMLX，欢迎界面会带你走三步：选模型存放的文件夹、启动服务、下载第一个模型。
3. 下模型：在管理后台里直接搜 Hugging Face 上的模型，认准 MLX 格式的版本，比如 mlx-community 名下的 4bit 版。
4. 接软件：服务默认开在本机 8000 端口。按 OpenAI 格式接入的软件，地址填 http://localhost:8000/v1，再填上你在 oMLX 里设的 API 密钥。管理后台的集成功能能一键配好 Codex 等工具，接 Claude Code 也做了专门的优化。
5. 在 App 的服务器设置里，可以设成一打开 App 就自动启动服务，省得每次手动点。

要注意

• 要 macOS 15 以上、M 系列芯片。官网写内存最低 16GB，跑大模型建议 64GB 以上。它默认把总内存上限设成系统内存减 8GB，免得把电脑卡死。
• 它主要认 MLX 格式。GGUF（另一种常见的模型文件格式，Ollama、LM Studio 用得多）只有少数几款能借外部引擎跑，下载时选 MLX 版最省事。
• 默认只给本机用。要让局域网里别的设备访问，必须先设好 API 密钥。
• 开源免费，Apache 2.0 许可。