Mac 跑本地 AI 选型清单

本地 AI 就是把模型下载到自己的 Mac 上跑，断网也能用，聊的内容不出你的电脑。这份清单把选型拆成三步：先挑跑模型的软件，再挑哪家的模型，最后按内存定模型大小，另外列了三个新手最常踩的坑。

适合谁

• 用 M 系列芯片的 Mac、想试试离线 AI 的人
• 手里有不想传到网上的资料（合同、账本、私人笔记），想在本机让 AI 处理的人
• 装过本地模型但跑得很卡，不知道该换小的还是换别家的人

怎么开始

1. 先看内存：点屏幕左上角的苹果图标，选「关于本机」，记下「内存」那一行是多少 G。
2. 对照清单的内存档位定大小。模型名字里的 7B、14B、32B 是参数量，B 代表十亿，数字越大越聪明，也越吃内存。
3. 没用过命令行就选 LM Studio。命令行就是电脑上那个黑底白字、靠打字下命令的窗口，Ollama 要用它，更适合会写代码的人。LM Studio 装好后在软件里就能下载模型，下完像聊天软件一样打字。
4. 模型先选通义千问 Qwen，中文最顺。下载时认准写着 4bit 的版本：4bit 量化可以理解成把模型压缩一遍，内存省一大半，聪明程度基本不掉。
5. 先问几个日常问题试试，回答很慢或者电脑卡住，就换小一档。

要注意

• 清单写于 2026 年 6 月，模型更新很快，具体型号以软件里能下载到的为准。
• 内存档位是按 4bit 版本估的，下载没压缩的原版，同样的内存只能跑小得多的模型。
• 16G 以下的机器能跑的模型离在线 AI 还有距离，日常问答够用，复杂的活还是交给在线 AI。
• MoE 模型（比如 Qwen 名字里带 A3B 的）在 Mac 上很划算：总个头大，但每次回答只调动其中一小部分，所以跑得快。