小白手册跟做视频AI 新闻资源帮你做会员关于澳哥
登录加入会员
澳哥AI瞎玩 · Ao Studio小红书 / 抖音 / B站 / YouTube:澳哥AI瞎玩
关于澳哥小白手册AI 新闻资源帮你做怎么买隐私政策用户协议蜀ICP备19012092号-10
← 全部资源
按要做的事找 · 在自己电脑跑 AI

在自己电脑上跑 AI

模型下到自己电脑上,不联网也能用,资料不出门。对电脑配置有要求,先看清楚内存够不够。

先从这几样开始

想做这件事,先看这三样,做顺了再往下翻。

小白可用

LM Studio

有界面,像聊天软件一样点点就能下模型、跑模型。第一次在电脑上跑本地 AI,先装这个。

给第一次在电脑上跑本地模型的人,我首推它:有界面、不用敲命令,下模型、换模型都是点几下。

MacWindows入门lmstudio.ai看详情 →
要装一下

Mac 跑本地 AI 选型清单

先选工具、再选模型、按内存定大小,外加三个坑。16G 内存起步就能玩,32G 最舒服。

我在自己的 M5 上折腾本地模型大半年后写的,发在小红书上。

本地模型Mac入门看详情 →
澳哥在用小白可用

Cherry Studio

本地模型的聊天窗口:接上 OMLX 或 Ollama,用起来就像 ChatGPT,还能加联网搜索。

本地模型的聊天窗口我用的是它,后面接 OMLX。要查网上的资料就在它里面打开搜索,模型自己是不会上网的。

客户端cherryai.com.cn看详情 →

全部 18 样

教程和案例 1

要装一下

Mac 跑本地 AI 选型清单

先选工具、再选模型、按内存定大小,外加三个坑。16G 内存起步就能玩,32G 最舒服。

我在自己的 M5 上折腾本地模型大半年后写的,发在小红书上。

本地模型Mac入门看详情 →

GitHub 仓库 1

小白可用新

Upscayl

用 AI 把分辨率低的小图放大变清楚(失焦、整张糊掉的救不了),免费开源,Mac、Windows 都有。

「GitHub 上的软件怎么下载」那期里列过的好用开源软件之一。

图片好用软件github.com/upscayl/upscayl看详情 →

本地模型 16

小白可用

LM Studio

有界面,像聊天软件一样点点就能下模型、跑模型。第一次在电脑上跑本地 AI,先装这个。

给第一次在电脑上跑本地模型的人,我首推它:有界面、不用敲命令,下模型、换模型都是点几下。

MacWindows入门lmstudio.ai看详情 →
澳哥在用小白可用

Cherry Studio

本地模型的聊天窗口:接上 OMLX 或 Ollama,用起来就像 ChatGPT,还能加联网搜索。

本地模型的聊天窗口我用的是它,后面接 OMLX。要查网上的资料就在它里面打开搜索,模型自己是不会上网的。

客户端cherryai.com.cn看详情 →
要装一下

DeepSeek-R1

推理、数学、写代码强的开源模型。在 Ollama 里一行命令就能跑,按自己内存挑大小。

推理

换个事情看看

  • 刚开始用 AI8 样不用懂技术。先装一个能干活的 AI,再学几句好用的说法,第一件事就能做成。
  • 做视频和动画27 样从画面、动画到配音、字幕、配乐,用 AI 做视频用得上的工具、Skill 和案例都在这。
  • 写作和自媒体14 样选题、调研、写稿、去 AI 味,再到排版发布,一条内容生产线上每一步用得上的东西。
  • 画图和封面9 样封面、小红书卡片、信息图、正文配图,还有把模糊的图变清楚。
  • 办公和日常13 样文档、表格、PDF、传文件、远程帮家人看电脑,省时间的东西放这。
  • 读资料和知识库10 样把没时间看的资料交给 AI 读,再把读过的东西存成自己的知识库,以后随时问。
代码
ollama.com/library/deepseek-r1
看详情 →
要装一下

Gemma 4

谷歌开源的模型,有好几个尺寸,最小的两个在小内存的电脑上也能跑。

轻量ollama.com/library/gemma4看详情 →
要装一下

Ollama

一行命令跑模型,后台常驻,还自带接口给别的软件调。爱折腾、会一点命令行的选它。

想让别的软件或脚本调用本地模型时选它:装好就在后台常驻,自带接口。

命令行ollama.com看详情 →
澳哥在用要装一下

OMLX

Mac 上专跑 MLX 格式模型的软件,开着就在后台给别的软件提供接口。

我 Mac 上常驻的本地模型服务就是它:开机自己启动,Cherry Studio 和 Claude Code 都接它。踩过的坑:它主要跑 MLX 格式,我当时装的一个 GGUF 格式的模型就跑不起来。

Macomlx.ai看详情 →
澳哥在用要装一下

whisper.cpp

Whisper 的 C/C++ 版,不用装 Python 环境,Mac 上用 Homebrew 一行装好:brew install whisper-cpp。

Mac 上转写长录音、长视频用它,比原版快、省内存。我们有个本地小工具把视频转成文字、再出中英文总结,底下用的就是它。

转文字Macgithub.com/ggml-org/whisper.cpp看详情 →
澳哥在用进阶

ltx-2-mlx

在苹果电脑上跑 LTX 视频模型的工具。

跑上面那个 LTX 模型用的就是它,在 Mac 上直接跑,不用租显卡服务器。

视频生成Macgithub.com/dgrauet/ltx-2-mlx看详情 →
澳哥在用进阶

LTX-2.5(MLX 版)

在 Mac 上本地生成视频的模型,图生视频、按音频生成都行,只下快速模式也要约 42GB。下载前要先在页面上点同意许可。

频道片头片尾那间 3D 车库里,袋鼠的动作就是它做的:先定好一张静帧当第一帧,再让它只动袋鼠,桌上的摆设一样不动。

视频生成Machuggingface.co/dgrauet/ltx-2.5-mlx-q8看详情 →
进阶

MusicGen

Meta 开源的配乐模型,一句话描述风格就出一段音乐。许可只允许非商业用途。

给一个个人动画项目配过背景音乐。踩过的坑:苹果 GPU 上跑出来全是杂音,换成 CPU 才正常;混进片子前还要再听一遍有没有底噪。

配乐modelscope.cn/models/facebook/musicgen-small看详情 →
澳哥在用进阶

Fun-CosyVoice3

阿里开源的声音克隆配音模型:给它一小段你的录音,它就能用你的声音念稿。

频道每一期的配音都是它出的:用澳哥自己的声音克隆,语气选「讲故事」。配音前我们会挑几句带英文的先试念,英文名字最容易念歪。

配音声音克隆modelscope.cn/models/FunAudioLLM/Fun-CosyVoice3-0.5B-2512看详情 →
进阶

MLX(mlx-lm)

苹果自家的框架,专为 M 系列芯片的 Mac 做的。在 Mac 上找模型时,认准名字里带 MLX 的版本。

我的 Mac 是 M5 芯片,本地模型都挑 MLX 格式的,同一个模型比别的格式跑得快。

Macgithub.com/ml-explore/mlx-lm看详情 →
进阶

Qwen-Image

通义千问开源的生图模型,图里的中文字写得准。

生图modelscope.cn/models/Qwen/Qwen-Image看详情 →
澳哥在用进阶

Qwen3.6-35B-A3B

通义千问开源的大模型,综合能力强。35B 的模型每次只算其中 3B,跑得快;不过内存还是要装得下整个模型。

我本地的主力模型就是它的 4bit 版,20GB 左右,48GB 内存的 Mac 跑起来还留得出空间。资料不想传到网上、或者断网的时候用它。

聊天中文modelscope.cn/models/Qwen/Qwen3.6-35B-A3B看详情 →
进阶

Wan2.2(5B)

通义万相开源的视频生成模型,这是 5B 的小版本,文字或图片都能生成视频。

视频生成modelscope.cn/models/Wan-AI/Wan2.2-TI2V-5B看详情 →
澳哥在用进阶

Whisper

OpenAI 开源的语音转文字,支持中文,做字幕、把录音整理成文字都能用。

配完音用它把音频转回文字,和稿子一句句对,查有没有漏读、念错的地方。

转文字字幕github.com/openai/whisper看详情 →
做网站和小工具6 样不会写代码也能做出一个网页、一个小工具,甚至跑一块开发板。
  • 让 AI 替你干活14 样常驻的 AI 助理、让它连上更多软件、让它自己跑起来。适合用顺手以后再往前走一步。