模型下到自己电脑上,不联网也能用,资料不出门。对电脑配置有要求,先看清楚内存够不够。
想做这件事,先看这三样,做顺了再往下翻。
有界面,像聊天软件一样点点就能下模型、跑模型。第一次在电脑上跑本地 AI,先装这个。
给第一次在电脑上跑本地模型的人,我首推它:有界面、不用敲命令,下模型、换模型都是点几下。
先选工具、再选模型、按内存定大小,外加三个坑。16G 内存起步就能玩,32G 最舒服。
我在自己的 M5 上折腾本地模型大半年后写的,发在小红书上。
本地模型的聊天窗口:接上 OMLX 或 Ollama,用起来就像 ChatGPT,还能加联网搜索。
本地模型的聊天窗口我用的是它,后面接 OMLX。要查网上的资料就在它里面打开搜索,模型自己是不会上网的。
有界面,像聊天软件一样点点就能下模型、跑模型。第一次在电脑上跑本地 AI,先装这个。
给第一次在电脑上跑本地模型的人,我首推它:有界面、不用敲命令,下模型、换模型都是点几下。
本地模型的聊天窗口:接上 OMLX 或 Ollama,用起来就像 ChatGPT,还能加联网搜索。
本地模型的聊天窗口我用的是它,后面接 OMLX。要查网上的资料就在它里面打开搜索,模型自己是不会上网的。
推理、数学、写代码强的开源模型。在 Ollama 里一行命令就能跑,按自己内存挑大小。
一行命令跑模型,后台常驻,还自带接口给别的软件调。爱折腾、会一点命令行的选它。
想让别的软件或脚本调用本地模型时选它:装好就在后台常驻,自带接口。