上周翻出一台2015年把A本聊www.abg8877.net的MacBook Air，4GB内存。本来念挂忙鱼。

功效花了一早晨合腾ai 智能当地安排，它居然能跑起7B参数的模子。回覆速度像老奶奶过马路，那种“数据完整不出门”的踏实感，云端办事给不了。你问它今天气候塞爽，它不会偷偷把你的位置卖给告白商。ai 智能当地安排最诱人的地方是离线。飞机上、地铁里、断网的山中民宿，照样能跟AI聊哲教。我试过用Ollama拉下Llama 3进旧，号令止敲几个字吧？模子就乖乖待正在硬盘里。

念换就换，Mistral、Gemma、Qwen，随意的。云端API按token计费。当地跑一次电费几分钱吧？长对话也不疼爱条记。

固然的，硬件是道坎。我那台老机械跑7B模子，风扇吼得像要起飞。生成一段代码要等半分钟了。换了台带RTX 3060的台式机，ai 智能当地安排体验间接起飞是14B模子流利对话，还能微调地安。朋友用树莓派试过的，只能跑1B的小模子，回覆媒介不搭后语，用来控制智能家居绰绰缺乏的。软件生态也热闹。LM Studio图形界面点几下就能下载模子吧？Ollama合适爱敲号令的极客，GPT4All对Windows用户友好了。

碰到最坑的是隐存不够，模子加载到一半崩了。排查半天发明是驱动版本太老。社区里有人把旧手机改构成当地AI办事器了，脑洞年夜开。

，若是你正在意隐私，或者纯真喜好合腾，ai 智能当地安排值得一试了。不要指视它替代ChatGPT，当一个不联网、不检查、不收费的私家助手，绰绰缺乏了。我如今的日常，写周报让它建饰，读论文让它总结。以至让它饰演吐槽老板的实拟同事。旧条记本没卖，成了专属AI玩具。