苹果解散造车团队的消息，像一盆冰水浇在我刚续费的云服务器账单上。十年了，我还在为算力焦虑，而巨头们已经用战略重组给我上了一课：砍掉一切非核心，把资源砸在刀刃上。我的刀刃是什么？不是那些花里胡哨的演示站，是那个能真正跑起来、帮我处理信息的“逻辑脑”。
过去一个月，我被 API 调用成本逼疯了。GPT-4 的上下文窗口是香，但每次对话成本都让我心惊肉跳。想做个自动化的信息筛选和决策流，还没跑几轮，账单预警就来了。这感觉就像 2016 年死磕 SEO 时，天天盯着百度算法更新，流量一掉就心慌。技术变了，焦虑的本质没变：你的命脉捏在别人手里。苹果砍掉造车，是因为算不过来投入产出比，硬件、供应链、法规，每一个都是无底洞。我的“无底洞”就是这些云服务商按 token 计费的 API。
所以，我决定把“逻辑脑”搬回本地。目标很明确：用开源模型，在 MacBook Pro 上，跑通一个能理解我指令、处理本地文档、并给出结构化输出的流程。第一步是选模型。Llama 2 70B 别想了，我的 32G 内存扛不住。最后盯上了 Mistral 7B 的量化版本，4-bit 量化后模型大小控制在 4GB 左右，这成了我的救命稻草。下载模型文件的那一刻，感觉回到了当年从 GitHub 上拖各种爬虫框架的时候，那种“东西在我硬盘上”的踏实感，久违了。
环境部署是第二个坑。Conda 环境、PyTorch 版本、CUDA 驱动（虽然我用的是 M2 的 Metal），一堆依赖冲突。光是让 transformers 库正确加载 GGUF 格式的模型，就耗掉我两个晚上。中间无数次想摔键盘，心想不如直接调 API 算了。但看到终端里终于成功加载模型，并打出“Loaded in 4.23 seconds”时，那种成就感，比当年第一次用 Scrapy 爬下来十万条数据还强烈。这是完全受控的、离线的能力。
真正的挑战在“逻辑”本身。开源模型不是 ChatGPT，它不会主动思考。你得用提示词工程（Prompt Engineering）给它搭好脚手架。我设计了一套系统提示词：明确它的角色是“Flovico 的分析助理”，输入是我丢给它的本地 TXT 或 PDF（比如行业新闻、我的会议笔记），输出必须是三个部分：核心事实摘要、潜在影响分析、以及给我的行动建议（用“-”列点）。这相当于给它装上一个固定的“思维框架”。
跑起来的第一次测试，我扔给它一篇关于“AI 代理”的长文。等待生成的三十多秒里，风扇开始转，我盯着进度条，像在等一个古老的编译器。结果出来，摘要基本准确，分析部分有点泛泛而谈，但行动建议里居然提到“可以尝试用 n8n 将本模型与日历 API 连接，实现自动日程建议”。它自己“想”到了我的技术栈！虽然这大概率是训练数据里 pattern 的巧合，但那一刻，我感觉这个本地的小破模型，真的有了点“脑”的意思。
成本呢？几乎为零。电费可以忽略，模型一次加载，后续推理全靠本地算力。速度是慢，但我不需要它实时聊天，我需要的是夜间批量处理我囤积的信息。让它跑着，我去健身，回来就能看到一份份结构化的简报。这模式，像极了早年用 Python 脚本跑定时任务。
苹果的放弃，是一种顶级理性的示范。我的“逻辑脑”本地化，也是一种被迫的理性。当外部服务变得昂贵或不稳定时，退回自身，挖掘端侧潜力，是唯一出路。这不是技术的倒退，而是重心的转移：从依赖云端的“黑箱魔法”，转向构建本地可控、可调试的“白箱工具”。接下来，我要用 n8n 把这个本地模型和我的 Obsidian 知识库、Feishu 机器人打通，让这个“脑”真正动起来，指挥我的数字肢体。巨头砍业务线，我砍云依赖，本质上，我们都在做同一件事：把资源，全部押注在核心生存能力上。
