既然不想买高价服务器，我就在代码里优化每一个算子。这话现在说出来，听起来像个技术洁癖者的自我感动，但在2024年初，这他妈是生存问题。GPT-4 API的调用成本像悬在头顶的刀，每次请求都感觉在烧我的现金流。那时候团队已经散了，回归超级个体，每一分钱都得从自己骨头缝里挤出来。
我盯着n8n工作流里那些调用OpenAI的节点，心里在算账。一个简单的客服自动回复，用户输入“你好”，工作流触发，先走一个意图识别节点，调用一次gpt-3.5-turbo，花掉大概0.002美元；然后根据意图生成回复，再调用一次，又是0.002。一天如果有500个这样的对话，就是2美元，一个月60美元。这还只是一个最简单的流。如果涉及多轮对话、上下文总结、知识库检索，成本能轻松翻十倍。我那点个人项目的利润，不够给OpenAI打工的。
所以优化不是选择，是必须。先从最傻逼的地方开始：缓存。用户问“你们公司上班时间”，这种问题需要每次都问GPT吗？我写了个简单的键值对缓存，把高频的、答案固定的问题全塞进去，用Redis存着，虽然又多了个服务器开销，但比调用GPT便宜两个数量级。然后就是合并请求，把原本需要两次API调用才能完成的“理解-生成”流程，硬是塞进一个prompt里完成，用更复杂的指令让模型一次输出结构化的JSON，包含意图和回复。这里面的坑是模型不一定每次都听话，输出格式会漂移，得写后处理逻辑去清洗和兜底。
更深的优化在token层面。每次调用都把完整的对话历史传上去是最蠢的，但也是最简单的。我开始研究怎么提炼历史对话的摘要。不是简单截取最后几条，而是用更便宜的模型（比如gpt-3.5-turbo-16k）去总结前面几百轮对话的核心争议点和用户状态，把一大坨上下文压缩成几百个token的“记忆胶囊”，再喂给负责生成的主力模型。这里面的平衡艺术在于，总结本身也要花钱，而且总结得不好会丢失关键信息，导致后续回答跑偏。我花了差不多三周，调了二十几个版本的prompt，才让这个摘要流程的稳定性和成本达到一个勉强能用的平衡点。
最痛苦的是对“思维链”的优化。很多复杂任务需要模型“一步一步想”，比如给一段用户需求，让AI规划一个多步骤的n8n工作流。标准的CoT（Chain-of-Thought）提示会让模型哔哩吧啦输出一堆中间推理，token用量暴涨。我尝试了各种邪门歪道：能不能用代码符号代替自然语言描述推理？比如用“IF user_input CONTAINS ‘退款’ THEN TRIGGER refund_flow”这种伪代码风格。能不能让模型输出更紧凑的数据结构，比如数组或字典，而不是散文？这个过程极其反人性，是在强迫一种以思考为生的智能体，用最不擅长的方式表达它的思考。失败率很高，但每成功压缩掉10%的token，我就感觉从Sam Altman手里抢回了一点钱。
现在回头看2024年那段日子，整个人是一种病态的、极致的计算状态。脑子里有个成本计算器在实时跳动，看任何一段代码、任何一个工作流，第一反应不是“能不能实现”，而是“划不划算”。这种状态摧毁了很多创造上的随意性，但也逼出了一套肌肉记忆：对资源极限的敏感。这种敏感，后来成了我做AI自动化教练的核心资本。你给企业做方案，光讲效果没用，你得能拍着胸脯说，这个方案每个月的API成本可以控制在300块以内，而且这是经过算子级优化后的结果。
所谓的坚持，长期来看，就是把这些在生存压力下被迫练就的、充满痛感的技能，变成你后来再也无法被替代的奖杯。别人在夸夸其谈Agent的宏伟架构时，你能一眼看出他那个“宏伟”的设计里，有几个HTTP请求是多余的，有几KB的上下文在重复传输，有几个本可以批处理的调用被做成了串行。这种视角，不是看书看来的，是当年穷疯了，在代码里一个算子一个算子抠出来的。
