字节跳动发布“豆包”新模型，朋友圈又是一片“AI革命”的刷屏。大厂在卷对话的流畅度和上下文长度，我在卷“场景”——怎么让这个新玩意儿真的能干活，而不是个只会聊天的吉祥物。今天刚用LangChain把客户那个拖了半年的客服自动化项目跑通了，核心就一个：让AI能看懂用户那些乱七八糟的提问，然后精准地匹配到知识库里那几百条Q&A上。
这活儿听起来简单，做起来全是坑。2019年那会儿做类似的东西，得雇人写一堆正则表达式，或者搞个简单的关键词匹配，用户稍微换个说法就歇菜。后来招了个应届生，让他维护这个匹配逻辑，结果他写出来的规则比代码还难懂，用户投诉率不降反升。那小子还总跟我抱怨“语义太难了”，干了三个月就跑了。现在回头看，不是语义难，是当时的工具和人都太笨。
LangChain给的思路不一样。它不让我去硬编码规则，而是逼着我重新组织知识库。我把那些散落在Excel、PDF甚至历史聊天记录里的问答对，全部用文本嵌入模型转成了向量。这里用的是OpenAI的`text-embedding-ada-002`，把每一条问答都变成一个1536维的向量，存进Pinecone。用户问题一来，同样转成向量，在向量数据库里做相似度搜索，找出最相关的几条候选答案。
真正的魔鬼在“匹配逻辑”里。直接找最相似的，经常跑偏。比如用户问“怎么修改收货地址”，最相似的向量可能是“如何添加新地址”，这还算好的。有时候会匹配到“地址写错了能改吗？”，虽然也相关，但不是标准操作流程。我搞了个二级过滤：第一级，用向量相似度粗筛出Top 5；第二级，把这5条候选答案和用户问题一起，扔给一个稍微大点的语言模型（比如`gpt-3.5-turbo`），让它扮演一个严格的裁判，基于预设的评分规则（相关性、完整性、是否是标准操作）选出最终的一条，或者判断“是否需要转人工”。这个裁判提示词我磨了整整两天，要防止它瞎编，必须让它严格引用候选答案里的内容来证明自己的选择。
这个流程跑起来，安静得让人不习惯。没有员工抱怨“用户问题太奇葩”，没有凌晨三点因为匹配规则崩了而被电话吵醒。它只是默默地、一遍又一遍地处理那些曾经让我们团队头皮发麻的、模糊的、口语化的咨询。AI的耐心是无限的，它不会因为同一个简单问题被问一千遍而烦躁，也不会因为需求临时变更而甩脸色。这让我想起2019年带那个小团队的日子，我花了大量时间在安抚情绪、协调排期、检查那些充满怨气的代码上。技术问题从来不是最累的，累的是管理那些在重复劳动中逐渐耗尽热情的人。
现在，我只需要维护好这个链：知识库的更新流程、嵌入模型的一致性、还有那个裁判LLM的提示词。复杂度从管理人的不确定性，转移到了优化技术管道的确定性上。大厂在发布会上一掷千金，比拼的是模型的“智商”和“情商”。而我这种个体户，卷的是怎么在具体的、细碎的、有利可图的“场景”里，让AI的智商稳定地转化成生产力。豆包或许更会聊天，但我手里这个不会聊天、只会找答案的自动化流程，下个月就能开始稳定收钱了。这感觉，比看十个发布会都踏实。
钱还没进来，但焦虑的形态变了。以前焦虑流量、焦虑团队、焦虑交付。现在焦虑的是：我这条基于现有API搭建的管道，会不会哪天就被大厂一个更新的、更便宜的全托管服务给平替了？得跑得更快才行。
