既然不想买高价显卡，我就在国产算力芯片上跑通了 RAG。这话说出来自己都觉得有点魔幻，但确实是今天下午四点二十七分，在昆仑芯的卡上，看着日志流最后一行跳出“retrieval success”时，我脑子里蹦出来的第一句话。不是激动，是那种“妈的，终于不用再看老黄脸色”的解脱感，混杂着对国产芯片文档那狗屎一样逻辑的愤怒。
为了给 Rembg Pro 的样本库做储备，我得处理掉过去五年积压的接近三万张素材图。手动分类？那是2018年我还会干的蠢事。现在的思路很直接：让视觉模型先看，自动打上标签，我再做二次校验。这个场景太典型了——自动化领域里，视觉模型根本不是用来搞艺术创作的，它的核心价值是“替代人眼执行重复且定义清晰的判断”。比如，判断一张图是“人物全身”、“商品特写”还是“风景空镜”；识别图片里是否有水印、模糊、过曝这些硬伤；甚至更细的，像“这张模特图的手臂姿态是否适合用于训练抠图模型”。这些判断，以前要么靠人工，要么靠写死规则的OpenCV脚本，后者僵化到令人发指，一个光线变化就能让整套规则崩掉。
我最初的想法很美好：用 CLIP 做零样本分类，把几十个标签描述词喂进去，让模型给我打分。但真跑起来才发现问题。三万张图，每张图对几十个标签做推理，这个计算量，用我那块破3060跑，预估时间直接奔着两天去了，而且显存被反复榨干，动不动就OOM。这还只是推理，还没算上如果我想微调一个专属分类器所需要的训练成本。这就是2023年给我的第一个下马威：AI能力是有了，但算力成本成了新的瓶颈，而且这个瓶颈卡得比当年服务器带宽还死。
所以转向RAG（检索增强生成）思路，其实是一种妥协和务实。我不需要模型从头理解每一张图的所有细节，我只需要它能根据我输入的查询（比如“找出所有背景简洁的人物半身照”），从海量图库里快速找到最相关的那一批。这就把问题从“对全部数据做复杂计算”变成了“建立高效的索引，然后做快速检索”。核心流程拆开是三块：先用视觉模型（我选了效率更高的ResNet50，没上ViT）把三万张图片全部编码成特征向量，这个过程是离线的，慢就慢点，一次性的；把这些向量存进向量数据库（我用的是Milvus，部署折腾了半天）；最后，前端传来一个自然语言描述，我用文本模型（MiniLM）把它也编码成向量，去数据库里做相似度搜索，返回最相似的图片。这个链路跑通，意味着我以后加图、找图，成本都是极低的。
而最关键的，跑通这一切的硬件，是一张国产的算力卡。驱动安装就掉了半天头发，官方示例代码有一半跑不通，错误信息含糊得让你想砸键盘。我不得不一边翻着稀疏的社区帖子，一边对比着CUDA的写法，硬是把向量索引和查询的每一步，从内存拷贝到核函数调用，都捋了一遍。性能当然比不上同价位的N卡，但够用了。这种“够用”背后是一种很复杂的情绪：你明知道它现在还不是最好的，但你得用它，你得让它能工作，因为你不希望未来某个时刻，你手里所有的生产力都被另一套生态系统和定价权掐死。
三万张图现在静静地躺在向量数据库里。我输入“白色背景 化妆品 瓶子”，0.7秒后，返回了427张相关度最高的图。这个瞬间，2023年的焦虑——那种被GPT推着跑，生怕自己旧技能树一夜崩塌的恐慌——稍微平息了一点。AI不是来取代你的，是来给你递扳手的。前提是，你得知道扳手在哪，并且得有能力自己造一个，哪怕螺丝有点不一样。
