既然换了 M3 芯片，我就利用 NPU 实现了毫秒级去背景。这玩意儿以前在云端跑一次至少 500 毫秒，现在本地 80 毫秒搞定，省下的不是时间，是钱，是命。
去年这时候我还在焦虑，觉得大模型 API 调用费迟早把我那点利润吃干抹净。现在看，方向错了。真正的护城河不是你会调 API，而是你能把最贵的计算成本打下来，打到本地，打到免费。M3 这个 NPU 算力，16 TOPS，听起来抽象，翻译成人话就是：以前需要租用云端 GPU 才能流畅跑起来的轻量级视觉模型，现在可以塞进你的笔记本电脑里，随时待命，电费几乎可以忽略不计。这种算力下沉，才是我们这种单打独斗的人该死死抓住的红利。
重构 Rembg 的过程就是一次对旧知识体系的凌迟。原来的代码是基于 ONNX Runtime 的 CPU/GPU 后端，在 Intel 芯片上勉强能用，一到 Apple Silicon 上，尤其是想调用 NPU，就跟让马车跑上高铁轨道一样别扭。核心问题在于模型格式和算子支持。你得先把 PyTorch 训好的 .pth 模型转成 Core ML 格式，这中间坑无数，比如模型里的某些自定义算子，Core ML 根本不认识，你得要么找替代方案，要么自己用 Metal Performance Shaders 手写一个。我卡在一个人像边缘细化层的转换上整整两天，翻遍了苹果开发者论坛和 GitHub 的边角 issue，最后发现一个韩国开发者在 2022 年提过一个类似的 workaround，用组合基础算子模拟，才勉强通过。
但这只是第一步。调用 NPU 不是简单的 `device=’npu’`。你需要通过 Core ML 的 `MLModelConfiguration` 明确指定 `computeUnits` 为 `.all`，并且确保你的模型在编译时就已经为 Neural Engine 优化过。这里有个反直觉的点：并不是所有模型层在 NPU 上跑都更快，有些内存访问模式奇怪的层，在 NPU 上反而会触发同步等待，拖慢整体 pipeline。你得用 Instruments 的 Core ML 性能分析工具一帧一帧看，找到瓶颈层，有时候甚至需要为了适配 NPU 的硬件特性，轻微调整模型结构，比如把某个大卷积拆成两个小的。
最终调通的那一刻，我把一张 1024×1024 的产品图拖进我写的 GUI 封装工具里，点击按钮，几乎在松手的瞬间，背景就变成了透明棋盘格。80 毫秒。我反复测了十几次，最快的一次 76 毫秒。这个延迟已经低于人眼的视觉暂留感知阈值了，真正意义上的“瞬时”。这意味着什么？意味着我可以把它集成进一个自动化工作流里，比如用 n8n 监听网盘文件夹，任何新到的图片自动去背景、重命名、上传到电商后台，全程无需我介入，且零云服务成本。我把这个流程做成了一个可执行文件，发给几个做跨境电商的朋友，他们试用后的反馈就一句话：“这速度，邪门了。”
算力普惠才是超级个体的未来。这句话我现在才嚼出真味。早几年，算力是集中在大厂手里的重型武器，我们只能租用，按秒计费。现在，武器正在小型化、平民化。M3 芯片的 NPU，AMD 的 APU，甚至高通的骁龙 X Elite，都在把以前不敢想的 AI 算力塞进终端设备。我们的角色必须变，从“API 调用者”转向“本地算力压榨师”。每一个芯片释放的新特性，都是一片还没多少人涌进来的蓝海。你得像黑客一样，第一时间扑上去，拆解它，利用它，把它变成你工作流里一个沉默但强悍的组件。
焦虑依然在，但焦虑的焦点变了。以前焦虑的是技术会不会过时，现在焦虑的是，下一个算力爆炸的节点在哪里，我能不能在大多数人还没反应过来的时候，就站上去。手里这个 80 毫秒的去背景工具，它不只是个工具，是我下一个阶段的入场券。
