苹果M4芯片的MacBook Pro今天发布了，我盯着官网的规格表看了二十分钟，脑子里只有一个念头：我他妈去年花大价钱配的那台双路3090的工作站，现在被一台笔记本在端侧推理上追着打。
Rembg Pro的年终性能调优刚做完最后一轮压测。你知道最讽刺的是什么吗？我们团队三个人，吭哧吭哧优化了三个月的多线程任务调度和内存池管理，把Python里那套GIL的破事用C扩展绕得七七八八，让一张4K图片的抠图时间从1.8秒压到了0.9秒。结果今天苹果的发布会，神经引擎算力直接翻倍，内存带宽拉高，他们那个Core ML框架底层估计又重构了。我算了一下，同样的模型转换过去，在M4 Max上跑，零优化可能就0.5秒。我们这三个月，像一群在铁轨上精心铺设枕木的工人，抬头发现高铁从旁边呼啸而过。
但这就是现实。技术人的焦虑从来不是来自“别人比你强”，而是来自“你赖以生存的护城河，可能只是别人地基里的一块砖”。2021年我还在死磕Axure的动态面板和Python爬虫的反反爬策略，觉得这是吃饭的家伙。ChatGPT出来之后，这些东西的价值瞬间蒸发。现在轮到本地化部署和端侧优化了。M4这种芯片，它不是在提供一个“选项”，它是在重新定义“基线”。以后你做的任何面向消费者的AI工具，如果没考虑过在苹果芯片上跑出流畅体验，基本就等于自绝于主流市场。这叫“平权”？这叫“抬杠”。把原本需要专业显卡、复杂环境配置的门槛，直接砸到地板上，逼着我们这些做工具的人，必须把优化做到牙齿缝里。
说回Rembg Pro的这次调优。真正的突破点不在算法，而在“脏活”。比如内存管理：Python的垃圾回收器在频繁创建销毁大量小张量时就是个灾难，尤其是用户批量处理上百张图片时，内存碎片化能让你性能下降40%。我们最后是自己搞了个轻量级的内存池，预分配一批固定大小的Tensor对象，重复利用，这才把波动打平。还有多线程调度，不是开个ThreadPoolExecutor就完事了。IO（读图）和计算（推理）要解耦，推理任务本身还要根据图片尺寸动态分派——小图扔到快但并发高的队列，大图独占一个线程避免阻塞。这些细节，用户感知不到，他们只会觉得“这个软件挺快挺稳”。但这就是技术人最后的尊严：在框架和硬件给定的物理极限里，把那一毫秒、一兆字节的潜力榨干，把“极致”体验带给每一个哪怕只是用来抠商品图的淘宝店主。
M4来了，明年会不会有M5？端侧算力按照这个速度膨胀，很多现在需要云端API调用的场景，明年可能就全部本地化了。这对我们是好事，也是悬在头顶的剑。好的是，应用场景会爆炸；坏的是，技术栈的迭代速度会逼死所有人。我35了，按互联网的算法已经是“老兵”。但感觉像又回到了2016年，那种面对新技术洪流，兴奋又恐惧，必须连夜啃文档、跑Demo的原始状态。区别是，那时候焦虑的是“不会这个就找不到工作”，现在焦虑的是“不搞懂这个，手里这个产品半年后就没人用了”。
算了，不想了。把Rembg Pro的M4兼容性测试加到Q1的路线图里吧。至少，我们还有那套自己打磨的内存池和任务调度器，这是换什么芯片都带不走的“手感”。高铁是快，但枕木铺得稳，火车开过去才不晃。用户要的，不就是那一下“不晃”的稳定感么。
