既然不想买 4090，我就在 M3 Max 上跑通了 4-bit 量化推理
4090的价格让我直接放弃了装台式机的念头，这玩意儿现在不是生产力工具，是理财产品。我盯着苹果官网的M3 Max参数看了半小时，下单，等快递，然后今晚就在这台新机器上把Llama 2 13B的4-bit量化...
Humane AI Pin 首评翻车：产品经理的“傲慢”与“用户真实需求”
Humane AI Pin 翻车这事儿，本质上就是产品经理的“技术自嗨”压倒了“用户真实需求”。他们把一堆传感器和激光投影塞进一个胸针，觉得这很酷，但用户要的只是“别让我看起来像个傻子”。我上周...
既然不想招客服，我就用 n8n + GPT-4o 搭建了“情绪自感知”机器人
双11的流量洪峰，本质上就是一场关于信息差的战争。我盯着后台那些比价脚本的日志，它们像疯了一样在京东和淘宝的DOM树里爬，抓取价格、库存、优惠券组合。这玩意儿我五年前就写烂了，用Seleniu...
既然不能去现场，我就复盘了斯坦福“炒菜机器人”的技术闭环
既然不能去现场，我就复盘了斯坦福“炒菜机器人”的技术闭环。今天刷到他们那个 Mobile ALOHA 的 demo，说实话，第一反应是焦虑。不是焦虑它多先进，是焦虑它背后的“技术闭环”逻辑，和我过去...
数据的“干净度”：我为什么开始给自己的向量数据库做“大扫除”
数据的“干净度”这玩意儿，以前我根本不在乎，能跑起来、能搜到结果就行。但今天调试一个基于 Milvus 的问答系统时，我被狠狠抽了一耳光。用户问“2022年第三季度中国新能源汽车销量”，系统返...
Llama 3 震撼发布：这一晚，开源社区的“核弹”真的爆了
Llama 3 震撼发布，我盯着 GitHub 的 release 页面，手有点抖。不是激动，是后怕。这玩意儿 8B 参数，指令跟随能力据说能打 GPT-3.5，关键是它真开源了，Apache 2.0 协议。这意味着什么？意味着...
既然有了 Llama 3，我就把所有的私有 SOP 都做了语义化索引
既然有了 Llama 3，我就把所有的私有 SOP 都做了语义化索引。这活儿听起来高大上，其实就是把过去几年那些散落在 Notion、飞书、本地 Markdown 里的操作流程，全扔给模型啃一遍，让它能理解“怎...
字节跳动内测“即梦”：短视频自动化的最后一块拼图
字节跳动内测“即梦”的消息传出来时，卡塔尔那边世界杯刚开幕，满世界都是嗡嗡祖拉和进球集锦的声音。我坐在电脑前，屏幕上是爬虫日志，耳朵里是隔壁出租屋传来的集体欢呼，那种割裂感特别真实...
既然手工录入太慢，我就用多模态 Agent 重构了“报表扫描仪”
既然手工录入太慢，我就用多模态 Agent 重构了“报表扫描仪”，这玩意儿本质上是个缝合怪，但能救命。客户扔过来一箱2019年的纸质入库单，要求三天内把几千条数据进系统，财务那边等着对账。手...
劳动节，我在书房里给 3000 个客户优化“智能授权”
换新电脑了，从 2019 年那台 MacBook Pro 15 寸换成了 M2 的 MacBook Air，键盘上终于没有那层黏糊糊的油光了。旧机器准备挂闲鱼，清空数据前我盯着那个磨得发亮的 Command 键看了半天，这玩意...