服装吊牌检测系统部署到产线后最大的抱怨从来不是“检得不准”而是“速度跟不上”。产线节拍是每秒处理两件衣服每件衣服有正反两张吊牌加上洗标和价格签一个工位每秒钟要处理4-5张图像。系统如果不能在几百毫秒内完成检测产线就会堆料堵线停机。在保证精度的前提下把单张处理时间压缩到150ms以内是我们必须跨过的门槛。那具体可以采取什么办法决策一图像裁剪省掉不必要的计算很多人习惯把相机拍到的全幅图像直接送入算法处理但吊牌在画面中只占了一小部分大量算力浪费在背景上。我做的第一件事很简单在检测区域设置裁剪框把成像区域裁剪到刚好覆盖吊牌本身四周只留少量余量。就这么一刀图像面积减少了60%-70%后续所有环节的计算量同步下降。裁剪后检测时间从210ms降到了130ms精度没有任何损失。但后来也吃过亏为了追求速度把裁剪框设太紧新来一批吊牌尺寸大了2mm边缘被裁掉系统连续报警。之后余量从2%放宽到10%牺牲了一点速度但再也没出过问题。决策二推理批处理减少调度开销刚开始用单张推理模式每张吊牌图独立调用一次模型。后来发现工业相机连续拍摄时图像是一帧一帧来的但每帧间隔只有几十毫秒每一帧单独推理都要经历内存拷贝和GPU上下文切换。我改成积攒4张图片做一次批量推理四张图一起输入一次性输出四个结果推理时间从100ms降到40ms。批处理节省的是调度开销但批量不宜太大超过8张延迟会明显增加而且产线如果间歇停顿积攒批量会导致等待。决策三分布式推理每路相机各配各的算力最初四路相机共用一台RTX3060工控机结果同时拍摄时GPU显存排队严重单路延迟从80ms飙升到300ms以上产线直接停机。后来换了一种思路每路相机配一台Jetson Orin NX四台各自独立推理互不影响。单台处理一张吊牌约50-70ms四台总成本和一台高性能工控机加显卡差不多但稳定性和扩展性好很多以后加第五第六路直接加设备就行。框架层面也从PyTorch切到了TensorRT FP16速度又翻了一倍。有什么效果经过这三招单张处理从210ms降到70ms四路同时工作时最坏延迟85ms完全满足要求。速度优化的本质是做减法砍掉不需要的背景、减少调度开销、避免排队等待每砍掉一个冗余步骤速度的提升都是白送的。速度问题解决之后还有一个更大的困惑摆在我们面前——大模型火了一年多VLM能看图能理解能对话那用它来做吊牌识别是不是更智能我实际测了100张吊牌结果让人大跌眼镜下一期我们来聊聊VLM在吊牌检测上的实测表现以及它到底有没有用。
