几百路视频、几十种算法同时跑系统能不能稳住取决于架构而不是模型本身。园区摄像头从几十路涨到几百路算法从一两个涨到几十个人脸识别、车辆识别、安全帽、烟火、周界入侵、摔倒、占道、未戴口罩……但系统往往越搭越乱——每个算法一个独立服务部署一堆容器互相抢资源升级一个模型要停掉对应服务业务跟着断A 摄像头跑 v1、B 摄像头跑 v2出了问题查半天版本新算法接入还要改业务代码。根因不是模型不够好而是算法和业务混在了一起没有分层。核心判断把系统拆成算法平台和业务平台两层。算法平台管模型的全生命周期——训练、注册、统一推理、调度、灰度升级、一键回滚业务平台管场景和事件——视频接入、场景编排、报警联动、报表可视化。中间用统一推理接口解耦业务方不关心模型是哪个版本、跑在哪张卡上。本文看点智慧园区视觉系统为什么越搭越乱整体架构云-边-端双平台分层算法平台怎么搭模型仓、统一推理、多模型调度多模型怎么统一调用、怎么升级不中断业务业务平台怎么搭接入、编排、报警闭环落地建议与常见坑01为什么智慧园区视觉系统容易越搭越乱典型症状表现根因服务爆炸每个算法一个容器几十种算法几十个服务资源争抢、运维混乱算法与部署耦合没有统一推理层升级即中断换模型要停服务、重启业务跟着断没有热加载和灰度机制版本失控不同摄像头跑不同版本出问题对不上没有模型版本管理和下发记录接入困难新算法要改业务代码排期长算法与业务逻辑耦合这四个症状的共同根因是模型的生产-部署-调用-升级没有被当成一个独立平台来管而是散落在每个业务服务里。下一节看怎么用分层架构把它拆开。02整体架构云-边-端双平台分层端采集、边推理、云管理算法平台和业务平台在云端分层解耦。2.1三层物理架构层组成职责端摄像头RTSP / ONVIF / GB28181、传感器、门禁采集视频流和环境数据边AI 边缘盒子GPU / NPU如 T4、A10、瑞芯微、昇腾就近实时推理单节点可跑数十路视频分析云算法平台 业务平台模型管理、场景编排、事件存储、可视化为什么要边几百路视频全传到云端推理带宽和延迟都扛不住。边缘盒子在摄像头旁边做实时分析只把报警事件和截图传到云端云端做管理和复盘。2.2双平台逻辑分层云端不是一个大杂烩而是拆成两个独立平台•算法平台模型仓库、训练 / 微调、统一推理服务、模型调度、版本管理、OTA 下发到边缘•业务平台视频接入、场景编排、事件管理、报警联动、报表、可视化大屏•中间接口统一推理 APIgRPC / HTTP。业务方调的是识别人员 / 识别车辆 / 检测安全帽这种能力名而不是yolov8-person-v3这种模型名。2.3这样分的好处算法团队只管把模型训好、注册到平台、观察效果业务团队只管把摄像头、场景、报警规则配好。模型升级不影响业务代码新算法接入只需在算法平台注册一个能力业务方按能力名调用即可。两边解耦各自迭代。所以呢架构的核心不是用了什么新技术而是把模型的生命周期和业务的场景逻辑彻底分开。下一节看算法平台内部怎么搭。03算法平台怎么搭模型仓、统一推理、多模型调度模型仓注册、统一推理引擎加载、调度器按场景路由到算力池。3.1模型仓库给每个模型一张身份证算法平台的第一件事是建模型仓库。每个模型注册时必须带一张身份证字段说明模型 ID 版本号如 person_detect / v2.1版本不可变能力名业务方按能力名调用如人员检测输入输出规格输入分辨率、输出字段bbox、置信度、类别精度指标mAP、召回率、误报率标注测试集框架与硬件PyTorch / ONNX / TensorRT / RKNN适配 GPU 或 NPU适用场景室内 / 室外 / 白天 / 夜间标注适用范围模型文件统一存在对象存储里注册时只存元数据。这样业务方永远通过能力名 版本调用不直接碰模型文件。3.2统一推理服务一个引擎跑所有模型关键设计是一个推理引擎动态加载多个模型而不是每个模型起一个服务。引擎支持热加载——新模型注册后不重启即可加载进内存旧模型不用时自动卸载。对外暴露统一APItextPOST /infer { capability: person_detect, version: v2.1, image: base64 } →返回 bbox 列表、置信度、类别业务方不需要知道这个能力背后是 YOLO 还是别的也不需要知道跑在哪张卡上。3.3多模型调度按场景路由和级联园区里一个摄像头往往要同时跑多种算法。调度器做两件事•按摄像头配置路由1 号摄像头大门跑人员 车辆 车牌3 号摄像头仓库跑人员 安全帽 烟火•级联推理先跑人员检测只对检测到的人员区域再跑安全帽识别——比全图跑安全帽快几倍也更准。3.4算力管理边缘盒子要精打细算边缘盒子算力有限几十路视频同时跑必须做资源治理•模型量化INT8 量化精度损失可控推理速度翻倍•动态抽帧非关键场景从 25fps 降到 5fps关键事件触发时升回全帧率•分时启停夜间不需要占道检测自动停掉释放算力•过载降级算力打满时按优先级保关键算法如烟火非关键算法降分辨率或暂停。所以呢算法平台的本质是把模型变成一个可注册、可调度、可计量的标准资源而不是散落在各处的脚本。下一节看模型怎么升级不中断业务。04模型怎么调用和升级不中断业务的全流程注册→灰度→A/B→全量→回滚每一步都有数据观察不盲切。4.1调用业务方只认能力名业务方调用时只说我要人员检测算法平台根据版本策略决定用哪个模型版本策略行为适用stable默认用平台标记为稳定的版本绝大多数业务场景latest用最新注册的版本测试环境指定版本如 person_detectv2.1需要精确复现的场景还支持摄像头级覆盖某个特殊摄像头可以单独指定用某个版本不影响全局。4.2灰度发布先切一小撮摄像头新模型注册后不直接全量。先切 5% 的摄像头流量跑新模型观察误报率、漏报率、推理延迟。指标正常再逐步扩大到 20%、50%、100%。边缘盒子通过 OTA 下发模型热加载不重启业务。4.3 A/B对比同一摄像头跑两个模型对关键场景可以让同一摄像头同时跑新旧两个模型双路推理或影子模式自动对比输出差异。比如新模型把穿反光衣的人误判成未戴安全帽A/B 对比能立刻发现。用数据而不是感觉决定是否全量。4.4影子模式后台跑不报警更稳妥的做法是影子模式新模型在后台跑结果只记录不触发报警。跑一周和旧模型的报警记录逐条对比确认新模型没有引入新误报、也没有漏掉旧模型能抓到的事件再切正式。4.5一键回滚秒级切回灰度过程中一旦发现误报飙升或延迟异常一键切回旧版本。版本切换是配置级的秒级生效不需要重启服务。所有切换谁、什么时候、从哪个版本到哪个版本、为什么都有审计日志出问题可追溯。阶段做什么观察指标注册新模型入库标记为测试加载是否成功、延迟基线影子后台跑不报警与旧模型输出差异率灰度 5%小部分摄像头切流误报率、漏报率、延迟灰度 50%扩大范围同上 算力占用全量标记为 stable持续监控回滚异常时秒级切回恢复旧版本指标所以呢模型升级不再是停服务、换模型、祈祷没问题而是一个有数据、有灰度、有退路的工程流程。下一节看业务平台怎么搭。05业务平台怎么搭接入、编排、报警闭环5.1视频接入把摄像头管起来业务平台首先要解决摄像头进来的问题•多协议接入RTSP、ONVIF、GB28181兼容海康、大华、宇视等主流厂家•摄像头管理注册、分组、标注地理位置和朝向、在线状态监控•流管理统一拉流、按需分发、事件录像报警前后 N 秒不用 7×24 全量存。5.2场景编排把算法配成业务规则业务平台的核心是场景编排——把摄像头、算法、规则、动作配成一个可运行的场景低代码配置不用改代码。举个例子大门夜间入侵场景摄像头1号大门摄像头算法人员检测车辆检测规则22:00–06:00检测到人员或车辆→触发动作推送保安手机抓图录像联动声光报警器门禁锁死一个园区可以配几十上百个这样的场景每个场景独立启停、独立配置。新场景上线不需要算法团队介入业务人员在界面上拖配即可。5.3事件管理与报警闭环算法输出的不是报警而是事件。业务平台把事件变成可处置的报警环节做什么事件入库存截图、短视频片段、位置、时间、触发的算法版本报警分级一般 / 重要 / 紧急不同级别走不同通知渠道联动动作推送、短信、声光、门禁、广播按场景配置处置闭环报警 → 确认 → 处置 → 归档全程可追溯误报反馈保安标记误报数据回流到算法平台用于模型优化最后一条很关键业务平台产生的误报数据是算法平台模型迭代的燃料。两个平台通过数据回流形成闭环而不是各干各的。5.4报表与可视化•实时大屏当前事件、摄像头在线率、各算法运行状态、算力占用•统计报表按区域、类型、时间段统计报警量、处置率、误报率•趋势分析哪些区域高发、哪类算法误报多指导模型优化和摄像头补点。所以呢业务平台不存模型它存的是场景、规则、事件、处置。算法平台负责看得准业务平台负责用得起来。06落地建议与常见坑6.1先搭哪个平台建议先搭算法平台的骨架模型仓 统一推理服务再接 2–3 个核心算法跑通同时业务平台先做视频接入和事件管理。两边并行但业务平台的场景编排依赖算法平台暴露的能力接口所以算法平台的接口要先定下来。6.2六个常见坑坑后果解法每个算法一个服务服务爆炸、资源争抢统一推理引擎动态加载模型模型升级全量切新模型有问题全园区遭殃灰度 影子模式 一键回滚边缘算力规划不足路数一多就卡INT8 量化 动态抽帧 分时启停误报数据不回流模型永远在原地踏步业务平台标记误报算法平台用它迭代摄像头协议不统一接入一个厂家改一次代码接入层做协议转换统一输出报警太多没人看保安麻木真报警被淹没分级 降噪同事件 N 秒内合并 联动优先级最后智慧园区视觉系统的难点从来不在某个模型有多准而在几十种模型、几百路视频、持续迭代这件事能不能稳住。模型会过时架构不会。核心结论把系统拆成算法平台和业务平台两层——算法平台管模型的全生命周期注册、推理、调度、灰度、回滚业务平台管场景和事件接入、编排、报警、报表中间用统一能力接口解耦。再加上边缘盒子就近推理和误报数据回流整个系统才能跟着园区一起长而不是每加一个算法就重构一次。模型会过时架构不会。把模型的事交给算法平台把场景的事交给业务平台。
)
