方案选型会开到一半甲方负责人突然指着PPT问了一句这套AI检测系统是装在设备里还是挂在设备外面我当时愣了一下然后意识到这其实是整个项目里最该先回答的问题。市面上叫“工业AI”的方案很多但落到部署层面无非两条路线内生AI和外挂AI。选错了后续的数据链路、响应速度、运维成本、甚至团队分工全都会跟着别扭项目推进到一半再回头改代价非常大。内生AI和外挂AI说的不是“智能”的等级差异而是整套技术架构的部署逻辑差异。内生AI把推理能力嵌进设备内部数据在设备里闭环外挂AI则在设备之外单独部署一套算力系统靠数据接口跟产线对接。两者的成本结构、实施周期、运维模式、适用边界完全不同。这篇文章我就从这几个维度拆开讲结合我做过的项目经验给正在选型的朋友一个可以参考的决策框架。1. 先把两个概念掰清楚内生AI和外挂AI到底指什么1.1 内生AI智能长在设备里面所谓内生AI指AI模型的推理能力被直接封装在设备本身的控制器、传感器模组或者嵌入式边缘单元里。设备自己采集数据、自己跑模型、自己输出结果整个过程不依赖外部服务器也不需要把原始数据传出去。举几个典型的例子智能振动传感器内置了故障诊断模型贴在电机上就能实时判断轴承是否出现早期损伤带AI识别功能的工业相机在相机内部完成缺陷分类PLC或者设备控制器里嵌入了轻量级的预测模型根据电流、温度、压力等参数实时推断设备健康状态。这些共同点是推理发生在“设备内部”对外只输出结论。内生AI在硬件上通常依赖MCU、DSP、NPU或者低功耗GPU这类嵌入式算力算法模型必须是经过量化、剪枝处理的轻量级模型因为它要适配有限的内存、功耗和算力。早些年这类方案很难做芯片算力不够模型小到没效果现在边缘算力成本大幅下降轻量级模型的精度也上来了内生AI才真正变得可用。1.2 外挂AI智能放在设备外面外挂AI则是一套独立于被监测设备的算力系统。它通过传感器、数据采集器、PLC通讯模块或者工业网关把设备的数据采集出来送到一台独立的工控机、服务器或者边缘计算节点上在外部完成AI推理再把结果通过网络、显示屏或者控制系统反馈回去。典型的应用包括单独部署的视觉质检工位摄像头拍完照片图像传到旁边一台带GPU的工控机做检测基于历史数据的预测性维护平台服务器定期分析设备数据并输出维护建议整个车间的AI监控系统所有设备的运行数据汇集到中心平台统一分析和展示。外挂AI的算力通常比内生AI大得多可以跑复杂的目标检测网络、时序模型甚至大语言模型。外挂AI的核心特征是“数据要出门”。不管是通过网线、光纤还是工业无线数据都得从设备端走到算法端算完再走回来。这个“走一趟”的过程看起来简单但决定了时延、带宽、数据安全、系统复杂度等一系列问题。1.3 为什么这个话题最近被反复拿出来问我最近连续参与了几个项目的前期调研明显感觉“内生还是外挂”成了甲方问得最多的问题。原因有三个。一是边缘算力成本下降加上模型小型化技术成熟原来只能放在服务器上的AI现在确实能塞进设备里了。二是产线智能化进入规模落地阶段前几年大家做试点IT和OT各搞各的现在要规模化复制必须有一个明确的架构选型标准。三是数据安全法规和工厂数据管理要求越来越严很多企业不希望工艺数据流出设备内生AI因此有了更强的吸引力。说白了这个问题以前不存在因为以前只有外挂一条路现在两条路都走得通才轮到企业做选择。这不是概念炒作而是真实的决策需求。2. 选型前必须想明白的三个底层差异2.1 数据路径不一样决定了时延和数据主权内生AI和外挂AI最本质的差异是数据路径完全不同。内生AI从采集到推理到响应全部在设备内部完成原始数据不出设备输出的只是结论。外挂AI则必须经历“采集—传输—汇聚—推理—返回”这条完整链路。这个差异带来的影响非常直接。首先是响应时延。内生AI的响应时间是确定性的比如一个视觉传感器在内部完成检测通常能做到几十毫秒以内而且不受网络波动影响。外挂AI的时延是各个环节的叠加数据采集周期、传输时间、服务器推理时间、结果下发时间任何一环抖动都会影响整体响应速度。其次是数据主权。有些工艺参数本身就是企业的核心机密比如配方、工艺曲线、精密加工参数。外挂AI方案里这些数据至少要传到厂内的服务器如果走云还要出园区。虽然可以做数据脱敏和加密传输但甲方心理上总是不踏实。内生AI天然规避了这个问题——数据根本没离开设备。用一个生活化的类比来说明内生AI就像家庭医生上门看诊人在现场看完直接下结论外挂AI就像远程会诊你要先把病历、检查报告传过去专家看完再给意见。远程会诊能调用更多专家资源但前提是网络顺畅而且你要愿意把资料传出去。2.2 算力位置决定算法能力的上限内生AI的算力以“够用”为标准。设备内部的嵌入式芯片要控制成本、功耗和体积能承载的模型规模是有限的。哪怕是现在最新的边缘NPU跑个几百MB的模型已经是上限更别说还要考虑设备散热的物理限制。这意味着选择内生AI你的算法能力天花板是被硬件锁死的。你需要做模型量化、剪枝、蒸馏把一个大网络压缩成设备能跑动的小模型。压缩的过程一定会损失一部分精度你要做的是评估这个精度损失是否可以接受。外挂AI没有这个限制。工控机里插两块GPU或者直接用一台服务器算力几乎可以按需扩展。复杂的目标检测网络、超大时序模型、多模态融合算法只要能训练出来基本就能找到硬件跑起来。而且后期算法升级时外挂方案只需要更新软件硬件一般不用动。但这不代表外挂AI一定更优。算力大也意味着功耗大、发热大、占地面积大。工业现场很多地方环境很苛刻——高温、高湿、振动、粉尘一台标准服务器往里一放散热和防护做起来成本很高。内生AI虽然算力小但嵌入式硬件往往针对工业环境做过加固设计可靠性反而更高。2.3 部署和维护的代价是两套完全不同的账内生AI的部署相对简单。设备出厂时AI功能就已经集成好了现场只需要安装、接线、简单配置。日常维护是“换模块”的逻辑每一个设备都是一个自治单元坏了换备件。如果支持远程模型更新算法升级也只需要推送新模型包。但内生AI也有自己的维护问题。首先是模型更新依赖整机或模块厂商如果设备供应商不配合算法升级会变得很困难。其次是单点维护成本假设全厂有200台设备都装了内生AI每台设备的模型版本、运行状态都要分别管理运维工作量是随设备数量线性增长的。外挂AI的部署则要复杂得多。你需要设计数据采集方案——设备有没有接口通讯协议能不能打通数据采出来怎么传输这些工作非常琐碎经常要协调设备厂商、自动化团队和IT团队。部署周期往往以月为单位计算。但外挂AI维护起来是集中式的所有算法都在一个平台里更新迭代非常灵活问题排查也方便。这里还有一个经常被忽视的点团队技能的匹配。内生AI的维护更多依赖设备维护团队他们懂机械、懂电气但对AI模型几乎没有概念外挂AI的维护需要IT团队参与他们懂服务器和网络但不一定懂产线。选型之前一定要先想清楚你的团队有没有能力承接对应的运维模式。3. 什么场景选内生什么场景选外挂我的判断逻辑3.1 适合内生的典型场景我在实际项目里总结出几类比较适合内生AI的场景供参考。第一类是高速产线的在线质量检测。比如冲压件表面缺陷检测、电子元器件的外观检测、药瓶的异物检测。这类场景要求检测速度跟上产线节拍通常需要几十毫秒级别响应而且来不及把每张图都传到服务器再等结果。视觉传感器在内部跑轻量模型发现问题直接触发剔除机构是典型的“内生逻辑”。第二类是设备本体保护性控制。比如电机堵转、轴承过热、刀具异常磨损的实时判断。这类场景的特点是结论必须快——你不可能等数据传到服务器分析完再报警那时候设备可能已经坏了。设备控制器里嵌一个轻量模型实时看电流、温度、振动的变化趋势一旦异常直接停机这是内生AI非常合适的应用。第三类是安装环境恶劣、网络条件不稳的现场。比如矿山、野外泵站、高温车间这些地方要么没有稳定的网络要么环境不适合放置精密服务器。把AI做进设备内部设备本身自带判断能力不依赖任何外部设施。第四类是数据敏感度极高的工序。比如配方、特殊工艺参数这类数据企业通常不愿意出设备内生AI可以直接在设备端完成分析只输出“正常/异常”这类结论原始数据完全留在本地。3.2 适合外挂的典型场景外挂AI也有它不可替代的优势场景。最典型的是存量设备改造。很多工厂有大量已经服役多年的设备本身没有智能能力也不可能整机替换。这时候外挂AI是唯一可行的方案——外接传感器把数据采出来送到外部服务器做分析。我们参与过一条老注塑产线的改造项目20多台旧设备加了振动传感器和电流采集器数据全部汇到一台工控机里做预测性维护效果很好设备本身完全没动。第二类是需要跨设备、跨产线做聚合分析的场景。比如OEE设备综合效率分析、全厂质量追溯、多设备联动的异常诊断。这些应用天然需要把多个设备的数据汇聚到一起从全局视角找规律显然不是单台设备内部能完成的。这种情况下外挂AI是必然选择。第三类是算法模型比较重、精度要求极高的场景。比如深度学习视觉检测里的复杂缺陷分类可能需要几十层乃至上百层的神经网络设备内部根本塞不下。这时候外挂AI带GPU的算力优势就体现出来了。第四类是模型需要频繁迭代的场景。AI应用上线后基本都要持续优化产线换了物料、改了工艺模型就要跟着调。外挂AI集中在平台上迭代训练、下发更新整个流程效率高很多。内生AI虽然也能OTA更新但更新频率受设备和供应商的配合程度限制。3.3 别忽略混合架构端侧抓紧急中心侧做深度我做过的大部分项目最后落地的时候都是混合架构——设备内部做轻量级判断外部系统做深度分析两边协同工作。这个趋势其实已经非常明显了。举一个包装产线的例子。视觉检测系统在每台包装机的相机内部跑一个轻量的“初筛模型”能识别明显的缺件、破损等大问题发现后直接剔除保证产线不中断。同时所有图片都会异步上传到边缘服务器服务器跑一个更强大的模型做“复判”把初筛拿不准的样本重新分析定期把误判和漏判的结果反馈给设备端模型做更新。这么做的好处是两头的好处都占了响应快由内生兜底精度高由外挂保障模型迭代又能在中心侧灵活完成。事前选型的时候如果一开始就抱着“非此即彼”的思路就很容易忽略这种组合拳的打法。我现在的习惯是在给甲方做选型建议时默认先把“内生能解决什么、外挂能解决什么、两边各承担什么角色”这个问题列出来再决定投多少钱到哪一侧。“所有算力都塞设备里”和“所有数据都传服务器”这两种极端方案通常都不是最优解。4. 实操给你一张可以直接用的选型决策清单4.1 第一步盘点现有产线的真实约束条件选型不是从“AI功能”出发的而是从“约束条件”出发的。先问自己下面这些基础问题答案会直接决定你的技术路线。设备现状是什么设备本身有没有传感器、控制器、操作系统是具备一定智能能力的新设备还是完全“裸奔”的旧设备如果是完全没有数据接口的老设备内生AI基本无从谈起因为设备内部就没有算力平台可以嵌入你只能做外挂改造。产线节拍有多快对响应时间的要求是秒级、百毫秒级还是十毫秒级AI系统的主要职能是控制还是辅助决策如果AI的判断要直接触发执行机构响应确定性要求会非常高内生AI频率匹配度更好如果AI只是给操作员一个提示人再介入处理外挂的延迟完全够用。网络条件怎么样厂区内有没有覆盖到位的有线网和无线网设备安装地点有没有稳定的网络接入你不可能在一个信号都飘忽不定的车间里还指望着靠外挂AI做实时控制。团队有什么技能储备设备维护团队能不能接受“设备里有AI模块”这件事IT团队有没有能力维护一套服务器和网络环境如果两边团队都表示“这事我干不了”再好的技术方案都落不了地。这一条我建议在决策表里单独列一个大权重别被忽略。4.2 第二步把“智能需求”量化成可比较的指标很多选型失败是因为需求描述得太模糊。甲方说“我想让设备变智能”这没法做决策。你需要把需求翻译成可测量、可比较的指标然后逐项打分。下面这个表格是我在项目里常用的评估模板你可以直接拿来用。针对每个维度给内生AI和外挂AI的表现打1到5分最后加权求和。评估维度内生AI表现外挂AI表现说明响应时延≤50ms52内生确定性高外挂链路长算力上限25嵌入式算力受限外挂可扩展数据闭环 / 隐私保护52内生数据不出设备多设备聚合分析能力15外挂天然支持全局视角存量设备兼容性25老设备只能外挂改造单点部署复杂度43内生即装即用外挂牵涉链路算法更新灵活性25外挂集中迭代更方便单体硬件成本42内生单台便宜外挂平台投入高运维团队要求32外挂需要专门的IT/OT协作打分之前一定要先把权重量清楚。比如你是做高速产线在线检测响应时延和部署复杂度权重高你是做旧产线改造存量兼容性和多设备聚合分析权重高。权重不同同样的分值得出的结论可能完全相反。4.3 第三步算一笔全生命周期的账而不是只比采购价选型时最容易踩的坑是只对比硬件采购价。内生AI单价看起来低但如果你有200台设备每台增加的成本累计起来很可观外挂AI平台看起来贵但如果服务全厂50台设备摊到每台身上可能反而便宜。我建议用五年TCO总拥有成本的口径来算账。内生AI的成本项包括单台设备的AI模块成本乘以设备数量、每年的模型维护和模块更换费用、可能的整机升级费用。外挂AI的成本项包括服务器或工控机采购费用、网络改造费用、数据采集系统费用、软件平台授权费、机房和散热等基础设施费用以及最容易被低估的——IT/OT团队的持续运维人力成本。一个简单的算账场景某车间30台设备需要加装AI预测性维护能力。内生方案单台AI模块成本约3000元30台共9万元加上备件和年度维护预算约每年2万元五年总成本19万元左右。外挂方案一台工控机3万元、传感器和数据采集系统8万元、软件平台5万元、网络改造2万元一次性投入18万元加上每年约3万元的运维人力成本五年总成本约33万元。看起来内生便宜但如果你后续要上更多新的AI功能外挂平台的扩展成本几乎为零内生方案每新增一个功能都要看设备供应商的报价。算完账之后还有一个必须做的动作就是小范围PoC验证。不要跳过这一步直接全厂铺开。选一条最典型的产线或一台最核心的设备分别用内生和外挂两种方式做两周左右的概念验证用真实的生产数据跑记录误报率、漏报率、响应时间、维护工作量这些关键指标。PoC的数据比任何供应商的PPT都有说服力。5. 常见误区与现场踩坑实录5.1 误区一以为AI“离设备越近”就越先进我在交流中经常听到一种说法“你们这个方案还要服务器太落后了人家都是设备内部跑AI。”这种判断其实是把技术路线和先进程度绑在了一起实际并不是这样。内生AI听上去比外挂AI前沿但设备内部能跑的模型复杂度有限很多需求它就是满足不了。我见过一个案例某电子厂的AOI检测项目一开始坚持用嵌入式智能相机在设备内部做全部检测结果复杂的缺陷分类精度始终达不到客户要求。后来改成相机初筛加边缘服务器复判的混合方案精度才达标。反过来也一样外挂AI并不意味着技术陈旧。它承载复杂模型、跨域分析的能力恰恰是很多大型AI平台的核心价值。选型看的是适不适合你的场景不是听起来高不高级。5.2 误区二低估数据治理的工作量AI项目失败最常见的原因不是算法不够好而是数据没准备好。这个坑在两种架构下都有只是表现形式不同。内生AI的数据问题是“样本从哪来”。设备内部确实在产生数据但设备厂商未必提供了数据导出接口你需要通过调试端口或者通讯协议把原始数据挖出来才能做样本标注和模型训练。有些设备厂商对此配合度不高数据获取会变成一场拉锯战。另外把标注好的数据集整理成模型训练格式也需要专门的工具和人力。外挂AI的数据问题则是“数据链路能跑通吗”。数据从设备到服务器的链路长任何一环中断都会导致数据缺失。现场经常遇到好不容易改造完数据采集结果发现时间同步有问题或者通讯协议频繁掉线最后采集到的数据根本没形成完整的时间序列。这个排查过程非常耗时。无论选择哪种方案我都建议把数据治理作为项目启动后的第一优先级任务来做而不是等模型建好之后发现没数据可用再回头补救。5.3 误区三把选型当成纯技术题忽略了组织和流程有一次在某汽车零部件厂做方案交流对方的技术负责人很专业提了一堆模型精度和算力的问题谈得很投入。但聊到落地阶段的时候设备维护团队的负责人问了一句“这套系统报警了我们找谁是找IT还是找供应商”全场沉默了。AI选型表面是选技术架构实际上是选一个“之后谁干活”的协作模式。内生AI设备的模型维护由谁负责外挂AI的服务器告警由哪边响应数据标注和模型更新的工作由谁来牵头这些问题如果不在选型阶段就明确下来项目上线之后一定会变成扯皮现场。我的建议是选型讨论一定要让设备部门、IT部门、生产部门、采购部门一起参加并且每个人都要有权对技术方案提出反对意见。技术方案可以反驳但组织和工作流程的问题在很多项目里才是真正决定成败的变量。5.4 小技巧PoC验证该怎么做才高效最后分享一个做PoC验证的实用技巧。很多项目做PoC时习惯用供应商准备好的“演示数据”跑一遍看效果不错就直接签合同这其实非常容易踩坑。演示数据通常已经过清洗、标注模型对该数据的识别效果一定很好。但到了真实产线光照变化、物料批次差异、设备振动干扰、数据采集不完整各种意外情况全来了。所以做PoC一定要满足三个条件用真实的生产数据、在真实的生产环境跑、让一线操作工参与评估。PoC期间需要重点记录四组数字漏报率有问题的产品被放过去了、误报率正常产品被毙掉了、响应时延从采集到结论的时间、人工干预次数多少产品/场景需要人工确认。前面三个好理解第四个很容易被忽略——如果一个AI系统报警后总要人再去复核说明它只是把问题从人转移给了人并没有真正减少人的工作。我见过一个项目PoC测试时精度报告非常漂亮但上线第一个月操作工被误报折腾得崩溃天天有人要求关停系统。后来重新回炉把误报问题解决了系统才算真正被用起来。所以让一线操作工参与评分这一点务必在PoC方案里加上。我的体会是工业AI选型这件事本质上是在算力位置、数据闭环、响应时延、成本结构之间做权衡不存在一个放之四海皆准的标准答案。内生AI适合响应快、数据敏感、环境受限的场景外挂AI适合存量改造、跨设备分析、重型模型的场景而混合架构在多数情况下才是那个真正的平衡点。最后分享一个很实用的小习惯每次选型讨论会快结束的时候我都会让设备维护团队和IT团队分别给方案打一个“长期维护信心分”从1到10。往往就是这简简单单一个打分能逼出很多前面PPT里看不出来的顾虑。分数低的那一方如果说不清楚原因这个方案多半藏着还没暴露的问题。先把这个分聊明白再谈买哪家的产品项目后面的路会顺很多。
