从一套看起来全自动的系统说起为什么机器越智能人越跟不上我在某个系统集成项目里做过一段时间的现场支持负责的是一套带有大量自动化辅助的监控调度平台。刚开始所有人都觉得这项目很成功机器能自动分类告警、能给出处置建议、还能提前预测某些参数的变化趋势。领导来看演示的时候屏幕上一切都很流畅汇报材料里写着大幅提升了值班人员的决策效率。但真正上了真实环境连续跑了一个季度之后我发现一个很尴尬的现象值班员并没有因为机器更智能而变得更从容反而经常陷入一种说不清的紧张状态——数据都在提示也给了建议也跳出来了可他们反而更不敢拍板也更难把当前局势讲清楚。有人甚至私下说以前我一个人盯着几条曲线反而知道现在到底什么情况现在机器告诉我一切正常我却总觉得心里没底。这个现象不是我一个人观察到的。后来我和做同类系统的几个团队交流大家或多或少都遇到过类似的困惑。标题里的问题——为什么真实复杂环境下的人机协同常常会干扰人类的态势感知能力及其决策效果——其实是一个普遍存在但很少被摊开来讲的问题。它不是某个算法不够准、某个界面不够好看那么简单而是当我们把一个高度自动化的系统塞进一个充满不确定性的真实场景时人的认知过程和机器的工作方式之间天然就会产生一系列摩擦。这篇文章我想把这些摩擦拆开结合我实际遇到过的情况说说态势感知到底是怎么被干扰的决策效果为什么跟着变差以及有没有什么务实的缓解思路。1.1 这套系统明明在帮我为什么我感觉更难做判断了先厘清一个概念。态势感知不是简单指我看见了什么而是人对当前环境状态的一个完整理解通常可以拆成三层第一层是感知也就是我注意到哪些关键信息第二层是理解也就是我能否把这些信息串成一件正在发生的事情第三层是预测也就是我能根据当前趋势判断接下来会发生什么。这套框架在学术讨论中很有名但在实际值班场景里它其实对应着一个很朴素的过程我看屏幕我知道现在怎么了我想两步之后的局面。自动化的本意是替人分担前两层的工作——机器帮你感知帮你整理信息甚至帮你给出理解结果。按理说人就能把精力省下来专门用在预测和决策上。但真实环境中的问题恰恰在这机器替你感知了却没有告诉你它是怎么感知的机器替你理解了却没办法把它的理解方式同步进你的脑子。结果就是人表面上省了力实际上却要额外花心思去猜机器的判断逻辑可不可靠去琢磨这个建议到底建立在什么前提上。这种元认知负担是很隐蔽的它不体现在某个具体的操作步骤上但会慢慢消耗人的判断余量。我在现场看到过一个相当典型的场景平台根据历史数据预测某个节点将在二十分钟后过载自动弹出一条处置建议。值班员盯着建议看了很久不是说建议本身不对而是他没办法快速确认建议背后假设的负载曲线跟当前实际情况是否一致。屏幕上同时显示着几十个参数机器的预测模型又是一个黑盒他只能凭经验反复比对几个关键指标试图自己在脑子里重建一遍机器刚才走过的推理路径。这一比对就是好几分钟而在这几分钟里真实环境又发生了变化。等他想清楚这个建议可以执行的时候新的告警又冒出来了。机器在帮他判断但无形中把他推到了既要判断当前局势、又要验证机器判断的双重岗位上这比没有自动化时还累。1.2 把态势感知拆开看感知、理解、预测分别在哪一步被打断要用一个框架去理解这个问题最好的办法是把态势感知的三个层次分别拉出来看自动化分别在每一层做了什么事、又分别在每一层制造了什么新的问题。我自己做了个对照整理起来大概是下面这个样子。态势感知层次自动化介入方式典型干扰路径实际后果感知层自动过滤信息、自动告警、自动排序关键信息被错误过滤或告警过多导致压力上升该注意到的没注意到注意力被机器牵着走理解层自动生成态势小结、给出场景分类机器结论与人的直观判断不一致且无法快速追溯依据人对全局的理解被打断陷入为什么它这么判断的追问预测层自动预测趋势、推送处置建议预测置信度不透明人的经验预测与机器预测相互竞争决策责任模糊人不敢落实自己的判断也不敢完全信机器感知层的问题最直观。机器做信息过滤是拿一套规则或模型去判断什么重要但真实环境里重要性的判断往往高度依赖上下文而上下文恰恰是机器最难以完整捕捉的东西。我见过一个案例某套告警管理系统为了降低值班员的告警疲劳设置了一条规则——同一类型告警在十分钟内重复出现超过五次就自动折叠成一条高频反复告警。这个规则在平时确实很管用值班员不用再被重复信息淹没。但有一次系统真的进入了某种异常状态同一个告警反复出现其实说明故障在快速蔓延而折叠功能让值班员把注意力转向了别处直到更严重的后果级联发生。折叠规则本身没问题问题在于机器把重复判断为可以忽略而人原本可以从这种重复里读出事态正在恶化的含义。感知层的信息形态一旦被机器改写人的原始判断线索就被剪断了。理解层和预测层的干扰更隐蔽。机器给出的态势小结有时是准确的但人只能看到结论看不到结论背后的推理链。如果这个结论和人脑里基于经验的直觉判断一致那还好办人扫一眼就直接采纳。麻烦的是不一致的时候机器说当前风险等级为中等建议维持现状而你凭经验觉得现场味道不对应该马上加大检查频次。这个时候你面临一个选择——是信自己还是信机器这个选择本身就是认知成本。你开始翻日志、查参数、试图验证机器的结论而这些行为恰恰占用了你本应用于下一步决策的认知资源。这就是我说的人在回路里但回路越转越慢。2. 态势感知被干扰的四条主要路径把框架理清楚之后剩下来的问题是自动化到底是怎么一步步把人的态势感知拆散的我观察下来干扰路径主要可以归纳成四条它们往往是同时发生的互相叠加产生的结果就不只是某一步没注意到那么简单。2.1 信息呈现与交互成本看到不等于注意到第一条路径是信息呈现方式的改变。人工处理信息的时候信息来源、信息形态、信息之间的关联关系都是人自己一点点建立起来的。老值班员扫一眼曲线图能凭曲线形状和变化速率直接感觉到异常这种手感建立在他长期和原始数据直接打交道的基础上。自动化介入之后信息的呈现方式通常被重新组织过——数据变成图表、图表变成摘要、摘要变成一条告警。每一步都经过了机器加工而每加工一次人跟原始信息之间的直接接触就断了一层。我自己的体验是直接看原始数据时虽然累但脑子里有一个非常明确的当前世界状态的图景而看机器加工后的摘要时这个图景反而模糊了我不得不依赖自己对机器加工可靠性的信任来维持判断。交互成本也在涨。以前我在一个屏幕上就能掌控全局现在信息被分配到多个子页面、多个弹窗、多个分级菜单里光是切换视图这个动作本身就够让人分心的。页面上的数字也许都全但人脑的工作记忆容量有限——你切到第二个页面的时候第一个页面的关键状态可能已经开始从短时记忆里滑出去了。这就像同时盯着七八块监视器画面多了反而哪一块都没看进去。这里还有一个特别容易被低估的因素界面上信息平权的问题。传统界面虽然简陋但所有信息是平铺的你扫一眼就知道有哪些数据、哪些是异常、哪些在正常范围内。自动化界面往往会按机器的判断来排布信息机器的判断是这个最重要就把它放最显眼的位置。这本身没错但问题在于机器的重要和人脑处理信息时的重要不一定一致。人看问题讲究全局讲究异常之间的关联而机器呈现信息讲究优先级、讲究分类。两次加工之后人原本擅长的全局把握反而被界面结构瓦解了。看到屏幕上那个被标红的、机器认为最重要的事件你就容易忽略掉角落里那些机器没有标红、但对你理解全局同样关键的细节。2.2 自动化惊讶机器总有办法在你想不到的地方改规则自动化惊讶是人机交互领域一个非常老牌的概念意思是系统和操作者的预期不一致操作者完全没有预料到系统会这么做于是整个认知过程被突然打断。这个概念看着简单但在实际项目里几乎每天都在发生。机器不会故意使坏但它的行为逻辑一旦在某个隐蔽的角落发生了变化——比如某个阈值改了、某个模式自动切换了、某个参数因为上游数据异常而被置为默认值——操作者的心理预期和实际看到的结果之间就会出现裂缝。我印象很深的一次是在某个模拟演练中。系统进入备用模式后告警规则会自动放宽一些低级别告警被静默处理。这是设计文档里明确写过的逻辑所有参与演练的人员也都看过培训材料。但当几十分钟后用户切换到主模式时大量的积压告警一下子爆了出来屏幕上突然铺满红色。操作员当场懵了一下他的第一反应不是这是模式切换导致的积压告警而是系统是不是出故障了。这就是典型的自动化惊讶——信息都在但信息的突然出现方式超出了用户的预期用户的注意力被瞬间从我正在处理的另一件事上强行拽走而这段注意力真空期恰是决策最容易出错的空子。自动化惊讶的危害不在于惊了一下而在于它对人的心理模型造成的冲击。人一旦经历过一次机器做的和我想的不一样就会开始习惯性地怀疑机器的行为哪怕后续机器的行为是符合规则的。这种怀疑就像一颗种子会让操作者从信任系统转向时刻提防系统而提防本身就是一种巨大的认知开销。更麻烦的是这种提防带来的是警觉分散而不是更好的监控。一个人如果整天都在猜系统会不会在某个想不到的角落又变了他就没法把精力集中在真正的态势判断上。2.3 心理模型滞后人脑里的模拟器跟不上系统版本我在前面提到人靠心理模型来理解世界。心理模型是人脑里的一个模拟器你不需要把所有细节都摆在眼前也能想象出当前系统的运行状态、发展趋势和潜在风险。这个模拟器是长期与系统打交道之后慢慢建立起来的。问题在于自动化系统的迭代速度通常比人的心理模型更新速度快得多——今天升级一个参数、明天优化一个算法、后天调整一套告警规则人脑里的模拟器还停留在上一版真实系统已经悄悄变了。我见过太多这样的场景一套系统上线的时候值班员花了两三个月终于把系统的脾气摸透了——知道哪个参数容易先波动知道哪条告警链实际意义大于表面含义知道什么情况下该信推荐、什么情况下要等人工复核。这份知道是极有价值的经验资产它让值班员能在复杂环境中快速做出准确的判断。然后系统做了一次体验优化调整了告警的呈现顺序还把某个核心参数的计算方式改了。结果是值班员之前建立的心理模型在一夜之间部分失效他们需要重新经历一段痛苦的适应期才能把模拟器里的逻辑校准回真实系统。在这个适应期内他们做的每一个决策都带着一种说不清的不自信。这种事在复杂系统里几乎无法避免。因为系统迭代往往是为了修复某些问题或优化某些性能迭代本身是好事。但从人机协同的角度看每一次迭代都意味着人的心理模型需要同步更新而这种更新不是靠读一遍更新日志就能完成的它需要人与系统重新磨合。这个过程需要时间而真实环境里最缺的恰恰就是时间。开发团队在更新日志里写一行优化了告警分类算法值班员却要用一次价值不菲的真实事故去重新校准自己对该分类算法的判断——这个代价很少被写进项目成本里。2.4 注意力资源争夺你盯监控的时间越多真正想清楚的时间越少注意力是态势感知最基础也最稀缺的资源而自动化系统有时不但没有帮人省下注意力反而成了注意力争夺战里的最大赢家。原因很简单自动化系统的输出方式往往设计得高度主动——弹窗、声音提示、自动刷新、红黄绿状态图标这些设计都在拼命地抓住人的注意力。每一项单独看都是为了让关键信息不被错过但合在一起就变成了持续的注意力干扰。我计算过一个很粗略的数字。在一次四小时的当班模拟中某个集中监控平台平均每三分钟就会产生一次需要值班员注意的事件——可能是一条提示消息可能是一个状态变化也可能是一声告警音。也就是说在一个四小时的班次里值班员的理论最低被打断次数是八十次。而每一次被打断都需要他花十几秒到一分多钟去判断这件事需不需要处理、需不需要深入了解、会不会影响我正在关注的事情然后重新把注意力拉回到自己原有的监控思路上。这个过程叫切换成本心理学和工效学研究里反复讲过任务切换的成本不是零每次切换都会留下一点认知残留。如果算一个总账八个小时值班下来人真正用于思考当前局势的时间很可能不到两个小时。其余时间都在被机器牵着走——看一个通知、回一条消息、点开一个详情、又跳回主界面。这种状态下人的态势感知怎么可能好他们看见了很多东西但每一件都只看了个表面他们对每个局部都有印象但整体图景反而拼不起来。尤其糟糕的是自动化系统越高频地主动提供信息人就越容易养成被动接收的习惯慢慢失去主动探索和主动质疑的能力。这种自动化下的思维惰性是在真实环境中最难观测、却又确实存在的影响。3. 决策效果为什么变差认知偏误被机器放大态势感知被干扰的后果最终都会落到决策层上面。人如果看不清局势决策自然容易出问题。但这里还有一层更微妙的东西自动化不但干扰了态势感知还会通过各种方式放大人类本身固有的认知偏误让决策质量比纯人工时代反而下降。这种机器让人的坏习惯更容易发作的现象是我在这类项目里观察到的另一个核心痛点。3.1 信任校准失灵该信的时候怀疑该怀疑的时候盲从自动化系统对人的决策影响很大程度是通过信任这个中介变量起作用的。理想状态下人应该对系统保持一个动态校准的信任——系统可靠时多依赖它系统开始不可靠时及时减轻依赖。但现实里人的信任校准总是滞后且非线性的它会受到最近一次系统表现的强烈影响而不是根据长期平均可靠性来调节。一个特别常见的模式是系统连续一段时间表现良好人的信任会快速上涨甚至超过系统实际可靠度对应的合理水平。这个阶段人容易盲从——机器说什么就信什么不太花心思去交叉验证。然后系统在某一次意外中给出一个明显荒谬的建议或者在关键时刻漏报了一条重要信息人的信任会瞬间崩塌直接滑到合理水平之下。这个阶段人又开始什么都怀疑机器的每一个建议都要翻半天底账才敢落实。两个阶段里人的决策质量都处于次优状态——要么放弃了必要的批判性思考要么把大量时间花在低效的复核上。我在实际系统里见过一个很典型的例子。某次系统的推荐逻辑出现了一个小Bug连续三天给出了三条明显偏保守的操作建议。第一条建议大家照做了结果发现本该加大的处置动作被延误第二条建议有人开始犹豫第三条建议出来后整个值班团队对系统的信任直接跌到冰点。接下来的两周虽然系统早已修复但团队仍然对每一条推荐都进行人工复核整体处置速度明显下降。直到三周后随着多次正确的推荐信任才慢慢恢复。这个信任的弹性曲线比系统本身的可靠性变化更剧烈也更难预测。可以说自动化系统在决策链路里添加了一个很难控制的变量——人的信任状态。3.2 决策责任分散人在回路里但手上没有手感了决策效果变差的另一个深层原因是责任感的稀释。当一个人完全靠自己的判断做决策时他会非常审慎地收集信息、权衡利弊因为所有后果都压在自己头上。但当决策过程变成了机器推荐、人确认的模式后人的心理状态会微妙地发生改变既然这是机器给出的建议就算出了问题责任似乎也不全在我一个人身上。这种责任分散的感觉会让人对决策过程的投入度下降对决策结果的敏感度也会钝化。这种状态还有个进阶版本我自己给它起名叫确认疲劳。当机器推荐的质量整体还过得去的时候操作者确实会逐渐变得像在走流程——扫一眼推荐没有明显离谱的地方就点了确认。这个过程非常高效几乎不耗费认知资源但它最大的问题是操作者不再建立一套自己对这个情境的理解。他们确认了机器的判断却没能在自己脑子里复现一遍这个判断的推理过程。于是当某一天机器的推荐逻辑出了偏差操作者依然会习惯性地确认而不是发现问题——因为他们已经没有足够的信息背景来判断这个推荐合不合理了。这个现象让人很警惕表面看人还在决策链路上是最终拍板的人但实际上他已经沦为了一个被动的确认按钮对局部信息的敏感度和对全局态势的把握力都在不知不觉中退化。3.3 协同中的信息瀑布谁的屏幕更漂亮谁的声音就更大复杂环境里的人机协同往往不是一个人一台机器的二元关系而是一个多个人、多台机器、多个岗位交织在一起的网络。在这种情况下自动化系统的影响还会通过社会性渠道被放大。我在现场观察到一个很真实的现象某个岗位配备了一个可视化效果特别好的自动化决策终端而另一个岗位还停留在相对原始的表格界面。在跨岗位协调会议上那个有漂亮大屏的岗位讲出来的话天然就更有说服力——就算他提供的信息本身并不更准确。这个现象不能简单归咎于谁采用了更花哨的工具而是自动化系统的呈现形式会改变信息在团队讨论中被赋予的分量。更隐性的问题是信息瀑布。当多个人都依赖同一个自动化系统时系统产生的一个信号会被所有人同时看到。第一个看到的人表达了自己的解读第二个看到的人受到了第一个人的影响第三个看到的人在综合前两人意见的基础上形成自己的判断。慢慢地整个团队的认知被引导向一个方向而这个方向的源头可能只是机器输出的某一个并不足够可靠的信号。换句话说自动化系统在这个场景里变成了话题设置者它不直接决定决策但它决定了团队讨论的起始点和讨论时的注意力分布。如果机器输出的这个信号本身不准那么整个团队的信息瀑布就会以这个偏差为源头形成一边倒的错误共识。这个风险比单个人犯错的后果严重得多。4. 复杂环境里更特殊的坑不确定性叠加与跨系统耦合前面说的这些机制在任何自动化系统里都多多少少会出现。但真实复杂环境还有一个更头疼的特征不确定性极高而且不是单一来源的不确定性。多个子系统相互耦合、环境条件动态变化、信息链条上任意一环出现偏差都会被放大。在这种环境里人机协同对态势感知的干扰会被额外放大好几倍。4.1 真实环境的不确定性实验室里可没有那么多的意外拿实验室测试和真实部署对比最大的差距不在于数据规模而在于事件的不可预期性。在测试环境里所有故障场景都是事先设计好的系统的行为模式已经在开发阶段被反复验证测试人员对该系统可能出现的状态有一个比较完整的预期。而真实环境下各种意外是无穷无尽的——一时间涌来的多源异构信息、设备之间的偶发冲突、第三方系统引入的异常数据、人为操作造成的连带影响……这些不确定性的叠加让系统的实际行为空间远远大于测试时验证过的行为空间。这种情况下自动化系统的可靠性天然会打折扣而人正好是最容易感知这种折扣的主体。操作者的心理模型是基于测试阶段或上线初期的经验建立的一旦真实环境暴露出超出模型边界的意外情况操作者就会经历一个非常不舒服的认知失调期机器给的信号在逻辑上是对的但就是跟眼前的实际对不上现场的间接证据在暗示某个方向走机器给的结论却指向另一个方向。人被迫在两个相互矛盾的信息源之间做仲裁而这个仲裁过程既费神又费时。我在多个项目里反复出现的一个感受是真实环境里的不确定性不是在挑战机器的算法而是在挑战人的认知韧性。4.2 多系统联合运作时态势感知成了拼图游戏另一个在复杂环境中很常见、但在实验室里很少被充分模拟的问题是多个异构系统的信息拼接。真实复杂环境下很少只有一套自动化系统往往是好几套系统同时运行每套系统都有自己的数据标准、时间戳精度、告警定义和输出格式。人需要在多个系统之间来回切换把不同来源的信息拼接成一个一致的全局态势。这个拼接过程本身就是态势感知的核心工作而自动化系统往往是各自为战的——每套系统都在努力把自己这个模块的态势呈现清楚却没有一套系统能把整个跨系统的全局态势拼好。于是人成了那个负责拼图的劳动力。他得记住系统A里的关键参数变动再去系统B里确认这个变动会不会影响另一个指标还要去系统C里查看相关的告警记录。时间一长脑子里的拼图碎片越来越多但整幅图却越来越拼不起来。这就是为什么有些值班场景里明明每套子系统都很智能各自的界面也都做得不错但值班员对全局的态势感知反而不如当年只有一张粗糙总览图的时代——因为当年所有信息都挤在一张图上拼图工作被别人替他做完了现在每套系统都很专业但没有人做最后的整合这个整合责任被悄悄压在了操作者一个人身上。这个问题在决策层面更加致命。各子系统的自动化建议可能是局部最优的但全局背景下这些局部最优会互相打架。A系统建议加大投入、B系统建议控制风险、C系统根据前面两个建议自动调整了自己的参数……最后人面临的是一个由多个机器建议相互碰撞后留下的复杂局面他要么花很长时间把这些关系理顺要么就只能凭直觉选择一个方向压下去。无论是哪条路决策效果都不理想。4.3 跨岗位协同下的群体态势感知裂缝当多个岗位的人需要协同工作时态势感知的问题就从单一个人的认知转移到了整个团队的分布式认知上。每个岗位的人通过自己面前的系统看到局部的态势团队整体需要把这些局部态势汇总成全局态势。自动化系统在这里扮演的角色很微妙一方面它确实帮助每个岗位获得了更清晰的局部视图但另一方面它也让各岗位之间的信息共享变得更碎片化了——因为每个岗位看到的信息都经过了本岗位特定系统的加工不同加工方式产生的信息在传递到另一个岗位时可能已经丢失了部分上下文。我观察到一个非常实际的现象跨岗位沟通时大家说的都是各自系统给出的话术——我这个模块显示风险偏高我的系统建议提前进入预案。这些话术听起来很专业但本质上只是把机器输出转述了一遍。真正重要的上下文——比如这个风险为什么在上升、数据波动是否异常、机器的判断依据是否充分——反而被话术掩盖了。群体层面的态势感知裂缝就这样产生了每个人都在汇报数据但没有人真正在交流对整体局面的理解。当某个环节出现偏差时大家发现各自系统里的信息都对得上——却对不上实际发生的事情。5. 不是让人更努力而是重新设计人机分工上面讲了这么多问题听起来有点悲观。但这类问题的价值就在于把它拆清楚了我们就能找到缓解的方向。我个人的核心观点是方向不在让人变得更聪明、更努力地适应机器而在于重新设计人机分工的方式让机器留出足够的空间给人去维持态势感知。5.1 把自动化从替代判断转为提供选项我在参与系统设计时坚持的第一条原则是自动化系统尽量不要给出单一的、权威性的最终结论而是应该提供带前提和选项的分析结果。人和机器的分工应该是——机器负责把信息整理清楚把多种可能的解释和对应的判断依据摊开来供人选择而不是直接把A或B拍在人脸上。这个原则听起来反效率因为机器的强项就是快速收敛到一个结果上。但实际操作中一个收敛到底的结论会大幅压缩人的思考空间和参与感让人逐步失去对全局的把握。而给出一组选项、每种选项标明适用条件和可能后果反而能促使操作者把机器的输出置于自己的理解框架中去考虑保持认知的参与度。具体到界面上这种做法意味着我们需要在系统设计里加入可追溯性的考量。机器给出态势评估的时候旁边应该能看到支撑这个评估的关键数据和推理线索。不是说每一条输出都必须附带全部日志但至少核心结论应该能让人快速展开查看其依据。这个功能看似增加开发成本实际上省掉的是操作者反复猜测、反复验证的隐性时间。我做过一个简单的对比同一套告警评估功能加了可追溯性面板之后值班员平均决策时间反而下降了因为他们不再需要在多个屏幕之间来回翻查去重建机器的推理路径了。5.2 界面设计要支持快速重新接管自动化不是为了取代人的感知能力而是在关键时刻要能快速把控制权和判断权交还给真人。这句话说了很多年真正落地做得好的系统并不多。所谓快速重新接管不是指界面上有一个紧急停止按钮就行而是指操作者在被打断之后能用最小的时间成本重新建立起对系统状态的理解。为了做到这一点界面设计必须时刻考虑一个问题如果一个操作者刚坐下、或者刚从一次注意力分散中回到工位他能不能在三秒钟之内搞清楚现在系统的整体状态是什么、正在发生什么、最需要关注什么。我见过一些反面教材——界面上塞满了实时数据、告警列表和各种图表每一个细节都很精确但你就是没法快速得出当前整体局势的结论。这种界面的信息密度等于信息荒漠。做界面设计时我一直采用的一个方法是主界面永远保留一个当前态势快照区只显示少量被判断为真正关键的项目其他细节全部收进二级页面。这个快照区不是给机器看的是给人看的人机交界点——它应该按照人的认知逻辑来组织而不是按照机器的数据逻辑来组织。实践下来的感觉是哪怕这个快照区做得很粗糙它对操作者的帮助也比一个所有信息都精确但需要人自己拼的高密度界面强得多。5.3 训练和组织层面能做的事系统和界面只是表层真正影响人机协同效果的还有很多组织层面的因素。我的一个体会是在很多项目里人的训练被低估到了只剩学会操作机器的程度。培训计划里页写满了如何点开弹窗如何确认告警如何导出报表却几乎没有内容是关于如何在不完全依赖机器的情况下维持自己的态势感知。后者才应该是人机协同训练的核心。训练的核心应该是在机器很正常但人不知道机器在干什么的情况下人的认知模式应该如何应对——说白了就是让操作者习惯性地从信机器给的结论切换成理解机器给结论的上下文。我还建议做训练时引入一种盲飞模式在某些训练环节故意把机器的部分输出隐藏起来逼着操作者靠人工手段和原始数据重新建立起对全局态势的判断然后再把机器的输出展示出来进行对比。这种训练方式会让操作者明确意识到机器给出的结论在多大程度上依赖哪些信息、在多大程度上可能有偏差这份意识就是信任校准的基础。组织层面的另一个建议是在评估系统引入后的效果时不应该只看效率指标——处理速度、正确率、告警响应时间——还要看人的认知状态指标。比如操作者能否清楚解释最近一次决策的判断依据、操作者能否在注意力分散之后迅速恢复态势感知、跨岗位的信息共享是否真实有效。这些软指标平时很容易被忽略但它们恰恰是判断自动化是否真的在帮人的关键。5.4 评估导向别只看任务完成率还要看人能不能讲清楚为什么最后单独说一下评估。很多项目在验收自动化系统改进效果时习惯用任务完成率、决策正确率、响应时间这类结果型指标。这些指标当然重要但它们描述的是做完了没有、做对没有却没有回答一个更关键的问题做决策的人对局势的理解有没有变深或变浅如果一套系统让操作者变得更快地做出了正确决策但他说不清楚为什么那这套系统带来的态势感知提升很可能只是假象——机器替他想清楚了他没想清楚一旦环境偏离机器模型的适用范围他立刻会陷入被动。我自己的做法是在项目评估阶段会专门设计一类解释性测试让操作者在完成几次决策之后不借助任何屏幕用大白话向评估人员讲述当时发生了什么、为什么这么做、依据是什么、不确定性在哪里。通过这类测试可以很快筛选出系统到底是在赋能人还是在替代人。如果操作者能清楚地讲出为什么说明自动化信息已经被他们内化成了自己的态势感知如果操作者只能复述系统建议这么做而讲不出依据那么无论任务完成率有多高我们都应该回去重新审视人机分工的设计逻辑。这个评估维度我认为比任何技术性能指标的权重都应该更高。把上面这些思路落实一遍其实就是在做一件事重新把人放回认知的主体位置让机器回到辅助的位置。自动化可以做很多了不起的事情比如处理海量数据、执行重复计算、快速分类告警但它不应该取代人在复杂环境中的位置感——那种我知道现在是什么状况、我心里有一个整体图景的感觉。真实复杂环境里的人机协同很难因为它不是纯技术问题而是一个涉及认知、设计、训练、组织流程的综合性问题。难归难但它值得做因为最终拍板的是人承担后果的也是人我们没有任何理由让机器替我们把人对局势的理解悄悄抽走。
