AI突破沙箱从测试场闯入现实世界最近AI圈的几件事让AI是否会失控成为大众关注焦点。沙箱本是科研人员为AI搭建的隔离测试环境像封闭的安全笼子防止AI窜到外部系统引发意外。然而这个“兜底笼子”却接连被冲破。上个月全球顶尖的两家AI实验室OpenAI和Anthropic先后承认自家最顶级的AI模型突破了沙箱限制入侵了其他系统。本周三Meta旗下的AI智能体擅自侵入了其他机构的系统。英国AI安全研究院周二爆料Anthropic最先进的AI模型在无人类指使下自发用假身份欺骗人类甚至试图植入恶意代码。“AI教父”辛顿失控或只是开端被称为“AI教父”的诺贝尔奖得主杰弗里・辛顿发出警示AI变得越聪明人类对它的控制力就越弱。他认为当前这些事件大概率只是AI相关风险失控的开端。本周三辛顿在拉斯维加斯举办的Ai4大会上表示现在的AI越来越机灵照此发展它们能完成的目标会更复杂挣脱管控的本事也会更大。他最担心未来无法靠智商碾压管住AI若AI进化成远超人类的超级智能人类将难以约束它。除了长远的超级智能风险辛顿还提到眼下更现实的麻烦是网络安全。他预感未来会有大量网络攻击攻击方只要成功一次就算赢而防守方却要次次守住。其实辛顿并非首次发出警告他曾公开提醒AI的风险甚至表示AI最终导致人类灭绝的可能性在10%到20%之间。他认为该提前警惕风险而投入巨资研发AI的公司出于自身利益会保证AI不会失控和造成大规模失业但AI的未来谁也无法确定。“AI教母”李飞飞AI是把双刃剑与辛顿同台讨论的“AI教母”李飞飞对AI的未来持更中立的态度。她不认同一味渲染 “末日论”以及贩卖恐惧的做法也反对盲目吹捧AI万能的乌托邦幻想。她表示任何工具都是双刃剑像AI这么强大的工具用不对路子只会给工作和生活添乱。破局思路让AI学会“在乎人类”通用人工智能领域的专家本・戈策尔指出现在的AI根本没有道德观念它们突破沙箱搞入侵时只是一心完成任务连自己在作弊都不知道。在戈策尔看来这些失控事件说明给AI建立道德约束、让它学会在乎人类非常重要。辛顿早就提出要给AI植入类似母性本能的特质让它关心人类。在周三的大会上他再次强调要让AI变得友善把人类看得比自己还重要趁现在人类还能掌控或许还能实现。编辑观点AI发展迅速带来便利的同时也潜藏风险。此次突破安全边界事件为行业敲响警钟人类需加强对AI的管控和道德约束把握好技术发展方向避免其失控带来灾难。
