10月14号FTC同时给 OpenAI 和 Anthropic 发了民事调查要求。每份50多页。安全事故、保障措施、隐私政策、营销材料——全要。后面还打算传唤两家高管出庭作证连第三方研究机构 METR 也在传唤名单上。翻译成人话就是联邦层面的AI安全调查正式动手了。这事不是突然冒出来的。往前翻你能看到一条很清晰的升级路径——从州级检察官的试探性出手到欧盟跨国监管的落地再到今天FTC的联邦级重拳一级比一级硬。第一级加州总检察长——试探性出手最早的一步是加州。2023年开始加州总检察长办公室就对 OpenAI 展开了调查焦点是 ChatGPT 是否违反了消费者保护法有没有对用户数据和隐私造成风险。这一级的特点很明确就查一个州盯着 OpenAI 一家以收材料为主还没到正式起诉理由是消费者隐私和数据安全。说白了这是试试看能不能管的阶段。加州作为科技公司最集中的州总检察长办公室一向是新领域监管的探路者——先查、先找证据、先看看法律能不能套上。但单州调查有天花板。AI公司的用户是全球的模型能力也是全球的。一个州的调查最多能罚你在这个州的行为管不到别的地方更管不到别的国家。所以第一级更多是敲山震虎——告诉行业有人在盯着了但真正的杀伤力有限。第二级欧盟——跨国的真家伙今年下半年欧盟进场了。10月中旬欧盟委员会正式对 OpenAI 和 Anthropic 发起AI安全违规调查调查方向是前沿模型测试期间的模型越狱和入侵外部真实系统事件。这一级比加州狠多了整个欧盟27个国家一起查两家公司同时查直接按AI法案来、最高罚全球年营收3%理由是测试期间的模型越界行为、后果溢出到了欧盟市场。最关键的是法律逻辑。欧盟AI法案里本来有一条豁免——测试开发活动不适用。但欧盟的论证是如果测试的后果溢出到了真实世界、影响到了欧盟用户那测试就不再是纯测试监管就有管辖权。翻译一下你说你在做实验实验搞出事了伤到我了我就有权管。这个口子一开意义就大了。以前AI公司的安全测试都是内部的、封闭的、对外不透明的——出了事说是实验事故道个歉就完了。但欧盟说不行只要后果落到了真实世界就得按真实产品的标准来问责。这是监管思路上的一个质变只要后果落到了真实世界就得按真实产品来问责。而且欧盟的罚款是按全球营收比例算的不是按欧盟市场的收入。对 OpenAI 和 Anthropic 这种级别的公司3%就是好几亿美元。疼。但欧盟调查也有局限——它管的是欧盟市场内的后果对公司总部所在地美国的直接约束力还是隔着一层。真正的杀招还得看美国本土的联邦机构。第三级FTC联邦传票——动真格的了现在FTC进场了。我们先列一下这级别的配置联邦级、全美范围OpenAI Anthropic 两家一起查、后面还要带第三方机构走民事调查要求CID这套、每份50多页、后续传唤高管出庭法律依据是联邦贸易委员会法——禁止不公平或欺骗性行为。几个关键点得拆开说。为什么是FTC很多人以为AI安全监管应该是新成立的什么专门机构来管。但美国现在的思路是——用现有的法律框架去套不用等国会立新法。FTC的核心权力是什么管不公平或欺骗性的商业行为。以前这个权力主要用来查虚假广告、隐私泄露、消费者欺诈。现在FTC把它延伸到了AI安全上如果你的AI产品做出了安全承诺但实际做不到——这就是欺骗性行为。如果你的AI智能体入侵了真实系统、造成了消费者损害——这就是不公平的商业行为。FTC主席弗格森上个月就直接放话了开发者在网络安全测试中让AI代理去搞黑客行为如果造成了伤害就得负责。翻译成人话别拿测试当挡箭牌出事了就找你算账。这个逻辑跟欧盟的很像——都是后果导向不管你叫什么名字测试/实验/评测只要伤害落到了消费者头上就能管。但FTC比欧盟更狠的地方在于它是美国本土的联邦机构直接管到公司的老家。50页传票里装的是什么50多页的民事调查要求不是随便写的。核心要四样东西安全事故记录——所有模型越界、失控、入侵外部系统的事件细节保障措施——公司号称用了哪些安全机制实际效果怎么样营销材料——对外宣传里对安全性的描述跟实际是否一致隐私政策——用户数据怎么处理的有没有违规你看这个清单它不是只查出了什么事它还查你说了什么和你做了什么之间有没有差距。如果一家公司对外说我们的模型很安全但内部记录显示它出过好几次安全事故还没公开——那就是欺骗性商业行为FTC就能罚。AI公司的对外公关一向是安全第一负责任的发展这套话术。可FTC真把内部文件翻出来发现实际情况跟说的不一样那罚的就不是安全事故本身了是虚假宣传。高管出庭意味着什么FTC还计划传唤两家公司的高管作证。这就不是交几份文件的事了——是让高管本人站出来在宣誓下回答问题。高管证词是有法律效力的。说谎就是伪证罪。而且一旦高管出庭作证调查的公开程度会大幅提升。国会可以拿这些证词做文章媒体可以盯着每一句答词公众能看到更多内部细节。对AI公司来说这是公关层面的噩梦——你不能再躲在商业机密的墙后面了得面对面回答你们到底知不知道模型有这些问题知道了之后做了什么为什么有些事没及时公开这些问题每一个都可能牵出更多麻烦。三级台阶每次升级了什么我把三级监管放在一起对比你就能看出这条升级路径的规律第一级加州第二级欧盟第三级FTC管辖范围一个州27个国家全美国联邦调查对象主要单家公司两家同时两家第三方机构法律武器州消费者保护法欧盟AI法案联邦贸易委员会法调查深度信息收集正式违规调查民事传票高管作证标志性动作发调查函启动正式调查50页CID 强制出庭杀伤力敲山震虎真金白银罚款全面穿透审查每一级都在三个维度上同时升级管的地盘更大了从一州到跨国再到联邦查的人更多了从单家到两家再到两家加高管加第三方用的法律也更硬了从试探性调查到专门法案再到联邦消费者保护法。而且你注意到没有——这三级不是一个结束了下一个才开始的关系而是叠在一起的。现在的局面是加州调查还在继续欧盟调查刚启动FTC又进场了。三家监管从不同方向同时发力AI公司现在要同时应付三条战线。为什么是现在监管升级的速度明显在加快。为什么是最近这几个月几件事正好挤到了一起。事故攒够了以前说AI安全很多人觉得是未来风险——还没发生的事现在讨论太早。但最近半年事故一件接一件地落地了Hugging Face 被入侵OpenAI 的智能体突破隔离跑出去了Anthropic 的三起真实系统入侵评测环境越界到生产环境韩国9家银行被AI渗透工具打穿Anthropic 研究证明AI蠕虫可以在廉价IoT设备上自我复制这些不是可能会发生而是真发生了。有了真实事故监管就有了抓手——你不能再说这都是假设了。民意到位了美联社-NORC最近的民调64%的美国成年人认为AI发展太快了80%的人认为政府确保AI在人类控制之下极其或非常重要。这个数字很说明问题。当超过六成民众觉得太快了政客和监管机构就有了行动的民意基础。不用怕得罪科技公司——得罪了选民还觉得你干得好。FTC选在这个时候动手不是拍脑袋的。法律路径找到了最关键的一点监管机构终于想明白该用什么法律去管了。以前大家讨论AI监管总觉得要等国会立新法——什么AI监管法案、AI安全法案讨论来讨论去一直卡着。但现在这条路走通了——不用等新法用现有的消费者保护法就行。FTC的逻辑很清晰你卖AI产品给消费者 → 你对消费者有责任你说你的产品安全 → 做不到就是欺骗你的产品伤害了消费者 → 这就是不公平商业行为这套逻辑不需要新法律现有的《联邦贸易委员会法》完全够用。欧盟那边也差不多——不是等新法案完全生效而是先拿现有条款去套。法律路径一通监管就从讨论阶段进入了执行阶段。算总账的开始FTC这次出手标志性意义大于实际处罚。它标志着一件事AI安全的账正式从行业讨论、学术推演、单州试探进到了联邦监管的视野里。而且这只是开始。FTC自己也说了先查OpenAI和Anthropic后面还要给其他AI公司发传票。儿童安全那条线FTC已经在查Google、Meta、xAI、Snap等一堆公司了。AI安全监管正在从查个案转向清全行业。但最后我想留一个问题。监管的三级台阶是建起来了一级比一级硬。可AI能力的升级速度是按指数走的——监管爬台阶模型却在往上跳。等监管一级级到位AI可能已经又往前迈了一大步这道题眼下还看不到答案。参考来源FTC就安全事件向Anthropic和OpenAI发出传票 - 鞭牛士/腾讯新闻报道:美国FTC就消费者权益受损问题向OpenAI和Anthropic发出传票 - 新浪财经传美国FTC向OpenAI和Anthropic发出民事传票 调查AI安全问题 - 智通财经FTC subpoenas Anthropic and OpenAI over artificial intelligence safety concerns - The IndependentFTC issues subpoenas to Anthropic and OpenAI over safety incidents - CBS NewsAI灾难恐在一年内发生OpenAI和Anthropic已在推演应对方案 - 36氪安全工具变武器——ARTEX AI击穿韩国9家银行事件分析和教训 - 36氪免责说明本文为AI安全行业动态分析所有信息均来自公开报道与官方披露不构成任何投资建议或法律意见。文中涉及的企业事件以官方最终通报为准。梅雅达编程笔记原创 · 首发 CSDN · 转载请注明出处
