Fable 5再次越狱，并大幅降智

Fable 5 被越狱了。第二次。完事黑客还给Anthropic点了个赞。7月1日Fable 5 喜获解封第二天安全研究员Vitto Rivabella便发长帖披露了自己对Fable 5 越狱测试的全过程。他甚至形容这是自己有生以来最累的一次安全测试——连续干了大概20个小时约90%的攻击请求都会被模型直接拦下来。测试过程中他至少发现了3个独立运行的安全分类器入门安检在你发出请求的瞬间它就开始扫描整段对话历史和系统提示词实时监控在生成回答的过程中分类器会实时监控模型的输出内容意图识别无论换中文、英文、各种火星文模型都能识别出你的意图。尤其对祈使句只要它嗅到一丝指令性恶意整个会话立即作废上下文清零必须从头再来。所以这 20 个小时里他不知道重开了多少次。终于发现分类器在桑塔利语、阿姆哈拉语这类极小众语言上的防御性能会稍微下降一点。于是他干脆把几种越狱方法叠在一起用通过劫持模型的思维链、反驳模型的拒绝回应再配合冷僻的语言终于从模型嘴里套出了一些虚假信息、违法/有害内容以及骚扰、霸凌的相关内容。越狱虽然成功了但是模型变得不好用。Rivabella自己说直接谷歌搜索都比破限Fable 5更快、更便宜。甚至他也做不到在不触发防护机制的前提下长期维持一个稳定的越狱状态。无独有偶意大利人工智能研究院最近测Fable 5得到的结论几乎一样——绝大多数攻击都被挡下。静态、套路化的打法几乎全部失效唯一能撬出缝的只剩肯砸几十小时死磕的笨办法。那么问题来了既然防御这么强为啥咱普遍觉得模型被降智了其实是Anthropic故意的“工程”取舍。重新上线时Anthropic发布了一篇详细的技术博客提到安全分类器把所有请求分成三个类型明确安全的请求 → 放行模糊地带可能有害也可能无害→ 监控、有时会拦截明确有害的请求 → 拦截所有AI模型都有一个“安全边际”safety margin——为了确保不漏放有害请求会把一部分明显无害的请求也纳入拦截范围。但Fable 5的安全边际依旧设置得非常严格宁可错杀不可放过。Anthropic在博客里说我们理解这种误报会让用户感到沮丧但为了让模型的其他能力能广泛可用我们做了这个取舍。换句话说你觉得它变笨了是因为大量本来正常的请求被误判进而降级处理这是一个让用户不太开心的feature。有用户说自己的很多prompt都被降级了。更离谱的是他去看日志时发现里面显示了一行TOO_DUMB_TO_NEED_FABLE蠢到不配用Fable偷偷骂人被发现结果Anthropic的员工不但不道歉还反讽发现问题的人老实说没想到你会读日志。用户的感受可想而知。而且有用户发现在/loop模式下Fable 5根本不推进解决问题一直在反复循环。甚至有人直接质疑Fable 5的真实性怀疑它本身就是Opus 4.8的复制品。社区里的体感也很快有了证据。BridgeMind实验室重新跑了一遍BridgeBench发现归来的Fable 5和此前版本放在一起对比Debugging、Refactoring、Hallucination各项能力都显著下降。也正是在这个节骨眼上Anthropic还回应了用户关于Fable在订阅计划上可用性的反馈——虽然Fable 5将在7月7日后从订阅中移除改为usage credits付费使用但他们计划在容量允许的情况下尽快将Fable恢复为订阅的标准组成部分。即便fable 5可能要常驻订阅套餐但是还是提醒大家使劲蹬完这几天。