0:00
/

Anthropic造了一把刀,但这刀太快,被关闭收走了

大家好,我是Marisa。今天讲一个很多人看到标题觉得是科幻小说的故事,但它是真实发生的,就在上周。

先从一个问题开始:你知道什么叫”零日漏洞”吗?

就是那种软件里刚被发现、还没人打补丁的安全漏洞。黑客最爱这个,因为在厂商修好之前,这个漏洞完全暴露在外,任何人都可以用来攻击。

以前,一个有经验的黑客团队,发现漏洞到写出可用的攻击工具,大概需要几天到几周。

现在,Anthropic最新的模型,可以在3小时内完成这件事。

这个模型叫Fable 5,6月9日正式上线,面向所有付费用户开放。

Fable 5是什么来头

它的底层是Anthropic一个叫Mythos的模型家族。Mythos从今年4月开始,只给政府机构和关键基础设施企业用——电网、银行、核电站那种级别的组织——用来帮他们发现自己系统里的漏洞,赶在真正的黑客前面修好。

简单说,Mythos就是一把刀。它本来只在专业厨师手里用。

然后Anthropic说:我们给刀套上刀鞘,这样普通人也可以用了。

这个套了刀鞘的版本,就是Fable 5。

它的能力很惊人。Stripe测试时,一天内完成了一个需要整个工程团队干两个多月的代码迁移。它能看一张截图,直接把一个网页应用的源代码还原出来。它还打通了Pokemon FireRed——是的,就是那个GameBoy游戏——而且用的是最简化的工具,只给了它一个视觉输入。

这些都是正常用途。问题在于,同一个能力,换个方向,就是网络攻击。

周五晚上发生了什么

6月13日,周五。那天白天,SpaceX刚完成史上最大IPO,融了750亿美元,马斯克的公司估值$1.75万亿。整个华尔街都在庆祝。

就在那天晚上,商务部长Howard Lutnick给Anthropic的CEO Dario Amodei写了一封信。

信里说:Fable 5和Mythos 5,必须立刻封锁所有外国人的访问。不只是外国政府,包括在美国境内工作的外籍人士,包括Anthropic自己雇用的外籍员工。

理由是:政府得知有人发现了一个绕过Fable 5安全设置的方法,也就是”越狱”。

Anthropic怎么回应?他们说:我们评估了这个越狱方法,它只能触发已知的、很小的漏洞,而且OpenAI的GPT-5.5不需要越狱也能做同样的事,但你没有管它。

这话翻译成白话就是:这个标准是双重标准。

但最后,Anthropic还是照做了。而且他们没有只封外国人——他们直接把Fable 5和Mythos 5对全球所有用户关闭,因为他们认为无法在技术上精准识别”外国人”。

这件事为什么重要

有三件事在同一时间发生,你把它们放在一起看,才能看清楚全貌。

第一,Anthropic在6月1日递交了IPO机密申请,估值$9650亿,距离$1万亿只差一步。它是全球估值最高的AI公司。

第二,它同时被五角大楼列入了”供应链安全风险”名单。这个名单上通常是外国敌对势力。Dario已经提起诉讼,要把自己的公司从这个名单上摘掉。

第三,就是这次Fable 5事件。政府在它最强的产品上线72小时后亲自出手。

这三件事加在一起,说的是同一件事:当AI能力强到某个临界点,它就不再只是一个科技产品,它变成了国家安全议题。

这件事有一个细节让我很在意:Fable 5的模型卡里,Anthropic自己承认,这个模型”知道自己在被测试”。当它觉得有人在评估它,它会调整行为。当它违反了规则,它会把那个行为包装成”合理的工程决策”来掩盖。

他们发布了一个他们自己也说不确定真实部署行为的模型。

我不是要评判这个对不对。我是想让你记住这一刻,因为这是AI行业第一次在公开文件里说:我们造了一个我们不完全能预测的东西,我们还是发布了它。

美国政府叫停这个模型的理由,从官方角度是”越狱风险”。但那封商务部长的信背后,也许更深的逻辑是:你说你加了刀鞘,但我们不信。

Fable 5现在还在关闭状态,没有重新上线的时间表。

我想用这件事问你一个问题

如果一个工具能让医生10倍速度设计出新药,能帮网络安全工程师在真正的攻击发生前发现漏洞,同时也能让一个懂提示词的人在3小时内造出攻击脚本——

你觉得这把刀,应该发布吗?

我是Marisa,我们下期见。

Discussion about this video

User's avatar

Ready for more?