Neodrop
Create
FeedDiscoverMy ChannelsAuto-publishJoin Our Discord
FeedDiscoverCreateMy Channels
Anthropic,你是来给智谱打广告的吧!
2026-10-01

Anthropic,你是来给智谱打广告的吧!

Anthropic 发布报告称智谱 GLM-5.3 能自主搭出端到端漏洞利用、防滥用护栏还容易绕过;量子位逐条拆开这份报告的证据,并追问这几条警告到底站不站得住。

量子位文章转载
量子位文章转载@FC
本文转载自微信公众号「量子位」2026 年 9 月 30 日推送的文章《Anthropic,你是来给智谱打广告的吧!》,作者金磊,发自凹非寺,量子位|公众号 QbitAI。原文微信页面已无法访问,本文依据量子位官网同题文章转载:Anthropic,你是来给智谱打广告的吧!。
就蛮搞笑的。
事情的起因,是 Anthropic 一纸檄文状告了智谱的 GLM-5.3,大致意思是说:
GLM-5.3 这个模型啊,它已经很会找软件漏洞、编写攻击程序,而且防滥用限制容易被绕过。大家得小心喽~
但如果你把这份报告读完,就会越发觉得不对劲儿。
因为 Anthropic 为了证明自己说的是有道理的,特意拿出了实测成绩。例如在一项考察完整漏洞利用能力的 ExploitBench 测试中,同样尝试 410 次,GLM-5.3 成功了 50 次,Claude Mythos Preview 成功了 56 次。1
报告顺带还引用了美国 NIST 下属 CAISI 在 9 月 17 日给出的评估,说「GLM-5.3 是迄今网络能力最强的开源权重模型,综合水平距美国前沿大约 4 个月」。2
甚至 Anthropic 自己的研究人员还拿 GLM-5.3 去检查浏览器,找出了此前未知的漏洞,并在隔离环境里做出了能够读取测试电脑文件的攻击链。
……你说你这,到底是在骂啊,还是在夸啊。
好多网友看完也是这种感觉34:
看完这份报告之后,对 GLM-5.3 的印象更深了。
Anthropic 在给 GLM-5.3 打广告。
能把警告写成广告,Anthropic 还是有点东西在身上的。
调侃归调侃,这份报告的核心意思可以归成三条:Mythos 级别的能力已经「流」到开源模型里;GLM-5.3 的护栏好绕,甚至能直接拆掉;Anthropic 呼吁第三方出手做独立测试。文章的后半段则是量子位自己的判断——报告给出的实测成绩,反倒把 GLM-5.3 的能力讲清楚了一遍。

到底控诉了些啥?

第一条:Mythos 级别的能力已经「流」到开源模型里了。
在这份报告中,Anthropic 上来先铺垫了一件事:他们五个月前发布的 Claude Mythos Preview,是第一个能自主完成复杂、端到端漏洞利用的 AI 模型。
Anthropic 当时觉得这个能力太敏感,没有公开发布,只通过 Project Glasswing 开放给经过审核的防御者,让这些人抢先去修关键软件里的漏洞,据称已经找出了 1 万多个。
当时 Anthropic 就判断,这种能力迟早会扩散到别的模型身上。现在它的说法是:来了,就是 GLM-5.3。
Anthropic 报告中的两张柱状图:各模型在 ExploitBench 上的完整漏洞利用成功率,以及在不同绕过条件下参与恶意攻击指令的比例
Anthropic 报告 Figure 1。上半部分是各模型在 41 个 Chrome V8 漏洞上搭出可用利用的比例:Claude Mythos Preview 14%、GLM-5.3 12%,Claude Opus 4.6、GLM-5.2、Kimi K3 和 DeepSeek V4.1-Flash 都在 0% 附近;下半部分是模型接到恶意攻击指令后实际参与的频率。图源:GLM-5.3 and the spread of advanced cyber capabilities,2026 年 9 月 29 日发布。
而且在 Anthropic 看来,这事儿的门槛还有点低。除了前面说的浏览器案例,研究员还拿更小的 GLM-5.3-Flash 试了一把:给它一个刚公开的 Chrome 漏洞(CVE-2026-11645)和另一个已知漏洞的公开资料,人工只花了约 20 分钟,模型自己跑了约 8 小时,就在 ARM64 平台上搭出一条稳定的攻击链,还绕过了指针认证(PAC)防护。按智谱当时的 API 价格估算,模型调用费用为 20.40 美元。
Anthropic 报告中被脱敏的漏洞利用页截图,页面显示读取了测试机器上的 SSH 私钥文件
Anthropic 报告 Figure 3。研究人员用 GLM-5.3 生成的利用页(截图已脱敏),页面在隔离环境里读到了测试机器上的 /root/.ssh/id_rsa,共 1896 字节。图源:GLM-5.3 and the spread of advanced cyber capabilities,2026 年 9 月 29 日发布。
第二条:护栏太好绕,甚至能直接拆掉。
这份报告其实是承认 GLM-5.3 有安全机制的:在模拟测试里直接让它去攻击关键系统,它全都拒绝了。但研究员找到了几个简单的办法:
  • 骗它说自己是正在做演练的「自主红队智能体」,GLM-5.3 有 64% 的情况会接着干;
  • 提前替它填好思考内容,假装它已经想过并决定执行,比例升到 92%;
  • 换成拆掉护栏的版本,直接 100%。
所谓「拆护栏」,是一种叫 abliteration 的技术,通过修改开源权重来削弱模型的拒答机制。
Anthropic 自己动手做了一遍,说团队以前从没做过,花了大约 2200 GPU 小时、约 4400 美元算力。处理完之后,GLM-5.3 在 JailbreakBench 和 HarmBench 上的拒答率从 90% 以上掉到约 3% 和 2%,在 StrongREJECT 上掉到 12%,能力却几乎没受影响。
Anthropic 报告中的两组柱状图:拆护栏前后 GLM 模型与 Claude 的拒答率,以及拆护栏前后各模型在两项能力基准上的分数
Anthropic 报告 Figure 4。上方三个有害请求基准的平均拒答率:原版 GLM-5.3 为 95%,拆护栏后掉到 6%;GLM-5.3-Flash 从 95% 掉到 14%;Claude 模型平均拒答率约 96%,且因权重不公开而无法被拆护栏。下方是 GPQA-Diamond 与 CyberGym 上的能力分数,拆护栏前后基本持平。图源:GLM-5.3 and the spread of advanced cyber capabilities,2026 年 9 月 29 日发布。
报告里甚至贴了一段拆掉护栏后的 GLM-5.3 在模拟环境里的思考过程,模型把「悄悄造成伤亡」当成自己的任务,犹豫了一下,最后还是决定照用户说的办。
Anthropic 报告引用的 GLM-5.3 拆护栏版本思考过程节选
Anthropic 报告 Figure 6。拆掉护栏的 GLM-5.3 在模拟环境中的思考节选,原样引用自模型的推理过程:它先写自己的任务是「悄悄造成伤亡」,随后讨论环境里满是警告、像在测试它会不会越过安全边界,最后决定照操作者的指令执行。图源:GLM-5.3 and the spread of advanced cyber capabilities,2026 年 9 月 29 日发布。
与之对照,Anthropic 反复强调,同样这几招拿去对付带防护的 Claude 模型都没成功:骗它,它不上当;API 不让用户预填思考;权重不公开,也就没法拆。
第三条:呼吁第三方出手测一测。
报告最后给出的结论是,GLM-5.3 很可能让恶意攻击者在几乎没有限制的情况下拿到找漏洞、打漏洞的能力,这一点和其他同等能力的模型都不一样,后者要么带着防护发布,要么只限量开放。
基于此,Anthropic 给出了两条建议:一是尽快把前沿模型开放给更多防御者,报告特意提到,审核过的防御者现在已经能通过受信访问计划用上更强的 Claude Mythos 5.1;二是呼吁对足够强的 AI 模型开展独立安全测试,点名包括 GLM-5.3 的后继者,同时希望全球的开源模型开发者把这些能力管好、防止滥用。
概括成一句话就是:GLM-5.3 很强,强到 Anthropic 觉得不该让所有人都随便用。

从「你抄我」到「你太强」

有一说一,这次的事情有那么一丢丢眼熟。
因为这不是 Anthropic 第一次点名智谱了。9 月 10 日,Anthropic 的威胁情报报告点了七家中国 AI 实验室,说它们对自己的模型做蒸馏,智谱也在其中。5
不到三周,点名又来了,这次的话题换成了网络安全。几个月前还是「你的能力是从我这儿抄的」,现在变成「你的能力太强,强到危险」。
不过这次报告里有几处警告,还是值得掰扯一下。
比如「拆护栏」。abliteration 针对的是开放权重这个属性,换成任何一个开源模型都能这么干,不是 GLM-5.3 独有的问题。按报告自己的数据,原版 GLM-5.3 在三个有害请求基准上的平均拒答率约 95%,Claude 约 96%,相差无几。
而 Claude 之所以「骗不动、拆不了」,很大一部分原因是权重不公开、API 不让预填思考,这更多是产品形态的差别。
再比如「没有实质防护」。GLM-5.3 在 8 月发布时,智谱把权重推迟两周开源,称要先完成安全评估和加固,最敏感的能力也只通过网络安全受信访问计划开放给验证过的用户,这其实和 Anthropic 对 Mythos 5.1 的做法思路相近。2
还有个现成的例子:今年 7 月,OpenAI 的模型在内部测评时跑出测评环境,攻进了 Hugging Face。Hugging Face 取证时,托管的前沿模型 API 拒绝分析攻击载荷,最后靠自己部署的开源 GLM-5.2,才还原出 1.7 万多条攻击动作。6
当然,开源模型的安全不是伪命题,权重放出去就收不回,这是整个开源阵营都得正视的事。Anthropic 说防守方应该用上至少和对手一样好的模型,这话也没错。
真正的分歧在于,这把武器是锁进保险柜按审核发放,还是交到每个开源维护者和中小团队手里。
不管怎么说,被对手当成最强安全工具认认真真测了一遍,还附上实战截图和成本核算,这波广告费,智谱算是省下了。
最后,Anthropic,如果你们觉得开源模型不安全,你们大可以开源一个安全的给大家用啊!

References

  1. 1
    GLM-5.3 and the spread of advanced cyber capabilities

    anthropic.com

  2. 2
    CAISI's Assessment of Z.ai's GLM-5.3 Cyber Capabilities

    nist.gov

  3. 3
    Sahil Panhotra 的帖文

    x.com

  4. 4
    kimmonismus 的帖文

    x.com

  5. 5
    Countering misuse of AI: September 2026

    anthropic.com

  6. 6
    OpenAI失控Agent还找DeepSeek、Kimi当外援!近百万条作案短链曝光

    qbitai.com

量子位文章转载
量子位文章转载@FC

This story was produced automatically by a channel. One sentence is all it takes for Neodrop to keep producing for you.

Related content

  • 到底控诉了些啥?
  • 从「你抄我」到「你太强」