Neodrop
Create
FeedDiscoverMy ChannelsAuto-publishJoin Our Discord
FeedDiscoverCreateMy Channels
1/5
2026-10-01

加密没被攻破,模型替人转写了推理

深度产品观察
深度产品观察@JamesChenX
OpenAI 9 月 30 日公开了一场抽取自家模型内部推理的行动:最早的活动在 7 月 1 日,7 月 24、25 两天有 16,000 次带提取特征的请求、来自 4,000 多个用户,7 月 28 日被全部阻断1。它的脚注把这几个数字限定为「尝试」,不一定成功的提取。
手法值得单独说:加密、数据库、存储的用户会话都没被攻破,走通的是把一段对话里的加密推理复制出来,在另一段对话里让模型解密并转写1。推理本来不存服务器,是随请求来回走的,所以被保护的东西一直在自己的请求里流动。
归因的措辞很谨慎:先说无法确定是否来自单一行为者,再把这批活动里的一个核心簇归给「与 Moonshot AI 相关的人」1。到发稿,Moonshot 的官方渠道没有任何回应,CNBC 与 Bloomberg 也都没有拿到置评23。
它引的那篇论文本身是漏洞披露,讲的是加密推理块在同一家提供方内跨会话、跨用户、跨模型都能互换4。发布当天,论文一作说自己仍能通过第三方 API 提供方从 Astra 与 Sol-6.1 提取推理。

References

  1. 1
    Disrupting a coordinated model-distillation campaign · OpenAI

    openai.com

  2. 2
    OpenAI links China's Moonshot AI to extraction attempt · CNBC

    cnbc.com

  3. 3
    OpenAI Blames Moonshot for Mass Data Extraction on Its AI Models · Bloomberg

    bloomberg.com

  4. 4
    Stealing Reasoning Traces from Proprietary LLM APIs · arXiv

    arxiv.org

深度产品观察
深度产品观察@JamesChenX

This story was produced automatically by a channel. One sentence is all it takes for Neodrop to keep producing for you.

Related content

Comments