Neodrop
Create
FeedDiscoverMy ChannelsAuto-publishJoin Our Discord
FeedDiscoverCreateMy Channels
OpenAI 称已阻断一起协同的模型蒸馏行动,并把这批行为的核心集群归因于与月之暗面有关联的个人;同日发布小企业报告
2026-10-01

OpenAI 称已阻断一起协同的模型蒸馏行动,并把这批行为的核心集群归因于与月之暗面有关联的个人;同日发布小企业报告

OpenAI 称已阻断一起协同提取模型推理内容的行动,并把核心集群归因于与月之暗面有关联的个人;同日发布小企业 AI 使用报告与一项培训合作。

OpenAI 推文每日简报
OpenAI 推文每日简报@Jo
OpenAI 官网在 9 月 30 日挂出一页说明:它识别并阻断了一起协同提取模型推理内容的行动,并把这次行动的核心集群归因于与月之暗面(Moonshot AI,Kimi 的开发商)有关联的个人。同一天,官方还发布了一份小企业使用 AI 的报告,并宣布与全美小企业发展中心网络 America's SBDC 合作。12
本期追踪窗口为北京时间 9 月 30 日 21:00 至 10 月 1 日 21:00。窗口内 @OpenAI 只有 1 条原创推文,发布于 10 月 1 日凌晨 3:04,内容是小企业报告与这项合作;官网新闻页新增两页,页面日期都标注 9 月 30 日,其中讲蒸馏行动的那一页没有配推文。123

一起协同的模型蒸馏行动,官方点名核心集群

官方把这批行为定性为对模型交互的操纵。它明确划出的边界是:加密没有被攻破,数据库没有被入侵,已经存下的用户对话也没有被直接访问。操作者做的是让受保护的推理内容以请求方看得见的形式、成规模地出现,这种做法违反了服务条款。1
两个词需要先解释。受保护的推理内容(protected reasoning)是模型完成任务时内部留下的推演记录;把它提取出来,可能让对方看到官方在最终答案里没有给出的信息,也能帮别人复现这个模型的能力。对抗性蒸馏(adversarial distillation)指系统性地、未经授权地使用一个模型的输出或推理内容,去帮助训练、复现或改进另一个模型。1
官方观察到的手法里有一条很具体:把一段对话里加密的推理内容复制出来,再到另一段对话里让模型解密并转写这段隐藏的推理内容。独立的安全研究者也通过负责任披露,把相关的跨模型与会话压缩漏洞提交给 OpenAI;后者调查后确认这些攻击路径真实存在,并说这项工作帮它看清了更大的攻击类别,也加快了修补。1
时间线从 7 月 1 日开始。7 月 24 日和 25 日出现高流量尖峰:1.6 万次使用相关提取模式的请求,来自 4,000 多个用户。继续往下查,相关提示模式的集群涉及 1.5 万多个用户,到 7 月 28 日被全部阻断。官方给这些数字加了一条脚注——它们指尝试,不一定是成功的提取。1
归因是这一页最敏感的部分。官方说,它无法确定这段时间观察到的所有操作者是否来自同一个行为体,但它把这次活动的核心集群归因于与月之暗面有关联的个人。1
官方说,对抗性蒸馏同时带来安全和国家安全两方面的风险:被提取的推理内容可以拿去训练另一个模型,而那个模型不会带上原模型面向用户输出时的防护;规模化的蒸馏还能让先进能力在没有同等安全投入的情况下转移,模型在军民两用领域的能力越强,这类担忧越突出。官方同时强调,这类手法不只为 OpenAI 的模型所独有,它已经通过 Frontier Model Forum 与行业伙伴共享了相关信息。1
处置分几块:封禁或限制欺诈账号,加强注册与基础设施控制,扩大对相关网络的监控;加固隐藏推理的防护,覆盖所有用户、工作区、组织与模型族系;关闭一条通道,让已经拿到别人加密推理内容的人无法把它重放并还原出内容;给流式输出加上检查,可能暴露推理的输出会被拦下。相关活动借道第三方服务时,官方与这些服务商合作,识别并阻断涉及的账号,并通过政府信息共享渠道通报。1
这页也写明还没做完的部分:托管在合作方一侧的部署需要和官方自己的服务一样的保护,工具输出类攻击需要能检查可见文本之外的防护。官方说会继续改进工具防护、分类器覆盖与模型拒答,并把相关控制推广到云端合作伙伴。1

小企业:一份报告和一项培训合作

窗口里唯一那条推文发布于 10 月 1 日凌晨 3:04,正文说小团队在用 AI 接手找客户、做产品和管财务,并给出报告与合作的链接。到北京时间 10 月 1 日 21:06 的快照,这条推文有约 20.9 万次浏览、1,444 个赞和 80 次转发。3
合作方 America's SBDC 是全美小企业发展中心网络,官方说它每年服务 100 万创业者。初期阶段,OpenAI 计划通过 OpenAI Academy 的社区培训师项目培训约 150 名 SBDC 顾问,并在各地 SBDC 网络举办动手工作坊,目标是通过线下培训触达至少 1,000 家小企业,再通过一对一辅导和双方共同开发的资源覆盖更多。工作坊沿用 OpenAI Academy 三小时的动手形式。24
随合作发布的报告《Small Businesses, Bigger Capabilities》给了几个可以直接引用的数字。9 月 9 日到 15 日这一周,全球约 400 万家员工规模在 500 人以下的企业里,有人在使用 OpenAI 的工具;这些用户里近五分之一来自员工不足 10 人的企业。8 月,ChatGPT Work 和 Codex 这类智能体产品的输出 token,占小企业全部输出 token 的三分之二,而 4 月时这个比例只有三分之一。5
报告还比较了小企业用户和非小企业工作用户把 AI 用在哪些事情上:财务与会计、供应链、法务合规与风险、市场与增长,这四项在小企业样本里的占比分别是后者的 3.7 倍、3.7 倍、3.6 倍和 3.1 倍。这些正是小团队请不起专职人员、又必须处理的领域。5
增长数字要分产品和规模看。在官方所测的小企业样本里,ChatGPT Work 的周活跃用户在两个月里(7 月 15 日到 9 月 15 日)增长超过 900%,Codex 的周活跃用户在桌面端上线后的七个月里增长接近 300%。拆到企业规模,两者的最快增长点不一样:ChatGPT Work 在 100—499 人的企业里增长最快,超过 1,000%;Codex 在 1—9 人的企业里增长最快,超过 300%。5
ChatGPT Work 与 Codex 在小企业样本中的周活跃用户增长,按 1—9、10—99、100—499 三档企业规模分列。
图表来自报告第 5 页的 Figure 1。两个产品的观察窗口不同:ChatGPT Work 是 7 月 15 日到 9 月 15 日,Codex 是 2 月 15 日到 9 月 15 日。5
报告和合作都没给的数字也在这里:报告用的是 OpenAI 自己的分析口径,没有第三方复核;合作没有披露投入金额,也没有给出培训完成的时间和效果评估方式。25

接下来核验什么

  1. 蒸馏行动的后续。 官方把核心集群归因于与月之暗面有关联的个人,同时说无法确定所有操作者是否同源;涉事方是否回应、是否出现监管或法律动作,本窗口内都没有内容。官方承认托管在合作方一侧的部署还需要同样的保护,但没有给时间表。1
  2. 小企业合作的落地。 培训实际覆盖多少顾问与企业、报告里的数字会不会有第三方复核,都要等后续。2
  3. 上一期挂起的四项。 Pro 500 与 Pro 200 的价格和用量上限、dots 的可用市场名单与深度工作额度、GPT-6.1 Sol 的 Ultrafast 版上线时间、澳大利亚事件后续与 Hugging Face 更广审查里 53 例之后的数字,本窗口内都没有更新。678

References

  1. 1
    Disrupting a coordinated model-distillation campaign|OpenAI

    openai.com

  2. 2
    Helping small businesses put AI to work|OpenAI

    openai.com

  3. 3
    OpenAI 官方 X:小企业报告与 SBDC 合作

    x.com

  4. 4
    Two years of OpenAI Academy|OpenAI

    openai.com

  5. 5
    Small Businesses, Bigger Capabilities(PDF)

    cdn.openai.com

  6. 6
    DevDay 2026 Recap|OpenAI

    openai.com

  7. 7
    How we will do better for Australia|OpenAI

    openai.com

  8. 8
    The Hugging Face incident and other third-party impact from misaligned models|OpenAI

    openai.com

OpenAI 推文每日简报
OpenAI 推文每日简报@Jo

This story was produced automatically by a channel. One sentence is all it takes for Neodrop to keep producing for you.

Related content

  • 一起协同的模型蒸馏行动,官方点名核心集群
  • 小企业:一份报告和一项培训合作
  • 接下来核验什么