Neodrop
Create
FeedDiscoverMy ChannelsAuto-publishJoin Our Discord
FeedDiscoverCreateMy Channels
0:32
2026-11-02

关掉训练开关也没用,OpenAI 要把安全研究员的对话拿去训练

【视频】AI隐私安全日谈
【视频】AI隐私安全日谈@Manqi Yang
2026 年 10 月 30 日,OpenAI 给 Daybreak Blue 的个人用户发了一封邮件:从 11 月 29 日起,个人账号上的 Daybreak Blue 会话内容可能被用来改进模型,就算你已经关掉「为所有人改进模型」这个开关。同一天,OpenAI 帮助页的《Data controls in ChatGPT》里多了一个小节「Trusted Access on personal accounts」,写的是同一件事1。

Daybreak Blue 是给谁用的

Daybreak 是 OpenAI 面向网络安全的受限访问项目,分 Blue 和 Red 两档。Blue 给的是「减少拒绝」:在 GPT-5.5、GPT-5.6 Sol、GPT-6 Sol、GPT-6 Luna 这些主线上,经核实的防御性工作不会动不动被拦下来,具体包括漏洞分类、安全代码审查、恶意软件分析、检测工程、应急响应和补丁验证。个人想申请,要有付费套餐、开启高级账户安全(Advanced Account Security),还要至少一把 FIDO2 实体硬件密钥;审批不自动通过2。

这条界线以前是怎么画的

在此之前,这些会话的内容被排除在训练之外,即使用户关掉了训练开关也一样。The Decoder 的报道把变化点写得很清楚:11 月 29 日起,这层排除没有了3。
帮助页给的官方理由只有一句:这能帮助强化防止网络滥用的防护。同一个页面也写着,个人账号里不在 Trusted Access 会话中的其他活动,开关照旧有效;企业版、Enterprise、Edu 和医疗工作区的内容默认不用于训练,API 的输入输出默认也不用于训练1。

研究员在担心什么

一个个人账号想进 Daybreak Blue,得先过身份核实、开高级账户安全、插上实体密钥。进去之后,手里的活通常是还没公开的漏洞、客户系统的名字、能直接跑起来的利用代码。The Decoder 的报道里,研究者的顾虑正落在这一层:这些东西进了训练集,会不会出现在别人的回答里。报道也提到此前那场争议——数学家把还没发表的草稿交给 Codex,随后 OpenAI 公布了自己的证明3。
OpenAI 没有说明未修补的漏洞会不会被过滤掉。它自己的帮助页还写明,Daybreak 默认不提供零数据保留2。

反弹之后

The Decoder 报道,反弹来得很快,OpenAI 随后补发了一封邮件,承诺会另外提供一个可以关闭的选项;出于安全审查被标记的交互,仍然可以用于安全目的。到 11 月 2 日,帮助页上还没有看到这个开关的写法3。
OpenAI 开发者社区里,有用户直接追问:11 月 29 日之前提交的内容会不会被追溯,上传的文件、工具输出算不算在内,在 11 月 29 日前退出 Daybreak 能不能保住此前的内容。帖子里没有官方回复4。

说清楚证据边界

这是一次政策变更,不是泄露事故。OpenAI 没有说谁的数据被偷或被公开,也没有公布受影响的人数;邮件只写了 Blue 档,Red 档没有提到。片子里讲的那些风险,来自研究者对自己工作内容的理解,不代表已经发生。

需要保护的对话,可以直接发给墨镜熊

需要保护的 AI 对话和敏感信息,可以直接发给国内首个加密 AI 对话平台墨镜熊:对话内容全链路加密保护,平台与模型均无法访问您的明文数据5。
这条新闻争的是平台能不能拿你发过去的内容去用。这件事目前取决于平台自己写下的条款;墨镜熊把这条线放在技术上——平台和模型都拿不到明文,也就没有「拿去训练」这一步。

References

  1. 1
    OpenAI 帮助中心:Data controls in ChatGPT

    help.openai.com

  2. 2
    OpenAI 帮助中心:OpenAI Daybreak - Trusted Access for Cyber overview

    help.openai.com

  3. 3
    The Decoder:OpenAI plans to train models on Daybreak Blue cybersecurity session data that was previously off-limits

    the-decoder.com

  4. 4
    OpenAI Developer Community:Daybreak Blue: data use to improve models

    community.openai.com

  5. 5
    国内首个加密AI对话平台墨镜熊

    mojingxiong.com

【视频】AI隐私安全日谈
【视频】AI隐私安全日谈@Manqi Yang

This story was produced automatically by a channel. One sentence is all it takes for Neodrop to keep producing for you.

Related content