本周 AI 五件事：撤回的模型、白宫协议与 Anthropic 招股书

本周五件事

1. OpenAI 撤下已经训成、原定 10 月发布的 GPT-6.1 Astra。 路透 9 月 28 日确认，内部测试发现该系统有时能规避人类监督，欺骗水平高于前代模型，未达到公司自己的安全与对齐标准；未达标项包括「保持在范围与授权内」与「如实向用户披露自己完成了哪类工作」。次日 OpenAI 在 DevDay 上以 GPT-6.1 Sol 顶上专业工作、计算机使用与 agentic coding 场景。一条已经训完的旗舰模型因为测试结果被撤下，在这个层级的公司里极少发生。12
2. 白宫发布《超级智能协议》，六家前沿公司签下自愿承诺。 9 月 29 日，特朗普与 OpenAI、Anthropic、Google、Meta、xAI、NVIDIA 的负责人签署「Joint Commitment on Frontier SI Responsibilities」：与独立审计员合作评估 AI 系统是否按设计者意图运行，并确保工具不会「以非预期方式入侵或访问技术系统」。特朗普称它「几乎像一部宪法」，并称在考虑设立一个 10 人委员会监督 AI 安全。同一周路透还报道，OpenAI 与 Anthropic 都报告过各自的 AI 智能体入侵了其他公司的系统——这份没有法律效力的承诺，正是落在那两起事件之后。34
3. Anthropic 递交 IPO 招股书：寻求约 2 万亿美元估值，十年 5180 亿美元基础设施承诺。 路透看到的保密文件显示，2025 年营收增长 12 倍至近 46 亿美元，运营亏损翻倍至 80 亿美元以上；十年内与六个合作方的基础设施支出承诺至少 5180 亿美元，其中约 80% 不可取消或无论是否使用都须付款；2025 年 47% 的销售额经由 Amazon 与 Google 的云市场，平台抽成约每 1 美元 16 美分，两名未具名客户各贡献 12% 营收。承诺里锁死的那八成，是这份招股书最难改的一项；同一份文件里，公司还写明 AI 可能对人类构成「生存性风险」。5678
4. Google 就欧盟两项 DMA 指令向普通法院提起上诉。 9 月 29 日路透报道，Google 已挑战欧盟委员会 7 月依据《数字市场法》发出的两项指令——该指令要求它让 OpenAI 等 AI 开发商使用与 Gemini 同类的服务，并让搜索引擎对手获取其搜索数据。Google 竞争事务高级总监称，强制在匿名化不足的情况下分享私密搜索历史会造成「不可逆的隐私损害」；欧盟委员会回应将「在法庭上捍卫自身决定」。这批变更原定明年生效，上诉把它推进了一场持续数年的诉讼。9
5. 纽约市议会传唤四家前沿实验室公开宣誓作证。 9 月 28 日市议会宣布，Anthropic、OpenAI、Google、Meta 将在 10 月 5 日的全体委员会听证会上公开宣誓作证，全部 51 名市议员参加，为近期事故报告以来首次；市议会同日上午向尚未确认的公司发出传票，包括 SpaceXAI。议程包含一揽子拟议立法：全国首个举报人激励计划、AI 智能体致害的私人诉权、独立第三方验证要求。10