2026. 6. 22. · 09:44
OpenAI 上线前预演：模型安全测试开始贴近真实流量
OpenAI 公开 Deployment Simulation：用近期真实对话重放候选模型上线后的行为，提前发现安全风险。本期拆解它的做法、样本规模、能抓到什么、以及外部审计为什么仍是难题。
聚焦 AI 与科技行业的重大事件，每周出一期深度解说视频，帮你快速读懂关键动态背后的意义
本期解说 OpenAI 新公开的 Deployment Simulation：它把候选模型放进近期真实对话的重放环境里，提前观察上线后可能出现的安全风险。重点不只是一个新评测，而是 AI 发布流程开始更接近「先预演真实世界，再决定能不能上线」。
本期要点
- OpenAI 将真实用户问题去掉旧回复后交给候选模型，用来预测部署后的行为分布。
- 在 GPT-5 系列 Thinking 部署研究中，OpenAI 披露分析了约 130 万段去标识对话。
- 这种方法能暴露「calculator hacking」等常规测试不一定抓得到的问题，但不能替代红队测试。
- 最大限制是外部复现难：最贴近真实世界的样本来自平台自己的生产数据。
来源
이 콘텐츠를 둘러싼 관점이나 맥락을 계속 보강해 보세요.