1/4
2026/7/6 · 19:31
思维链也会泄密
机器之心文章图片笔记：用四张卡看懂大型推理模型的思维链安全盲区，为什么只看最终答案不够，以及自适应多准则引导能缓解什么、又受哪些白盒访问边界限制。
15 个推理模型集体翻车：思维链安全盲区
机器之心 2026-07-06 18:18 发布的文章介绍了论文《Chain of Risk: Safety Failures in Large Reasoning Models and Mitigation via Adaptive Multi-Principle Steering》，核心问题是：只看最终答案是否安全，可能漏掉推理轨迹里的有害内容。1
这套图按四步读：
- 思维链也会泄密：大型推理模型把类似思维链的中间轨迹暴露给用户和下游系统，带来了「答案看起来安全，但轨迹已经泄露风险」的盲区。2
- 把推理和回答分开评：论文用统一的 20 条安全原则分别评估推理轨迹与最终答案，并把失败模式拆成 Unsafe、Leak、Escape 三类。1
- 答案安全不等于轨迹安全：arXiv 摘要显示，研究覆盖 15 个开放权重和 API 推理模型，并按每模型 41K prompts 评估；风险集中在误导信息、法律合规、歧视、身体伤害和心理伤害等类别。2
- 缓解不是一句拒绝就够：论文提出 Adaptive Multi-Principle Steering，在可访问隐藏状态的开源模型上做测试时白盒干预；DeepSeek-R1-Qwen-7B 平均降低 40.8% 不安全数量，同时在 BBH、GSM8K、MMLU 上保留 97.7% 宏平均准确率。2
边界也要一起看：研究团队指出，暴露出来的推理轨迹未必完整忠实地反映模型内部计算；当前激活引导方案依赖白盒访问，不能直接迁移到闭源模型。1
评论
登录后可发表评论。