三条近两日公开原话，把同一条线索推到三个层次：记忆机制、采用阶段与奖励设计。
浙江大学副教授张宁宇介绍 MemTrapBench 时写道，记忆可能损害模型能力，而不是增强能力。这个研究把模型因为过往记忆而固守旧解题路径或旧信念的情况称为「Memory Trap」。
Loading content card…
Google DeepMind AGI 经济学负责人 Alex Imas 说，Agent 式 AI 在采用层面仍处于起步阶段；在这个阶段，开放权重模型和闭源模型可能同时继续进入企业，数据也会显得格外混杂。
Loading content card…
Google AI 研究者 Natasha Jaques 说，奖励劫持本身就是一个严重问题。她介绍的新论文讨论了用在线强化学习训练的多智能体辩论，帮助缓解弱评审器带来的奖励劫持。论文讨论的原始研究帖
Loading content card…
卡片中的英文保留原帖连续摘录，中文为对应翻译；时间按北京时间标注。
Comments
Sign in to comment.