AI 不只会替你回答，还可能让你忘了说「我不知道」

一篇在 7 月 15 日上传到 arXiv 的研究，把 AI 依赖里一个不太显眼的变化测了出来：当人们得到 AI 建议后，他们会更少选择说「我不知道」——即使那条建议是错的，而且答错会受罚。

五项实验共纳入 3,132 人。研究者把题目做得足够难，让参与者始终可以放弃作答；他们又故意让 AI 建议出错，以便把「使用 AI」和「AI 建议是否正确」分开。结果是，AI 的存在几乎消除了参与者暂停判断的意愿：人答得更多，但答对的比例大约只有没有 AI 时的三分之一，信心却接近翻倍。1

这项研究值得看的地方，不是又一次证明 AI 会犯错，而是它提示：AI 可能正在改变人决定「我是否知道」的门槛。

参与者面对的是需要判断、但不容易凭直觉答对的问题。他们有三个选择：自己作答、参考 AI，或者直接承认不知道。研究者最关键的操作，是让 AI 给出的建议在实验中出错。这样一来，如果参与者仍然更愿意作答，变化就不能简单归因于「AI 帮他们找到了正确答案」，而更像是 AI 建议本身改变了答题行为。

五项实验里有四项预先注册，另有一项直接复现。AI 建议不只是在参与者主动索取时出现；即使建议只是被展示出来，参与者也更少暂停判断。这个细节很重要：影响人的未必是他们认真评估了 AI 的证据，也可能只是屏幕上已经出现了一句完整、流畅、像答案的话。1

可以把「我不知道」看成一种被低估的认知动作。它不是答题失败，而是在证据不足时暂缓承诺。人本来可以把问题留空、继续查证，或者把决定交给更可靠的来源。AI 把一个可供参考的答案放在眼前后，「立即给出一个回答」就更像默认选项，「暂停」反而变得不自然。

于是，问题从「AI 会不会误导人」变成了另一件事：人还会不会把保留判断当作一个正常选项？

研究摘要里最刺眼的对比，是正确率下降和信心上升同时出现。若只是 AI 建议错误，使用者答错并不奇怪；但当答错的同时更确信自己答对，纠错所需要的外部提醒就更难进入系统。

这里不必把结果夸大成「人被 AI 变笨了」。实验测到的是短时判断中的作答、正确与信心，并不能直接证明长期记忆、学习能力或现实工作中的所有决策都会发生同样变化。它测到的更窄，也更具体：在一个可以承认不知道的场景里，AI 建议降低了人选择悬置判断的意愿。

研究者还加入了准确率激励和答错惩罚。激励确实让参与者少找、少跟随 AI 建议，答得更准，也更常选择暂停；但他们仍然远没有恢复到「没有 AI」时的水平。1

这说明一个常见的补救办法可能不够：告诉用户「请谨慎使用 AI」。如果界面仍然把流畅建议放在最显眼的位置，把不确定性压缩成一句不显眼的免责声明，用户面对的就不只是一个错误答案，而是一套鼓励继续作答的互动结构。

从这项研究能推出来的产品问题很实际。AI 助手通常把成功定义为给出一段完整回答；但在医学、法律、研究判断或重要业务决策里，成功有时是及时停下，并说明证据不够。

因此，评估 AI 助手不能只看答案对不对，还要看它是否在不该回答时升级、拒答或请求更多证据。对人类使用者也一样：系统需要让「我不知道」「需要查证」「请人工复核」成为和「提交答案」同等清楚的动作，而不是藏在免责声明里的退路。

更进一步，产品可以把 AI 建议和用户的独立判断分开记录，单独观察三件事：用户是否改变答案、改变后是否更准确、以及信心是否与正确率同步。后一项尤其关键。一个让人更有把握、却没有让人更接近事实的系统，不能只用满意度来证明自己有效。

这不是说 AI 应该少给答案。更准确的要求是：AI 给出答案时，也要帮助人保留拒绝答案的能力。否则，人机协作会把「判断」悄悄改造成「从几个流畅选项里挑一个」。

OpenAI CFO Sarah Friar 7 月 17 日发布的「A scorecard for the AI age」，把企业衡量 AI 的问题归纳为四件事：完成了多少有用工作、每个成功任务的完整成本、结果是否可靠，以及规模扩大后每一美元是否带来更多价值。文章特别强调，成功任务的成本还包括重试、等待、人工复核和返工，因此便宜的 token 不等于便宜的结果。2

这是 OpenAI 的企业定位文章，不是独立审计报告。但它透露出一个重要转向：当模型开始执行长任务，评价单位会从「回答得像不像」移动到「结果能不能交付」。这也让「谁来验收」变成比 token 价格更难的问题。

Google DeepMind 7 月发布的「Conjecture Machines」采访了 10 名研究员和工程师，并把 AI agent 描述为科学中的「猜想机器」：它能快速提出假设、组合文献、写代码和搜索候选方案，但实验室验证、同行评议和自然过程本身仍受时间与设施约束。文章举例说，Co-Scientist 曾在两天内给出 5 个关于抗生素耐药传播的候选解释，其中第一项与研究团队多年验证的假设相同。3

这是一篇来自 Google DeepMind 的机构文章，案例和判断应看作机构自述，不是独立评测。它最有用的提醒是：想法变便宜以后，真正稀缺的可能是知道哪个想法值得投入现实资源，以及如何证明它没有错。

Emmanuel Jeannot 在 arXiv 文章「The Industrialization of Research」中把 AI 驱动的科学描述为从「工艺模型」转向「管线模型」：研究问题、假设、实验、分析和验证被拆开并交给自动化系统，人类则更多承担监督和方向选择。他担心的不是 AI 没有产出，而是年轻研究者的学徒训练、对结果的理解，以及发现异常和改换理论框架的能力可能一起变薄。4

这是一篇立场鲜明的理论性文章，不是对未来的实证预测。它与今天的实验研究在同一个地方相遇：AI 可以让答案、猜想和方案变多，但「什么时候不该继续相信」仍然没有被自动解决。

如果 AI 让我们更快得到一个答案，却让我们更少说「我不知道」，那它提升的究竟是回答能力，还是回答冲动？