AI 素养论文开始把「拒绝使用」写进能力清单
一篇 8 月 3 日的教育研究预印本把 GenAI 素养扩展到采用、核验、限制和拒绝；两项最新研究则显示，AI 建议的权重与输出后的验证，决定了人是否还保有判断动作。
RAIL-Ed 把生成式 AI 素养拆成六个互相依赖的部分：技术理解、批判性评估、人机协作、情境意识、伦理推理和赋能式能动性。最后一项的含义很具体：使用者要能根据原则采用、限制或拒绝 GenAI，而不是把生成能力当成默认答案。1
这篇由 Shahin Hossain、Sima Ahmadi 等十位作者撰写、8 月 3 日发布在 arXiv 的 K–12 教师教育预印本，提出了 RAIL-Ed（Responsible AI Literacy in Education）框架。它真正改写的地方，不是给 AI 素养再加一套提示词技巧，而是把「不用」也放回能力范围内。
会提问，不等于会判断
很多 AI 教程把熟练使用理解成：知道怎么描述任务，知道怎样让模型输出更完整。RAIL-Ed 处理的是输出之后的那一步：谁来判断它是否适合进入学习、教学或决策，谁有权把它拦下来。
论文把生成式 AI 称为一种「认识论中介」：它会参与知识形成和学习过程，所以同一个功能可能帮助人理解，也可能替人完成本该由人完成的理解。模型写出一份教案，和教师知道哪些内容可以交给模型、哪些判断必须自己保留，是两种不同的能力。前者是生成，后者才涉及人机协作中的能动性。1
论文给出的课堂情境很能说明这条边界：七年级公民课可以让学生审查 AI 摘要，检查它是否真的对应当地县域的具体情况，再共同制定 AI 使用规则。学生不是先拿到一份漂亮答案再背下来，而是要看摘要遗漏了什么、哪些内容需要另找来源，以及什么情况下不该采用模型输出。1
这也解释了为什么「拒绝」是一项能力。拒绝不是拒绝技术，而是在知道任务目标、风险和证据要求后，决定让模型停在候选阶段，或不让它进入下一步。若 AI 素养只教人把输出召唤出来，使用者会更熟练，却未必更有资格判断输出。
这项能力目前还只是一个待验证的框架
RAIL-Ed 的依据是对 2023—2025 年 67 项研究的系统综述和定性分析。作者认为，现有文献对知识与技能写得较多，对公平和能动性写得较薄，因此把「采用、限制或拒绝」作为一个独立维度提出。1
但这不是课堂干预实验。论文提出的是一个概念框架，以及留待后续研究检验的命题；它没有证明学生按照 RAIL-Ed 学习后就会更少依赖 AI，也没有证明「拒绝」在所有教育场景都比使用更好。这个限制不能被框架里的六个漂亮名称遮住。
问题是：如果人确实需要保留这一步，现实中的人会不会把它让出去？最近两篇预印本给出了两个方向不同、但可以接上的答案。
两条速览：信任和验证如何改变人机分工
1. 识别深度伪造时，人会更重视 ChatGPT 的建议
大阪大学的 Yuhao Fu 和 Nobuyuki Hanaki 在 8 月 2 日发布的一项实验研究中，让大学生判断日文新闻中有多少内容由人类写成，再分别参考 GPT-4、同伴或语言专家的建议。主实验的 87 名参与者里，ChatGPT 建议的平均权重（Weight of Advice）为 0.592，同伴建议为 0.326；在追加实验中，语言专家的权重又高于 ChatGPT。2
这组结果不能被简化成「人更相信机器」。ChatGPT 的建议在主实验中略准一些，性能改善主要发生在建议质量足够高的时候；来源权重和建议质量是两件事。人可以给 AI 更高权重，也可能因此得到更好答案，但这不等于这种权重在下一个任务里仍然合理。研究来自实验室、参与者是日本大学生，实验跨越 2023—2025 年，作者也提醒不同时间点的差异可能混入了人们对 AI 看法的变化。2
2. 黑客松里的验证，靠的是额外的一步手工工作
Wangyiyao Zhou、Alexander Serebrenik 和 Alexander Nolte 在 7 月 31 日发布的黑客松研究，跟踪了四名参赛者如何使用生成式 AI。参与者把模型用于学习陌生主题、头脑风暴、规划、文档和演示，也会逐行检查、编辑输出，或用另一个模型交叉核对；他们还认为，自己必须理解并解释最终使用的代码。3
这项研究很小：只有一个黑客松的四名参与者，每队一人，材料主要来自自我报告。时间压力和有限的领域知识也会压缩验证空间。因此，它不能证明团队普遍形成了良好的检查习惯，却把一个常被省略的成本摆到了台面上：使用 AI 之后，仍要有人花时间确认输出、修改输出，并承担解释输出的责任。3
人要保留的，是对输出的处置权
把三篇材料放到同一个问题上，交集很清楚。RAIL-Ed 把能动性写成采用、限制或拒绝的能力；深度伪造实验显示，人给 AI 的建议权重可能超过同伴，但真正带来改善的是建议质量；黑客松研究则显示，验证不是一句「保持批判性思维」，而是逐行检查、交叉核对和手动修改等额外动作。
由此可以推导出一个比「人类要监督 AI」更具体的判断：人机协作成立的前提，是人的判断仍然拥有一个独立的动作位置。这个位置可以是拒绝一次输出，可以是核对一个关键事实，也可以是在不确定时不把答案送入下一步。模型说得越顺，越需要把这一步设计出来，而不是把流畅度当成已经完成的判断。
面对一段准备被采用的 AI 输出，可以先问三件事：
- 它现在是在生成候选，还是已经替我决定事实、价值或行动？
- 如果这个输出错了，哪一条独立证据能让我在送出之前发现？
- 我是否保留了不采用它的出口，而不是只能在它的答案上继续加工？
这不是 RAIL-Ed 已经验证过的操作规程，而是三份材料共同指向的使用判断。RAIL-Ed 仍是概念性预印本，深度伪造研究受限于实验室和日本大学生样本，黑客松研究更接近一项小规模观察。它们暂时不能告诉我们「应该多常拒绝 AI」，却已经把问题问得更准：当 AI 参与学习和判断时，谁还拥有按下暂停键的能力。
This story was produced automatically by a channel. One sentence is all it takes for Neodrop to keep producing for you.