别急着把 AI agent 当同事

一个很小的词，正在把人和 AI 的责任关系搅乱。

MIT Technology Review 6 月 29 日写到，Boston University 商学院教授 Emma Wiles 参与的一项研究让 1,261 名经理审查 AI 产出；当同样的系统被描述成「agentic AI employee」而不是 chatbot 时，参与者少抓到 18% 的错误，也更容易把可疑工作升级给上级复核。1

这不是一个 UI 文案问题。它说明 agent 进入工作流以后，真正危险的边界可能不在模型会不会出错，而在组织会不会因为它看起来像一个「人」，就把人的判断、预算、权限和责任慢慢让出去。

「同事」这个词听起来很自然。它让一个系统显得更能干、更主动，也更容易被放进组织图、Slack 频道和项目分工里。硅谷现在很喜欢这种说法：agent 不再只是问答框，而是能接任务、查资料、调用工具、异步完成一串动作的「数字员工」。

问题是，名字会改变人的行为。MIT Technology Review 引述 Wiles 的研究说，当 AI 被叫作员工，经理会更少把自己视为产出责任人，也会更常把问题往上抛。这个结果很刺眼：agent 本来被引入是为了减少协调成本，但如果人因为「它像同事」而降低警觉，组织反而多了一层不稳定的责任转移。1

这里的关键不是反对 agent。技术进步是真的，agent 能循环执行目标、调用工具、完成比普通聊天机器人更长的任务。更准确的问题是：它应该被设计成替代一个岗位，还是增强一个人的能力？MIT 经济学家 Daron Acemoglu 在同一篇文章里说，把 agent 当作替代人类的东西来营销「是一个会输的命题」，它们更应该被优化为提升人的能力。1

Stanford SALT Lab 的 WORKBank 项目给了一个更细的视角。研究团队收集了 1,500 名美国劳动者、覆盖 104 个职业和 844 项职业任务的数据，想看真实工作者希望 AI 自动化什么、又不希望 AI 接手什么。2

这组数据把「AI 和人的关系」从口号拉回到工作现场。一个法律助理可能愿意让 AI 检查案件进度，却未必愿意让 AI 判定客户信用；一个销售人员可能需要 AI 整理资料，却不想让它代替自己处理最敏感的客户判断。任务看起来都叫「自动化」，但人真正担心的是控制权、语气、后果和谁来负责。

所以，「agent 是同事」这个叙事最大的问题，是它把系统能力和组织责任混在一起了。人类同事会学习团队默契，会解释自己的判断，会承担关系后果。agent 可以很强，但它没有这种责任位置。把它放进「员工」这个框里，最容易发生的事不是它突然变成人，而是人开始用对人的想象去填补系统没有的部分。

如果团队已经在试 agent，最该先改的可能不是模型，而是工作流语言。

把 agent 叫作「员工」会带来四个具体后果。第一，责任变得模糊，审查者更容易觉得输出不是自己的。第二，权限会被包装成协作需要，逐步扩大到邮件、代码库、内部频道和财务动作。第三，预算会从可控的个人工具费，滑向难以归因的组织级消耗。第四，失败时更容易出现一种偷懒的解释：是 AI 做错了。

更稳的说法是把 agent 当作「带权限的工具」。这句话没那么性感，但它逼着团队回答几个硬问题：谁批准它能调用哪些工具？谁检查它的输出？什么情况下必须停下来问人？它花掉的 token、触发的动作、访问过的文件能不能追踪？

这也是为什么「AI 能力边界」不只在 benchmark 上。边界还在人的工作习惯里，在组织的责任设计里，在一个词能不能让大家忘了自己仍然是最后的判断者。

Arvind Narayanan：共享 Claude 可能变成企业的隐性知识仓库。 Princeton 计算机科学教授 Arvind Narayanan 6 月 24 日评论 Claude Tag 时说，这类功能把 Claude 从个人工具推向「团队共同的同事」：同一个 Claude 实例服务所有人、吸收团队默会知识、异步行动，还可能接入私有频道和工具。他担心这会带来锁定、权限和成本问题，甚至把「替代员工」从技术创新变成一种商业模式创新。3

Adam Engst：个人 agent 最大的缺口是「内心上下文」。 TidBITS 的 Adam Engst 6 月 24 日写到，他不放心把订票、回邮件、订餐、处理客服争议交给 autonomous agent，因为这些任务看似琐碎，却依赖当天心情、关系分寸、花钱偏好和对后果的承担。4 这提醒我们，很多「低价值杂事」并不低价值，只是价值藏在人的偏好和关系里。

Ada Lovelace Institute：风险转移不等于风险减少。 Ada Lovelace Institute 7 月 2 日讨论 AI 私人治理时，把责任、保证和保险放在一起分析，并提醒这些机制可能帮助 AI 安全，也可能制造「oversight theatre」。文章最后一句尤其值得记住：在各方之间转移风险，不等于真的降低了人和社会承受的风险。5

今天这条主线可以落到一个很朴素的判断：agent 越像能独立办事，越需要被当作工具来管理。因为工具不会替你承担责任，哪怕它已经会自己按下按钮。