
AI 进入真实工作流后,谁来守住边界?Sama、Mollick、Marcus 与 Chollet 的一日交锋
Sama 分享家庭日历驱动的主动服务用例,Mollick 看到岗位边界变薄,Marcus 质疑 LLM 遵守硬约束,Chollet 要求开放且可审计的评测;四条线共同说明 AI 进入组织前必须先写清权限、责任与验收方式。
本期窗口内,观点集中在四条原创上:Sama 把 ChatGPT Work 讲成连接家庭日历、理解孩子兴趣、每天生成通勤播客的服务,Ethan Mollick 看到 AI 正在让岗位边界变薄,Gary Marcus 质疑 LLM 中心系统能否遵守硬约束,François Chollet 要求用开放框架和可审计测量讨论模型行为。Karpathy、LeCun、Demis Hassabis、Jim Fan 和 Ilya Sutskever 本期没有符合条件的原创主线,因此不拿旧内容或转推补齐。
Sama:AI 的入口从对话框变成家庭上下文
北京时间 8 月 1 日凌晨,Sam Altman 分享了一个他听到的 ChatGPT Work 用例:接入家庭成员的日历,解释孩子们各自感兴趣的事情;每天开车送孩子上学时,生成一段播客,聊当天某个孩子的足球赛、另一个孩子即将到来的生日,再加上一些新闻。1
Sama 分享的不是产品规格,而是一个用例:用户不必每次重新提问,系统先从日历、兴趣和时间表组织上下文,再把结果放进固定生活场景。
主动服务也把权限问题推到台前:谁能接入家庭日历,孩子的信息如何撤回,错误的生日或行程由谁纠正?用例越贴近日常,数据来源和纠错入口就越不能藏在演示后面。
Loading content card…
Mollick:岗位边界变薄,不等于组织已经准备好
Ethan Mollick 在北京时间 8 月 1 日早上写道,他与宝洁合作的研究有一个重要发现:AI 模糊了不同岗位之间的界线;OpenAI 现在也有类似发现。由此他判断,组织边界正在变得多孔,企业需要重新思考分工。2
这条帖子没有给出完整研究方法。但它指出了一个比「员工效率提高」更难处理的变化:模型跨越写作、分析、规划和执行后,原来按岗位划开的工作流会互相渗透。企业要回答的是谁定义任务、复核结果,以及模型出错时谁接手。
Mollick 还提醒,若未来几年经济下行,企业可能主要把 AI 用于削减成本;他认为,扩大人类使用 AI 的角色需要研发投入,而不是只压缩岗位。3 这给「岗位边界变薄」加了一个条件:如果预算只允许减少人手,AI 最先带来的可能是职责收缩,而不是新的协作方式。
Marcus:最危险的不是会不会做,而是能不能守规矩
北京时间 8 月 1 日早上,Gary Marcus 对 LLM 中心系统提出了更尖锐的判断:这类系统无法被信任去遵守硬约束,必须找到能够遵守的替代方案,否则后果会很糟。4
「硬约束」可以理解为必须满足项和绝对禁止项,例如不能越权访问、不能跳过审批。Marcus 没有给出替代方案或实验,因此这只是风险判断,不是定量结论。
它仍击中了主动型 AI 的薄弱处。连接日历、邮件、代码仓库或业务系统后,错误可能变成越权操作或无法追溯的记录。模型越能自己拆任务,系统就越要写清哪些动作可自动执行,哪些必须交给人。
Chollet:没有可审计测量,争论只剩阵营感
François Chollet 在北京时间 8 月 1 日凌晨提出,评估模型行为需要开放框架,讨论应建立在可审计的测量上,而不是「我们对他们」式的情绪判断;他同时提到 Cyril Gorlla 和 CTGT 团队正在做相关工作。5
Chollet 没有公布完整指标,也没有声称 CTGT 已解决评测问题。它提供的是一条方法要求:模型进入真实流程后,至少要知道测了什么、怎么测、是否能复核。否则,产品方可以用演示证明模型「看起来会做」,批评者也可以用个别失败证明它「根本不可靠」。
Loading content card…
今天的验收表,至少要有四格
把四条观点放在一起,AI 进入工作流前至少要回答四个问题:
- 上下文从哪里来:哪些日历、文档和历史记录可以被读取,谁能修改,错误信息如何纠正?
- 分工如何重写:模型承担的是草稿、建议、执行,还是跨岗位协调?最终责任落在哪个角色?
- 约束如何生效:必须做和不能做的动作是否写成了系统规则,越权或不确定时能否暂停并交给人?
- 结果如何复核:指标、人工基线、运行配置和成本是否公开到足以复现?
这张表不替企业选择模型,却能把四种判断分开:Sama 讲入口体验,Mollick 讲组织投入,Marcus 讲边界风险,Chollet 讲证据成立。主动性越强,组织越不能只看一次成功演示。
本期的冲突在于:AI 一方面被描述成会主动理解家庭上下文、重画岗位边界的入口,另一方面仍被质疑无法稳定遵守硬约束。它能否进入真实系统,取决于权限、责任、失败处理和测量是否先写清楚。
Related content
- Sign in to comment.
