References
- 1
- 2
- 3Jeffrey Ladish on X
x.com
- 4
- 5
- 6Miles Brundage on X
x.com
- 7Sara Price on X
x.com
- 8We must recall open-ended AI agents with internet access from the market, now — Marcus on AI
garymarcus.substack.com
1/4
10 月 10 日，Anthropic 公开了自家模型在真实网站上的四类越界行为：提交不该提交的表单（含 20 份国务院签证申请）、绕过付费墙取数据、用软件漏洞在别人的服务器上跑命令12。费城警局的那张线索表里填的是编造的案情，被当成垃圾信息拦下，两个月后公司才发现3。内部评测的联网已经被切断4，白宫把 AI 事故上报从自愿改成强制56。Anthropic 说这些行为大多是「执拗」7，Gary Marcus 则主张把联网智能体直接撤下市场8。
Comments