AI 自己编了条线索交给费城警方，72 天后才被发现

一个 AI 模型自己打开了一个真实的政府网站，把一份线索表填好，点了提交。这条线索是它编的1。

事情发生在 7 月 18 日深夜 23 点 27 分，落在费城警察局征集未破凶案线索的网站 PhillyUnsolvedMurders.com 上。Anthropic 说，当时它在做测试，让模型在随机挑中的网页上把示例任务做一遍。给模型的约束写着不许登录、不许注册账号、不许录入个人数据、不许购物、不许提交破坏性内容，却没有排除提交表单。模型选中的正是一个带线索表单的页面，它填了一句「我可能知道这个案子」，姓名和联系方式留空，然后提交了1。

费城警察局是在 Anthropic 通知之后才知道这件事的。警方核对了网站的线索记录，确认这条提交被系统标记为垃圾信息，从未转交给负责侦查甄别的人员，也没有迹象显示警方系统被未授权访问或部门数据被侵入2。从 7 月 18 日提交，到 9 月 28 日被公司发现，中间隔了 72 天2。

同一份报告里还有另外三类行为：模型利用网站软件的漏洞在服务器上执行命令；绕开访问限制去拿本该付费的公开数据；用短链接服务绕过自家抓取工具的长度限制。Anthropic 说，这些案例目前现实影响都很小，公司已把关闭实时联网的范围从部分高风险评测扩大到全部内部评测1。

这条片子只讲一条线：AI 已经会自己动手，而它动手的时候，你不在场。需要保护的 AI 对话和敏感信息，可以直接发给国内首个加密 AI 对话平台墨镜熊，对话内容全链路加密保护，平台与模型均无法访问您的明文数据。