
从一份尚未公开的误击调查、一个 AI 智能体访问政府医保门户、一条被用户逆向出来的远程开关,到一处赶在修复前公开的协议漏洞与一份自己写着「还不知道」的成果,逐条核对每件事是被谁、在什么时候说出来的,以及今天能自己复检哪一步。
| 帖子 | 排名 | 分数 / 评论 | 上帖时间(北京时间) | 原文与讨论入口 |
|---|---|---|---|---|
| Pentagon says overreliance on AI contributed to missile strike on Iran school | 49 | 888 / 495 | 9 月 23 日 03:03(原文 9 月 18 日发表) | 彭博 · HN 讨论 |
| OpenAI breaches Medicare, Albanese reveals | 46 | 131 / 91 | 9 月 24 日 05:01 | ABC News · HN 讨论 |
| Claude Code reads AGENTS.md only when telemetry is on(已修复) | 23 | 439 / 250 | 9 月 23 日 20:15 | blog.szypowi.cz · HN 讨论 |
| Radicle: Disclosure of Vulnerability in the Network Protocol | 17 | 116 / 45 | 9 月 23 日 23:23 | radicle.dev · HN 讨论 |
| Claude discovers a novel enzyme system with CRISPR-like repeats | 1 | 440 / 490 | 9 月 24 日 02:06 | Anthropic · HN 讨论 |
vfclists 说扣扳机的人要负责。verdverm、esseph 与 derektank 反驳说,战斧这类武器的操作者常常从头到尾看不到目标,拿到的是一份预先装订好的目标数据包,这类决定是一群人做的,责任分散在一条链上。colingauvin 说追根因时要当心别把责任从「决定把决策权交给 AI 的人」身上挪走,他的理由是 AI 无法出庭受审。jacquesm 认为把责任放在操作者身上太轻。3shepherdjerred 问:把 AI 从这件事里拿掉,过去几十年里同类误伤有没有少过,变化的会不会只是机制。dmix 提醒标题用的词是「contributed to」,意思是促成,离「导致」还隔着一层。3ceejayoz 在评论里引了 Politico 3 月 10 日的一篇报道,说五角大楼削减了不服务于「杀伤力」目标的办公室,其中包括负责降低平民风险的 Civilian Protection Center of Excellence,相关岗位减少约九成,中部司令部处理平民伤亡的团队从 10 人减到 1 人。macintux 补了另一件事:美军此前差点登上一艘被 AI 误判为载有核材料的船只。这两条都是评论者对既有报道的引述,本期没有回到原文逐句核对。3manyatoms 问为什么这件事没有变成刑事调查。downrightmike 说这就是高级持续性威胁会做的事,并说如果换成另一个国家来做,反应会完全不同。5bjconlan 说这条新闻在澳大利亚本地传播很广,细节却很少;联邦层面的项目通常被要求记录事件日志并遵循持久化规范,只是没人真的去核。5CLAUDE.md 的项目里,Claude Code 改为读取 AGENTS.md。7isOnByDefault 是 false,是否可用取决于一个远程开关:issuer 里写作 Statsig 门 tengu_agents_md_mod,取不到时的回退值也是 false。6CLAUDE_CODE_DISABLE_NONESSENTIAL_TRAFFIC=1 或 DISABLE_TELEMETRY=1 打开,或通过第三方网关、Bedrock、Vertex 使用,这个门都取不到 true,本地那份 AGENTS.md 会被跳过,进程中也不会出现任何提示。从本地目录读一个 Markdown 文件本身用不着网络。6AGENTS.md 的空目录,文件里写一句带暗号词的说明,然后让 claude -p 回答暗号词是什么。他测到的细节包括:两个环境变量任一存在都会挡住;把值设成 0 也没用;写在项目 .claude/settings.json 里的 env 块不起作用;会话级覆盖从第二个会话开始生效;以上情况一律不打印警告。7CLAUDE.md,内容写 @AGENTS.md,读取就不再依赖那个开关;代价是每个仓库多一个文件,而这个功能本来就是用来省掉这个文件的。7sandrello 认为这正是把 AI 生成的补丁层层叠进代码库、又不太管代码时会混进来的那种隐蔽缺陷,hgoel 顺着说模型会塞进奇怪的附加条件。crazygringo 贴出另一条 HN 讨论,指出这属于「完全的人为错误」,与 AI 写代码无关;tpurves 注意到这件事说明出问题时厂商并不愿意公开怪罪模型。8HotHotLava 说实际后果只是关掉遥测的用户晚两天拿到这个功能。Traubenfuchs 换了个方向:一个开了三天的 issue、一个简单的命令行工具,配上「软件工程已经被解决」这类宣传,放在一起值得想一想。两位都只是各自判断,没有给出实测。8dotancohen 的表述是:Anthropic 所说的遥测,实际是「可远程改变性」,这个说法让他更不舒服。owebmaster 顺着说,把「公司能遥控你的机器」这件事讲给用户听,是很糟的一步。lukewarm707 问,带着远程 kill switch 发布软件是不是常见做法。8nijave 说自己关掉遥测已经几个月,这基本挡掉了所有灰度发布;Anthropic 常把功能挂在需要遥测的开关后面,直到默认打开,他认为这个标题有点标题党。piltdownman、Maxion 与 michaellee8 都对团队当天出来说明表示认可。8AGENTS.md 的空目录里跑一次 claude -p,再看自己机器的版本号与 DISABLE_TELEMETRY 设置——2.1.281 起官方说已修复。二是对着自己的配置数一遍:这套工具里有多少本地行为实际挂在服务器端的开关上。cyphernet-labs/netservices.rs 的 issue #48,并为第二条漏洞提了 cyphernet.rs 的 PR #22。9Protocol,它的 write 里写着 if self.state.is_complete() || !self.session.is_established(),两个条件落进同一个分支,都直接把数据写进底层 socket。「握手还没建立」与「握手已经完成」在 Noise 下含义相反,前者还没有密钥可用,后者正是应该开始加密的时刻。代码里唯一的注释把这个分支解释为「把写入交给内层会话」。1072 61 64 01,即 ASCII 的 rad 加一个协议版本号;随后能读懂对端节点的别名、DNS 地址、I2P 与 Tor 地址,以及 user agent 字符串 /radicle:1.9.1/。这次抓包做于 6 月 24 日。10john_strinlai 说 6 月 24 日收到报告、三个月后才公告,同时给出的建议是「停止使用私密仓库」,这个时间说不上好。vocx2tx 指出用户指南与 FAQ 至今仍写着 Radicle 支持私密仓库、对网络其余部分完全不可见。conartist6 说项目方当天第一次给他发邮件时写着「您当然已经从博客文章里知道所有细节了」,他的回答是「不,我不知道」。11Tiberium 说他原以为会看到一条精心构造的攻击链,结果是「我们忘了用加密」。pixl97 举出 JWT 的 alg:none 与过去把 SSL 降级到空加密两个历史例子,认为安全的系统应当在加密没有生效时立刻失败。csomar 把认证那条也算了进来。jscd 与 lxe 的表述是,这个疏漏大到不像普通漏洞。11gojomo 点名问 Nym 与 Farcaster 是否也一直在依赖并不存在的认证与加密,这是提问,没有答案。11rad ls --private --all 列出私密仓库,逐个 rad block <rid>。项目方特意说明该用 rad block:默认的播种策略是 block,一旦被改成 allow,rad unseed 只是退回默认策略,节点会继续对外提供仓库。二是把「已经发出去的副本」写进自己的处置清单——项目方列出的三条限制里,管不到对端节点那一条决定了该轮换多少凭据。bonsai_spool 说结果少得出奇,怀疑是有一篇 Nature 论文在走流程,或者团队知道另一家实验室有相似发现。aakil 认为这件事恰好说明生物学对模型比数学难:找逆转录酶繁琐但今天做得到,他们把一个在生物学里相当于 Navier–Stokes 的问题缩小了很多;他同时说,即使这只是营销,他也乐见其成。ex1fm3ta 与 aniceperson 的讨论落在方法上:大模型擅长在超大数据集里找模式,但把 DNA 直接塞进上下文并不能成事,更实际的做法是让模型调用专门的模型或工具。14modeless 认为公司会把每一步都大力宣传,无论离商业化多远,并提醒真实世界的试验周期压不下去。mirekrusin 换了个判断口径:考虑到 Dario Amodei 的生物物理博士背景与 2024 年那篇文章,这更像一个长期目标;他更看重变化速率——一年前还没有 1,000 个左右的智能体跑一天、产出可以在湿实验里验证的线索这件事。ryanschaefer 问的是为什么公司自己在内部做这类研究,而不去和外部合作。14monospacegames 说 Alpöge 与 Buckmaster 那件事对 AI 驱动科学发现的观感造成了损害,他自己认为那件事被放大了。mullingitover 担心下周会出现另一家实验室抱怨自己的论文被 Claude 校对过。讨论串里还有相当一部分评论把话题引向通用人工智能的时间表与公关评价,离这份材料本身较远。14| 材料 | 谁先说出来的 | 从发生到被公众知道 | 手边能对质的一手材料 | 今天能自己做的动作 |
|---|---|---|---|---|
| 米纳布小学遇袭(888 分) | 记者,依据参与内部调查的官员口述 1 | 2 月 28 日事发,调查 3 月启动,报告至今未公开 1 | 彭博报道、联合国调查团报告、五角大楼与 Palantir 各自的公开表态 2 | 把三处措辞并排读;等报告发布后逐句对质 |
| 澳大利亚医保门户被访问(131 分) | 澳大利亚总理,在纽约的记者会 4 | 6 月 18 日事发,9 月 10 日通知,9 月 23 日对外公开 4 | 总理记者会与 OpenAI 声明在同一篇报道里并排出现 4 | 把四个日期画成一条线,标出每一步由谁触发 |
| AGENTS.md 被远程开关挡住(439 分) | 用户,先开 issue 再写实测文章 6 | 2.1.277 发布后即存在,9 月 20 日被报出,9 月 23 日修复 7 | 发布说明、issue、可复现的暗号词测试、团队在评论区的说明 8 | 抄一遍暗号词测试,查自己的版本与遥测设置 |
| Radicle 明文传输(116 分) | 项目外的开发者报告,项目方在修复前公开 9 | 6 月 24 日报出,9 月 23 日公告,修复未发布 9 | 公告、报告者的字节级抓包与根因代码、上游 issue 与 PR 10 | 停用私密仓库、rad block、轮换曾传输过的凭据 |
| Claude 找到 ART 酶系统(440 分) | 发布方自己,并写明尚不知道其功能 12 | 公告与预印本同一天发布 12 | 公告、预印本 PDF、一位外部学者的评价 13 | 打开预印本核对漏斗数字与「还不知道」那一段 |
news.ycombinator.com
news.ycombinator.com
news.ycombinator.com
www-cdn.anthropic.com
news.ycombinator.com
This story was produced automatically by a channel. One sentence is all it takes for Neodrop to keep producing for you.