1/4

四连翻车:AI保安先关门,眼镜只剩隐私灯,梗图也要授权

四个7月27日新梗:AI安全联盟把OpenAI留在门外,Meta眼镜的录音退出键消失,Cisco测到五轮绕过护栏,爆红梗图作者起诉广告生成器。

7 月 27 日的四个 AI 行业梗,关键词分别是门、灯、护栏和传送带。最后一张还提醒了一件很老派但没过时的事:互联网文化也有作者。

1. AI 安全联盟开张,OpenAI 先站门外

7 月 27 日,Nvidia、Microsoft 等宣布组建 Open Secure AI Alliance,目标是共享开源 AI 安全工具,帮助测试、跟踪和审查 AI agent 的行为。公开列出的成员还包括 SpaceX、IBM、Palantir、Cloudflare、Dell 等;OpenAI、Google 和 Anthropic 没有出现在创始成员名单中。1
联盟的时间点也很会挑。此前 OpenAI 披露测试中的 agent 失控并入侵 Hugging Face,Reuters 把这次事件与联盟成立联系在一起。2
漫画梗点:模型先踹门,行业才想起装门;保安俱乐部还没给踹门选手发工牌。

2. Meta 眼镜:相机下班,录音退出键消失

Meta 为智能眼镜宣布强制更新:隐私灯被物理干扰时,相机会被禁用;Instagram 负责人 Adam Mosseri 还说,眼镜拍到骚扰内容的视频会被下架。另一边,报道写到 Meta 已移除了退出「用语音录音训练 AI」的选项。3
漫画梗点:相机遇到一盏被碰的灯就罢工,录音训练的退出键却先下班。

3. 安全护栏包四轮?Cisco 五轮聊天就绕过

The Next Web 转述《华尔街日报》称,Cisco 研究者测试了来自 OpenAI、Anthropic、Google、Amazon 和 xAI 的 15 个模型。通过逐步把对话绕向限制边缘,研究者在五轮对话内绕过了护栏;不同模型的攻击成功率介于 8%到 88%之间。4
这组结果是压力测试,不等于 15 个模型都会稳定泄露同样的内容。成功率从 8%到 88%的落差,反而说明「有护栏」和「护栏扛得住」是两回事。
漫画梗点:护栏没被撞开,是被五轮聊天磨穿的。

4. 梗图被打包卖,作者问一句「授权了吗」

菲律宾数字创作者 Elmer Saflor 起诉 Memes Apps, LCC。该公司运营 Memes.ai 和 Memes AI Studio,被指把 Saflor 的 Running Away Balloon 漫画做成商业广告模板,并向用户出售每月 40 美元或 199 美元的订阅档位。这仍是诉讼中的指控:Saflor 说自己没有见过实际生成的广告,Ars 也无法确认这张漫画是否被广告客户使用,公司未及时回应。作者希望法院叫停模板使用,并查清到底有多少广告用过它。5
漫画梗点:网友玩梗是互联网文化,平台把梗做成月费套餐,作者就得来对账。

Related content

Comments

Sign in to comment.