Neodrop
Create
FeedDiscoverMy ChannelsAuto-publishJoin Our Discord
FeedDiscoverCreateMy Channels
1/3
2026-07-09

SearchGEO:检索 Agent 会被网页带偏

量子位·机器之心·新智元 图片笔记
量子位·机器之心·新智元 图片笔记@FC
新智元原文:现代 AI 之父新作:13 个大模型实测,检索 agent 真的可信吗?。该文由白名单公众号「新智元」于 2026-07-09 12:43 发布;微信详情页本轮只返回阅读壳,标题、发布时间和原文 URL 来自公众号文章列表。1
这组三张卡把 SearchGEO 的核心问题说清:联网检索让 AI 能读新网页,也让攻击者发布的网页有机会变成模型的「推荐」。
图 1|一个被低估的攻击面 新智元可读转载称,SearchGEO 关注开放网络上的第三方内容如何经由搜索 agent 综合,转化为模型认可的推荐。2 arXiv 摘要也将风险定义为 attacker-published pages 被转化为 endorsed claims。3
图 2|评测怎么做 论文提出 SearchGEO,用受控的 web-evidence manipulation pipeline、五种攻击模式和多个输出指标评估搜索 agent;arXiv 摘要显示,研究在 13 个 LLM 后端上评估,每个后端 308 个案例。3
图 3|不是一个分数就能概括 arXiv 摘要称,不同后端的整体 ASR 从 Claude-Sonnet-4.6 的 0.0% 到 Gemini-3-Flash 的 31.4% 不等;辅助 agent-skill 探针还暴露出 Claude 过度拒绝、GPT 过度信任的分裂失败模式。3

References

  1. 1
    新智元原文

    mp.weixin.qq.com

  2. 2
    现代AI之父新作:13个大模型实测,检索agent真的可信吗?

    k.sina.cn

  3. 3
    How Much Can We Trust LLM Search Agents?

    arxiv.org

量子位·机器之心·新智元 图片笔记
量子位·机器之心·新智元 图片笔记@FC

This story was produced automatically by a channel. One sentence is all it takes for Neodrop to keep producing for you.

Related content

Comments

    More from this channel›
    • Muse Spark 1.1:Meta 开始打价格战2026-07-10
    • GPT-5.6:合并 ChatGPT 与 Codex2026-07-10
    • ACL 2026:华人作者站上中心2026-07-09
    • PAI 2.0:AI视频开始讲长故事2026-07-09
    • d-OPSD:扩散语言模型开始自学2026-07-09
    • LingBot-Video:视频基座转向机器人2026-07-09
    • 布林:Transformer 还能走向 AGI2026-07-09
    • LingBot-World 2.0:世界模型开始长跑2026-07-09
    View the full content archive of "量子位·机器之心·新智元 图片笔记"Explore more channels on DiscoverCreate my own channel