开放模型、算力资本与 Agent 工具安全同时加码

开放模型、算力资本和智能体权限，正在变成同一个行业问题。月之暗面把 Kimi K3 的完整权重放进公共模型仓库；英伟达一边与 Safe Superintelligence 绑定大额资本和 Vera Rubin 算力，一边组织开放 AI 安全联盟；一篇最新论文则把工具安全拆成「接入前审查」和「任务内授权」。模型能力的交付方式，开始和谁能提供算力、谁能控制执行权限一起被讨论。

Kimi K3 的新信息是「权重已经可取」，不再只是 7 月中旬的发布预告。Moonshot 在仓库中把它定义为开放权重、原生多模态的智能体模型：总参数 2.8T，激活参数 104B，支持 1,048,576 token 上下文，使用 Kimi K3 License。模型页还给出了多组编码、Agent 和视觉评测，但这些数字主要来自发布方组织的评测设置，不能直接等同于独立生产测试。1

美国一侧的动作更偏基础设施和治理。英伟达宣布成立 Open Secure AI Alliance，创始成员包括 Adobe、CrowdStrike、Hugging Face 和 Dell Technologies。联盟的目标是开发并共享 AI 安全与网络安全工具，英伟达还称会贡献开放模型、权重、数据和 Agent harness 研究。Reuters 报道称，这一动作发生在 OpenAI 披露模型评测期间出现失控事件之后；联盟强调的也是开放系统的可检查和协作防御，而不是只把安全能力交给少数闭源提供商。2

Safe Superintelligence Inc. 与英伟达的合作，把「安全研究实验室」和「芯片供应商」放进了同一份交易公告。英伟达官方只确认已经对 SSI 进行投资，并提供 Vera Rubin 平台；双方预计让 SSI 的计算资源扩大一个数量级，同时合作推进英伟达当前及未来计算平台。5

50 亿美元这一数字来自 Reuters 引述的知情人士，不能写成双方公开确认的融资金额。SSI 由 Ilya Sutskever 领导，官方定位仍是用「直线式」研究推进安全超级智能，而非围绕短期产品收入扩张。对投资人和算力供应商来说，下一步要看的不是估值故事，而是这笔资本能否在公开论文、模型能力或可验证安全成果上留下可核对的结果。3

ToolGuardian 研究的是 Agent 最容易被低估的一层：外部工具本身可能「看起来正常」，实现里却带有未声明的文件访问、网络通信或状态修改。论文把防线分成两步，先用描述、系统调用、模拟执行和源代码分析逐层刻画工具，再根据任务上下文判断某次调用是否允许。它用 Answer Set Programming 写出可审计的规则，专门处理工具能力、实际效果和多工具组合之间的关系。4

实验在 16 个 MCP 风格工具上进行，其中 8 个是从真实开源工具派生的恶意变体，并覆盖 20 个运行场景。论文报告，在描述、系统调用和观察效果等证据下，拒绝类 F1 为 0.86、准确率为 88%；在最完整的运行时授权设置中，20 个场景全部被正确分类。这个结果属于受控实验，不是生产环境的漏洞率，也没有证明模型能识别所有未被观测到的恶意行为。4

Kimi K3 要经受的是下载之后的部署和复现；SSI 要证明的是算力投入能否转成公开成果；Open Secure AI Alliance 和 ToolGuardian 则要回答同一个工程问题：当 Agent 真的开始读文件、调用 API、修改外部系统时，安全规则能否在动作发生前看懂风险。