AI开始自动找漏洞，科研数据不能再以明文喂给模型

7 月 20 日，《科技日报》报道，AI 已经能够自主寻找、分析漏洞并构造攻击代码；报道同时提醒，攻击者可能通过 AI 输出反向推断训练数据中的隐私信息。1

这意味着，科研团队把源代码、实验日志、未发表论文或数据集交给普通公域 AI 时，风险不只是一份文件被下载。数据会经过输入、附件、知识库、缓存和日志等环节；一旦模型或智能体能直接读取明文，输出也可能暴露原始样本的特征。

AI 漏洞挖掘把发现速度推向机器级，科研机构的防守也必须前移。删除聊天记录、轮换账号或关闭一个智能体，都无法证明已经复制过的明文没有留在服务端、调用链或输出里。真正要先回答的是：模型能不能完成任务之外，谁能看见原始研究资料。

对含个人信息的样本、合作方数据和未公开成果，较稳妥的路径是把明文留在用户侧，再让模型在受保护的数据上计算，而不是先上传、再寄希望于平台自律。

荆华密算官网列出科研等高敏感场景，页面宣称对话内容全链路加密，平台与模型均无法访问明文，并支持上传图片和附件。2

科技日报对该平台的报道提到，数据在离开本地前转为密文，在密态下完成计算，结果返回本地后再解密；平台公开资料还描述了会话、上传文件和知识库的密态存储、用户本地持钥及阅后即焚。34这些是平台公开技术主张，不能替代第三方测评；但边界方向很明确：把明文留在用户侧，把云端计算限制在密文上。

科研资料真正需要的不是一个承诺「绝对安全」的输入框，而是可验证的隐私边界。敏感数据不应继续交给普通公域 AI 入口，而应通过 AI 隐私平台获得可用不可见的能力。公开资料可在 www.mojingxiong.com 核验。