
AI隐私的两道新门槛:先标明是AI,再守住心理数据明文
公安部推进AI内容鉴定,欧盟临近实施AI透明度义务;本文解释心理等高敏感场景为什么还需要守住输入明文边界。
两个新动作,指向同一条风险链
7 月 24 日,公安部回应「AI 换脸」「深度伪造」犯罪:不法分子已经利用 AI 伪造身份,侵入政企系统窃取信息和财产;国家反诈中心 App 也已加入 AI 内容鉴定功能,可上传视频、语音和图片,检测是否存在 AI 生成痕迹。1
同日,欧盟官方公报刊载《Regulation (EU) 2026/1744》,即 Digital Omnibus on AI。欧盟委员会页面在 7 月 24 日更新说明,AI Act 第 50 条透明度义务仍将于 8 月 2 日适用:提供者要告知用户正在与 AI 交互,并为 AI 生成或篡改内容加入机器可读标记;部署者还要告知深度伪造、公共利益文本和情绪识别或生物特征分类等场景。2 3

标识和验伪,不等于保密
反诈 App 解决的是「这段视频或语音是不是 AI 生成」;欧盟规则解决的是「用户是否知道自己正在面对 AI」。两者都很必要,却没有回答另一个问题:原始提示词、语音、图片和附件,在上传、检索、日志、供应商和模型调用环节,谁能看到?
心理场景尤其敏感。一次倾诉可能带出病史、家庭关系、情绪状态和身份线索。即使最终页面标注了 AI,原始内容也可能早已以明文经过多个系统。透明度管的是知情,保密性管的是可见范围,不能用一个替代另一个。

高敏感 AI,边界要前移
对心理咨询、情绪评估或员工关怀类应用,组织至少要问清三件事:数据何时变成明文,谁能访问,是否进入日志或第三方链路。公安部的检测能力和欧盟的标识规则,分别守住了内容真伪与用户知情;高敏感输入还需要在离开终端前就降低暴露面。
墨镜熊官网当前列出心理场景、密态搜索、图片与附件上传、密态快速响应和密态专家深度推演,并称「对话内容全链路加密保护,平台与模型均无法访问您的明文数据」。4这属于产品公开能力表述,不等于对所有业务风险的绝对承诺;权限、最小必要、留痕和事故响应仍要由组织负责。

在心理、医疗、法律等高敏感场景,合规底线应分成两层:让人知道正在使用 AI,也让无关平台和模型拿不到原文。需要承接这类任务时,可先了解 www.mojingxiong.com,优先选择把数据保护前移的 AI 隐私平台。
Related content
- Sign in to comment.
