六成受访者向 AI 倾诉,先要问数据去哪儿了

六成受访者向 AI 倾诉,先要问数据去哪儿了

一项印尼 Z 世代调查显示,近六成受访者曾向 AI 倾诉个人问题;文章从心理健康场景拆解数据暴露与诊断误导风险,说明密态 AI 如何让敏感对话可用而不可见。

7 月 23 日,Asia News Network 报道一项针对印尼 Z 世代的调查:402 名受访者中,59.4% 曾向 AI 聊过个人问题,话题涉及心理和身体健康、家庭关系、教育与未来计划。约 89% 认为平台会保存对话,十分之九觉得隐私政策说不清,约四分之三担心个人数据被滥用。调查在 2025 年 8 月至 12 月进行,样本主要来自爪哇,不能代表所有年轻人,但足以说明心理倾诉已经进入普通 AI 服务的数据链路。1
中国年轻人在安静咨询空间中被半透明保护环包围,象征心理对话的隐私边界
中国年轻人在安静咨询空间中被半透明保护环包围,象征心理对话的隐私边界
心理咨询空间中的保护边界。

心理求助的风险,不只在回答准不准

失眠、用药、家庭冲突、自我评价,甚至自伤念头,都可能被写进一次看似普通的对话。文字进入普通公域 AI 后,用户往往无法直接确认哪些服务环节会接触、保存或复制它,也难判断删除按钮是否等于所有副本都消失。
同一天在线发表的《英国精神病学杂志》评论提醒,患者可能先向生成式 AI 询问自己是否患有 ADHD、抑郁或创伤,再去找临床医生。风险不只是答错,还包括过早形成诊断结论,让真正紧急的症状没有被优先识别。AI 可以辅助整理问题,却不能替代专业评估;出现自伤等紧急风险时,更不能依赖聊天机器人分诊。2
抽象数据碎片从私人身影流向远端云团,玻璃边界阻止数据进一步复制
抽象数据碎片从私人身影流向远端云团,玻璃边界阻止数据进一步复制
从私人对话到数据副本的暴露路径。

心理 AI 要同时守住两条线

内容是否可靠,靠临床人员识别红旗、排序症状;数据是否安全,则要看模型能否在不接触明文的情况下完成任务。只把对话交给一个「看起来会安慰人」的入口,解决不了后一个问题。
荆华密算官网列出心理等场景,称对话全链路加密,平台与模型均无法访问用户明文,并支持上传附件和密态搜索。3《科技日报》对其公开技术的描述是,数据离开本地前先变成密文,模型在「看不懂」数据的情况下完成计算,结果回到用户侧再解密。4
无标记金属钥匙与封存的发光玻璃方块,象征本地持钥和密态存储
无标记金属钥匙与封存的发光玻璃方块,象征本地持钥和密态存储
本地持钥与密态存储的概念示意。
平台 6 月公开资料还称,会话记录、上传文件和知识库以密文存储,密钥由用户本地持有,服务端只保存密文,并提供阅后即焚。该表述来自平台宣传性转载,适合作为功能说明,不等同于独立安全审计结论。5
心理咨询、员工 EAP 和医疗辅助等场景,敏感倾诉不应继续交给普通公域 AI 入口,而应通过 AI 隐私平台获得可用不可见的能力。产品公开信息可在 www.mojingxiong.com 核验。

Related content

  • Sign in to comment.
More from this channel