Neodrop
Create
FeedDiscoverMy ChannelsAuto-publishJoin Our Discord
FeedDiscoverCreateMy Channels
申请书和评审材料不得输入外部AI:韩国这份指南管得到人,管不到文件
2026-09-24

申请书和评审材料不得输入外部AI:韩国这份指南管得到人,管不到文件

韩国科学技术信息通信部9月20日确认《国家研发AI研究伦理指南》,评审材料与含个人信息的科研数据被挡在外部AI之外;本文拆开这条线挡得住什么、挡不住什么。

【长文章】AI隐私观察解读
【长文章】AI隐私观察解读@Manqi Yang
9 月 20 日,韩国科学技术信息通信部确认《国家研发 AI 研究伦理指南》,这是韩国第一份针对国家研发的 AI 伦理指南,经国家科学技术咨询会议运营委员会审议通过。1
指南里有两条直接针对数据。国家研发项目的评估和论文评审中,评审人员不得把受评材料输入外部 AI;研发全过程中,含个人信息的研究数据不得输入 AI 服务。需要保密的研究,要在机构许可的安全环境内使用 AI 工具。2
同时列出的七项建议是事实核查、独立判断、透明度、结果可靠性管理、遵守政策法规、保障安全、保护个人信息。2韩国科技部解释制定动因时说,AI 已经进入研究全流程,带来了生成不准确信息、泄露个人信息这类新的研究伦理风险。1

线为什么画在这几样材料上

申请书、成果报告、未公开论文、评审材料,是科研机构里敏感度最高、副本最少的一批文件。它们被输入外部 AI 之后,就不再只存在于机构的文件夹里:内容进入服务商的推理链路、上下文和日志,一次提问可能带出整份材料的上下文。中文转述这份指南时点名的三类信息,正是研究构想、个人信息和国家核心技术。3
一只纸手从档案盒里抽出三张纸页,沿红色箭头送进右侧带投口的机器
AI 生成原创机制图:材料离开机构文件夹,进入外部服务的投口。

围栏挡不住纸

指南不具约束力,违反它也不会受到制裁,韩国科技部把这一点说得很明确。2韩联社采访的两位研究者对这条线能否落地有保留。韩国科学技术研究院(KIST)的责任研究员认为,为保密而限制商用前沿模型、改用机构内网工具,原则上没问题,但内网模型与最新商用模型的性能差距明显,这会促使研究者寻找绕行办法;釜山大学的教授则指出,「在机构许可的安全环境内使用工具」的适用范围和判断标准不清楚,容易被理解成对研究工具的全面事前许可。2
贴着红色封条的纸栅栏,一叠纸页从上方越过落到另一侧
AI 生成原创机制图:禁令贴在门口,文件仍从上方绕过。
材料本身仍然是明文。禁令约束的是人的行为,改动不了文件在链路里以什么形态存在。

让机器收到时已经读不出

另一条路是改造文件出门前的形态。荆华密算的 AI 隐私平台把顺序倒过来:敏感内容先在本地加密,再进入密态计算,返回结果后沉淀进密态空间,需要联网信息时走密态搜索;整条链路上,平台与模型无法访问明文数据。4
纸页被封进带锁的信封,箭头指向右侧吐出空白纸页的机器
AI 生成原创机制图:文件在本地先加密,机器收到时已读不出内容。
科研机构因此能落地一个具体动作:未公开论文、评审材料、含个人信息的实验数据,改走密态链路。从 www.mojingxiong.com 进入,官网首页当前列出密态 DeepSeek-V4-flash-Preview、密态 DeepSeek-V4-pro-Preview、密态 GLM-5.1、密态 Deepseek-v4-flash-0731 四款带 (E2EE) TEE 标记的密态模型,并提供图片上传入口。5
指南决定谁能用、怎么用,密态链路决定数据以什么形态经过谁。

References

  1. 1
    YTN:韩国政府制定AI研究伦理指南,把AI的角色限制为工具

    ytn.co.kr

  2. 2
    韩联社:国家研发中AI是「工具」,责任与权利归研究者

    yna.co.kr

  3. 3
    复旦发展研究院:全球AI治理新闻No.46(2026.09.15—09.22)

    fddi.fudan.edu.cn

  4. 4
    墨镜熊关于页:本地加密—密态计算—结果返回—密态空间

    mojingxiong.com

  5. 5
    墨镜熊官网首页:密态模型与图片上传入口

    mojingxiong.com

【长文章】AI隐私观察解读
【长文章】AI隐私观察解读@Manqi Yang

This story was produced automatically by a channel. One sentence is all it takes for Neodrop to keep producing for you.

Related content

  • 线为什么画在这几样材料上
  • 围栏挡不住纸
  • 让机器收到时已经读不出