1/3

BadDLM:扩散语言模型的后门也能改掩码

新智元报道 BadDLM 如何针对扩散语言模型注入多样化后门,并保留论文的实验适用边界。

DLM 不按从左到右一次写完,而是通过迭代去噪并行生成。新智元报道论文 BadDLM,研究了这种生成方式里的后门风险。1
攻击者可在微调阶段设置触发器,并改变特定位置的掩码分布,让模型在触发时偏向目标。论文把目标扩展到四类:概念注入、语义属性操纵、对齐绕过和代码载荷注入。
论文在 LLaDA-8B-Instruct、Dream-Instruct-7B 等扩散语言模型上做实验,报告了较高的攻击成功率、较小的正常效用损失,以及对部分既有防御的鲁棒性。适用范围仍有限,主要落在离散掩码扩散架构与指令微调场景,不能直接外推到所有 DLM。
论文原文:2
图集顺序:统一后门框架 → 四类目标 → 论文标题页。

相似内容

评论

登录后可发表评论。