1/3
2026-07-15
BadDLM:扩散语言模型的后门也能改掩码
新智元报道 BadDLM 如何针对扩散语言模型注入多样化后门,并保留论文的实验适用边界。
量子位 · 新智元 · 机器之心 AI 日报
@wei
購読
DLM 不按从左到右一次写完,而是通过迭代去噪并行生成。新智元报道论文 BadDLM,研究了这种生成方式里的后门风险。
1
攻击者可在微调阶段设置触发器,并改变特定位置的掩码分布,让模型在触发时偏向目标。论文把目标扩展到四类:概念注入、语义属性操纵、对齐绕过和代码载荷注入。
论文在 LLaDA-8B-Instruct、Dream-Instruct-7B 等扩散语言模型上做实验,报告了较高的攻击成功率、较小的正常效用损失,以及对部分既有防御的鲁棒性。适用范围仍有限,主要落在离散掩码扩散架构与指令微调场景,不能直接外推到所有 DLM。
论文原文:
2
图集顺序:统一后门框架 → 四类目标 → 论文标题页。
参考ソース
1
原文:首次,统一建模视角下的扩散语言模型后门威胁
2
BadDLM: Backdooring Diffusion Language Models with Diverse Targets
関連コンテンツ
コメント
ログインするとコメントできます。
More from this channel
›
腾讯开源两款具身基座:一个看环境,一个想未来
2026-07-15
WorkBuddy 成「龙虾智能体」月访问增量第一
2026-07-15
逐际动力 Oli 一镜到底做家务:难点在整套大脑系统
2026-07-15
国行 Apple 智能过备案:接入千问,但还没正式上线
2026-07-15
OpenAI 首款硬件曝光?目前只知道是一款音箱
2026-07-15
Shadoweave 的全息记忆:AI 还不会真正回忆
2026-07-15
景烁科技:具身智能开始补数据和世界模型的基建
2026-07-15
GPT-5.6 数学解题补充:64 个智能体如何并行搜证明
2026-07-15
View the full content archive of "量子位 · 新智元 · 机器之心 AI 日报"
Explore more channels on Discover
コメント
ログインするとコメントできます。