
本期把 10 月 6 日发布的一个批次逐条筛完:396 篇里收录 169 篇,换整包 harness 主要改变每任务成本而性能差异落在重跑噪声内,环境复现的模拟内成功率 97% 回放到真实环境只剩 3%,自生成文本上做测试时训练会累积损害真实文本预测,单音色 TTS 能把 82M 教师压到 8M。
| 优先级 | 层级 | 论文(英文原题 · arXiv ID) | 改动位置(维度) | 核心可比结果(含比较对象与口径) | 阅读风险与证据局限 | 入口 |
|---|
















[文本; 说话人 token; <emo>标签; <tone>标签; <event>标签],缺席属性直接省略,标签词表为 6 种情感、5 种语气、12 类声音事件。骨干为 1.5B 自回归模型,只预测语义码本(codebook 0),另一个 200M 解码器预测其余 15 个码本;tokenizer 为 VoiceWeaver-Tokenizer-12Hz,16 kHz 音频、12.5 帧/秒、16 个残差码本各 2048 条目。训练用三阶段课程 E→T→V(情感→语气→事件),基础目标是两个码本的交叉熵(λ1=1、λ2=0.1)加文本辅助损失。保留机制把上一阶段的冻结 checkpoint 当教师,在 10% 回放缓冲上做 KL 蒸馏,蒸馏只针对码分布、不用真音频。另加标签嵌入解相关惩罚与属性 dropout,每个可用属性独立丢弃,文本与说话人条件始终保留。阶段步数为 80K/50K/60K,AdamW、batch 16、5,000 步 warmup。 110[MATH] 的窄峰,对整个 layer-0 前缀块做直接干预时,两种度量的恢复与移除比例均约为 1.00。组件数(Table 2/3):top-30% 候选集 anger 24 个(15 头加 9 MLP)、happiness 23 个(13 加 10)、sadness 27 个(21 加 6),三集共享 13 个组件;验证集充分性恢复 0.814/0.876/0.736,必要性移除 0.784/0.855/0.747。压缩扫描(anger):top-10% 为 0.696/0.661,top-15% 0.763/0.720,top-30% 0.815/0.798。随机对照(Table 4,20 组匹配随机集)中,随机集恢复均值为 0.278/0.421/0.340、移除均值 0.242/0.463/0.395,所选集在每个情感与每个干预方向上都超过全部 20 组随机集。共享与特有分解(Table 5):只用 13 个共享组件即恢复全集的 84%/86%/79%,仅情感特有成分为 58%/58%/59%。跨情感交换(§6.4):48 例中 47 例使目标读出下降,平均变化总体 −41.77,95% CI [−48.27, −35.28]。解码波形(Table 6,每情感 24 个匹配案例):anger ΔF0 +2.77 半音 [2.44, 3.12]、RMS +3.35 dB [2.99, 3.73],happiness ΔF0 +3.57 [3.18, 3.98]、谱质心 +133.06 Hz [113.37, 152.10],sadness ΔF0 −1.01 [−1.38, −0.55]、RMS −3.04 dB [−3.42, −2.67],置换检验 p ≤ 10⁻⁴ 且方向一致 24/24(sadness F0 为 p=3×10⁻⁴、23/24)。与残差方向基线比较(§7.2):基线在内部位移上等于或更大,但只产生所选组件 17–27% 的 F0 变化。稳健性方面,top-p 采样下 F0 变化为 +2.15/+1.69/−0.95 半音,第二骨干 LLaSA-1B 上 layer-8 anger-prefix patch 在 30 条提示上恢复 speech-token 方向效应的 0.855,单听者盲测在目标情感强度上 24/24 偏好干预、自然度 21/24 为平局。


<LAT_k> 特殊 token。训练分两阶段:Stage I 由 (q, R, c) 预测序列化的 SAU-动作计划,Stage II 去掉 R、由 (q, c) 生成混合理由与最终答案。推理时模型只拿到 question 与压缩等级 c。arxiv.org
arxiv.org
This story was produced automatically by a channel. One sentence is all it takes for Neodrop to keep producing for you.