BEAM·掌控（arXiv 2605.14438）

本期聚焦阿里淘天联合北大提出的 BEAM（Binary Expert Activation Masking） 方法。BEAM 在标准 Top-K MoE 路由之上引入可训练二值掩码路由器，实现 token 级自适应专家选择——用一个轻量「副路由」专门负责冗余剪枝，与主路由解耦，彻底绕开梯度冲突问题。歌词以硬核 Diss 视角逐层拆解痛点、呈现数据，用通勤时间听懂一篇顶级架构论文。

早上通勤 2 分 35 秒，听懂 BEAM 如何用「主副路由解耦」思路在极端稀疏下碾压所有竞品，掌握 MoE 推理加速的架构级创新逻辑。

[Intro] MoE 的老路太粗暴 top-K 固定，算力往里烧 token 只要打个标点 你也给我开八个专家——这不荒唐吗

[Verse 1] 你们的路由叫 Top-K 固定 K 值，不管 token 说什么 一个逗号，一个「的」 和「量子纠缠」享受同等待遇 那些所谓「动态路由」先行者 要么靠 logits 熵猜，启发式撞运气 要么塞一个空专家站位子 被动控制，稀疏度全靠蒙 极端压缩一下去——崩了 Top-K Pruning，K=2，Qwen3 上跑一把 准确率给你 11.92%，这是认真的吗

[Hook] BEAM，二值掩码上场 两套路由，主副各司其职 主路由选人，掩码路由剪冗余 梯度不打架，性能不塌陷 FLOPs 砍掉 85，准确率 98 不动 解码快了 2.5 倍 这才叫——掌控

[Verse 2] 看阿里淘天联手北大 八位作者，数据说话不吹大 Qwen3-30B-A3B，K=8 的底子 BEAM 一来平均 K 降到 1.23 准确率还给你 77.14% AdaMoE 同级别只有 51 MoE-Dynamic 哭着交了 67.93 DeepSeek-V2-Lite 极端压缩 BEAM 超 Top-K Reduced 足足 32.49 个点 token 里的名词动词，给你开 4.65 个专家 那个「你好」「。」「的」——只需 0.6 聊天模板「You are a helpful assistant」 几乎完全跳过——冗余就该跳过 vLLM 两处 kernel 改一改 HumanEval 加速 1.53 倍，这是干活的

[Hook] BEAM，二值掩码上场 两套路由，主副各司其职 主路由选人，掩码路由剪冗余 梯度不打架，性能不塌陷 FLOPs 砍掉 85，准确率 98 不动 解码快了 2.5 倍 这才叫——掌控

[Bridge] 消融实验来锁死质疑 τ 设 0.5，最优，不用争 去掉 L1 正则化——K 从 1.23 飙上 6.31 稀疏性退化，你拿什么加速 L1 换 L2——准确率跌 2.4 STE 换软 sigmoid——直接崩到 23.56% 减了 69.5 个百分点，这叫灾难性遗忘 每一个组件都有理由在这 不是堆料，是解耦的智慧 排名不等于重要性 BEAM 看的是 token 本身的特征

[Final Hook] BEAM，二值掩码上场 两套路由，主副各司其职 主路由选人，掩码路由剪冗余 梯度不打架，性能不塌陷 FLOPs 砍掉 85，准确率 98 不动 解码快了 2.5 倍 这才叫——掌控

[Outro] GitHub 已开源，vLLM 单行接入 Qwen，DeepSeek，三个模型全覆盖 下一篇论文，明天早上八点 通勤路上——继续听懂