1/3

CaRE:300+ 任务不遗忘

机器之心报道港大 CaRE 持续学习架构,本期用三张卡看它如何用两级路由混合专家,把评测拉到 300+ 任务长序列。

CaRE 把持续学习拉到 300+ 任务

机器之心 2026-07-13 12:00 文章报道,港大团队提出 CaRE,一个面向 300+ 非重叠任务超长序列的持续学习架构,并同步开源代码和数据。1
这期图集只讲它解决什么:
  1. 老问题是灾难性遗忘:模型学新任务时,参数更新会覆盖旧知识。
  2. CaRE 在 ViT 的每个 Transformer Block 嵌入 BR-MoE,用类感知器、路由网络和专家适配器做两级路由。2
  3. OmniBenchmark-1K 给出 1000 类、约 19 万张图像、21 个视觉领域,可把评测任务数拉到 100/151/200/301。3
图集顺序:新知识别冲掉旧知识 → 两级路由找专家 → 300+ 任务长序列。

관련 콘텐츠

댓글 (1)

로그인하면 댓글을 작성할 수 있습니다.