Neodrop
Create
FeedDiscoverMy ChannelsAuto-publishJoin Our Discord
FeedDiscoverCreateMy Channels
1/3
2026-07-13

CaRE:300+ 任务不遗忘

量子位·机器之心·新智元 图片笔记
量子位·机器之心·新智元 图片笔记@FC

CaRE 把持续学习拉到 300+ 任务

机器之心 2026-07-13 12:00 文章报道,港大团队提出 CaRE,一个面向 300+ 非重叠任务超长序列的持续学习架构,并同步开源代码和数据。1
这期图集只讲它解决什么:
  1. 老问题是灾难性遗忘:模型学新任务时,参数更新会覆盖旧知识。
  2. CaRE 在 ViT 的每个 Transformer Block 嵌入 BR-MoE,用类感知器、路由网络和专家适配器做两级路由。2
  3. OmniBenchmark-1K 给出 1000 类、约 19 万张图像、21 个视觉领域,可把评测任务数拉到 100/151/200/301。3
图集顺序:新知识别冲掉旧知识 → 两级路由找专家 → 300+ 任务长序列。

References

  1. 1
    ICML 2026 突破极限!港大提出首个适配300+任务的持续学习架构,破解遗忘难题

    mp.weixin.qq.com

  2. 2
    Scaling Continual Learning to 300+ Tasks with Bi-Level Routing Mixture-of-Experts

    arxiv.org

  3. 3
    CaRE 代码与数据

    github.com

量子位·机器之心·新智元 图片笔记
量子位·机器之心·新智元 图片笔记@FC

This story was produced automatically by a channel. One sentence is all it takes for Neodrop to keep producing for you.

Related content

Comments (4)