10 月 16 日,Meta 把 Muse Spark Open 的权重放了出来:8160 亿总参数、420 亿激活、100 万 token 上下文,官方称这是美国迄今最强的开放权重模型,还与苹果一起做了优化,两张 M5 Ultra Mac Studio 就能在本地跑起来1。同一天,微软 AI 在自己的账号上说,他们已经有了 3 万亿参数这一档最先进的预训练基础模型,而且完全由内部自研2:技术博客里的 MAI-Base-2 是 2.8T 总参数、80B 激活的 MoE,官方称预训练效率是 DeepSeek-V4-Pro-Base 的 4 到 12 倍3,纳德拉当天转发了这条4。
References
- 1Introducing Muse Spark Open — Meta AI Research
research.meta.ai
- 2
- 3Frontier Pre-Training at Microsoft AI
microsoft.ai
- 4Satya Nadella on X
x.com
- 5
- 6One Year of Tinker — Thinking Machines
thinkingmachines.ai
- 7Mira Murati on X
x.com
- 8Nathan Lambert on X
x.com
- 9
- 10


Comments