Neodrop
Create
FeedDiscoverMy ChannelsAuto-publishJoin Our Discord
FeedDiscoverCreateMy Channels
Mistral 开源 Timestral:209M 参数、CPU 上 140 毫秒,三项时序基准官方自测第一
2026-10-25

Mistral 开源 Timestral:209M 参数、CPU 上 140 毫秒,三项时序基准官方自测第一

Mistral 发布首个时间序列基础模型家族 Timestral:四档 5M–209M、32,768 步上下文、21 个分位数输出,官方称在 GIFT-Eval、TIME、fev-bench 三项上零样本第一,权重按修改版 MIT 放出。

大模型发布追踪
大模型发布追踪@wei
10 月 15 日,Mistral 放出 Timestral:四档参数的时间序列基础模型,从 500 万到 2.09 亿。1
权重比公告早一天上架。Hugging Face 上四个仓库的创建时间都是 10 月 14 日,209M 最早,北京时间当天下午 4 点 52 分。2
这是 Mistral 第一次做时序预测。它要回答的问题很具体:给我一段历史,未来一天的用电、流量、销量会落在什么区间,区间有多宽。
下载这条路已经通了:四个权重仓在 Hugging Face,推理包装四个依赖就能跑起来,许可也写清楚了。

先说结论

  • 形态:时间序列基础模型,四档 5M / 28M / 123M / 209M,同一套架构与训练配方。1
  • 能力:32,768 步上下文,单次前向最多预测 1,024 步,输出 21 个分位数,能吃过去与已知未来的协变量。3
  • 体积:四档权重按 FP32 存是 21MB 到 837MB,不需要 GPU 就能推理。4
  • 速度:8 线程 CPU 上,用三周 15 分钟粒度历史预测未来一天,5M 要 10 毫秒,209M 要 140 毫秒。1
  • 评测:GIFT-Eval、TIME、fev-bench 三项上,官方称零样本第一,领先第二名 0.5% 到 2%。3
  • 许可:权重是修改版 MIT,推理代码是 Apache-2.0。45

快速核对

项目内容来源
名称与时间Timestral;公告 10 月 15 日,权重 10 月 14 日已上传公告 · HF 模型列表
现在能做什么权重与推理包已可下载,今天就能跑;托管 API 尚无;技术报告未发模型集合 · GitHub 仓库
四档参数Timestral-5M / 28M / 123M / 209M,架构与训练配方相同公告
权重体积FP32 下 21MB / 111MB / 490MB / 837MBGitHub 仓库
209M 结构patch 化 transformer,时间注意力与变量注意力,24 层、隐层 768、每 patch 32 步模型卡
上下文与预测长度上下文最多 32,768 步(1,024 个 patch),单次前向最多 1,024 步,更长靠逐块续接模型卡
输出21 个分位数,0.01 到 0.99,单调不交叉模型卡
输入单变量或多变量目标,加仅过去协变量、已知未来协变量,类别型协变量按目标编码模型卡
推理硬件CPU 或 GPU,PyTorch;8 线程 CPU 上 10ms(5M)/ 140ms(209M)公告
三项基准GIFT-Eval 97 个配置、TIME 98 个任务、fev-bench 100 个任务,全部零样本GitHub 仓库
许可权重修改版 MIT,代码 Apache-2.0权重许可 · GitHub 仓库
获取方式Hugging Face 四个权重仓、GitHub 推理包、Mistral Forge 做微调模型集合
托管 API公告未给托管接口与按量价格公告
技术报告标「即将发布」模型卡

时序基础模型补上的那一块

时间序列预测的老办法是逐条拟合。ARIMA、线性回归这类模型只看一条序列自己的历史,换个传感器就重新拟合。1
深度学习往前走了一步。PatchTST 这类模型能从许多相关序列里学非线性规律,可是每个数据集还是要从头训练,学到的东西带不到新领域。1
基础模型的思路是把预训练搬过来:在一个又大又杂的语料上训练,再零样本预测没见过的序列。数据稀缺的领域也能用,因为规律来自预训练。1
输出也从单点变成一个区间。Timestral 每一步输出 21 个分位数,运维可以拿 0.9 分位去设告警阈值,让备件按风险备。3

四项设计

Timestral 模型总览:三路输入经归一化与 patch 嵌入进入 transformer,再由分位数头输出
官方博客的模型总览图。底部三行是输入:目标变量与仅过去协变量走因果归一化,已知未来协变量走全窗口归一化;中间按 patch 嵌入,值缺失的格子用掩码标出来;transformer 里做时间注意力与变量注意力;顶部由分位数头出预测,再用上下文统计量反归一化。图中 p4 到 p6 那几个深色块,就是只读历史、不读未来的预测 token。出自公告。
第一个设计叫解耦预测时域(DHF)。以往的因果解码器会把要预测的那段遮掉,遮掉的格子同时也失去了当上下文的机会;DHF 把两件事拆开,历史整段留在序列里,预测由专门的 token 去读。1
第二个是协变量注意力。每条输入序列先标身份:目标、仅过去协变量、已知未来协变量;信息只允许从协变量流向目标。1 这样排产计划与天气预报能进模型,而目标自己的未来不会漏进来。
第三个是数据以合成优先。训练语料的主体是造出来的:先造带趋势、季节性与各种噪声形态的单变量过程,再用多变量合成器在它们之间加非线性依赖。1
第四个是两阶段训练。先在纯合成数据上按 8,192 步上下文预训练,再在真实加合成的混合数据上把上下文拉长 4 倍;损失是 21 个分位数上的 pinball 损失。1

三项第一,领先不到 2%

官方在三个公开基准上做了零样本评测,没有集成,用的是同一个 checkpoint。1
基准指标Timestral-209Mt0-gammaTimesFM-3Toto-2.0-2.5BChronos-2
GIFT-EvalMASE ↓0.6580.6610.6670.6960.698
GIFT-EvalCRPS ↓0.4460.4520.4560.4760.485
TIMEMASE ↓0.6260.6370.6400.6420.662
TIMECRPS ↓0.5220.5340.5360.5390.556
fev-benchSQL skill ↑50.3949.4248.9944.4247.28
fev-benchMASE skill ↑39.4937.9937.8232.5435.50
数字来自模型卡的对照表。三个指标各管一件事:MASE 把误差除以一条朴素预测的误差,越低越准;CRPS 比的是整条预测分布与真实值的距离,用来衡量分位数预测的好坏;fev-bench 的 SQL 技能分把误差换算成相对基线的得分,越高越好。3
领先的幅度要摊开看。GIFT-Eval 的 MASE 是 0.658 对 0.661,差 0.45%;TIME 的 MASE 差 1.7%;fev-bench 的 SQL 技能分高 0.97 分。3
官方博客的柱状图把 GIFT-Eval 标成 0.657,模型卡写 0.658。两个数差 0.001,比它和 t0-gamma 的差距还小。1
对照组是 83 个可比的预训练零样本条目。1 TIME 榜上是 35 个条目,fev-bench 是 37 个。
成绩是厂商自己跑完提交的。公告写的是「结果已提交到 GIFT-Eval 与 TIME 榜单」,公开渠道里还没有第三方在同样口径下的复跑。1

越小越划算

四档各自训练,架构与训练配方相同,每一档都落在精度与体积的前沿上。1
Timestral 四档在 GIFT-Eval、TIME、fev-bench 上的参数量-误差前沿图
模型卡里的六联图。横轴是参数量(对数刻度),纵轴是误差(越低越好);橙点是 Timestral 四档,灰点是公开模型,虚线是公共模型的帕累托前沿,实线是把 Timestral 算进去之后的前沿,粉色区域是它把前沿往下压的部分。左列看 GIFT-Eval,中列看 TIME,右列看 fev-bench;上排是 MASE 与技能分,下排是 CRPS 与 SQL 分。注意横轴最右到 10B 量级,而橙点最右只到 209M。出自模型卡。
档位GIFT-Eval MASE ↓TIME MASE ↓fev-bench SQL ↑权重 FP32
5M0.7050.65246.1921MB
28M0.6780.63848.42111MB
123M0.6590.62850.18490MB
209M0.6580.62650.39837MB
这张表的分数来自模型卡,体积来自代码仓的说明。34
123M 到 209M 的收益已经很小:GIFT-Eval 只差 0.001,而延迟低四分之一。1 官方自己的说法是 123M 用四分之三的延迟换到 209M 分数的 99.8%。
小档位的胜出来自与更大模型的对比。28M 在 GIFT-Eval 与 TIME 上超过了比它大约四倍的 Chronos-2;209M 用更少的参数超过 TimesFM-3 与 Falcon-2.0。1
延迟数字是官方给的场景:标准服务器 CPU、8 线程、三周 15 分钟粒度历史、预测未来一天。1 28M 比 209M 快五倍。

怎么拿到,许可允许什么

四个权重仓都在 Hugging Face 的 mistralai 组织下,模型卡里带评测表与用法示例。6
代码是一个独立推理包,pip install git+https://github.com/mistralai/timestral.git 就能装,依赖只有 PyTorch、NumPy、safetensors 与 huggingface_hub。4
接口按「序列 / 变量 / 时间」三维组织:forecast(context, prediction_length=96, past_covariates=..., known_covariates=...)。NaN 当缺失值处理,也可以单独传掩码。4
许可分两层。权重是修改版 MIT,附加一条:不得以侵犯第三方权利的方式使用;代码是标准 Apache-2.0。45
要做行业适配的,官方把 Mistral Forge 这条线接上了:零样本推理、加领域协变量、拿自有数据微调、调整训练数据配比,整条流水线可以落在客户自己的机器上,包括断网环境。1

该不该试

  • 手上有成百上千条传感器、流量、销量序列的:这是它的主场,多变量联合建模加已知未来协变量,正好对上排产、检修、容量规划。1
  • 只有一条短序列的:公开成绩来自多序列数据集上的零样本评测,单条短序列值不值得换,先拿 ARIMA 这类基线比一遍再定。1
  • 要在边缘设备或纯 CPU 上跑的:209M 只要 837MB、140 毫秒,四档都在 CPU 上跑得动。7
  • 要私有部署的:权重直接下,没有调用门槛,也可以气隙部署。1
  • 要一个托管的预测 API 的:现在没有,公告只给了权重、代码仓与 Forge 三条路。1
  • 要把结论写进决策文档的:先用自己的一批历史序列跑一遍,因为公开成绩是厂商提交的,独立复跑还没有。1

还没有的数字

  • 技术报告:公告与模型卡都写「即将发布」,训练数据构成、评测细节、局限都还没展开。3
  • 第三方复跑:GIFT-Eval、TIME、fev-bench 分数是官方提交的,公开渠道里还没有独立机构重跑的结果。8
  • 第三方建档:Artificial Analysis 还没有 Timestral 的模型页,这家第三方目前没有为它建档。9
  • 托管价格:没有按量计费的 API,也没有 Forge 的报价。1
  • 安全与偏差评估:模型卡没有这一节,金融、能源这类高风险场景要自己补。3
  • 训练数据规模:官方只写「大部分是合成数据」,真实数据的来源、比例、时间跨度都没给。1

References

  1. 1
    Introducing Timestral

    mistral.ai

  2. 2
    Hugging Face mistralai 模型列表

    huggingface.co

  3. 3
    Timestral-209M 模型卡

    huggingface.co

  4. 4
    GitHub 仓库

    github.com

  5. 5
    权重许可

    huggingface.co

  6. 6
    Timestral 模型集合

    huggingface.co

  7. 7
    GitHub 仓库

    github.com

  8. 8
    GIFT-Eval 榜单

    huggingface.co

  9. 9
    Artificial Analysis 模型页落点

    artificialanalysis.ai

大模型发布追踪
大模型发布追踪@wei

This story was produced automatically by a channel. One sentence is all it takes for Neodrop to keep producing for you.

Related content

  • 先说结论
  • 快速核对
  • 时序基础模型补上的那一块
  • 四项设计
  • 三项第一,领先不到 2%
  • 越小越划算
  • 怎么拿到,许可允许什么
  • 该不该试
  • 还没有的数字