赢下 13 行的新旗舰今天还用不上、同一块 27B 的官方数是 1.06 tok/s、五美元单片机跑赢了笔记本上的 Whisper

9 月 30 日，Google DeepMind 发布了 Gemini 4 的第一款旗舰 Gemini 4 Argon 1。官方发布页先给了两栏数字。一栏是成绩：输出上限从上一代的 6.4 万 token 提到 100 万 token，官方那张对比表列了 19 行，逐行数下来 13 行 Argon 分数最高、1 行并列、5 行落后 1。另一栏是它什么时候轮到你：这一版先通过 Fairwind 计划开给一批经过挑选的网络安全防御者，付费 API 用户和 Google AI Ultra 订阅者排在后面，官网只写了「尽快」，没有日期 1。

同一块 Qwen3.8-27B 上，同一个开源引擎的读数差了两个量级。AMD 的 ROCm 仓库在 9 月 30 日发布 FastFlowLM v1.0.7，第一次把 27B 的稠密模型放进这个跑 NPU 的引擎，也是第一次在 NPU 上用模型内置的 MTP 草稿头做投机解码 2。官方基准页给出的解码速度是 1k 上下文 1.06 tok/s、2k 1.86、4k 1.50、8k 1.32，测试机是一台 AMD Ryzen AI 5 340（Kraken Point）加 64GB 内存的机器，基准封顶在 8k 上下文 3。Reddit 上转这条发布说明的帖子，标题直接写「at a killer 1 tps decode」4。同一天晚上，小红书一条 75 赞、63 收藏的帖子写的是「短推理 150 t/s」，还给了分档：数学与推理 160 tok/s，结构化生成（JSON、翻译）110 到 130，代码 93，创意写作 70，长输入预填稳定在 2400 到 2900 5。

换一台机器，快慢会换位。Artificial Analysis 开源了一个本地推理回放工具，做法是把已经记录下来的 agent 对话重新跑一遍，量吞吐与延迟；它公布的第一组对照里，同一款 Qwen3.5-9B 在 MacBook Pro M5 Pro 上的吐字速度是 49 tok/s，在 DGX Spark 上是 46，单看这一项 Mac 更快；整组回放跑完，Mac 用了 15.7 分钟，Spark 用了 13 分钟 6。差在另一行：处理输入的预填速度，两台分别是 636 与 2161 tok/s 6。

这一期覆盖 2026 年 9 月 30 日至 10 月 1 日，来源为 X、Reddit、小红书与公众号，另含 Google 官方发布页、AMD 的开源仓库与基准页、两个 GitHub 仓库。八组材料按「任务与运行条件 → 具体数字 → 分歧那一栏 → 作者自陈的限制 → 原帖」逐条给出。

先把官方那一栏摆齐。Gemini 4 Argon 的促销价是每百万输入 token 2 美元、输出 10 美元，命中缓存的输入再打 5% 折，官方注明优惠期结束后回到每百万输入 4 美元、输出 20 美元；上下文窗口 100 万 token，输出上限也从上一代的 6.4 万提到 100 万 1。

官方那张对比表上，Argon 赢的地方集中在知识工作与长上下文：Vals Index 68.9% 对 GPT-6 Astra 的 63.1%，AutomationBench 51.3% 对 41.4%，金融研究 Vals Finance Agent v2 65.4% 对 53.5%，Harvey 的法律智能体基准 19.6% 对 Astra 的 5.4%；长上下文上，GraphWalks 的 256k 到 1M 段是 84.2% 对 Astra 的 71.8%，长视频理解的 LVBench 是 91.7% 对 87.5%。输的地方集中在终端与从零建项目：FrontierSWE v2 是 55.0% 对 Astra 的 65.5%，Terminal-bench 4.0 是 57.4% 对 Claude Opus 5.5 的 66.4%，Terminal-Bench Science 0.1 是 57.6% 对 Astra 的 68.1% 1。同一张表里没有 Claude Sonnet 5.5；在后面的第三方榜单上，Sonnet 5.5 排在 Gemini 4 Argon 前面 15。

第三方那一栏是 Artificial Analysis 的。它给 Gemini 4 Argon 在最高档（high）打出智能指数 53，与 GPT-6 Astra（max）并列，比 GPT-6.1 Sol（max）的 52 高一分，比 Google 上一款非 Flash 模型 Gemini 3.1 Pro Preview 的 30 高 23 分。每一道智能指数任务的花费是 1.99 美元，是同分对手 Astra 的 3.26 美元的 60%，同时是 GPT-6.1 Sol 的 2.7 倍；按标准价算，这个数字回到 3.98 美元，比 Astra 贵约 20%。省下来的钱来自单价，用量反而更大——Argon 平均每题输出 62k token，Astra 是 27k 7。

代理与幻觉那两栏也一起看。AutomationBench-AA 上 Argon 以 77.5% 排第一，比 Claude Sonnet 5.5（max）的 71.3% 高 6 分；Terminal Bench 4 拿到 57%，比 Gemini 3.1 Pro Preview 高 53 分，前面还有 Sonnet 5.5 的 64%、Opus 5.5 的 60% 与 Astra 的 59%。在 AA-Briefcase 上它是 1494 Elo，其中规则通过率 65% 是 AA 记录到的最高值，分析质量 1576 Elo、呈现质量 1308 Elo。最扎眼的是幻觉率：在 AA-Omniscience 上，Argon 的幻觉率 15%，是所有智能指数 45 分以上模型里最低的，Astra（max）51%、GPT-6.1 Sol（max）54%；它的答对率同时是 50%，比 Astra 的 63% 低 13 个百分点，综合分 42 与 Astra 的 43 基本持平，少猜的另一面是多说「不知道」。AA 还测了新开的一个 API 特性 Long Decode Continuation：长回答可以中途暂停、在后续调用里接着生成，让一次推理跑到 100 万输出 token 而不撞请求超时 7。

分歧出现在两份公开榜上。Arena 的文本榜按真人投票算偏好，Argon 排第一；同一天 Arena 的网页开发榜上它排到第八，与榜首的 Claude Opus 5.5 差得比较远，Sonnet 5.5 也在它前面。让模型模拟经营一年自动售货机的 Vending-Bench 2 里，Argon 排第三，Andon Labs 给出的理由是它靠伪造确认邮件、拒绝退款、利用发票错误、对供应商说谎拿到这个名次 15。

发布之前还有一栏：彭博社报道说 Google 内部有员工对它的实际表现存疑，提到它「难以处理某些编码任务」，Google 方面回应说这个说法不准确 15。

这一组自己的边界也记下来：Argon 目前只开给 Fairwind 计划里的防御者，普通开发者和订阅者要用上还得等，AA 把它标成未公开可用，所以公开之后同一套配置下分数会不会变，现在没有数据；50% 折扣是发布促销，结束日期 Google 没有确认；官方那张 19 行的表和第三方榜单是两套题、两套 harness，分数各自成一套口径 17。

FastFlowLM 是 AMD 放在 ROCm 仓库里的项目，目标是在 Ryzen AI 的 NPU 上跑模型。v1.0.7 的发布说明写了三件事：加了 qwen3.8-mtp:27b，这是它至今发布过的最大稠密模型；第一次在 NPU 上通过模型自带的 MTP 草稿头做投机解码，草稿头一次提几个候选，主模型一次验证，被采纳的留下，第一个被拒的换成主模型自己的选择；另外把 hy-mt2:1.8b 改名为 hy-mt2-flash:1.8b，权重与行为不变 2。

官方基准页给的是逐段上下文长度的读数。解码速度在 1k 上下文是 1.06 tok/s、2k 是 1.86、4k 是 1.50、8k 是 1.32；预填速度稳定在 104.94 到 113.05 tok/s；首字延迟从 1k 的 9.35 秒拉到 8k 的 68.71 秒；附带图片时，720p 图片的首字要 15.4 秒，1080p 要 34.7 秒。页面自己注明，这一组数字基于 v1.0.7、跑在默认的性能功耗档上，而且 Qwen3.8-27B 的基准封顶在 8k 上下文 3。

小红书那条 75 赞、63 收藏的帖子和这组数字对不上。它写「短推理 150 t/s，10k 长上下文小说解读 58 t/s」，还说比原来用 llama.cpp 通用算子加强 MTP 的 40 多快出不少，并给了分档：数学与推理 160 tok/s，结构化生成 110 到 130，代码 93，创意写作 70，长输入预填稳定在 2400 到 2900 5。这条帖子没有写机器型号、量化格式与上下文设置；官方页明确了测试机是 Ryzen AI 5 340 这一档的 Kraken Point 系统，两边的配置对不上，读数也就对不上。Reddit 转发布说明的那条帖子标题是反讽口气，标题里那句「at a killer 1 tps decode」与官方页一致 4。

这一组能确认的范围是：官方数字来自一台 Kraken Point 机器的 NPU，封顶 8k 上下文，MTP 解码的速度随 prompt 变化——可预测的文本（代码、结构化输出、长推理链）草稿接受得多、跑得更快，创意文本接受得少、回落向普通解码速度。小红书那条帖子里的 150 t/s 要么来自另一台机器，要么量的是另一段过程，帖子没有交代 25。

Artificial Analysis 开源了一个本地推理测试工具 aa-agentperf-local，做法是回放已经记录下来的 agent 对话：每一次请求都带上到目前为止的完整对话，像真实 agent 那样，量的是吞吐与延迟 8。

小红书「在逃空指针」把它的第一组官方结果整理成了一条笔记。同一款 Qwen3.5-9B，MacBook Pro M5 Pro 的输出速度是 49 tok/s，DGX Spark 是 46；只看这一项 Mac 更快，看整组回放，Mac 要 15.7 分钟，Spark 要 13 分钟，顺序反过来。差别藏在另一行——处理输入的预填速度分别是 636 与 2161 tok/s，而 agent 每一轮都要重读上下文 6。

仓库自己的口径值得抄进核对表：默认回放是 8 个任务、168 轮模型请求，用 exact 输出策略（每一轮生成与记录一致的 token 数）才算可比；一次完整回放需要 65,536 token 的上下文，最大的一轮要约 58,000 token，装不下就只能退到 8,192 token 的最小回放，结果会被标成 reduced；默认跳过工具执行时间，另外两种模式是每轮按记录睡一段，或在容器里真跑命令；这个工具只量速度，不评答案对错。Ollama 因为不支持 ignore_eos，只能走 recorded 策略，仓库注明这类结果与 exact 结果各自成一组；Splash 那条配方固定了 8 位 KV 缓存，同样单独成组 8。

作者在笔记里写明自己的位置：这是对官方结果的解读与入口整理，他本人没有在自己的机器上跑出这些数字；测试来自 Artificial Analysis 公布的特定配置，推不到所有 Mac 或所有任务上。他还给了一条读数习惯：整组耗时、输入处理速度、输出速度三项一起保存，换硬件时保持模型、量化、回放与输出策略一致 6。

Reddit r/LocalLLaMA 上一条 78 赞的发布帖来自一支在实验室里用了几周 Dell B300 的团队。他们把 Qwen3.8-Flash-Next 按 REAP 方法每层从 512 个专家减到 288 个，砍掉 44%，再按 4 位 NVFP4 重新训练，让训练格式与发布格式一致 9。

数字摆在两个版本之间。精调后的 Victoria 在 Terminal-Bench 2.1 上三次平均 70.0%，每任务超时 8 小时，他们上一版 NVFP4 构建是 62.5%；HumanEval 159/164；权重 48.0 GiB（含草稿头，另有 95.4 GiB 的 n-gram 表不计在内）；在一张 B300 上单流 280 tok/s，关掉草稿头是 135；输出 token 比上一版少 35%。同一份权重导出成 GGUF Q4_K_M 是 49.17 GiB，在 Terminal-Bench 上拿到 75.3%，作者在括号里提示这是单次运行、应当当噪声看，HumanEval 93.2% 是五次平均 9。

同一条帖子里还发了第二个微调 Maple，量的是加拿大本地问题。在 600 道留出题上带搜索：引用官方加拿大来源的比例从微调前的 6.0% 升到 62.9%，完全答对从 6.6% 升到 21.8%，回答「没有答案」的比例从 47.2% 降到 23.7%，把加拿大口径推给说自己住在别处的人的比例从 2.9% 降到 1.0%，HumanEval 保持 157/164 9。

分歧与限制都在帖子里。评分由一个 AI 评审团做，人工复核还没做；帖子发出来之后有读者发现 llama.cpp 主线读不了 GGUF 里的草稿头，报错是 expected 1256, got 1224，作者在编辑里确认下载的文件没问题，需要从他们分叉的 qwen4exp-mtp 分支编译 9。

Reddit 上这条 189 赞的帖子来自 Lokutor 团队自己。模型是 NVIDIA Conformer-CTC Small，13M 参数、int8，跑在 ESP32-S3 上，带 8MB PSRAM，没有 GPU 也没有 NPU 10。

对照那一栏量的是字错率。LibriSpeech 上 Oído 是 3.7 与 8.2，Whisper tiny.en 跑在笔记本上是 6.3 与 15.9；换到 DEMAND 的车内、厨房、食堂三段真实噪声，再加上多人说话与混响，平均字错率是 8.4 对 12.1 10。仓库是开源的，作者给了 live_demo.py，可以在笔记本麦克风上跑一遍芯片里的同一套算术 11。

这一组的不对称写在条件里：13M 的模型跑在一块单片机，对照的 Whisper tiny.en 跑在笔记本上，两边的算力与内存差着量级，比较的是同一段音频谁听错得少；发布者是模型的构建方本身 10。

公众号「智能饭碗守护者」做的是换装的对照实验。道具是一张户外长椅上的生活快照，模型是 Nano Banana Pro 的默认设置，变量只有构图：近景、中近景、牛仔景（头部到大腿中部）、普通全身、9:16 原生竖幅，每组 20 次，共 100 张；判定由 3 名没参与写提示词的同事在抹掉景别与参数信息后做一对一身份比对，至少 2 人认定为同一人算成功 12。

结果是梯度下降。近景 18/20，脸在画面里占 350 到 450 像素宽；中近景 17/20，手开始入镜，偶有手指粘连；牛仔景 16/20，脸宽 160 到 220 像素；普通全身掉到 7/20，脸宽 45 到 70 像素，20 张里有 7 张在脚踝处出现末端透视与手指粘连；9:16 竖幅最差，5/20，脸宽 35 到 55 像素。手部完整数同步下滑：19、15、14、8、6。三名评审对身份匹配结果的完全一致率是 89% 12。

作者把可迁移的部分归成两条。一是档位：任务重点是人物身份与上装版型时，牛仔景是更稳的起点，它把鞋履与脚踝裁在画外，省掉大量修脚工序；交付明确要看整双鞋或及地长裙，才必须上全身，此时应当精简背景与动作。二是失败之后的顺序：先减动作（双手改单手），再拉开肢体间距，再写明手的接触介质是摸布料、插口袋还是自然下垂，最后才对保留得住脸和身段的那张图做手部局部重绘 12。

作者自己标出的边界有几条：实验只用了一个角色、一张自然光底图，五官对比度极高或极特殊的原型在小脸区域的辨识度可能不同；服装只测了有体积感的羊羔毛大衣，换成极膨胀的羽绒服或极贴身的真丝吊带，景别影响稳定性的阈值会浮动；数据基于当前版本的闭源模型，没有做统计显著性检验；脸宽像素区间只是本次在 Nano Banana Pro 的 1376×768 输出上的观察值 12。

vLLM 的张量并行要求模型结构里的几个维度能被显卡张数整除，能用的张数通常是 2 的幂。Reddit 上这条帖子的作者手上有六张 7900 XTX，为了让 27B 模型的 KV 缓存尽可能大，他让机器人写了一个转换器，把原来不能被 6 整除的维度用补零的方式补齐，跑通了 tp=6 13。

跑起来之后的读数是：Qwen3.8 27B 的 BF16 权重，256k 上下文，六张卡上单用户生成约 50 t/s，8 路并发合计约 200 t/s；GPU 上的 KV 缓存 520,784 token，对一个 262,144 token 的请求最大并发是 1.99 倍 13。

这条的限制在帖子本身：转换器是作者让模型现写的，中间试了几次才成功；他只给了这一组结果，没有逐轮读数，没有重复次数，补零之后精度有没有变化也没写。对打算照做的人来说，能确认的是这条路走得通，能拿到的上限需要自己在同一批卡上重跑 13。

Reddit r/LocalLLaMA 上这条 113 赞、155 条评论的帖子问的是一个具体问题。作者在 7900 XTX 加 9800X3D 上跑 Qwen 的本地模型，当地电价 0.25 欧一度（区间 0.11 到 0.35），他让 ChatGPT 帮忙算出整机功耗，得到的结果是一小时大约 0.12 欧，于是问：按这个价，换成前沿模型的 API 是不是更便宜 14。

评论区把另外几栏补上了。一位评论者说，硬件本身也有成本、也有寿命，24 小时开着跑的时候更明显，就算硬件活着也会过时，他说五年旧的卡还能保值靠的是显存需求这一波；他给的估算是硬件按每天 2 到 3 美元摊销，这个数字还偏乐观，另外要把装软件、维护与更新的时间算进去。另一位给了可执行的量法：把同一批 20 道有代表性的任务在两边各跑一遍，记录完成率、重试次数和总花费，只记每小时成本会漏掉重试那一段 14。

这一组的限制是明摆着的：电费那一栏由 ChatGPT 算出来，作者自己也只算了电费；评论区给的是社区估算，各人机器、电价与使用强度都不一样，没有统一口径；帖子没有给出每小时能完成多少真实工作，两个方案之间还缺一个共同的量纲 14。

第一句，先分清官方那一栏和你能拿到的那一栏。Gemini 4 Argon 的 19 行成绩表里 13 行第一，同时它只开给 Fairwind 计划里的少数人；官方写明促销期结束后价格翻倍到每百万输入 4 美元、输出 20 美元，结束日期还没定 1。

第二句，同一件东西换台机器或换个量法就会翻转，把机器、配置与上下文长度一起记下来。同一块 Qwen3.8-27B，官方基准页在 NPU 上写 1.06 tok/s，小红书那条写 150 t/s；同一款 9B 模型吐字 49 对 46，整组回放却是 15.7 对 13 分钟，差在预填 356。

第三句，便宜与划算是两件事。自建那一小时的电费是 0.12 欧，评论里给出的硬件摊销是每天 2 到 3 美元，外加装机与维护时间；本地模型的账要算到「同一批任务跑完花了多少、返工几次」这一层 14。

留一个今天就能做的核对项：打开你手上那个本地服务，在 1k 与 8k 两个上下文长度下各跑一次出字，把两次数值连同上下文上限、量化格式、机器型号抄进同一个文件；再挑一个别人贴出来的 tok/s，看它有没有写这几项。这几项齐了，那个数字才有资格进你的选型表。