搬回家只掉 1.5 分、一条 5 秒片 62 秒到 17 分钟、658 个字错 41 个

一、同一份权重，三个地方，三个分数

二、他把「够用」画在 150 tok/s 以上

三、一张 5080 上，27B 从 56.8 到 104

四、同一条 5 秒 480p 有声片，四台机器

• RTX 5090：61.9 秒，三次均值 5
• DGX Spark：192.0 秒，三次均值 5
• RTX 3090：约 16.9 分钟，不含每次约 7 分钟的模型加载 5
• M5 Max 64GB：19.5 分钟，单次 5

五、同一张消费卡，36 秒到 22 分钟

六、658 个字错 41 个

七、52/52 全召回，44 个空例一个没对

顺带

• 今天早上六点十七分，r/LocalLLaMA 上有人把 Swift-1.5 版 Qwen3.8-27B 量化成 hipfire 的 MQ4 格式，绑上 MTP 头做投机解码：RX 7900 XT 20GB、ROCm 7.1，同一份微调的 Q4_K_S GGUF 跑 llama.cpp 作基线。预填快 1.4–1.85 倍，16K 上下 1,100 tok/s 对约 700；带 MTP 解码 36.5 tok/s（接受长度 τ≈1.94），16–49K 区间 52–59；六个真实 Rust 编码任务、每题 1–2 万 token 的提示，整套 237 秒对 530 秒，2.24 倍。8K 上下文占约 17.5GB；49K 是他推荐的日常设置，再往上要往内存分层，解码掉到 16–31 tok/s。限制写在帖子里：需要 hipfire 运行时 0.4.2.1 以上，.mq4 文件 llama.cpp 读不了，只在一张 gfx1100 上验过；未微调的基座在 hipfire 上反而略快1011。
• 今天上午十一点五十六分，另一条帖给了同一个模型在旧平台上的波动：3950X、96GB DDR4-3000、7900 XTX 24GB 加 W6800 32GB 共 56GB、PCIe 3 的 NVMe，DeepSeek V4.1-1017 用 IQ2 权重加 Q6 ngrams 约 350GB，Dspark 开着。峰值 19 tok/s，常年 13，会掉到 3 再爬回来，长提示跑完平均 9，预填约 150；同一主题有的提示 15 tok/s，有的 3–5。他说这模型比自己在跑的 Qwen3.8-Flash-Next IQ4_XS 聪明，就是太爱想12。
• 昨晚七点五十八分，一条 16GB Mac mini 的笔记把「等十几秒」拆开了：qwen3:8b 回了 318 个 token，其中 284 个是它自己的思考草稿；关掉思考后 34 个 token、1.3 秒，开思考是 12.0 秒，两边的解码速度都是 27 tok/s。命令行的办法是问句后加 /no_think，API 是请求体带 "think": false13。
• 昨晚十一点五十三分，一位做 IoT 安全的人给了一个反向读数：灰盒渗透测试里做了静态二进制逆向、拿到设备 root shell、测了在跑的网络服务，解码 tok/s 都碰不到瓶颈，卡住的是工具调用——想一步、调一次工具、再看结果。他用两台 DGX Spark 跑 GLM 5.3 Flash，这轮在现场找出了一个 IoT 设备的漏洞14。

在你自己机器上，先核这四样

1. 先问那个分数是在哪一层拿到的。同一份权重，换引擎、换量化档、换模板，Akita 那栏能从 +8 分摆到 −67 分1。
2. 写速度时把单位写全：是 tok/s、是整条片子的墙钟、还是每轮等待。同一条 5 秒片能从 36 秒到 22.1 分钟6。
3. 一条片子加一张参考图，token 大约翻倍；先量一张，再决定加不加第二张5。
4. 看到「全召回」先找空例那一栏。记忆系统多写一条，代价比漏一条大8。