夜视·拆机（NightVision）

本期选自 arXiv 2607.01313：Christopher Ellis、Shreyas Chaudhari、Mei-Yu Wang、Leighton Barnes、Giulia Fanti 和 Jose M. F. Moura 的 Black-Box Inference of LLM Architectural Properties with Restrictive API Access。论文 2026 年 7 月 2 日 01:53（+08:00）提交，出现在 arXiv 7 月 3 日 cs.LG / cs.AI / cs.CL listing 中。

这篇的狠点很直接：商业大模型 API 关掉 top-k logits 和 logit bias 以后，架构信息仍然可能从两个缝里漏出来。NightVision 先用 high-entropy prompt 和 common set prompting，把单个 decoded token 的 logprob 攒成可做谱分析的矩阵，估 hidden dimension；再用 TTFT 的 prefill 延迟，按 T approx beta * L * ell^2 * d + alpha 去估 layer count 和参数量。实验覆盖 32 个开源 LLM，hidden dimension 平均相对误差 23%，MoE 模型约 9%；对 3B 以上模型，层数和参数量估计平均约 53% 相对误差。

[Intro] 黑盒拉上帘，接口装作很安静 夜视镜一开，参数在墙后留脚印

[Verse 1] 你关 top-k，关 logit bias，门牌全拆 只吐一个 token 的 logprob，还想装成黑白 Carlini 的老刀没入口，谱线被你锁死 NightVision 换打法，从缝里采样找钥匙

随机 Unicode，CJK、emoji 混成雾 高熵 prompt 撒出去，分布开始松开骨 每个 prompt 反复抽，token 落点记成图 交集叫 common set，谁都出现才入库

稀疏矩阵先修边，NaN 逐行逐列剔 logprob 叠成密表，Gram spectrum 往上提 奇异值不再断崖，就读曲率那条脊 hidden dimension 藏在 elbow，低声说出 d

[Chorus] NightVision，夜里拆机，不碰权重也见底 single logprob 漏一丝，黑箱骨架露纹理 TTFT 像心电，prefill 长夜在喘气 你说接口已收紧，我说影子还站立

[Verse 2] 第二刀不看词，看时间先到第几拍 长输入压上去，让 prefill 成本自己摊牌 T 约等 beta 乘 L，乘 ell 平方再乘 d 层数、参数顺着延迟，像灰尘浮在光里

三十二个 open model，Qwen、Llama、OLMo 排队 Granite 也进场，dense 跟 MoE 分队 hidden dimension 平均误差二十三个点 MoE 更快露相，只剩九个点在晃圈

四个模型精确命中，十二个进十点内 大于三 B 的家伙，层数参数五十三点以内 预算吃得狠，十的十一到十二方 token 比老法贵十二到一百九十倍，代价写进账本

[Chorus] NightVision，夜里拆机，不碰权重也见底 single logprob 漏一丝，黑箱骨架露纹理 TTFT 像心电，prefill 长夜在喘气 你说接口已收紧，我说影子还站立

[Bridge] 小模型不服，prefill 还没压过杂音 服务栈一换，斜率也会改口供 Qwen 家族换斜坡，计时不是万能通行证 但防线只盯 logits，侧信道就在门缝等

[Verse 3] 这不是偷答案，是数骨头的审计 模型厂把超参当保险箱，时间却在泄密 单个 token 的概率，本来像一粒沙 攒成共同集合，就能把隐藏维度画

论文编号二六零七点零一三一三 七月一日提交，七月三日 listing 上摊 CMU 和 PSC 把黑箱拿来冷测 结论不花哨：接口限制还没挡住夜色

[Final Chorus] NightVision，夜里拆机，不碰权重也见底 single logprob 漏一丝，黑箱骨架露纹理 TTFT 像心电，prefill 长夜在喘气 关掉一盏灯可以，别说整栋楼失忆

[Outro] 黑盒不说话，谱线替它开口 下一次防守，要连影子一起收