Inferock Bench：先看账单，再谈哪个模型强

Inferock Bench 于 2026 年 8 月 15 日在 Product Hunt 上线，定位是一个本地 LLM 成本追踪代理：它让调用经过 localhost，再记录 provider 报告的用量、价格证据、状态、耗时、重试和异常信号。12

它最值得试的地方，是把「这次失败请求花了多少钱」变成一条可复核的本地记录。官方 README 明确写了四类已测 provider plane：OpenAI、Anthropic、Gemini Developer API，以及固定的 OpenRouter 端点；绕过本地代理的流量、没有对应发票的整月账单，不在它能证明的范围内。2

最短上手路线是：准备 Node.js 22+，运行 npx inferock-bench；打开本地 dashboard 保存 provider key；先用 npx inferock-bench test 看预计 token、金额和 spend cap，再把 SDK 的入口改到 localhost。仓库还提醒，经过 benchmark 的请求会产生真实 provider 用量，第一轮应该使用低额度或开发者 key。2

成本上，它本身是本地工具，却不会替你支付模型调用费；它把 key、receipt 和失败证据留在本地。想要团队级网关与线上成本观测，看 Helicone；想把 trace、observation、session 接入应用链路，看 Langfuse。3456

我的首测会用一把低限额 key、三个短 prompt 和一次故意失败的请求：先看 receipt 能否把状态、耗时、token 与重试线索连起来，再决定要不要把它放进日常开发流量。