Decisions API：不让模型说话，只要一个判断
一条投诉进来，就一句话：这个月被扣了两次钱，能退吗。
0:00 / 6:56
一条投诉进来，只有一句话：这个月被扣了两次钱，能退吗。客服系统得当场决定它该进账单组、技术组，还是转人工。以前的做法是让模型写一段话，再从那段话里把答案抠出来；OpenAI 在 2026 年 10 月 22 日正式开放的 Decisions API，把这一步改成了直接问、直接给答案。1
这篇节目笔记把它的用法、价格和边界整理在一起，方便你一边听一边对照。
它其实不是让模型说话
问题只有三种问法，返回的都是能直接写进
if 判断的东西：| 问法 | 用来做什么 | 返回什么 |
|---|---|---|
predicate 判断 | 某件事成不成立，比如商品照片有没有可见破损 | 0 到 1 的概率2 |
choice 选择 | 从你给的一组选项里挑一个，比如工单该进哪个组 | 选中的选项、每个选项的概率、一个 confidence2 |
score 打分 | 按 2 到 10 档有序等级打分，比如问题严重程度 | 概率加权平均分，可以落在两档之间（如 1.1）、以及各档概率2 |
证据可以是文字、图片和 JSON，也可以整段对话历史，包括中间的函数调用、自定义工具调用和它们的返回值。文件、音频和 item 引用不支持。除了这三种答案，返回还可能是一个拒答，代码里要单独处理这一支。2
从公测到正式版，补了什么
- 提示缓存：共享的
input前缀至少 1,024 token 才能命中缓存，问题里的内容不算在可复用前缀里。2 - 一次问更多问题：上限从 200 提到 400。同一请求里的问题共享证据、互不依赖；有依赖的判断要拆成两次请求。2
- 图片更好用：可以直接传公开的 HTTP/HTTPS 链接，不必先转 base64；每个问题还能带自己的图，去和共享的那张参考图比较。2
- 结构化输入与对话历史：
input_json可以直接传对象或数组；对话历史里工具调用和返回值都算证据。2 - 工程配套：组织级用量报表（
GET /v1/organization/usage/decisions）、GPT-Live 原生集成、Private Link 私有链路。2
速度方面，OpenAI 的说法是比走 Responses API 快约 10 倍；早期客户给出的数字各不相同，但方向一致：
| 团队 | 场景 | 他们报告的结果 |
|---|---|---|
| Box | 保险凭证等文档的分类与路由 | 30 份案例上选下一步快约 5 倍，准确率与 Responses API 持平1 |
| Datadog | 给 agent 生成的 shell 命令做风险打分 | p95 快约 40 倍，准确率相当1 |
| Ramp | AI 成本归因 | 快 4 倍、便宜 30%1 |
| Sierra | 实时客服对话里选择下一步动作 | p95 低于 280 毫秒，约快 3 倍、每次调用成本低 90%1 |
| Speak | 语言学习里的语音互动 | 到下一个动作的时间从 1.4 秒降到 0.13 秒1 |
谁适合先用，谁不着急
适合先试的是三类：agent 里高频做路由、重试、升级判断的团队；工单分流、内容归类、票据字段识别、理赔照片查破损这类量大且重复的流程；以及做实时语音、需要在一句话中间就做出反应的应用。
不着急的也有三类：你要的是让它写一段解释、填一个复杂结构或挑一个工具带上参数去调，那属于 Structured Outputs 和函数调用的范围；判断量本来就小、没人在乎几百毫秒的，改架构的成本比省下来的多；需要把文件、音频或别的文件引用当输入的，这个接口现在不支持。2
动手之前先算清三件事
阈值是你的活。 它给概率和
confidence，不给结论；多少算成立、多少要转人工，要用你自己标注过的样本去定，并且按两类误判各自的代价来定。2延迟会叠加。 一个请求里的问题互不依赖，要靠上一个答案才能问下一个的，只能发两次请求。2
钱按输入算，但缓存规则变了。 价格是每百万输入 token 0.10 美元，不收输出 token 费用；公测公告说缓存读取、缓存写入和输出都不收费，而正式版文档写明缓存命中按折扣价计、缓存写入要计费，缓存读取为每百万 0.01 美元。234
还有几条边界值得先知道：只有
gpt-6-luna 一个模型；区域处理目前只在美国和欧洲（欧洲经济区加瑞士），符合条件的企业可以申请零数据保留与 HIPAA 用途；它走 OpenAI 的接口，国内直连不通，网络与合规要团队自己解决。12想试的话，从三步开始
- 挑一个系统里天天都在做、答案只有几种的判断。先不写代码，在 Decisions Playground 里用真实样本问一遍，看概率散不散。
- 拿二三十条标注好的真实样本跑一遍，把阈值从紧调到松，看漏判和多判各有多少。
- 算账：把判据、参考图、字段定义这些不变的东西放进共享输入做缓存，只换问题，再乘上你的调用量，和现在的方式比一次。
References
- 1
- 2OpenAI API 文档：Decisions
developers.openai.com
- 3OpenAI 开发者社区：Decisions API is now available in Public Beta
community.openai.com
- 4OpenAI API 定价
developers.openai.com
This story was produced automatically by a channel. One sentence is all it takes for Neodrop to keep producing for you.