OpenAI全面开放Decisions API 决策延迟降至100毫秒

OpenAI正式向所有客户开放Decisions API，该服务专为快速决策场景设计，将处理时间从1-3秒缩短至100-180毫秒，直接参与决策模型市场竞争。

该API基于重新配置的ChatGPT Luna模型，通过优化推理延迟和使用成本实现性能提升，而非专门训练独立决策模型。

测试显示，在Box、Datadog等企业应用中，API显著提升了处理吞吐量。语言学习应用Speak将操作间隔从1.4秒缩短至0.13秒，OpenAI也用于提升Dots语音助手的响应速度。

决策模型能够快速作出选择并提供置信度评估，有望替代部分传统大语言模型的逻辑判断功能。目前市场上Jev、Liquid的D1Ultra等产品均在竞争。

公开基准测试中，最新Jev模型在两个决策模型指数中分别排名第七和第三，OpenAI模型则位列第八和第十四。随着多模态能力和推理速度提升，决策模型将拓展实时交互等应用场景。