OpenAI宣布全面开放Decisions API 基于GPT-6 Luna构建,响应速度提升10倍 - 果核剥壳

10月23日消息,OpenAI宣布全面开放决策API(Decisions API),将该端点从公开测试阶段转为正式可用。

据介绍,该API基于GPT-6 Luna构建,将Luna的模型智能聚焦于具有限定答案的问题,协助应用程序与智能体基于文本、图像及结构化输入做出准实时决策——其响应速度比通过Responses API调用GPT-6 Luna提升了高达10倍。

OpenAI宣布全面开放Decisions API 基于GPT-6 Luna构建,响应速度提升10倍

定价方面,决策API输入每百万token收费0.1美元(现汇率约合0.67元人民币),命中缓存的输入每百万token收费0.01美元(现汇率约合0.067元人民币)。该API仅按输入token计费,输出token免费。在整个OpenAI,团队正在将决策API应用于产品和业务工作流。

OpenAI表示,自公测以来,该功能新增了原生的GPT-Live集成、针对复用上下文的Prompt缓存,以及在美国和欧盟的推理数据驻留支持。开发者侧的新增能力包括:现已支持传入原生JSON输入、在问题指令中包含图像,并在单次请求中最多提交400个问题(为此前上限的两倍)。OpenAI称持续优化了延迟表现,包括在亚洲多个地区扩充了服务容量。

根据OpenAI开发者文档,该API目前仅支持gpt-6-luna模型,支持三种问题类型:predicate返回条件为真的概率;choice从开发者预定义选项中选择并返回各选项概率及置信度;score按2-10个有序评分等级评估并返回概率加权平均值。文件、音频等输入类型暂不支持,依赖前序答案的决策需单独发起请求。

OpenAI自家团队已将该API用于多个场景:dots团队用于降低响应时间并提升交互性,个人财务团队用于分类交易描述,传播团队用于按主题分类报道、评估报道是支持还是挑战关键叙事。客户方面,Box报告在30个保险证明案例中路由速度提升5倍且准确率持平;Datadog用它对Agent生成的shell命令进行执行前风险评分,p95延迟比可用前沿模型快40倍;Sierra在实时客服对话中用其选择下一步动作,p95延迟低于280毫秒,单次调用成本较此前方案降低90%。

 

如果您喜欢本站,点击这儿不花一分钱捐赠本站

这些信息可能会帮助到你: 下载帮助 | 报毒说明 | 进站必看

修改版本安卓软件,加群提示为修改者自留,非本站信息,注意鉴别

赞 (0)
上一篇 2小时前
下一篇 2小时前

相关推荐

发表回复

评论问题之前,点击我,能帮你解决大部分问题

您的电子邮箱地址不会被公开。 必填项已用*标注