用户说“等一下,我找找订单号”,语音助手该怎么办?在电话里,这十几秒沉默是正常交流的一部分。对按分钟计费的 AI 应用,每天几千次这样的停顿会累积成一笔开销。OpenAI 在 11 月 19 日的 API 更新日志中列出 GPT-Live-1.1,随后在开发者公告里公布了待机设置和价格。这次更新让开发者能同时调整语音表现和等待成本。
说话、倾听和等待可以分开处理
据 OpenAI 介绍,新模型改进了多语言对话中的发音、口音一致性和转写,对逐个念出的字母和数字也有改善。它支持在自己说话时继续听用户说话,并可把复杂任务交给后端处理。例如用户打断助手纠正订单号,应用就有机会先处理更正,再发起查询。真正发出请求前,产品仍需要决定哪些字段值得复述确认。把数字听错一位和把语气词听错,对订单查询的影响相差很大。
待机适用于 GPT-Live-1 和 1.1 的 WebRTC 会话。开发者可把静默超时设为 5 至 60 秒。达到阈值后模型暂停推理,通话连接保持,用户重新开口便可恢复。短阈值适合需要频繁等人翻找材料的任务。若对话本来就有很多短停顿,则应把恢复后的接话体验一并纳入测试。
算一笔十分钟通话的示例账
公告给出的活动费率为每分钟 0.05 美元,待机为 0.02 美元。假设一通十分钟的电话,计费记录显示六分钟处于活动状态、四分钟处于待机状态,则这两部分合计 0.38 美元。若十分钟全按活动费率计算,则为 0.50 美元。两者相差 0.12 美元。这个例子只演示语音会话本身的计算,后端模型与工具调用另计,进入待机之前的等待也不应算作待机时长。
用三段录音验收迁移效果
如果团队已有旧版语音流程,可以录制三段经同意的测试对话。一段逐字报编号,中途纠正一位。一段在两种语言之间切换,同时要求助手保持同一种说话风格。最后一段保留较长静默,再用半句话接续原任务。对同一段输入,分别记下最终写入的字段、用户重复次数和实际账单中的待机时长。
单听合成音色很难发现后端拿到了错误订单号,也无法推算真实费用。对负责接线业务的人,更有意义的问题是用户能否一次完成查询,以及在整个过程中需要纠正几次。新版本是否适合迁移,可以用这两项任务结果与每通成功电话的成本一起判断。
来源:OpenAI 开发者公告

