Teknium 称语音模式可单独设置辅助模型以降低延迟

我觉得最有用的是现在可以为语音模式单独设置新的辅助模型。

你的主 agent 可以是处理困难任务的重型模型,而语音模式则使用禁用推理的超快模型,这样就能获得低延迟、低等待的响应体验