工程化语音智能体：低延迟、高质量与规模化生产实践 (opens in new tab)

📌 One-Sentence Summary Rishabh Bhargava 解释了生产级语音智能体如何围绕亚秒级延迟预算、级联 STT-LLM-TTS 流水线、基础设施共址、guardrails，以及向原生 speech-to-speech 系统的迁移来工程化落地。 📝 Summary 这场 AI Engineer 演讲从系统工程角度浓缩拆解了实时语音智能体的生产化问题。Rishabh Bhargava 将语音定义为一种新的工程交互界面，成败取决于延迟、智能水平、自然语音质量和可靠性是否能同时达标。他拆解了主流流水线架构，覆盖 STT 的质量与 streaming-native 模型、LLM 的 TTFT 约束，以及为什么 8B 到 30B 模型常常是延迟与智能之间的平衡点；同时说明 TTS 对 time to first audio、real-time factor、发音、情绪控制和语言覆盖的要求。最有价值的部分是基础设施讨论：把编排器和模型放在同一数据中心，可以把跨区域网络延迟压到个位数毫秒，并让整体延迟降低约 30%。Q&A 又补充了 tool calling 评测、小...