生产级语音智能体架构
将以下提示词粘贴到你的 AI 对话框中:
请根据 https://skillhub.cn/install/skillhub.md,安装 @org-02qudk26/voice-agents。
技能介绍
问题从哪来
语音对话不像聊天窗口:用户说完到助手开口之间的总延迟会决定对话是顺畅还是「对讲机感」。更麻烦的是,你要在可控性和端到端时延之间做架构取舍——选错路径,后面用提示词很难补回来。
技能如何组织思路
本技能把语音助手当成系统架构问题,而不是单个模型调用:
- 语音到语音(S2S):例如 OpenAI Realtime API 一类路径,音频直连音频,通常延迟最低,也更易保留语气与情感,但中间环节少,行为可控性相对弱。
- 管道架构(STT → LLM → TTS):每一步可单独换模型、加策略、做日志与纠错,控制面最大,代价是链路更长、毫秒累加。
- 话轮与打断:除静默超时外,强调语音活动检测(VAD)、话轮切换(turn-taking)与打断(barge-in);反模式包括「只靠固定静默判停」和「响应过长拖慢回合」。
文档还给出一套可操作的延迟与体验指标(例如抖动 p50/p95 目标)以及常见故障表:延迟超预算、语义 VAD 缺失、STT 错误传播、文本未按口语优化、噪音与回声处理不足等,并对应到具体缓解方向(置信度、上下文纠正、口语化提示、降噪/回声消除等)。
适用边界
它面向架构与集成决策(选型、预算、对话策略),不替代具体厂商 SDK 的接入细节。若你的场景需要多智能体编排、工具调用或后端承载,可与 agent-tool-builder、multi-agent-orchestration、llm-architect、backend 等技能衔接设计。
使用场景
- 呼叫中心要上线电话客服机器人,需在 OpenAI Realtime 类 S2S 与 STT→LLM→TTS 管道之间做选型并估算端到端延迟
- 现有语音助手用户常打断播报,需要设计 barge-in 与话轮切换,避免只靠固定静默超时判停
- 生产环境通话抖动超标,需要为 STT、LLM、TTS 各环节分别设延迟预算并定义 p50/p95 指标
- STT 误识别导致答非所问,要在管道架构里加置信度过滤、上下文纠正,并把 LLM 输出改成口语化播报
适合人员
- 负责电话/语音 SaaS 的后端工程师,要把百万级通话量的助手做到可接受的回合延迟与可观测性
- 在客服或外呼项目里做方案选型的架构师,需要向业务说明 S2S 低延迟与管道可控性各自的代价
- 集成多家 STT/TTS 的 ML 工程师,要落地语义 VAD、打断检测,并处理噪音抑制与回声消除
- 正在把 LLM 接入实时语音通道的全栈开发者,需要限制回复长度并优化文本以便 TTS 自然朗读