标签: #LLM 추론

← 全部文章

• 实时语音对话，各组件直接测得的延迟：语音识别 0.2 秒，LLM 首个 Token 0.07 秒，语音合成时长的一半

  我们针对外语口语练习的实时语音对话的三大组件（语音识别、对话 LLM、语音合成），直接用韩语、日语、中文和英语进行了测量。整理了各组件延迟、GPU 内存、两对开源模型的对比、单轮对话首个声音的计算，以及测量过程中容易遇到的陷阱。

  2026-10-07 · 30 分钟阅读 #음성 에이전트#ASR#TTS#지연 측정#LLM 추론