跳到正文
热点事件历史事件

SageMaker 上 Kokoro 语音流式合成方案

1 篇报道1 个报道来源11 天前更新

先了解这件事

AI 综述

AWS 机器学习博客介绍了一种在 Amazon SageMaker AI 上托管 Kokoro-82M 文本转语音模型的方案,让 AI 语音智能体按句流式合成:第一句生成后即开始播放,无需等整段回复完成。该模型仅 8200 万参数,可运行在单台 ml.g5.xlarge GPU 实例上,以压低延迟和推理成本。 容器提供 POST /invocations 和 WS /invocations-bidirectional-stream 两条路由,分别对应单次完整输入和跨多条消息的双向长连接。博客同时提示,示例容器固定了存在已知漏洞 PYSEC-2026-2286 的旧版 PyTorch(该漏洞在 torch 2.10.0 中修复),非概念验证用途应先审查并升级版本;若前端已有可用的 SSE 文本管线,可在 SSE 事件中放入 base64 编码音频;为避免持续计费,应按先 agent、后 endpoint 的逆序拆除资源。

AI 根据报道生成 · 11 天前更新

报道时间线

沿着报道,了解事件的不同侧面。

10月23日
  1. AWS Machine Learning Blog
    在 Amazon SageMaker AI 上用 Kokoro TTS 为 AI 智能体流式输出低延迟语音

    在 Amazon SageMaker AI 上托管的 Kokoro-82M 文本转语音模型可让 AI 语音智能体按句流式合成,第一句生成后即开始播放,无需等整段回复完成。Kokoro-82M 仅 8200 万参数,可跑在单台 ml.g5.xlarge GPU 实例上,从而压低延迟与推理成本。容器暴露 POST /invocations 与 WS /invocations-bidirectional-stream 两条路由,分别对应单次完整输入和跨多条消息的双向长连接。