事件详情
热点事件历史事件
AWS发布TTS自动扩缩容阈值推导教程
1 篇报道1 个报道来源11 天前更新
先了解这件事
AI 综述
AWS Machine Learning Blog 发布教程，介绍如何为 Amazon SageMaker AI 上自托管的文本转语音（TTS）端点推导自动扩缩容目标，不再依赖猜测。方案将 8200 万参数的 Kokoro-82M 以自定义容器部署在实时端点上，用实测的单实例 SLO 内最高并发 Q_max 和一次扩容端到端耗时 T_total，通过算术推导出扩容阈值、缩容阈值和两个冷却时间。 教程要求运行扩容测量前，ml.g5.xlarge 服务配额在基线之上至少留一个空闲槽位。示例容器固定了较早版本的 PyTorch，存在已知漏洞 PYSEC-2026-2286（torch 2.10.0 已修复），教程建议在非概念验证用途前检查并升级。 清理方面，教程不会清空缓存模型权重的 S3 桶或删除存放容器镜像的 ECR 仓库，因为二者可跨模型共享；若不再需要，需手动清空和删除，否则已存储的模型检查点和容器镜像会持续产生少量存储费用。
AI 根据报道生成 · 11 天前更新
最新进展10月23日 00:30
不再靠猜：为 Amazon SageMaker AI 上的 TTS 推导自动扩缩容目标报道时间线
沿着报道，了解事件的不同侧面。
10月23日
- AWS Machine Learning Blog不再靠猜：为 Amazon SageMaker AI 上的 TTS 推导自动扩缩容目标
针对 Amazon SageMaker AI 上自托管 TTS 端点自动扩缩容目标靠猜的问题，该方案将 82M 参数的 Kokoro-82M 以自定义容器部署在实时端点上，用实测的 Q_max（单实例在 SLO 内可承受的最高并发）和 T_total（一次扩容端到端耗时）通过算术推导出扩容阈值、缩容阈值和两个冷却时间。