跳到正文
热点事件历史事件

AWS发布TorchNeuron,PyTorch应用一行配置跑Trainium

1 篇报道1 个报道来源14 天前更新

先了解这件事

AI 综述

AWS 发布开发工具 TorchNeuron,让用 PyTorch 编写的 AI 应用只需改动一行配置即可运行在亚马逊自研芯片 Trainium 上,无需重写代码。亚马逊称约 85% 的 AI 应用用 PyTorch 编写,而 Nvidia 多年来让 CUDA 无缝支持 PyTorch,使其硬件默认嵌入这套工具链。 TorchNeuron 改编自 PyTorch,熟悉 PyTorch 的开发者可直接上手。AWS 表示 Trainium 同一芯片兼顾训练与推理,并与云基础设施集成;语音应用厂商 Deepgram 迁移后每美元处理的音频量提升 70%。亚马逊还称将推动 PyTorch 减少对 Nvidia 的默认绑定,并把相关代码贡献给 PyTorch 主项目。

AI 根据报道生成 · 14 天前更新

报道时间线

沿着报道,了解事件的不同侧面。

10月20日
  1. TechCrunch · AI
    AWS 发布 TorchNeuron 开发工具,让 PyTorch 应用改一行配置即可跑在 Trainium 上

    AWS 周一发布开发工具 TorchNeuron,让用 PyTorch 编写的 AI 应用只需改动一行配置就能运行在亚马逊自研芯片 Trainium 上,无需重写代码。亚马逊称约 85% 的 AI 应用用 PyTorch 编写,而 Nvidia 多年来让 CUDA 无缝支持 PyTorch,使其硬件默认嵌入这套工具链。TorchNeuron 改编自 PyTorch,熟悉 PyTorch 的开发者可直接上手;AMD GPU 和 Apple 芯片此前也支持通过简单配置迁移。AWS 表示 Trainium 同一芯片兼顾训练与推理,并与云基础设施集成,语音应用厂商 Deepgram 迁移后每美元处理的音频量提升 70%。