热点事件历史事件

AI推理后端数据成隐性存储成本

1 篇报道1 个报道来源11 天前更新

先了解这件事

AI 综述

WD内部测量显示，一段8秒、用户端仅3.97MB的720p视频，在AI推理结束后于后端留下超过500MB的日志、缓存上下文、即时渲染、备份和安全记录，是输出文件大小的130倍。这一差距指向推理产生的后端数据正成为被低估的基础设施成本。 McKinsey预计到2030年AI推理需求年复合增长35%，高于训练的22%，届时将占数据中心总需求四成以上。WD委托IDC对763名IT与业务决策者的调查显示，近95%受访者称过去12个月生成式AI带来数据量增长，约61%增幅达25%或以上；96%预计需要更快的归档检索来支持推理或RAG。

AI 根据报道生成 · 11 天前更新

最新进展10月22日 16:41

AI 的隐性存储账单：推理结束后留下了什么

报道时间线

沿着报道，了解事件的不同侧面。

10月22日

16:41
MIT Technology Review · AI
AI 的隐性存储账单：推理结束后留下了什么
AI 推理产生的后端数据正在成为被低估的基础设施成本。WD 内部测量显示，一段 8 秒、用户端仅 3.97MB 的 720p 视频，在后端留下超过 500MB 的日志、缓存上下文、即时渲染、备份和安全记录，是输出文件大小的 130 倍。McKinsey 预计到 2030 年 AI 推理需求年复合增长 35%，高于训练的 22%，届时将占数据中心总需求四成以上。WD 委托 IDC 对 763 名 IT 与业务决策者的调查显示，近 95% 受访者称过去 12 个月生成式 AI 带来数据量增长，约 61% 增幅达 25% 或以上；96% 预计需要更快的归档检索来支持推理或 RAG。