MIT Technology Review · AI· Tim Rausch·· 11 天前AI 评分25
AI 的隐性存储账单：推理结束后留下了什么
AI’s hidden storage bill: What inference leaves behind
AI 导读
AI 推理产生的后端数据正在成为被低估的基础设施成本。
摘要与补充说明
WD 内部测量显示，一段 8 秒、用户端仅 3.97MB 的 720p 视频，在后端留下超过 500MB 的日志、缓存上下文、即时渲染、备份和安全记录，是输出文件大小的 130 倍。McKinsey 预计到 2030 年 AI 推理需求年复合增长 35%，高于训练的 22%，届时将占数据中心总需求四成以上。WD 委托 IDC 对 763 名 IT 与业务决策者的调查显示，近 95% 受访者称过去 12 个月生成式 AI 带来数据量增长，约 61% 增幅达 25% 或以上；96% 预计需要更快的归档检索来支持推理或 RAG。
此来源暂仅展示摘要。