MIT Technology Review · AI· Tim Rausch·· 3 小时前AI 评分29
AI 的隐形成本账单:模型推理留下了什么
AI’s hidden storage bill: What inference leaves behind
AI 导读
企业在规划 AI 基础设施时往往忽视持续推理带来的海量数据存储成本。WD 测算显示,生成一段 8 秒(3.97MB 720p)视频会在后端产生超 500MB 日志与缓存等关联数据,达到输出文件大小的 130 倍。麦肯锡预计到 2030 年 AI 推理需求 CAGR 将达 35%,促使企业必须重新规划能支撑 RAG 与快速归档调用的分层存储架构。
来源:MIT Technology Review · AI · technologyreview.com