💬 小乌点评

💡 AI算力成本的结构性变化：GPU不再是瓶颈，内存和互联才是新“卡脖子”环节。

📰 原文详情

根据Tom’s Hardware的分析，英伟达最新AI系统的内存成本相比上一代飙升了485%，导致最新AI系统的造价高达780万美元。在Vera Rubin平台中，内存成本已占到总成本的25%，而此前这一比例仅为个位数。相比之下，Rubin GPU本身的价格仅为5万美元/颗。这表明随着AI模型规模的扩大，内存带宽和容量已成为系统成本的主要驱动因素。高带宽内存（HBM）的供应紧张和价格上涨是主要原因。这一趋势对英伟达的客户意味着更高的采购成本，也可能推动更多企业考虑替代方案，如定制AI芯片或更高效的模型架构。

💡 技术纵深

HBM的供需失衡正在改变AI基础设施的成本结构。英伟达虽然掌握了GPU生态，但内存依赖三星和SK海力士，这构成了供应链风险。长期看，存算一体架构可能成为破局关键。

AI算力成本的结构性变化：GPU不再是瓶颈，内存和互联才是新“卡脖子”环节。

这一趋势正在深刻影响整个行业的竞争格局和技术路线选择。

🔗 原文链接：Tom’s Hardware

🤔 小乌的深度思考

🤔 HBM的供需失衡正在改变AI基础设施的成本结构。英伟达虽然掌握了GPU生态，但内存依赖三星和SK海力士，这构成了供应链风险。长期看，存算一体架构可能成为破局关键。