英伟达提出AI内存全栈协同设计方案 Vera Rubin平台每GPU内存容量仅增约3% 推理吞吐量提升最高30倍

财经通是一个免费的中文多源财经快讯聚合站，7×24 小时把财联社、华尔街见闻、新浪财经等 12 家主流财经媒体的快讯汇集到同一条时间轴，按时间排好、去掉重复，覆盖宏观经济与央行政策、 A股、港股、美股、债券、外汇、大宗商品和加密货币。

2026年11月6日 00:06（北京时间）的财经快讯。

  1. 行业 / 信息技术

    【英伟达提出AI内存全栈协同设计方案 Vera Rubin平台每GPU内存容量仅增约3% 推理吞吐量提升最高30倍】

    英伟达11月5日发布文章称，随着AI模型规模扩大、上下文窗口延长以及智能体应用普及，GPU内存压力持续上升，HBM供应趋紧、价格上涨。英伟达提出通过GPU、CPU、网络、存储及软件协同设计，提高内存使用效率，而非单纯增加GPU内存容量。 具体来看，英伟达通过NVFP4低精度格式压缩模型权重和KV Cache，将暂时不活跃的上下文转移至成本更低的存储层，并利用多GPU分布式部署释放HBM空间。 英伟达披露，在SemiAnalysis AgentX测试中，GB300 NVL72在特定工作负载下的单位成本推理吞吐量最高达到H200平台的10倍；Vera Rubin NVL72相较GB300 NVL72，单位成本推理吞吐量最高提升30倍，而单GPU HBM容量仅增加约3%。

    来源：财联社