随着人工智能技术的飞速发展，算力的竞争已从单纯的“堆砌硬件”转向了“优化架构”与“提升能效”。在近日于美国圣克拉拉举行的 AI Infra Summit 上，NVIDIA 高性能计算副总裁 Ian Buck 深度剖析了这一行业变革。他指出，AI 数据中心的运作模式正在发生根本性转变，正逐渐演变为一种高度标准化的“AI 工厂”。在这场吸引了超过 8000 名参会者、规模较去年增长一倍以上的技术盛会上，Buck 重点介绍了备受期待的下一代 GPU 架构——Vera Rubin，以及全新的 DSX（数据中心超级集成）平台，旨在通过极致的“每瓦特代币数”优化，解决 AI 部署中的能源瓶颈。
在演讲中，Ian Buck 阐释了“AI 工厂”这一概念。与传统的服务器集群不同，AI 工厂强调的是一种流水线式的生产模式，其中核心指标不再是单纯的峰值算力，而是Tokens Per Watt（每瓦特代币数）。这一指标直接反映了 AI 模型在处理任务时的能效比，即在消耗最少量电力的情况下，产生最多的有效输出。对于训练和运行大型语言模型（LLM）的企业而言，这不仅是降低运营成本的关键，更是应对全球能源危机、实现绿色计算的核心路径。
作为 Vera Rubin 架构的基石，NVIDIA 下一代 GPU 将在内存带宽和能效比上实现突破。Buck 揭示，Vera Rubin 将采用更先进的封装技术和高带宽内存（HBM），以打破当前 AI 训练中的“内存墙”限制。这意味着，在处理复杂推理任务时，新架构能够以更低的延迟和更少的功耗完成计算。这一进步对于构建可持续的 AI 工厂至关重要，因为它直接决定了大规模 AI 部署的可行性与经济性。
除了单点硬件的升级，Ian Buck 还强调了系统级优化的重要性，即 DSX 平台的应用。DSX 代表了数据中心超级集成，它通过缩短 GPU、CPU、内存和加速器之间的物理连接距离，极大地提升了数据传输效率。在 AI 工厂中，数据吞吐量是生命线，DSX 平台通过减少线缆、降低信号干扰和延迟，使得整个系统能够像一台精密仪器一样高效运转。这种从芯片到系统的全栈优化，正是 NVIDIA 在 AI 基础设施领域保持领先优势的秘诀。
此次 AI Infra Summit 的热潮也折射出整个行业的焦虑与机遇。随着 AI 应用场景的落地，数据中心的能耗已成为限制发展的主要因素之一。NVIDIA 通过展示 Vera Rubin 和 DSX 平台，不仅是在展示产品，更是在为行业提供一套解决方案：即如何通过技术创新，在提升 AI 性能的同时，将环境影响降至最低。这标志着 AI 基础设施建设正迈向一个更加成熟、高效和可持续的新时代。
信息来源：NVIDIA Blog，原文链接：https://blogs.nvidia.com/blog/ai-infra-summit-vera-rubin-dsx-energy-efficiencies-tokens-per-watt-ai-factories/
封面图片来源：Unsplash / 摄影师 Brecht Corbeel
