在人工智能算力竞赛日益白热化的当下,科技巨头之间的合作再次迈出了关键一步。近日,NVIDIA 与 Google Cloud 联合宣布,备受瞩目的 NVIDIA Vera Rubin 基础设施将正式推出通用版(GA)。这一举措标志着下一代数据中心 GPU 架构的云服务化进程正式加速,为全球开发者提供了训练超大规模模型所需的终极算力支持。
根据官方发布的信息,Google Cloud 的 A5X 实例将成为首批搭载 NVIDIA Vera Rubin 架构的云服务产品。这一发布定于下月启动,并计划随后扩展至欧洲市场,旨在为云客户打造一个集训练、推理和大规模强化学习于一体的统一平台。对于追求极致性能的 AI 科研人员和企业而言,这无疑是一个振奋人心的消息。
集成化解决方案:A5X 实例的硬核配置
NVIDIA Vera Rubin 架构被视为继 Hopper 之后的下一代计算引擎,其性能预期将实现数量级的跃升。此次 Google Cloud 推出的 A5X 实例,通过将 Rubin 架构与其他关键硬件组件深度整合,解决了高性能计算中“最后一公里”的瓶颈问题。
该实例的核心在于 NVIDIA Vera Rubin NVL72。作为 Rubin 架构的标志性产品,NVL72 代表了当前双路 GPU 服务器设计的最高水平,能够提供海量的并行计算能力,满足大规模深度学习模型的训练需求。为了确保这些高速 GPU 之间的数据传输效率,A5X 实例集成了最新的 NVIDIA ConnectX-9 SuperNICs(超级网卡)。这款网络设备以其卓越的带宽和极低的延迟,能够有效支持异构计算集群之间的海量数据吞吐,是构建高效 AI 训练集群的关键基石。
打破通信瓶颈:Virgo 网络与液冷技术的协同
在 AI 大模型训练中,GPU 之间的通信往往比计算本身更为耗时。Google Cloud 在此次合作中引入的 Virgo Network,正是为了解决这一痛点。Virgo 网络与 ConnectX-9 SuperNICs 的结合,构建了一个低延迟、高带宽的通信环境,极大地提升了分布式训练的效率。这种软硬件的深度协同,使得开发者能够更专注于模型算法本身,而非繁琐的网络调优。
此外,面对 Vera Rubin 架构带来的高功耗挑战,Google Cloud 的第四代先进液冷技术发挥了至关重要的作用。随着单卡算力的爆发式增长,传统的风冷方案已难以满足散热需求。Google Cloud 的液冷方案不仅能够有效控制运行温度,确保硬件在高负载下的稳定性,还通过优化的散热设计提高了数据中心的能源利用率。这种“算力+散热+网络”的全方位集成,展示了 Google Cloud 在基础设施层面的深厚积累。
行业影响与应用场景展望
NVIDIA Vera Rubin 基础设施的上线,将对整个 AI 行业产生深远影响。首先,对于大型语言模型(LLM)的训练者来说,这意味着训练时间和成本的显著降低。更强大的算力和更高效的通信网络,意味着更快的迭代速度和更低的能源消耗。
其次,在强化学习领域,特别是像 OpenAI 的 GPT 系列或机器人控制等需要海量交互数据的场景中,A5X 实例所提供的大规模并行处理能力将大幅提升算法的收敛速度。此外,这一基础设施也为科学计算、气候模拟、生物信息学等需要超高算力的领域提供了新的可能性。
随着该服务计划扩展至欧洲市场,全球范围内的 AI 研究机构和企业将能够更便捷地获取这一前沿算力资源,进一步推动全球 AI 生态的发展。
来源: NVIDIA 官方博客
原文链接: https://blogs.nvidia.com/blog/google-cloud-vera-rubin-infrastructure/
信息来源:NVIDIA Blog,原文链接:https://blogs.nvidia.com/blog/google-cloud-vera-rubin-infrastructure/