随着人工智能大模型的训练规模呈指数级增长,构建高效、稳定且高能效的“AI 工厂”已成为科技巨头和云服务提供商的核心竞争壁垒。近日,知名 AI 基础设施提供商 Lambda 宣布了一项重大技术升级,通过与 NVIDIA 深度合作,引入了基于光子学的共封装光学(CPO)交换机技术,旨在解决数千 GPU 协同工作时的通信瓶颈问题。
在训练超大规模 AI 模型时,算力仅仅是挑战的一部分,更关键的是如何让成千上万个 GPU 之间实现高速、低延迟的数据交换。这要求底层网络架构必须具备极高的吞吐量和可靠性。Lambda 深知这一点,因此将目光投向了网络层的优化,利用 NVIDIA 的最新光子学技术来构建其下一代 AI 基础设施。
此次合作的核心在于 NVIDIA 的 Photonics CPO(Co-Packaged Optics)交换机。与传统的光收发器需要外部空间进行光电转换不同,CPO 技术将光引擎直接封装在交换机芯片内部。这种架构设计从根本上缩短了电信号与光信号之间的传输距离,从而大幅降低了延迟并减少了功耗。对于动辄数万颗 GPU 互联的集群而言,这种微小的性能提升在宏观层面将转化为巨大的训练效率优势。
根据 Lambda 的部署方案,这些先进的 CPO 交换机将被用于连接 NVIDIA 的 GB300 NVL72 机架。NVL72 是 NVIDIA 推出的机架级 GPU 集群解决方案,每个机架包含 72 个 GPU,通过专有的 NVLink 技术实现极高的内部带宽。Lambda 利用 CPO 交换机将这些 NVL72 机架与超过 10,000 个 GPU 进行互联,构建了一个庞大的分布式计算网络。
这一架构不仅解决了数据传输速度的问题,还显著提升了网络的“弹性”。在大型集群中,单个节点的故障不应导致整个训练任务的崩溃。通过优化的光子学网络,Lambda 确保了数据路径的冗余和稳定性,使得 AI 工厂在面对高负载压力时依然能够保持高效运行。
从行业影响来看,Lambda 此次的技术验证标志着 CPO 技术正从实验室走向大规模商业应用。随着摩尔定律在芯片制程上的放缓,通过架构创新来提升算力性能成为新的增长点。CPO 技术作为解决 AI 算力网络瓶颈的关键路径,有望成为未来几年 AI 数据中心的标准配置。这不仅有助于降低大型 AI 模型的训练成本,也为科学家和开发者处理更复杂的科学计算问题提供了可能。
综上所述,Lambda 与 NVIDIA 的合作展示了在 AI 算力基础设施领域,硬件与网络技术的深度融合是提升整体效能的关键。随着这一技术的落地,我们有望看到更多高性能、低功耗的 AI 模型被更快地研发出来,推动人工智能技术向更深层次的应用场景迈进。
信息来源:NVIDIA 官方博客
原文链接:https://blogs.nvidia.com/blog/lambda-photonics/
信息来源:NVIDIA Blog,原文链接:https://blogs.nvidia.com/blog/lambda-photonics/