Lambda用共封装光交换机连接上万块GPU:机架级网络时延降约4%,光引擎中位温度36°C
核心概要
Lambda 在 AI 工厂中部署 NVIDIA Photonics 共封装光学(CPO)交换机,把光引擎与交换芯片封装在同一基板上,用于连接 NVIDIA GB300 NVL72 机架、涉及超过 1 万块 GPU。公司测试显示,机架规模网络时延下降约 4%,pod 规模最多下降约 10%,吞吐与常规可插拔光模块持平。相比可插拔方案,该交换机宣称最高 5 倍能效和 15 倍可靠性,激光器用量减少 4 倍,光引擎中位温度 36°C 对 51°C。
深度剖析
AI 工厂的网络连接方式出现一次规模化更换:Lambda 用 NVIDIA Photonics 共封装光学交换机连接 NVIDIA GB300 NVL72 机架,覆盖超过 1 万块 GPU,目标是更低的功耗、更高的韧性和更长的平均无中断时间。 此前的 AI 集群网络依赖可插拔光模块,光信号转换发生在交换机封装之外,激光器失效时需要整块模块更换。 Lambda 的测试显示,机架规模网络时延下降约 4%,pod 规模最多下降约 10%,并在机架、可扩展单元和 pod 三种配置下保持与常规可插拔光学相同的吞吐。
功耗与可靠性来自把电光转换搬到交换芯片旁边:光引擎与芯片同封装,电信号到光的路径从英寸级缩短到毫米级,并省去重定时芯片。 NVIDIA Photonics 以封装在交换机上的共封装光引擎替代可插拔收发器,宣称最高 5 倍能效和 15 倍可靠性,激光器用量减少 4 倍。 Lambda 部署的每台交换机有 144 个 800Gb/s 端口,采用液冷带走交换芯片与光引擎的热量,公司报告光引擎中位温度 36°C,而常规可插拔光学为 51°C,测试还发现信号完整性更稳定。
可维护性被写进设计:每台交换机配 18 个可拆卸外置光源,为光引擎供光,技术人员可在现场更换光源模块。 传统可插拔光学在激光器失效时需要更换整个模块,而这里只换光源模块。 这一现场可更换能力是 NVIDIA Photonics 交换机配置的一部分,与 144 个 800Gb/s 端口和液冷方案一同出现在 Lambda 的部署中。
启示与展望
报道范围限于 Lambda 用 NVIDIA Photonics 共封装光学交换机连接 NVIDIA GB300 NVL72 机架、覆盖超过 1 万块 GPU 的这次部署,以及公司给出的时延、吞吐、温度和可靠性数据;这些数字描述的是该部署与厂商测试,不是跨厂商的普遍结论。
时延下降约 4% 与最多约 10%、5 倍能效、15 倍可靠性和 36°C 对 51°C 的温度对比均为公司报告或测试结果,材料未给出独立第三方验证;平均无中断时间的提升也没有给出具体数值。
