联通利害了：基于800G实现大模型协同训练

无名小足

近日，联通官微发了一则消息，透露了800G的最新进展：

在中国联通临港智算中心成功完成AI大模型300公里分布式协同训练技术验证。通过智算、网络多项创新技术的综合运用，实现了300公里跨域分布式训练等效算力达到单集群的95%以上，跨域带宽收敛比大于16:1。充分验证了跨DC协同训练技术的商用可行性，为AI大模型训练模式提供了全新的解决方案。

本次AI大模型300km跨DC分布式协同训练试点测试包含两大亮点：

第一、创新运用了新一代智算网关设备、精准流控技术和并行方式优化技术，实现广域收敛比不低于16：1。在跨300km协同训练场景下，针对不同广域收敛比对大模型训练效率的验证，通过现网实测数据结果分析，针对广域收敛比为4:1、8:1、16:1的场景，可实现百亿大模型300km分布式训练性能均达到单智算中心训练性能的95%以上，使其具备真正意义上的商用可行性。

第二、采用单波800G实现300km的传输，并验证其超高可靠的能力。本次跨DC拉远通过业界领先的800G光传送解决方案实现超大带宽和300km距离的传输，并进行了多项可靠性功能测试，验证结果表明智算互联需要抗多次故障带宽不下降能力。

消息显示，基于单波800G实现300km的传输。此次应用于分布式训练，也是为800G应用场景提供了参考。

• 在2024年4月，联通就在浙江完成800G传输能力验证，实现了690km的现网传输，并完成了系统容限、传输代价、100G/400G/800G多码型多速率多谱宽混传等关键内容验证。
  
  

目前400G网络已经进入规模商用部署阶段，各家运营商也在积极探索800G的试验、应用。在800G应用于协同训练场景，中国联通走在了行业前列！