硅光子与CPO技术或将破解AI工厂数据传输瓶颈
随着AI模型规模不断扩大,数据传输效率成为决定AI工厂性能的关键,硅光子与CPO技术正成为突破传统铜线传输瓶颈、降低功耗的核心方案。
随着AI模型规模扩大,传统铜布线带来的功耗与发热问题正成为扩展障碍。通过将光引擎直接配置在交换机ASIC旁边的CPO技术,有望使光连接部分的功耗较传统插拔式方式降低约65%。
在AI时代,竞争力并不单纯取决于单个GPU(图形处理器)的运算速度,而在于数据移动的效率。即便拥有极速运算芯片,如果承载数据的通道狭窄,整个系统也会陷入等待状态。近期,决定AI数据中心(即“AI工厂”)性能的核心变量——将电信号转换为光信号的“硅光子”技术与“CPO(共同封装光学)”技术正备受瞩目。
阻碍GPU运算速度的“数据瓶颈”现象
在训练大规模AI模型时,无数个GPU需要共享同一个模型,并不断交换计算结果与数据。此时,尽管GPU自身的计算能力强大,但如果从内存获取数据或在GPU之间传递数据的通道不足,就会产生瓶颈现象。这好比即便工厂集群配备了最先进的设备,但如果连接工厂之间的道路狭窄,导致原材料和成品无法及时移动,整体效率也会受限。
迄今为止,半导体间的连接主要依赖通过“铜布线”进行的电信号传输。铜在短距离内效率很高,但随着数据传输速度加快和距离增加,信号会表现出减弱的特性。为了恢复减弱的信号而使用中继器(Repeater)等设备会消耗额外电力,进而导致巨大的发热量和散热负担。随着AI模型变得愈发庞大,铜布线的功耗与发热问题正成为阻碍AI工厂扩展性的决定性障碍。
在芯片上铺设光路:硅光子与CPO
为了克服上述限制,硅光子技术应运而生。该技术利用现有的半导体制造工艺,在硅芯片上实现光线流过的微细通道——“光波导”。通过波分复用(WDM)技术,可以将多种波长的光加载到单根光纤中传输,从而大幅提升传输容量。
由于硅材料并不利于直接产生光,该技术主要采用通过外部激光光源(ELS)提供光照的方式。而将此技术发挥到极致的便是共同封装光学(CPO)。传统方式中,交换机芯片与光模块是分离的,电信号必须在基板上长距离移动;而CPO将光引擎直接配置在交换机ASIC(专用集成电路)旁边,通过将数据移动的电信号区间最小化,并利用光纤连接长距离区间,从而提高带宽密度并降低功耗。
事实上,Meta表示,在2025年欧洲光通信学术会议(ECOC)上对CPO交换机系统进行评估的结果显示,与传统的插拔式(Pluggable)方式相比,光连接部分的功耗可降低约65%。NVIDIA、博通等全球科技巨头也正纷纷推出应用了此类CPO技术的网络产品,投入到商业化竞争之中。
HBM与CPO的结合:迈向“无等待AI”
如果说CPO解决了网络区间的瓶颈,那么HBM(高带宽内存)则承担着在GPU旁边供应数据的角色。即便HBM通过紧邻GPU来提高数据供应速度,但如果GPU之间的通信(网络)受阻,整体性能也无法提升。最终,AI工厂的完成取决于内存与网络技术的协调。
未来,能够高效分配内存资源的“内存池化(Memory Pooling)”技术及其支持标准CXL(Compute Express Link)极有可能与硅光子技术相结合。通过利用光技术扩展访问内存池的路径,可以在减轻电力负担的同时,灵活使用巨大的内存容量。
归根结底,未来AI半导体的胜负手不在于单芯片的性能,而在于能否将GPU、内存与网络整合为一个有机系统的封装及光学技术。最强大的AI工厂将不再是拥有最快GPU的地方,而是由无数GPU与内存实现有机协作、无需相互等待的地方。
0评论
当前已关闭评论功能。