韦乐平:大模型时代将开启新一波“光进铜退” 通信产业网|2024-06-19 11:50:05作者:高超来源:通信产业网
【通信产业网讯】(记者 高超)在大模型训练需求的催动下,光网络技术将加速变革,新一波“光进铜退”即将开启。这是中国电信集团科技委主任韦乐平,在6月19日召开的2024中国光网络研讨会上,对大模型时代光通信技术的发展做的最新预判。
大语言模型具有三大基本特征,一是大算力、大参数、大数据、大智能,算力规模越大、模型参数越多、高质量数据越多,智能就越高,越能解决复杂的任务和推演出更高水平的结果,其中行业模型至少达百亿至千亿参数,基础通用大模型要达千亿至万亿参数,而全球领先的基础通用大模型,则需数万亿至数十方亿级的参数;二是具备一定的通用性,起码具备领域型模型特点,能完成多领域的诸多任务,非单一任务;三是具有神奇的涌现性,当算力、数据和模型参数足够大,训练到一定程度后,能够突然出现预料之外的某种能力,产生逻辑自恰的类人类语言表达,这种能力会达到乃至超过人类某方面的智能。
大模型时代的受益者
在大模型时代,高速光模块产业是最大的受益者之一,因为大模型的崛起能够催化数据中心内交换机光模块的速率、数量的快速增加。例如,英伟达1个GH200系统就用了3072个800G光模块,平均每颗GPU芯片就需要12个800G光模块。万卡乃至10万卡对光模块的需求了将更加巨大。据咨询机构0mdia预计,在大模型需求驱动下,今年光模块出货量将高达1200万个。
一加手表上市时间
除了高速光模块,oDSP(光数字信号处理器)技术也实现较大发展。韦乐平表示,目前oDSP采用5nm、120G波特率级、QPSK码型,能支持400G速率1600公里的超长干线传输;新一代oDSP采用3mm、180G波特率级(或240G波特率级)、QPSK码型,应能支持800G速率数百乃至上千公里的普通长距离干线传输;预计300G波特率级oDSP技术有望开展,但是400G级别尚无技术路径可寻。
对于oDSP技术的发展趋势,韦乐平也做了三个方面的预判。一是在5nm、800G级别,模拟电路消耗了约50%功率;在3nm、1.6G级别可消耗约65%功率,因此将功耗大头的模拟电路从oDSP分离是重要趋势。二是为进一步降低功耗,可能还需根据细分市场分别优化定制设计。三是数字副载波调制(DSCM)不仅增强高波特率信号对色散和滤波的容忍度,还能增强对非线性的容忍度,是未来超高速系统趋势之一。
大模型需要新技术
大模型带来便利的同时,训练大模型也必然面临高速率、高密度、高成本等挑战。
华为mate50新闻
随着基础传输速率攀升至每通道100/200G以上,由于趋肤效应、PCB材料高频损耗、串音干扰等导致PCB板铜箔的损耗和功耗快速上升,减小影响的唯一举措就是减小器件间传输距离,直至完全消除铜连线。与此同时,随着传输速率持续提升,光模块的成本也在持续上升。在400G速率,交换机光器件成本的占比已超过50%;随着速率更快,其占比也将更高。
韦乐平认为,为了应对大模型带来的蛮力计算所导致的巨大能耗和成本,“光进铜退”必将从接入网延伸至数据中心乃至服务器、器件或芯片互连直至基本消除电连接。当然,这一进程不会一蹴而就,随着两者各自的技术进展,博弈将波折前行,但长远大趋势不会逆转。
oppor17手机现在还值得入手吗
芯片光互连是大势所趋,具有潜在优势,但同时也面临一定的挑战。
所谓芯片光互联,是利用CMOS工艺,将光波导、耦合器和谐振器直接刻蚀在硅基上,再利用先进的封装技术将分立的具有特定功能的芯片组(各种XPU)集成进来,构成一个实用化的,结合SiP和Chiplet技术的光互连器。
芯片光互连的优势优势在于,改进了计算集群的扩展性(超100T)和带宽(2—4T),具有极低功耗,能够降低时延、功耗和物理尺寸。但是芯片光互连技术还不成熟,标准缺失,其他相关技术的进展和影响等,仍需要持续攻克。
责任编辑:高超