“2040年可能会耗尽人类所有能源”……AI电力短缺的解决方案在于“内存效率”
随着人工智能(AI)技术的进步,数据中心和AI设备的电力消耗预计将大幅增加。专家指出,解决处理器与内存之间数据传输导致的“瓶颈”问题,以及开发如HBM和PIM等高效率内存技术,是实现AI产业可持续发展的关键。
随着人工智能(AI)技术的不断提高,有预测认为数据中心和AI设备消耗的电力量将出现爆发式增长。特别是有人发出警告,如果维持目前的计算方式,到2040年,人类生产的所有能源都可能被用于数据移动。因此,决定AI产业可持续性的核心要素——内存半导体的“电力效率”正迅速成为关注焦点。
数据中心电力消耗预计在2030年激增至945太瓦时
根据SK hynix YouTube频道的“未来人才CLASS”视频,AI模型在训练和推理过程中产生的能源消耗预计将呈指数级增长。出演者、首尔大学电气信息工程学部的Lee Cheol-ho教授解释说:“训练超大规模AI模型大约需要50吉瓦(GW)的能源,这相当于美国旧金山市三天消耗的能源量。”
电力需求不仅发生在训练阶段,在回答问题的“推理”阶段也会持续发生。因为请求的任务越复杂,即Token(令牌)的数量越多,实际用电量也会成比例增加。视频引用了统计预测,称数据中心的电力消耗将从2024年的415太瓦时(TWh)增加到2030年的945太瓦时,增幅超过两倍。Lee教授强调了改善电力效率的紧迫性,他表示:“也有预测认为,如果维持目前的计算结构,到2040年用于调用数据的能源将耗尽人类产生的所有能源。”
随着这种电力问题扩展到物理世界,在“Physical AI”时代,问题将变得更加严重。Lee教授表示:“10年后,除了可穿戴设备和自动驾驶汽车,像类人机器人这样的Physical AI将成为日常。运行相当于机器人大脑的AI芯片所需的能源以及驱动系统动作所需的电力是必不可少的,由于机器人必须随时随地通过电池运行,解决电力问题是技术实现的前提条件。”
解决“瓶颈现象”是关键……HBM、PIM等次世代技术备受瞩目
AI时代的电力问题并不局限于内存本身的功耗。Lee教授指出,在处理器(CPU、GPU等)与内存之间交换数据时产生的能量消耗非常严重。因为目前的“冯·诺依曼结构”中处理器和内存是分离的,在为了运算而从内存中调用信息并再次存储结果的过程中,会消耗巨大的电力。在这个过程中发生的数据传输停滞现象被称为“瓶颈(Bottleneck)”,解决这一问题是电力效率的核心。
内存内部的工作原理也被认为是耗电的主要原因之一。DRAM通过在微小的电容器中填充电荷来存储信息,在读取信息时,必须进行“刷新(Refresh)”过程,即重新填充因读取而消耗或随时间流逝而泄漏的电荷。Lee教授解释说:“随着内存单元尺寸的缩小,这些问题变得更加严重。”
为了解决这一问题,提高数据传输通道密度的HBM(高带宽内存),以及在内存内部同时进行运算和存储以最小化数据移动的“PIM, CIM(计算机内存内计算)”技术被视为主要的解决方案。Lee教授诊断称:“如果没有内存的发展,很难开发出非常高效的AI。”
SK hynix扩大从LPDDR到HBM4的低功耗产品线
半导体企业正在开发针对不同产品的定制化低功耗解决方案,以克服这种电力短缺。以SK hynix为例,该公司正在开发针对机器人或自动驾驶汽车等基于电池的“On-device AI”优化的低功耗LPDDR产品系列。此外,还推出了将用于数据中心的低功耗DDR模块化的“LPCAMM2”产品。
用于高性能AI加速器的HBM技术也在集中致力于改善电力效率。根据视频显示,SK hynix的次世代模型HBM4通过提高连接线(I/O)密度并在逻辑芯片(Logic Die)上引入超微细先进工艺,据称与之前的模型HBM3E相比,电力效率提高了约40%。
Lee教授将“低功耗”定义为:“低功耗并不是单纯降低性能,而是指在实现相同性能的同时使用更少电力的效率问题。”他展望称,未来“开发出高性能且低功耗的内存元件是核心,能否确保这种电力效率将在AI进入物理世界方面发挥决定性作用。”
0评论
当前已关闭评论功能。