🇰🇷 한국어 🇺🇸 English 🇯🇵 日本語 🇪🇸 Español 🇨🇳 简体中文
发布日期: 2026.11.22 (日)
经济

物理AI时代内存设计成为性能核心

随着人工智能从数据中心向机器人、自动驾驶汽车等现实场景扩展,物理AI时代的竞争重心正从单纯的算力竞争转向以内存为核心的设计,旨在解决功耗、散热及延迟等物理限制问题。

物理AI时代内存设计成为性能核心
包含半导体芯片与文本的AI生态系统图形图像。(照片=SK hynix 提供)

随着人工智能迈向与机器人及自动驾驶汽车交互的物理AI时代,核心课题已从算力竞争转向以内存为中心的设计,通过缩短计算单元与内存距离来应对功耗、散热及延迟等物理限制。

人工智能(AI)正迈入“物理AI(Physical AI)”时代,即脱离庞大的数据中心,开始与机器人、自动驾驶汽车、智能眼镜等现实世界进行交互。由于物理AI需要在物理环境中进行实时判断与行动,核心课题已从以往以算力为中心的竞争,转向如何存储数据并实现高效移动的“以内存为中心的设计”。

UIUC教授Nam Sung Kim分析认为,随着AI向现实世界扩展,功耗、散热、响应延迟(Latency)以及产品尺寸等物理限制将成为决定性能的关键变量。与数据中心不同,边缘(Edge)或移动环境受到电池容量和空间的限制,因此必须进行结构性创新,通过缩短计算单元与内存之间的距离来最小化数据移动。

走出数据中心的AI面临的物理极限与算法演进

迄今为止的高性能AI主要针对拥有大规模GPU集群和巨大电力供应的数据中心环境进行了优化。然而,智能手机、可穿戴设备等端侧AI(On-device AI)环境则完全不同。设备越小,可用能量越少,处理产生的热量的空间也越狭窄。特别是对于机器人动作或车辆行驶判断等对延迟极其敏感的任务,需要具备“低延迟”特性,即在靠近现场直接处理数据,而非将其发送至外部服务器。

为了克服这些限制,AI算法也在发生变化。代表性的技术包括通过减小模型规模以降低内存负担的“量化(Quantization)”技术,以及在推理过程中减少内存使用的“TurboQuant”。此外,还出现了通过利用内存查询而非重复计算来减轻计算负担的架构,例如将常用信息预存在内存中并在需要时调用的“Engram”方式。这表明算法的演进最终取决于内存容量和数据供应能力。

从HBM到HBF:内存层级结构的整合设计

为了实现物理AI的性能,必须构建能够优化数据位置和移动路径的“以内存为中心的架构”。为此,各种内存技术将根据各自的角色进行层级化部署。首先,定制化High Bandwidth Memory(HBM)和3D堆叠DRAM的作用是将内存尽可能靠近计算单元,从而拓宽数据通道并减少延迟。若再加上在内存内部执行部分计算的PIM(Processing-in-Memory)技术,可以大幅降低数据移动带来的能耗。

负责数据存储与供应的存储层角色也在不断扩大。机器人的传感器数据或自动驾驶地图存储在大容量SSD中,近期为了弥补HBM与SSD之间的差距,结合了NAND的大容量与高传输速度的下一代内存技术HBF(High Bandwidth Flash)正被展开讨论。此外,CXL(Compute Express Link)技术为高速连接处理器与各种内存设备提供了基础,从而实现内存资源的灵活扩展。

系统层面的“全栈解决方案”决定AI性能

最终,物理AI时代的胜负手不在于单个内存产品的性能,而在于如何根据工作负载和设备特性来组合整个内存层级。这是因为用于大规模训练的AI与优先考虑低功耗、低延迟的端侧AI,其要求的内存规格完全不同。

SK hynix正应对这一变化,旨在从单一系统视角出发,整合提供HBM、PIM、CXL、SSD、HBF等产品的“全栈AI内存解决方案”。其战略是超越单纯供应内存部件的制造商,强化作为能够针对客户架构和工作负载设计优化内存组合的“架构合作伙伴(Architecture Partner)”的角色。随着AI向现实世界扩展,内存将不再仅仅是存储设备,而将成为决定系统响应速度与效率的核心设计轴心。

来源:news.skhynix.co.kr

#物理AI #SK hynix #High Bandwidth Memory #TurboQuant #Engram #内存架构
L
Lim Sangwoo
TrendBiz · 记者

트렌드경제신문에서 경제 분야를 주로 취재합니다. 기업소식, 금융 기사도 함께 씁니다.

该记者的其他报道 ›
版权所有 ⓒ TrendBiz 禁止未经授权转载、再分发及用于 AI 训练与使用

0评论

当前已关闭评论功能。

快来发表第一条评论吧。