🇰🇷 한국어 🇺🇸 English 🇯🇵 日本語 🇪🇸 Español 🇨🇳 简体中文
발행일: 2026.11.22 (일)
경제

AI가 현실 세계로… 피지컬 AI 시대, 연산보다 '메모리 설계'가 관건

AI가 로봇과 차량 등 현실 세계로 확장되는 '피지컬 AI' 시대가 도래함에 따라, 연산 성능을 넘어 메모리 배치와 시스템 구조를 최적화하는 '메모리 중심 설계'가 핵심 경쟁력으로 부상하고 있다.

AI가 현실 세계로… 피지컬 AI 시대, 연산보다 '메모리 설계'가 관건
AI 생태계를 주제로 한 반도체 칩과 텍스트가 포함된 그래픽 이미지이다. (사진=SK하이닉스 제공)

인공지능(AI)이 거대한 데이터센터를 벗어나 로봇, 자율주행 차량, 스마트 글라스 등 현실 세계와 상호작용하는 '피지컬 AI(Physical AI)' 시대로 접어들고 있다. AI가 물리적 환경에서 실시간으로 판단하고 움직여야 하는 만큼, 기존의 연산 능력 중심 경쟁에서 벗어나 데이터를 어떻게 저장하고 효율적으로 이동시키느냐는 '메모리 중심 설계'가 핵심 과제로 떠올랐다.

일리노이대학교 어배너-섐페인(UIUC) 김남승 교수는 AI가 현실 세계로 확장될수록 전력 소모, 발열, 응답 지연(Latency), 제품 크기라는 물리적 제약이 성능을 결정짓는 결정적 변수가 된다고 분석했다. 데이터센터와 달리 엣지(Edge)나 모바일 환경은 배터리 용량과 공간이 제한적이기 때문에, 연산 장치와 메모리 사이의 거리를 줄이고 데이터 이동을 최소화하는 구조적 혁신이 필수적이라는 설명이다.

데이터센터 밖 AI가 마주한 물리적 한계와 알고리즘의 진화

지금까지의 고성능 AI는 대규모 GPU 클러스터와 막대한 전력을 갖춘 데이터센터 환경에 최적화되어 있었다. 하지만 스마트폰, 웨어러블 기기 등 온디바이스 AI(On-device AI) 환경은 상황이 다르다. 기기가 작아질수록 사용할 수 있는 에너지는 줄어들고, 발생한 열을 처리할 공간도 좁아진다. 특히 로봇의 동작이나 차량의 주행 판단처럼 지연시간에 민감한 작업은 데이터를 외부 서버로 보내는 대신 현장 가까이에서 즉시 처리해야 하는 '저지연' 특성이 요구된다.

이러한 제약을 극복하기 위해 AI 알고리즘도 변화하고 있다. 모델의 크기를 줄여 메모리 부담을 낮추는 '양자화(Quantization)' 기법이나, 추론 과정에서 메모리 사용량을 줄이는 '터보퀀트(TurboQuant)'가 대표적이다. 또한, 자주 쓰이는 정보를 메모리에 미리 저장해 두고 필요할 때 불러오는 '엔그램(Engram)' 방식처럼, 반복적인 연산 대신 메모리 조회를 활용해 연산 부담을 줄이는 아키텍처도 등장했다. 이는 알고리즘의 진화가 결국 메모리의 용량과 데이터 공급 능력에 의존하고 있음을 보여준다.

HBM부터 HBF까지, 메모리 계층 구조의 통합 설계

피지컬 AI의 성능을 구현하기 위해서는 데이터의 위치와 이동 경로를 최적화하는 '메모리 중심 아키텍처'가 구축되어야 한다. 이를 위해 다양한 메모리 기술이 각자의 역할에 맞춰 계층적으로 배치된다. 우선 커스텀 HBM(High Bandwidth Memory)과 3D 적층 D램은 메모리를 연산 장치와 최대한 가까이 배치해 데이터 통로를 넓히고 지연시간을 줄이는 역할을 한다. 여기에 메모리 내부에서 일부 연산을 수행하는 PIM(Processing-in-Memory) 기술을 더하면 데이터 이동에 따른 에너지 소모를 획기적으로 낮출 수 있다.

데이터의 저장과 공급을 담당하는 스토리지 계층의 역할도 커지고 있다. 로봇의 센서 데이터나 자율주행 지도는 대용량 SSD에 저장되는데, 최근에는 HBM과 SSD 사이의 간극을 메우기 위해 낸드의 대용량과 높은 전송 속도를 결합한 차세대 메모리 기술인 HBF(High Bandwidth Flash)가 논의되고 있다. 또한 CXL(Compute Express Link) 기술은 프로세서와 다양한 메모리 장치를 고속으로 연결해 메모리 자원을 유연하게 확장할 수 있는 기반을 제공한다.

시스템 레벨의 '풀스택 솔루션'이 AI 성능 좌우한다

결국 피지컬 AI 시대의 승부처는 개별 메모리 제품의 성능을 넘어, 워크로드와 기기 특성에 맞춰 메모리 계층 전체를 어떻게 조합하느냐에 달려 있다. 대규모 학습용 AI와 저전력·저지연이 우선인 온디바이스 AI는 요구하는 메모리 사양이 완전히 다르기 때문이다.

SK하이닉스는 이러한 변화에 대응해 HBM, PIM, CXL, SSD, HBF 등을 하나의 시스템 관점에서 통합 제공하는 '풀스택 AI 메모리 솔루션'을 지향하고 있다. 단순히 메모리 부품을 공급하는 제조사를 넘어, 고객의 아키텍처와 워크로드에 최적화된 메모리 조합을 함께 설계하는 '아키텍처 파트너(Architecture Partner)'로서의 역할을 강화한다는 전략이다. AI가 현실 세계로 확장될수록 메모리는 단순한 저장 장치를 넘어, 시스템의 반응 속도와 효율을 결정짓는 핵심 설계 축으로 기능하게 될 전망이다.

출처: [AI Ecosystem] AI의 완성, 피지컬 AI와 메모리

#피지컬 AI #김남승 #온디바이스 AI #HBM #PIM #CXL #HBF #SK하이닉스
임
임상우
트렌드경제신문 · 기자

트렌드경제신문에서 경제 분야를 주로 취재합니다. 기업소식, 금융 기사도 함께 씁니다.

기자의 다른 기사 ›
저작권자 ⓒ 트렌드경제신문 무단전재 및 재배포, AI학습 및 활용 금지

0댓글

현재 댓글 작성이 비활성화되어 있습니다.

첫 댓글을 남겨보세요.