"GPU 다음은 메모리, 그 다음은 전력과 냉각"... AI 병목 현상 단계별 흐름

AI 산업의 급격한 성장 속에서 투자자들이 주목해야 할 핵심은 '병목(Bottleneck)' 현상의 이동이다. GPU(그래픽처리장치)가 초기 AI 인프라의 핵심 병목이었다면, 기술이 진화함에 따라 그 병목은 메모리와 전력, 그리고 냉각 시스템으로 순차적으로 옮겨가고 있다.

기술의 레이어를 구분하는 '병목 투자법'

티타임즈TV 영상에 따르면, 김지현 테크라이터(SK 슈퍼X AI 위원 부사장)는 기술 기업에 투자할 때 '레이어(Layer)'를 나누어 분석해야 한다고 강조한다. 원천 기술인 코어 테크가 있고, 이를 상품화하는 기업, 그리고 그 상품에 솔루션을 공급하거나 서비스를 제공하는 기업이 존재한다는 것이다. 웹 시대의 사례를 들면, 초기에 컴퓨터 제조사와 CPU 공급사가 수익을 창출했다면, 이후 구글이나 네이버 같은 서비스 기업이 돈을 벌었고, 현재는 페이스북이나 틱톡처럼 광고 모델을 통해 수익을 내는 단계로 진화했다.

김 위원은 "기술이 무엇이든 모든 혁신을 만들어내는 것은 아니기에 타이밍이 중요하다"며, "단기적인 수익을 노리는 단타가 아니라 기술에 대한 믿음과 실제 실적을 바탕으로 최소 1년에서 3년 정도의 긴 호흡으로 투자해야 한다"고 설명했다. 그는 "회사로 버는 돈보다 투자로 더 많이 벌었을 만큼 투자를 잘했다"고 언급하며, 기술 기업뿐만 아니라 그 기술을 활용해 새로운 가치를 만드는 소비재나 전통 산업 기업을 분석하는 것도 중요한 전략 중 하나라고 덧붙였다.

GPU에서 메모리, 그리고 NAND 플래시로 이어지는 흐름

AI 모델의 품질을 높이기 위해 컴퓨팅 자원이 필수적인 상황에서, 첫 번째 병목은 GPU였다. 하지만 GPU의 성능이 올라갈수록 그 옆을 채워야 하는 메모리의 중요성이 커지며 두 번째 병목은 메모리로 이동하고 있다. GPU 하나당 탑재되는 HBM(고대역폭메모리)의 개수가 과거 4개에서 현재 8개로 늘어나고, 메모리가 옆으로 붙는 것이 아니라 위로 적층되는 방식으로 진화하고 있기 때문이다.

이 과정에서 발생하는 현상은 메모리 기업들의 수익성 개선이다. HBM 수요가 급증하면서 메모리 제조사들이 HBM 생산에 집중하게 되면, 상대적으로 일반 D램의 공급이 줄어들게 된다. 이는 애플과 같은 스마트폰·PC 제조사들이 필요로 하는 DDR(Double Data Rate) D램의 가격 상승으로 이어진다는 분석이다. 김 위원은 "HBM으로 인해 D램 공급이 줄어들면 DDR 가격은 오를 수밖에 없다"며, 메모리 삼사의 수익률이 과거 10% 미만에서 현재 70%가 넘는 수준으로 개선된 배경을 설명했다. 또한, 최근 출시 예정인 아이폰 18 프로 등 '온디바이스 AI' 기기들의 확산은 NPU(신경망처리장치)와 함께 D램 수요를 다시 한번 자극할 것으로 보인다.

메모리 수요는 연산용뿐만 아니라 저장용에서도 발생한다. 램(RAM)은 전원이 꺼지면 데이터가 사라지는 휘발성 메모리이기 때문에, 방대한 데이터를 저장하기 위해서는 비휘발성 메모리인 NAND 플래시와 SSD가 필수적이다. 김 위원은 "데이터가 많아질수록 책상(RAM)이 부족해지면 결국 책장(NAND 플래시)에 저장해야 한다"며, 삼성전자와 SK하이닉스가 만드는 저장장치 가격 역시 수요 증가에 따라 상승세를 보이고 있다고 전했다.

전력 공급과 냉각 시스템: 차세대 병목 구간의 등장

메모리 이슈가 해결된 이후의 병목은 전력과 냉각이 될 것으로 전망된다. 데이터센터의 규모가 기가와트(GW) 단위로 커짐에 따라 기존 전력망(Grid)으로는 감당하기 어려운 수준의 전력이 필요하기 때문이다. 현재 한국의 데이터센터 규모는 약 1.5GW 수준으로 추정되나, 향후 10년 내에 20GW까지 늘어날 수 있다는 전망이 나온다. 1GW당 원전 하나급의 전력이 소모되는 만큼, 기존 그리드에 의존하기보다는 그린 에너지, 소형모듈원전(SMR), 연료전지 등 새로운 전력원 확보가 핵심 과제로 떠오르고 있다.

전력 공급이 해결된 이후에는 발생하는 열을 식히는 '냉각'이 다음 병목이 될 것으로 보인다. GPU와 HBM의 연산 속도가 빨라질수록 발열량은 극심해지는데, 기존의 공냉식(선풍기 등을 이용한 방식)은 전력 소모가 너무 크다는 단점이 있다. 따라서 액체를 이용해 열을 식히는 수냉식이나, 아예 장비를 액체에 담그는 액침 냉각(Immersion Cooling) 방식이 대안으로 떠오르고 있다. 김 위원은 "냉각 솔루션 관련 부품, 소재, 설비 기업들의 매출은 약 2년 정도의 호흡을 두고 늘어날 수 있다"고 전망했다. 이는 대규모 전력 인프라 구축과 데이터센터 건설이 단기간에 이루어지는 것이 아니기 때문이다.