땅·전기·칩 부족한 AI 시대, 연산력 높일 '유일한 레버리지'는 냉각

AI 경쟁의 본질은 결국 '누가 더 많이 계산하느냐'의 싸움이다. 이를 위해 빅테크 기업들은 막대한 자금을 투입해 데이터센터를 짓고 GPU(그래픽처리장치)를 확보하며 전력을 끌어오고 있다. 미국 빅테크 기업들은 2025년 한 해에만 약 3,200억 달러(약 426조 원)를 AI 인프라에 쏟아부었다. 하지만 땅과 칩, 전기를 당장 늘리는 것은 현실적으로 불가능에 가깝다. 데이터센터 입지 문제로 프로젝트가 좌초되거나, 전력망 구축에만 수년이 걸리는 등 물리적 한계가 명확하기 때문이다.

티타임즈TV가 전한 이 분석에 따르면, 이러한 제약 조건 속에서 연산력을 끌어올릴 수 있는 거의 유일한 기술적 돌파구는 바로 '냉각'이다. 냉각 효율을 높이면 세 가지 측면에서 이득을 볼 수 있다. 첫째, 냉각에 쓰던 전력을 계산에 더 투입할 수 있어 전력 효율 지수(PUE)가 개선된다. 둘째, 열을 잘 식히면 같은 면적에 GPU를 더 촘촘하게 배치할 수 있어 토지 효율이 높아진다. 셋째, 칩이 과열로 인해 성능을 낮추는 '스로틀링' 현상을 방지해 칩의 성능과 수명을 극대화할 수 있다.

헤어드라이어 600대 열기 견뎌야 하는 AI 랙

AI 데이터센터의 발열 문제는 상상을 초월한다. 엔비디아의 최신 GPU인 블랙웰(B200)은 칩 하나당 소비 전력이 1,400와트에 달하며, 곧 출시될 루빈 칩은 1,800와트 이상을 사용할 전망이다. 이는 손바닥만 한 칩 하나가 가정용 헤어드라이어 한 대를 최대로 틀어놓은 것과 맞먹는 열을 내뿜는 셈이다. 문제는 이런 칩이 수백 개씩 들어가는 '랙(Rack)' 단위의 열기다. 차세대 AI 플랫폼의 랙 하나가 내뿜는 열은 1메가와트(MW)에 달할 것으로 예상되는데, 이는 헤어드라이어 600대를 동시에 가동하는 것과 같은 수준이다.

현재 가장 널리 쓰이는 방식은 공기(Air)를 이용한 '공랭식'이다. 하지만 공기는 열을 실어 나르는 능력이 매우 낮다. 더 많은 열을 식히기 위해 팬을 더 세게 돌려야 하는데, 이 과정에서 막대한 전력이 추가로 소모된다. 마치 한여름 사우나 안에서 선풍기 수백 대를 틀어놓고 시원해지기를 기다리는 것과 같은 비효율이 발생한다. 결국 공기만으로는 폭발적으로 증가하는 AI 칩의 열기를 감당할 수 없는 임계점에 도달했다는 분석이 나온다.

액침냉각과 엔비디아의 주도권 싸움

공기의 한계를 극복하기 위해 액체를 활용한 냉각 기술이 주목받고 있다. 물은 공기보다 약 3,500배 많은 열을 흡수할 수 있다. 기술 방식은 크게 세 가지로 나뉜다. 서버 뒷면에 차가운 물이 흐르는 코일판을 다는 '후면 도어 열교환기(RDHx)', GPU 위에 금속 냉각판을 붙여 냉각수를 흘리는 '직접식 냉각(D2C)', 그리고 서버 전체를 전기가 통하지 않는 특수 액체에 담그는 '액침 냉각'이다.

특히 액침 냉각은 PUE를 1.05 수준까지 낮출 수 있는 강력한 기술이다. 하지만 엔비디아는 현재 자사 GPU 서버에 대해 D2C 방식은 공식 지원하지만, 액침 냉각은 아직 인증하지 않고 있다. 이는 기술력 문제라기보다 '주도권' 문제라는 시각이 지배적이다. D2C는 엔비디아가 설계한 서버에 냉각 업체가 에어컨을 달아주는 형태라 엔비디아의 설계 권한이 유지된다. 반면 액침 냉각은 냉각 방식에 맞춰 서버 전체를 새로 설계해야 하므로, 냉각 업체가 서버 제조 시장의 주도권을 가져갈 위험이 있다. 다만 랙 하나당 전력 밀도가 1MW에 육박하는 상황이 오면 엔비디아 역시 액침 냉각을 외면하기 어려울 것으로 보인다.

정유사부터 전력기기 업체까지, 냉각 시장의 패권 전쟁

냉각 시장은 데이터센터 부속 설비를 넘어 독자적인 성장 산업으로 진화하고 있다. 글로벌 데이터센터 냉각 시장은 2025년 약 188억 달러에서 2034년 544억 달러 규모로 3배 가까이 급성장할 전망이다. 이 시장의 주요 플레이어로는 엔비디아와 밀접하게 협력하며 레퍼런스 설계를 주도하는 '버티브(Vertiv)', 소프트웨어 플랫폼으로 고객을 묶어두는 '슈나이더 일렉트릭(Schneider Electric)', 그리고 대형 냉동 기술을 보유한 '존슨 컨트롤즈(Johnson Controls)' 등이 꼽힌다.

흥미로운 점은 냉각 기술의 변화가 산업의 경계를 허물고 있다는 것이다. 액침 냉각의 핵심인 '전기가 통하지 않는 특수 냉각유'를 만드는 데 가장 유리한 곳은 기름을 정제하는 정유사들이다. 이에 따라 셸(Shell), 엑소모빌(ExxonMobil) 같은 글로벌 기업은 물론, 국내의 SK엔무브와 GS칼텍스 같은 정유사들도 AI 인프라 시장의 핵심 플레이어로 부상하고 있다. 전력기기 기업인 이튼(Eaton)이나 수처리 기업 에코랩(Ecolab)까지 가세하며, AI 인프라의 패권은 GPU 확보를 넘어 '누가 더 효율적으로 열을 다스리는가'로 옮겨가고 있다.

출처: 티타임즈TV 유튜브 「데이터센터 더 안 짓고도 GPU를 더 돌리는 방법」