SK하이닉스, '메모리 중심 서버'로 AI 데이터 병목 해소 나선다

인공지능(AI)이 다루는 데이터 양이 폭발적으로 증가하면서 기존 컴퓨팅 구조의 한계인 '데이터 병목 현상'이 핵심 과제로 떠올랐다. SK하이닉스는 이를 해결하기 위해 서버의 중심을 메모리로 옮기는 '메모리 중심 인프라' 비전을 제시했다.

SK하이닉스는 미국 캘리포니아주 새너제이에서 열린 'OCP 글로벌 서밋 2026(OCP Global Summit 2026)'에 참가해 차세대 메모리 솔루션을 대거 공개했다. 이번 전시에서 SK하이닉스는 CXL(Compute eXpress Link) 기반의 차세대 메모리 모듈(CMM)과 메모리 중심 AI 랙 시스템(MARS) 등을 통해 AI 시대의 새로운 인프라 방향성을 선보였다.

데이터 병목 깨는 'CXL 풀드 메모리'와 차세대 서버 시스템

SK하이닉스가 선보인 핵심 기술 중 하나는 'CXL 풀드 메모리' 기반의 차세대 서버 시스템이다. CXL 인터페이스를 활용해 여러 서버가 메모리 자원을 필요한 만큼 나눠 쓸 수 있는 '메모리 풀(Pool)'을 구현함으로써 자원 활용 효율을 극대화한 것이 특징이다.

이번 전시에서 공개된 2세대 CMM-DDR5(256GB) 제품은 이전 세대 대비 대역폭이 80GB/s로 2배 이상 증가했으며, 에너지 효율도 약 30% 개선됐다. SK하이닉스는 네이버클라우드와 협력해 진행 중인 공동 작업을 바탕으로, 에이전틱 AI(Agentic AI) 환경에서의 KV 캐시 공유와 옴니모달(Omni-Modal) 서비스에서의 임베딩 공유 솔루션이 실제 작동함을 검증하는 성과를 함께 공개했다.

메모리를 중심으로 파트너사의 솔루션을 하나의 랙(Rack)에 통합해 효율을 높인 'MARS(Memory Centric AI Rack System)'도 눈길을 끌었다. SK하이닉스는 아씨(Arcee), 리퀴드(Liqid), 마벨(Marvell) 등 글로벌 파트너사들과 함께 풀드 메모리를 활용한 시스템 데모를 진행했다. 이를 통해 네트워크 통신을 이용하는 기존 방식보다 시스템 성능이 크게 향상된다는 점을 입증했다.

특히 AMD, 펭귄(Penguin), 엑시나(Xcena) 등과 진행한 데모에서는 CXL 메모리와 하이브리드 메모리를 결합해 대규모 KV 캐시를 효율적으로 저장하고 빠르게 재사용할 수 있음을 보여줬다. 퍼스널 AI 에이전트 업체인 피클(Pickle)과는 풀드 메모리 기반의 스트리밍 기술을 통해 서비스 응답 지연을 개선하는 과정을 시연했다.

연산 기능 더한 메모리 'CMM-Ax'와 고대역폭 제품군

메모리 내부에서 직접 연산을 수행해 데이터 이동을 최소화하고 전력과 비용 부담을 줄이는 'CMM-Ax' 솔루션도 공개됐다. SK하이닉스는 CMM-Ax를 활용해 기존 GPU 기반 시스템에서 처리하기 까다로웠던 '긴 문맥(Long Context)'을 효율적으로 가속하는 데모를 선보였다. 해당 연구는 컴퓨터 아키텍처 권위 학회인 'MICRO 2026'에 채택되며 기술력을 인정받았다.

현재 시장을 주도하는 제품 라인업도 함께 전시됐다. AI 인프라향 eSSD 제품군인 PS1010, PS1110, PEB210 등이 소개됐으며, 서버 D램 분야에서는 업계 최대 용량인 256GB 3DS RDIMM과 전력·공간 효율을 높인 192GB SOCAMM 등이 배치됐다.

HBM(고대역폭 메모리) 전시 공간에는 엔비디아(NVIDIA)의 베라 루빈 슈퍼칩 모형을 배치해 양사의 파트너십을 시각화했다. 관람객들은 HBM4, HBM4E, HBM3 등 세대별 실물 제품을 통해 기술 변천사를 확인할 수 있다. 또한, TSV(수직관통전극)와 차세대 MR-MUF 기술을 설명하는 모형도 함께 마련됐다.

새롭게 주목받는 HBF(High Bandwidth Flash) 기술도 소개됐다. HBF는 HBM처럼 TSV 기술을 적용해 기존 스토리지의 대용량 특성에 고대역폭을 더한 차세대 낸드 솔루션이다. SK하이닉스는 빠른 응답 속도가 필요한 환경에는 HBM을, 대용량 메모리가 필요한 에이전틱 AI 환경에는 HBF를 활용하는 식의 차별화된 전략을 제시했다.

김호식 SK하이닉스 부사장은 'Executive' 세션 발표를 통해 "생성형 AI와 하이퍼스케일 데이터센터가 성장하며 기존 CPU·GPU 중심 아키텍처가 '메모리 월(Memory Wall)'이라 불리는 병목과 급증하는 전력 소비에 직면했다"며 "차세대 CXL 기술로 랙 단위 메모리 풀링과 동적 데이터 공유를 구현하는 메모리 중심 AI 랙 시스템이 해법이 될 것"이라고 강조했다.

출처: “메모리 중심 서버 시스템이 미래”… SK하이닉스, ‘OCP 글로벌 서밋 2026’서 차세대 AI 인프라 기술 비전 제시