전기 신호 한계 넘는 실리콘 포토닉스, AI 팩토리 성능 좌우한다

AI 시대의 반도체 경쟁력은 개별 연산 칩의 계산 속도에만 머물지 않는다. 데이터가 어디에 위치하고, 어떤 경로를 거쳐 얼마나 지연 없이 도착하느냐가 AI 팩토리(AI Factory) 전체의 성능을 결정하는 핵심 변수로 떠올랐다. GPU(그래픽처리장치)의 연산 능력이 아무리 뛰어나도 데이터를 실어 나르는 통로가 막히면 전체 시스템은 대기 상태에 빠지기 때문이다.

한양대학교 ERICA 차세대반도체융합공학부 김영현 교수는 AI 팩토리의 데이터 병목 현상을 지적하며, 이를 해결할 차세대 기술로 실리콘 포토닉스와 공동 패키징 광학(CPO, Co-Packaged Optics)을 제시했다. GPU가 많아져도 AI 성능이 기대만큼 올라가지 않는 이유는 결국 데이터 전송 효율, 즉 '도로의 폭' 문제라는 분석이다.

구리 배선의 한계와 '빛의 고속도로' 실리콘 포토닉스

지금까지 반도체 간 연결은 주로 구리 배선을 통한 전기 신호 전달에 의존해 왔다. 구리는 짧은 거리에서 신호를 전달하는 데 효율적이지만, 데이터 전송 속도가 빨라지고 거리가 멀어질수록 치명적인 약점이 드러난다. 전기 신호가 구리 선을 지나며 약해지거나 서로 간섭을 일으키기 때문이다. 이를 보정하기 위해 신호를 증폭하는 리피터(Repeater)를 사용해야 하는데, 이 과정에서 추가 전력이 소모되고 발열이 심화되는 문제가 발생한다.

이러한 전력과 발열 부담을 줄이기 위해 광(光) 연결 기술이 주목받고 있다. 광섬유는 서로 다른 파장의 빛을 동시에 실어 보내는 파장분할다중화(WDM) 기술을 통해 전송 용량을 획기적으로 키울 수 있다. 실리콘 포토닉스는 이러한 광 기술을 작은 반도체 칩 위에 구현한 기술이다. 반도체 미세 공정을 활용해 칩 내부에 빛이 지나가는 길인 '광도파로'를 만들고, 전기 데이터를 빛으로 바꾸는 변조기와 빛을 전기 신호로 읽어내는 광검출기를 집적한다.

다만 실리콘은 빛을 직접 생성하는 데 불리한 특성이 있어, 인화인듐(InP) 같은 화합물 반도체를 사용하는 외부 레이저 광원(ELS) 방식을 결합해 효율을 높인다. 이는 열이 많이 발생하는 전자 칩과 레이저를 분리 배치할 수 있어 유지보수 측면에서도 유리하다.

스위치 칩 바로 옆에 광 엔진 배치하는 CPO 기술

광 연결 기술이 데이터센터의 장거리 구간을 넘어 칩 내부의 짧은 구간까지 확장되면서 CPO(Co-Packaged Optics)가 핵심 기술로 부상하고 있다. 기존에는 스위치 칩(ASIC)과 광모듈이 떨어져 있어 전기 신호가 기판을 따라 이동해야 했으나, CPO는 광 엔진을 스위치 칩 바로 옆에 배치해 하나의 패키지 기판 위에 올린다.

이는 마치 공장과 물류 터미널을 같은 부지로 옮겨 이동 거리를 최소화하는 것과 같다. 전기 신호가 이동하는 거리가 짧아지면 신호 품질이 좋아지고, 고속 전기 신호를 보정하는 데 쓰이던 전력 소모를 크게 줄일 수 있다. 결과적으로 제한된 면적에서 더 많은 데이터를 처리할 수 있는 대역폭 밀도가 높아진다.

글로벌 빅테크 기업들은 이미 이 기술의 상용화에 속도를 내고 있다. 메타(Meta)는 2025년 유럽광통신학술대회(ECOC)에서 CPO 스위치 시스템을 평가한 결과를 공개했다. 메타의 시험 결과에 따르면, CPO 방식의 광 연결 전력 소비는 기존 플러거블(Pluggable) 방식 대비 약 65% 낮은 수준으로 나타났으며, 장시간 가동을 통한 연결 안정성도 확인됐다.

HBM과 CPO의 결합, AI 팩토리 완성하는 하이브리드 구조

CPO는 GPU 바로 옆에서 데이터를 공급하는 HBM(고대역폭 메모리)과 역할이 다르면서도 상호 보완적이다. HBM이 GPU와 아주 가까운 거리에서 넓은 전기 통로로 데이터를 공급한다면, CPO는 여러 GPU 시스템을 잇는 네트워크 구간의 효율을 극대화한다. HBM이 아무리 빨라도 GPU 사이의 통신망이 막히면 전체 성능은 저하될 수밖에 없다.

향후 AI 시스템은 성능과 전력 효율에 따라 다양한 광 연결 방식을 혼합해 사용하는 방향으로 진화할 전망이다. 신호 왜곡 보정 장치(DSP)를 생략해 전력을 아끼는 LPO(Linear Pluggable Optics)나, 광 엔진을 칩 근처에 두는 NPO(Near-Packaged Optics) 등이 대표적이다.

결국 미래의 AI 경쟁력은 단일 GPU의 연산 속도가 아니라, GPU와 메모리(HBM), 그리고 네트워크(CPO)를 얼마나 긴밀하게 결합해 '기다림 없는 데이터 흐름'을 만드느냐에 달려 있다. 김영현 교수는 가장 강력한 AI 팩토리는 수많은 GPU와 메모리가 서로를 기다리지 않고 함께 일하는 구조를 갖춘 곳이라고 강조했다.

출처: [Tech Note] ‘GPU를 수만 개 모아도 AI는 왜 기다릴까?’ 실리콘 포토닉스와 CPO가 놓는 ‘빛의 고속도로’