삼성전자, 12인치 대형 마스크 전환 참여…High-NA 공정 생산성 확보 노린다

삼성전자가 ASML과 협력해 기존 6인치 포토마스크를 12인치급 대형 마스크로 전환하는 개발 컨소시엄에 참여한다. 반도체 회로가 미세화됨에 따라 회로의 원본인 마스크의 규격 변화가 필수적인 과제로 떠오르고 있기 때문이다.

노광 면적 절반으로 줄어드는 High-NA EUV의 '하프 필드' 한계

안될공학 - IT 테크 신기술 영상에 따르면, 차세대 노광 장비인 High-NA EUV는 기존 EUV(개구수 0.33)보다 높은 0.55의 개구수(NA)를 갖는다. 이를 통해 기존 장비보다 약 1.7배 작은 패턴을 구현할 수 있지만, 물리적인 제약도 따른다. 빛을 더 넓은 각도로 모으는 과정에서 마스크에 닿는 빛의 반사 문제가 발생하며, 이를 해결하기 위해 한 방향은 4분의 1, 다른 방향은 8분의 1로 축소하는 '아나모픽(Anamorphic) 광학' 방식을 채택했기 때문이다.

이 방식은 회로를 더 세밀하게 찍을 수 있게 해주지만, 한 번의 노광으로 찍을 수 있는 영역(레티클 리미트)을 기존 858㎟에서 429㎟로 정확히 절반가량 줄어들게 만든다. 영상에서는 이 현상을 '하프 필드' 문제로 설명한다. 엔비디아의 A100(826㎟)이나 H100(814㎟) 같은 대형 GPU 칩은 기존 EUV로는 한 번에 찍을 수 있는 크기에 근접해 있지만, High-NA를 적용할 경우 칩을 두 구역으로 나눠 찍은 뒤 경계선을 이어붙이는 '스티칭(Stitching)' 공정이 필요해진다.

스티칭 과정은 나노미터 단위의 정밀한 위치 맞춤이 요구되며, 경계 부위에서 빛이 과하게 겹치거나 부족할 경우 배선 불량이 발생할 위험이 있다. 이를 방지하기 위해 설계 단계에서 경계 근처의 배선 간격을 넓히는 등 공정상의 부담이 가중된다. 실제로 ASML의 장비 조건에 따르면, 스티칭을 사용하지 않을 때 시간당 175장의 웨이퍼를 처리할 수 있는 장비(EXE:5200B)가 스티칭을 사용할 경우 처리량이 135장으로 감소하는 등 생산성 저하 문제가 존재한다.

삼성전자·SK하이닉스의 메모리 중심 전략과 TSMC의 파운드리 계산

삼성전자는 2028년 첨단 D램 양산에 메모리 업계 최초로 High-NA EUV를 적용하겠다는 목표를 세웠다. 메모리 분야에서는 칩의 크기가 GPU보다 상대적으로 작기 때문에, High-NA의 줄어든 노광 영역 안에서도 스티칭 없이 공정이 가능하다는 장점이 있다. 메모리 업체들은 High-NA를 통해 복잡한 제조 공정을 단순화하는 '멀티 패터닝' 제거 효과를 기대하고 있다. 영상에서는 ASML의 발표를 인용해, 특정 패턴에서 기존 0.33 NA EUV로 3장의 마스크가 필요했던 작업을 High-NA로는 1장으로 처리할 수 있는 가능성을 언급했다.

SK하이닉스 역시 2028년 D램 양산을 목표로 High-NA를 준비 중이다. 하이닉스는 이미 2025년 9월, M16 공장에 ASML의 양산용 High-NA 장비인 EXE:5200B를 설치했다고 밝힌 바 있다. 다만 삼성전자가 목표로 하는 '메모리 업계 최초'는 제품 양산 적용을 의미하며, 하이닉스가 언급한 '최초'는 장비 설치에 관한 것이라는 점에서 양사의 목표 시점은 동일한 2028년으로 분석된다.

반면 파운드리 시장 점유율 72.5%(2024년 2분기 기준)를 차지하는 TSMC의 전략은 다르다. TSMC는 엔비디아 등 대형 AI 칩 고객의 설계를 그대로 구현해야 하므로, 거대한 칩을 찍을 때 발생하는 하프 필드 문제와 비용 효율성을 엄격하게 계산한다. TSMC는 2024년 A16 공정에서 High-NA가 반드시 필요하지는 않다고 판단했으며, 2030년부터 첨단 공정에 High-NA를 대량 생산에 사용할 계획이다. TSMC는 12인치 대형 마스크 전환에도 참여하며, 2033년까지 새로운 마스크를 이용한 전체 노광 시스템을 준비한다는 구상이다.

12인치 대형 마스크가 가져올 생산성 혁신과 향후 전망

삼성전자가 참여하는 12인치급 대형 마스크 개발은 앞서 언급한 '스티칭' 부담을 근본적으로 해결하기 위한 움직임이다. 기존 6인치 마스크를 한쪽으로 길게 늘린 6x12인치 규격 등을 통해 원본 영역을 넓히면, High-NA에서도 큰 칩을 스티칭 없이 한 번에 찍을 수 있게 된다. ASML은 대형 마스크 전환에 성공할 경우 High-NA 시스템의 생산성을 최대 40%까지 높일 수 있다고 설명했다.

현재 인텔은 High-NA를 실제 제품 양산에 가장 빠르게 투입하며 데이터를 축적하고 있다. 인텔은 2026년 9월 기준 High-NA를 통해 처리한 웨이퍼가 100만 장을 넘어섰으며, 수율 또한 기존 EUV와 비슷한 수준이라고 밝혔다. 결국 High-NA 경쟁의 핵심은 단순히 장비를 누가 먼저 도입하느냐가 아니라, 어떤 칩에 어떤 레이어를 적용해 제조 단가를 낮추고 공정 단계를 줄이느냐에 달려 있다는 것이 업계의 관측이다.