고대역폭메모리(HBM)가 ‘난리’다. 공급이 수요를 따라잡지 못하고 있다. 글로벌 HBM 출하량의 90% 이상을 점유한 SK하이닉스와 삼성전자는 앞다퉈 “올해 HBM은 이미 솔드아웃(매진)”을 외쳤다.
‘광풍’이 부는데도 업계에선 HBM 시장을 아직 초기 단계로 본다. 지난해 글로벌 D램 전체 판매량에서 HBM이 차지하는 비중이 한 자릿수에 불과해서다. 이처럼 시장이 이제 막 개화했지만 SK하이닉스와 삼성전자는 일찌감치 HBM 전담팀을 꾸려 기술을 고도화하는 중이다. 양사 모두 6세대 HBM인 HBM4부턴 고객사별 수요를 반영한 ‘맞춤형 HBM’을 내놓겠다고 공언했다.
그간 메모리는 엄격한 표준 규격에 맞춰 납품하는 범용(汎用) 시장이었다. 엔비디아 등 메모리 고객사는 SK하이닉스, 삼성전자가 출시한 HBM 사양에 맞춰 인공지능(AI) 가속기를 제조해왔다. 그러나 HBM4는 설계부터 고객사 요구를 반영해 제작·공급한다는 것이다.
맞춤형 HBM을 알려면 HBM 구조에 대한 이해가 필수다.
6일 관련 업계에 따르면 HBM은 D램 여러 개를 수직으로 쌓고 이들을 연결해 데이터 처리 속도를 혁신적으로 끌어올린 고성능 메모리 반도체다. HBM 품명에는 8H(8단 적층)·12H(12단 적층) 등 단수가 표기되는데, 이는 D램 단품을 몇 개나 쌓아 올렸는지를 의미한다.
적층된 D램의 아래엔 D램을 컨트롤하는 층이 있다. SK하이닉스는 이를 ‘베이스 다이’, 삼성전자는 ‘버퍼 다이’라 부르고 업계에선 ‘로직 다이’로 통칭하기도 한다. 해당 다이는 단수에 포함되지 않는다.
최근 양사는 HBM4부터 이 베이스 다이에 로직 선단 공정을 도입하겠다고 밝혔다. 로직 선단 공정은 메모리가 아닌 시스템(비메모리) 반도체에서 사용되는 초미세 공정이다. 초미세 공정으로 회로 선폭을 줄이면 반도체 칩을 만드는 토대인 웨이퍼(실리콘 소재 원판)에 더 많은 회로를 그릴 수 있어 다양한 기능을 추가할 수 있다.
HBM4 이전의 베이스 다이는 단순히 GPU와 D램을 연결하는 역할을 했다면, HBM4부턴 고객사가 요구하는 저전력 기능 등 시스템 반도체 성격의 기능을 탑재할 수 있다. 기존 반도체 시장에서 반도체를 구분할 때 썼던 메모리·시스템 분류법이 AI 반도체 시장에선 그 경계가 흐려지는 것이다.
선단 공정을 적용하려면 파운드리(반도체 수탁생산) 전문기업의 기술이 필요하다. SK하이닉스는 이에 파운드리 절대 강자인 대만 TSMC와의 협업해 베이스 다이를 개발하기로 했다. 삼성전자는 D램과 낸드 플래시, 파운드리 사업을 모두 갖춘 전 세계 유일한 종합 반도체 기업으로서 자체적으로 맞춤형 HBM을 제작할 수 있다.
‘맞춤형 HBM’의 시작인 HBM4는 업계의 최종 목표인 ‘3D(차원) 패키징’으로 나아가는 발판이 될 전망이다. 현재 AI 가속기는 HBM을 GPU 옆에 수평으로 붙이는 2.5D 패키징 방식으로 제작된다. 3D 패키징은 처음부터 GPU 위에 수직으로 D램을 쌓아 올려 하나의 칩으로 만드는 작업이다. 베이스 다이에 GPU의 연산 기능이 탑재된 셈이다. 이 경우 성능·전력 효율성·면적(PPA) 등 전반적 기능을 크게 높일 수 있다.
김정호 카이스트 교수(전기전자공학부)는 3D 패키징을 ‘주상복합 반도체’라고 불렀다. 그는 통화에서 “현재 AI 가속기는 아파트(HBM)와 상가(GPU)로 나뉘어 지하도로 연결하는 2.5D 패키징이 적용됐는데, 3D 패키징에선 상가 위에 바로 아파트를 쌓는 진정한 주상복합이 이뤄지는 것”이라고 말했다.
HBM4까지는 2.5D 패키징이 사용될 것으로 보인다. 김 교수는 “HBM5, HBM6 시대가 도래하면 진정한 의미의 3D 패키징이 가능할 것”이라고 덧붙였다.