"'가장 높이 쌓는 자'가 최후 승자"···'HBM3E' 최초 경쟁 점화

마이크론 '8단 적층' HBM3E 양산 소식에

삼성전자도 세계 첫 '12단 제품'으로 응수

D램 쌓을수록 성능·용량↑···기술력이 관건

HBM(고대역폭메모리) 시장을 장악하려는 삼성전자와 SK하이닉스, 마이크론의 경쟁이 가열되고 있다. 그래픽=홍연택 기자

'AI(인공지능)'를 중심으로 산업계 트렌드가 빠르게 변모하는 가운데 반도체 시장을 장악하기 위한 이른바 '높이의 경쟁'에 막이 올랐다. 글로벌 메모리 시장 3위 기업 마이크론이 D램을 8개 쌓아올린 HBM(고대역폭메모리)의 양산을 선언한 가운데 삼성전자도 그보다 진화한 '12단' 제품을 앞세워 맞불을 놓으면서다.

29일 업계에 따르면 마이크론은 최근 '8단 적층 HBM3E'의 양산에 돌입한다고 공개적으로 선언했다.

마이크론의 8단 적층 HBM3E는 말 그대로 D램을 여덟 층으로 쌓은 제품이다. 2분기 출시될 엔비디아의 차세대 AI 가속기 'H200'에 쓰인다. HBM 시장을 나눠가진 메모리 기업 3사 중 H200 적용을 공식화한 곳은 마이크론이 처음이다.

마이크론의 이 같은 발언은 삼성전자나 SK하이닉스보다 먼저 HBM3E 양산을 시작했다는 데 대한 자신감을 내비친 것으로 풀이된다. 두 기업 모두 제품 개발은 마쳤지만 양산을 시작하기까진 수개월이 걸릴 것으로 예상되고 있어서다.

특히 마이크론 측은 해당 제품에 대해 "삼성·SK 제품보다 전력소비가 30% 적어 데이터센터 운영비용을 절감할 수 있다"며 경쟁사를 공개적으로 저격하기도 했다. 물론 구체적으로 어떤 제품을 어떻게 비교했는지 공개하진 않았다.

하지만 삼성전자도 곧바로 응수했다. 이 회사는 같은 날 세계 최초로 36GB(기가바이트) HBM3E(5세대 HBM) 12H(12단 적층) D램 개발에 성공했다는 소식을 알리며 기술력을 과시했다.

구조에서 확인할 수 있듯 'HBM3E 12H'는 고도의 기술력이 만들어낸 결과물이다. 삼성전자는 TSV(실리콘 관통 전극) 기술과 열압착 비전도성 접착 필름(Advanced TC NCF) 기술을 활용해 24Gb(기가비트) D램 칩을 12단까지 쌓으면서도 기존 8단 HBM과 동일한 높이로 제품을 구현했다.

성능도 눈여겨 볼만 한다. 이 제품은 초당 최대 1280GB의 대역폭과 현존 최대 용량인 36GB를 갖추고 있다. 1024개의 입출력 통로에서 초당 최대 10Gb의 속도를 지원한다. 1초에 30GB 용량의 UHD 영화 40여 편을 다운로드 할 수 있는 빠르기다.

삼성전자 측은 성능과 용량을 끌어올린 신제품이 기업에 최적의 솔루션을 제시할 것이라고 자신했다. 서버 시스템에 HBM3E 12H를 적용하면 HBM3 8H를 탑재할 때 보다 평균 34% AI 학습 훈련 속도가 향상되고, 추론의 경우 최대 11.5배 많은 AI 사용자 서비스가 가능할 것이라는 게 이들의 주장이다. 동시에 이 제품을 사용하면 GPU 사용량이 줄어 기업이 비용을 절감할 수 있다고도 언급했다.

삼성전자는 HBM3E 12H의 샘플을 거래기업에 제공하기 시작했으며 상반기엔 양산을 시작한다는 방침이다.

업계에서는 삼성전자의 신제품 등장을 계기로 HBM 구조를 고도화하려는 경쟁사들의 시도가 이어질 것으로 내다보고 있다. AI 서비스를 안정적으로 구축하기 위해선 많은 양의 정보를 빠르게 소화하는 반도체가 필수적이기 때문이다. 실제 SK하이닉스 역시 시장의 니즈를 감안해 12단 적층 HBM3E 패키지를 제품화하는 데 신경을 쏟고 있으며, 마이크론도 3월 중 개발을 목표로 움직이는 것으로 알려졌다.

업계 관계자는 "단품을 기준으로 봤을 때 D램을 높이 쌓을수록 성능과 용량 측면에서 우수해지는 것은 사실"이라며 "AI 서비스의 고도화와 맞물려 관련 제품에 대한 수요가 커질 것으로 예상되는 만큼 삼성전자를 추격하려는 경쟁사의 움직임이 분주해질 것"이라고 내다봤다.