최근 엔비디아, 인텔, AMD를 비롯한 반도체 기업들이 집중하고 있는 분야가 인공지능 반도체이다. 인공지능 기술의 발전과 함께 높아지는 시장의 기대에 부응하기 위해 연일 신제품을 출시하고 있는데, 이때 꼭 등장하는 단어가 HBM이다.

엔비디아는 최근 신제품 반도체 GH100을 공개하면서 HBM3e 모델을 탑재했다고 강조했고, 이와 경쟁하는 AMD 역시 MI300X를 발표하는 자리에서 '엔비디아보다도 더 많은 HBM을 탑재했다'고 강조했다. 인텔도 자사의 주력 제품인 CPU에 HBM을 결합한 새 프로세서를 공개했다.

그럼 이 HBM의 정체는 무엇일까? 바로 최근 주목받고 있는 메모리 반도체이다. 컴퓨터는 연산과 저장, 두 축으로 이뤄진다. 한쪽이 무너지면 시스템이 작동하지 않는다. 엔비디아와 AMD, 인텔이 잘하는 부분은 연산 영역이다. 그래서 자신들이 설계한 반도체가 제대로 성능을 내기 위해서는 이에 상응하는 고성능의 저장용 반도체, 즉 메모리 반도체가 필요하다. 이때 선택된 것이 HBM이다.

HBM은 메모리 반도체 중에서도 가장 높은 점유율을 가진 DRAM의 일종이다. 인공지능 연산이 DRAM의 성능을 아무리 높여도 감당할 수 없는 수준까지 고도화하자 등장한 것이 HBM이다.

HBM은 고대역폭 메모리(High Bandwidth Memory)의 줄임말이다. 대역폭이 높다는 말은 메모리에서 한 번에 많은 양의 데이터를 빼낼 수 있다는 얘기다. 연산 반도체가 공장, 메모리 반도체가 창고라고 한다면, 둘 사이를 오가는 도로를 확 넓힌 것이 HBM이다. 한 번에 많은 양의 데이터를 이동시켜 연산하고, 다시 저장할 수 있게 한다.

HBM의 등장 역시 고도의 기술 발전이 숨어있다. 제조하는 회사마다 노하우는 조금씩 다르지만, 대표적인 HBM 생산 회사인 SK하이닉스의 HBM3 모델을 기준으로 보면 기존의 DRAM 12장을 수직으로 쌓아 올린 형태이다.

그리고 층층이 쌓인 이 칩들이 원활하게 작동할 수 있도록 하는 TSV(Through Silicon Via) 기술을 적용했다. 실리콘 관통 전극 기술이라고도 하는 기법인데, 말 그대로 쌓아 올린 DRAM을 수직으로 뚫어 데이터 통로를 만드는 기술이다. DRAM으로 아파트를 짓고, 데이터가 수직으로 오르내릴 수 있는 엘리베이터를 설치한 셈이다.

이런 방식으로 메모리 시장에 혁신을 이끄는 회사는 메모리 반도체 시장 1, 2위를 차지하고 있는 삼성전자와 SK하이닉스이다. 특히 HBM 시장에서는 선제적으로 개발에 착수한 SK 하이닉스가 삼성을 제치고 1위를 달리고 있다. 2022년을 기준으로 HBM 시장을 SK 하이닉스가 50%, 삼성전자가 40% 가져갔다. 경쟁이 본격화하는 올해는 각각 40% 후반대의 점유율을 가지고 가며 전체 시장은 양분할 전망이다.

물론 HBM 시장은 아직 전체 DRAM 시장에서 차지하는 비중이 1.5% 수준으로 미미하다. 최신 공법이 적용돼 제조 단가가 높은데다, 아직 인공지능 반도체를 제외하고는 수요가 많지 않기 때문이다. 하지만 인공지능 반도체 시장이 날로 확대되고, 노트북, PC에까지 HBM 적용이 확대되면서 HBM 수요는 늘어날 전망이다.

※ 더 자세한 이야기를 듣고 싶으시면 영상을 참고해 주세요. '티타임즈TV'에 오시면 더 많은 영상을 보실 수 있습니다.