고대역폭 메모리(HBM)의 탄생과 발전: GDDR을 뛰어넘는 메모리 혁신

반도체와 고성능 컴퓨팅의 발전은 메모리 기술에서도 큰 변화를 가져왔습니다. 고대역폭 메모리(HBM, High Bandwidth Memory)는 기존 GDDR 계열 SGRAM을 대체하며 더 높은 메모리 대역폭을 필요로 하는 최신 기술 요구 사항에 대응하기 위해 등장했습니다. 2013년, 반도체 표준화 기구인 JEDEC에서 공식 채택된 HBM은 메모리 다이를 적층하여 실리콘을 관통하는 통로(TSV)를 통해 데이터가 빠르게 흐르도록 설계되었습니다. HBM은 GDDR과 달리 인터포저라는 중간층을 사용해 메인 프로세서와 통신하며, 이를 통해 높은 데이터 처리 속도와 에너지 효율성을 동시에 실현할 수 있습니다.

HBM과 GDDR의 구조적 차이점: 인터포저의 중요성

GDDR 메모리는 단순히 메모리 다이를 인쇄 회로 기판에 직접 배치해 구리 배선으로 연결하는 방식입니다. GDDR의 경우 32개의 I/O 핀으로 충분한 데이터 전송이 가능하기 때문에 미세 공정이 필요하지 않았습니다. 반면, HBM은 1024개 이상의 미세한 핀을 통해 연결해야 하므로 직접 기판에 붙이는 것이 어렵고, 이로 인해 고도의 미세 공정이 필요합니다. 이러한 이유로 인터포저가 도입되었습니다. 인터포저는 프로세서와 메모리 사이의 연결을 촘촘하게 해주는 층으로, GPU와 HBM을 가까이 배치하여 신호 손실을 최소화하고 대역폭을 높입니다.

TSV와 HBM의 등장 배경: TSMC CoWoS와 AMD, SK하이닉스의 협력

TSV 기술은 칩에 구멍을 뚫어 이를 통해 데이터를 주고받는 방식으로 전송 거리를 줄여줍니다. 이 기술을 통해 TSMC는 CoWoS(Chip-on-Wafer-on-Substrate) 플랫폼을 개발하였고, 2012년 AMD와 SK하이닉스는 TSV 기반 HBM 제품 개발을 위해 협력에 나섰습니다. 특히, 닌텐도는 그래픽 성능 강화를 위한 메모리 대역폭 확대를 제안했고, 이에 따라 AMD와 SK하이닉스는 고대역폭 메모리를 본격적으로 개발하게 되었습니다.
HBM 개발 초기에는 커스터마이징된 제품으로 시작했으며, 고성능 게임 콘솔과 GPU 등 특정 요구 사항에 맞춰 제작되었습니다. 초기에는 메모리 시장에서 큰 비중을 차지하지 못했지만, 현재는 생성형 AI와 트랜스포머 기반 모델들이 폭발적으로 발전하면서 HBM 수요가 급증해 거대한 시장으로 성장했습니다.

성능과 시장에서의 변화: GDDR을 뛰어넘은 HBM

초기 HBM의 성능은 GDDR 대비 압도적이지 않았습니다. 1세대 HBM을 그래픽 카드에 4개(4096비트) 장착해도 GDDR 12개(384비트)를 장착한 것과 비교해 대역폭과 용량 차이가 크지 않았고, 가격이 비싸 일반적인 게이밍 시장에서는 외면받기도 했습니다. 그러나 시간이 흐르면서 HBM의 성능이 크게 개선되었습니다. HBM의 적층 구조 덕분에 메모리 다이를 쌓아 올려 용량과 대역폭을 손쉽게 늘릴 수 있으며, 이는 점점 대형화되고 복잡해지는 AI 모델과 데이터 분석 워크로드에서 강점을 발휘합니다.
HBM은 구조적 한계로 인해 확장이 어려운 GDDR과 달리 성능이 빠르게 발전할 수 있는 환경을 갖추고 있습니다. GPT와 같은 생성형 AI 모델은 방대한 데이터를 빠르게 처리할 수 있는 메모리 대역폭을 요구하는데, HBM은 이러한 대용량 데이터와 고속 처리가 필요한 AI 분야에서 필수적인 메모리로 자리잡게 되었습니다.

현재 HBM 시장과 전망: 고대역폭 메모리의 미래

현재 SK하이닉스와 삼성전자 등 주요 메모리 기업들은 최신 HBM2E와 HBM3 등 더 높은 대역폭과 용량을 가진 제품을 출시하고 있습니다. 삼성은 최대 8-Hi 스택, 3.2 GT/s 전송 속도, 410 GB/s 대역폭을 갖춘 HBM2E를 양산 중이며, SK하이닉스 역시 3.6 GT/s 전송 속도와 460 GB/s 대역폭을 갖춘 HBM2E를 대량 생산 중입니다. NVIDIA 역시 2 TB/s 대역폭을 지원하는 HBM2E 기반의 GPU를 발표해, 고성능 연산 시장에서 HBM의 필요성을 더욱 확고히 하고 있습니다.
HBM은 AI, 빅데이터, 클라우드 컴퓨팅 등 고성능이 요구되는 다양한 분야에서 핵심적인 메모리 솔루션으로 자리매김하고 있습니다. 특히 차세대 AI 모델과 고성능 연산 작업에 필수적인 요소로 HBM의 필요성은 날로 증가할 것입니다. GDDR을 넘어선 고대역폭 메모리 HBM의 발전은 반도체 기술의 또 다른 진보를 의미하며, 이를 통한 기술 혁신은 앞으로도 지속될 것입니다.