생성형 AI의 뜨거운 감자 AI 반도체 HBM이란?

OpenAI가 Sora를 공개하고, 수많은 생성형 AI가 끊임없이 출시되고 있는 상황 속에 HBM 반도체에 대한 관심도 뜨거워지고 있습니다. 최근 SK하이닉스는 엔비디아에 HBM 공급 계약으로 선수금을 받았으며, 삼성전자는 엔비디아와 제품 적합성 테스트를 마치고 HBM 제품 공급 계약을 체결했습니다.

HBM 반도체가 도대체 무엇이길래 선수금까지 주면서 공급 계약을 맺는 것일까요?

HBM 반도체란?

HBM이란 "High Bandwidth Memory"의 약자로, 직역하면 고대역폭 메모리입니다. HBM은 여러 개의 D램을 수직으로 쌓아 올려 만든 고성능 메모리이며, 초거대 생성형 AI와 같은 대규모 데이터를 학습한 인공지능이 원활하게 구현하고 연산할 수 있게 해줍니다.

HBM은 수직으로 쌓는 구조로 기존 D램보다 훨씬 빠른 데이터 전송 속도와 효율적인 공간 사용을 보여줍니다. 그리고 전력 사용 효율이 높아 낮은 전력으로 시스템 전체 효율성을 높여줍니다.

하지만 장점이 많은 만큼 큰 단점도 존재합니다. HBM은 복잡한 구조와 제조 과정 때문에 기존 D램 보다 훨씬 비싸며, 생산 속도가 느립니다. 그리고 적층 구조로 되어 있어 중간에 있는 D램이 고장날 경우 수리가 어렵고, 내구도가 약합니다.

독주하는 SK하이닉스

20일 SK하이닉스에서 HBM3E 양산을 가장 먼저 시작하며, 엔비디아에 납품을 하면서 시장을 선점했습니다. 이번에 엔비디아에 제공하는 제품은 8단 적층 24GB HBM3E 패키지입니다. AI용 GPU 시장 글로벌 점유율 90% 이상을 차지하고 있는 엔비디아에 독점 공급하는 것은 대박 사건이라 할만 합니다.

이에 삼성전자도 샤인볼트(5세대 HBM3E D램)에 대한 자신감을 내비치며, 선두를 차지한 SK하이닉스로부터 확실한 승기를 가져오겠다는 포부를 밝혔습니다. 지난해 HBM 시장 점유율은 SK하이닉스가 약 55%, 삼성전자가 41%로 집계되었습니다.

빠른 속도로 발전해 나가는 AI와 AI용 반도체를 보면서 어쩌면 AGI가 실현되는 것이 아주 먼 미래가 아닐지도 모른다는 생각이 듭니다. 과연 5년 뒤에는 어떤 미래가 우리의 눈앞에 펼쳐져 있을까요?

부루퉁의AI 네이버 블로그: https://blog.naver.com/ldlquddnr