HBM4부터는 엔비디아가 코어다이에 맞춰 베이스다이를 직접 설계(2025.08.25)
2025.08.25
HBM3E까지도 코어 다이(Core Die, 즉 GPU 본체 칩)는 당연히 엔비디아가 직접 설계합니다.
구체적으로 구분하면
- 코어 다이 (GPU 다이)
- 엔비디아가 직접 설계합니다.
- SM(Streaming Multiprocessor), 텐서 코어, 캐시, 메모리 컨트롤러 같은 GPU의 “두뇌” 부분이 들어 있습니다.
- 즉, 연산 성능과 아키텍처 혁신은 전적으로 엔비디아 설계 몫입니다.
- HBM 스택 (메모리 다이 + 베이스 다이)
- SK하이닉스, 삼성전자, 마이크론 같은 메모리 업체들이 설계·생산합니다.
- DRAM 다이 여러 장이 쌓이고 맨 밑에 베이스 다이가 붙습니다.
- HBM3E까지는 이 베이스 다이도 메모리 업체 설계였기 때문에, GPU 업체(엔비디아)는 거기에 맞춰 GPU 코어 다이의 메모리 인터페이스를 설계했을 뿐입니다.
HBM4부터 달라지는 지점
- 여전히 코어 다이는 엔비디아 설계입니다.
- 다만, **베이스 다이(Base Die)**까지 엔비디아가 직접 설계해서, GPU 코어 다이와 “완전히 최적화된 짝”을 만들려는 것이 핵심 변화입니다.
- 즉, HBM3E까지는 “코어 다이 = 엔비디아, 베이스 다이 = 메모리 업체”였는데,
HBM4부터는 “코어 다이 = 엔비디아, 베이스 다이 = 엔비디아 설계(제작은 메모리 업체/TSMC)”로 변하는 것이죠.
정리하면, HBM3E까지도 코어 다이는 엔비디아가 설계했지만, 메모리 인터페이스의 절반(베이스 다이)은 메모리 업체 설계였다는 점이 포인트입니다.
---------------------------------------------
HBM4 세대부터 엔비디아가 HBM의 “베이스 다이(Base Die)”를 직접 설계하기 시작하는데,
여기에는 비용 상승 요인이 숨어 있습니다. 차근차근 풀어드릴게요.
1. HBM 구조에서의 베이스 다이 역할
HBM은 여러 층의 **DRAM 다이**가 TSV(실리콘 관통 전극)로 쌓이고, 맨 아래에 베이스 다이(Base Die)가 있습니다.
이 베이스 다이는 단순히 DRAM을 쌓는 받침대가 아니라, **메모리 스택과 GPU 코어 다이(로직 다이)** 사이의 인터페이스 역할을 합니다.
즉, HBM 신호를 GPU가 이해할 수 있는 형태로 바꿔주고, 전력/타이밍 조율도 담당하는 일종의 “컨트롤 허브”입니다.
2. 지금까지(HBM3E까지)의 방식
* 기존에는 HBM 업체(SK하이닉스, 삼성, 마이크론)가 **자체 설계한 베이스 다이**를 GPU 회사에 공급했습니다.
* GPU 설계자는 그 위의 메모리 인터페이스(컨트롤러)만 맞추면 됐기 때문에, 비용 부담은 메모리 업체 쪽이 컸습니다.
* 이 방식은 GPU마다 커스터마이즈 수준이 제한적이었지만, 표준화된 만큼 **비용이 상대적으로 저렴**했습니다.
3. HBM4부터 달라지는 점
* HBM4에서는 **메모리 대역폭 요구치가 1TB/s 이상**으로 올라가고, GPU와 메모리 간 신호 지연(Latency)과 전력 최적화가 훨씬 중요해집니다.
* 엔비디아는 “GPU에 최적화된 데이터 경로”를 확보하려고, **자신들이 직접 베이스 다이를 설계**합니다.
* 즉, HBM4의 베이스 다이가 GPU 로직 다이와 사실상 “한 몸”처럼 동작하도록 맞추는 것이죠.
* 이렇게 하면 성능·전력 효율 면에서는 큰 이득을 볼 수 있습니다.
4. 비용이 올라가는 이유
1. **설계 책임 이전**
메모리 업체가 아니라 엔비디아가 베이스 다이 설계를 맡으면서,
GPU와 HBM 인터페이스를 맞추는 복잡성이 엔비디아 쪽 비용으로 전가됩니다.
2. **테스트 및 검증 증가**
* GPU 다이와 HBM 스택을 “Co-Design”해야 하기 때문에 설계·테스트 비용이 더 커집니다.
3. **생산 단가 상승**
* 맞춤형 베이스 다이는 범용성이 떨어져 대량 생산 효율이 낮고,
패키징 과정에서도 **TSMC CoWoS/SoIC 같은 첨단 패키징** 비용이 더해집니다.
4. **생태계 분화**
* 엔비디아 전용 베이스 다이가 되면, 메모리 업체들은 동일한 설계를 AMD/인텔에도 쓸 수 없어지므로
공급사 쪽에서도 추가적인 비용이 반영될 수 있습니다.
5. 정리
즉,
* **HBM3E까지** → 메모리 업체가 표준형 베이스 다이 설계 → 비용 부담은 메모리 업체 쪽
* **HBM4부터** → 엔비디아가 GPU 최적화용으로 직접 설계 → 성능은 향상되지만 설계·검증·패키징 비용이 엔비디아 쪽으로 올라감
그래서 “HBM4부터 엔비디아가 베이스 다이를 직접 설계하니 비용이 올라간다”는 말은,
**표준형에서 맞춤형(Custom)으로 바뀌면서 엔비디아의 부담과 전체 제조비용이 증가한다**는 뜻입니다.
---------------------
“코어 다이(Core Die)”라는 용어는 반도체에서 실제 연산·제어·로직을 담당하는 핵심 칩을 뜻합니다.
1. 다이(Die)란?
- 반도체 웨이퍼를 자른 한 개의 칩 조각을 **다이(Die)**라고 부릅니다.
- 예: 웨이퍼 한 장에서 수십~수백 개의 GPU 다이가 나옵니다.
2. 코어 다이(Core Die)의 의미
- 여러 다이 중에서도 실제 연산 로직을 수행하는 부분을 코어 다이라고 부릅니다.
- GPU라면:
- SM(Streaming Multiprocessor), 텐서코어, 레이 트레이싱 코어 같은 계산 유닛
- 메모리 컨트롤러, 캐시, 인터커넥트 같은 핵심 제어 회로
가 들어 있는 다이가 바로 코어 다이입니다.
즉, GPU 패키지 안에서 머리·두뇌 역할을 하는 칩이 코어 다이예요.
3. HBM과의 관계
- HBM은 코어 다이 옆(혹은 위/아래)에 붙는 외부 메모리입니다.
- 코어 다이가 직접 메모리를 읽고 쓰는데, 그 사이를 연결하는 베이스 다이가 신호를 중재합니다.
- HBM4부터는 엔비디아가 “코어 다이와 딱 맞도록” 베이스 다이를 설계하겠다는 거죠.
4. 정리
- 다이(Die): 반도체 칩 하나하나.
- 코어 다이(Core Die): 그중에서 연산·제어를 담당하는 “두뇌” 다이.
- HBM 스택: DRAM 다이 여러 장 + 베이스 다이.
- GPU 패키지: 코어 다이 + (HBM 스택들) + 인터포저/패키징.