Vera Rubin NVL144 CPX와 NVIDIA GB300 NVL72의 메모리 구성(2025.09.13)

2025.09.13

 

랙단위의 전체 메모리 용량 및 대역폭
GB300 시스템은 약 21 TB의 GPU 메모리 (HBM3e) + CPU-GPU 전체 시스템 메모리까지 포함해 “40 TB Fast Memory” 풀을 제공함. 메모리 대역폭은 랙 전체에서 약 576 TB/s 수준임.

 

반면 NVL144 CPX 랙은 100 TB 고속 메모리 풀과 1.7 PB/s의 대역폭을 정의하고 있음. 즉, NVL144 CPX가 랙 전체 대역폭 및 메모리 용량 면에서 훨씬 큰 스펙을 제시하고 있음.

 

GB300 NVL72 메모리 구성 (공식 및 보도자료 기반)

구성 요소 세부 사항

GPU 메모리 (각 GPU당)	각 Blackwell Ultra GPU에 288 GB HBM3e 메모리가 탑재됨. (Introl)
GPU 전체 메모리 (랙 단위, 72 GPU)	약 21 TB HBM3e 사용됨. (Weights & Biases)
GPU 메모리 대역폭 (개별 / 전체)	GPU당 HBM3e 스택에서 약 8 TB/s 대역폭, 전체서 약 576 TB/s 대역폭 제공됨. (Weights & Biases)
시스템 전체의 빠른 메모리 (Fast Memory)	GB300 NVL72 랙 전체에서 약 40 TB 수준의 고속 GPU + CPU 일관(coherent) 메모리 풀(pool) 있음. (NVIDIA)
CPU 메모리	Grace CPU 쪽에 LPDDR5X 메모리 이용, 전체적으로 약 18 TB CPU 메모리, 대역폭 약 14.3 TB/s 수준. (Weights & Biases)

---

 

현재 공개된 사양을 바탕으로 NVL144 CPX 랙 전체 메모리 용량을 계산해 보겠습니다.

1) Rubin CPX GPU 메모리

• Rubin CPX GPU당 128 GB GDDR7 탑재
• 총 144개 → 144 × 128 GB = 18,432 GB ≈ 18 TB

2) Rubin GPU 메모리

• Rubin GPU는 Blackwell 후속 아키텍처로, HBM4 메모리를 사용
• 예상 사양: GPU당 288 GB HBM4 (GB300 Ultra와 동일 또는 상위 스펙)
• 총 144개 → 144 × 288 GB = 41,472 GB ≈ 41.5 TB

3) 랙 전체 GPU 메모리 합계

• Rubin CPX 메모리: 약 18 TB
• Rubin GPU 메모리: 약 41.5 TB
• 총합 ≈ 59.5 TB (GPU 메모리만)

4) CPU 메모리

• NVL144 CPX에는 36 Vera CPU가 포함
• Vera CPU는 Grace CPU의 후속으로, 대략 CPU당 **LPDDR5X 0.5 TB (512 GB)**급 메모리를 탑재할 가능성 있음
• 36 × 0.5 TB = 18 TB 추가

5) 최종 합산 (GPU + CPU 메모리)

• GPU 메모리 ≈ 59.5 TB
• CPU 메모리 ≈ 18 TB
• 총 고속 메모리 ≈ 77.5 TB

하지만 NVIDIA 발표에서는 NVL144 CPX 랙 전체로 100 TB 고속 메모리를 제공한다고 명시했습니다.
이는 GPU와 CPU 메모리를 합친 뒤 여유 용량, ECC, 캐시·버퍼 포함까지 고려한 값으로 보이며,
공식 스펙에 따라 100 TB가 정답으로 보시면 됩니다.

결론

NVL144 CPX 랙 = 약 100 TB의 고속 메모리 풀

• GDDR7 기반 Rubin CPX 메모리 + HBM4 기반 Rubin GPU 메모리 + Vera CPU 메모리를 합쳐
• 총 100 TB 수준으로 구성 (공식 NVIDIA 자료 기준)