NVIDIA의 GB200 NVL72 서버 랙 공급이 최근 들어 가속화되고 있다는 소식(2025.05.04)

2025.05.04

 

NVIDIA의 GB200 NVL72 서버 랙 공급이 최근 들어 가속화되고 있다는 소식이 전해졌습니다.

 

NVIDIA의 GB200 NVL72 서버 랙은 차세대 AI 슈퍼컴퓨팅을 위한 고성능 서버 플랫폼으로, Blackwell 아키텍처 기반 GB200 슈퍼칩을 사용하여 대규모 언어 모델(LLM) 및 고성능 컴퓨팅(HPC) 수요에 대응하도록 설계되었습니다. 다음은 주요 특징과 기술 사양입니다:

GB200 NVL72 개요

• 구성:
  한 랙에 GB200 슈퍼칩 36개, 즉 GPU 72개( NVIDIA B200 GPU는 최대 192GB의 HBM3e 메모리를 탑재 ), Grace CPU 36개로 구성(GB200 = 2×B200 GPU + 1×Grace CPU의 통합 슈퍼칩)
•  
• 용도:
  • 트릴리언(1조) 파라미터급 초거대 AI 모델 학습 및 추론
  • 실시간 추천 시스템, AI 시뮬레이션, HPC 계산
  • AI 팩토리 구축용 핵심 인프라

주요 사양

항목                               세부 내용

GPU 수	총 72개 (B200 기준) :NVIDIA B200 GPU는 최대 192GB의 HBM3e 메모리를 탑재
CPU	NVIDIA Grace CPU Superchip 36개
메모리	최대 1.4TB HBM3e 총합
연결	5세대 NVLink Switch System 지원 (서버 간 초고속 연결)
냉각 방식	액체 냉각(Liquid cooling) 기반 설계
전력 소비	최대 120kW 수준 (기존 대비 약 2배 이상)
성능 개선	H100 대비 추론 최대 30배, 학습 속도 4배, 에너지 효율 25배 향상 가능

기술적 특징

• NVLink 5 및 NVSwitch 3 탑재로 초고속 집적 처리 지원
• Spectrum-X 네트워크 플랫폼과 연동 가능 (AI 데이터 센터 최적화용)
• NVIDIA의 CUDA, TensorRT, NeMo, DGX Cloud 등 AI 생태계 전반과 완전 호환
• 메타(Meta), 마이크로소프트, 구글, AWS 등 초대형 고객사 대상 납품 예정

발열 및 냉각 이슈

• 초기에는 과열 문제와 120kW 전력 문제로 인해 일부 랙 설계 재작업이 필요했지만,
  현재는 액체 냉각 시스템 도입 및 설계 개선을 통해 대부분 해결됨
• 공랭은 불가능하며, 데이터센터당 냉각 인프라 확충이 필수

공급 및 배치 현황 (2025년 기준)

• ASUS, Dell, Oracle, Supermicro 등 글로벌 서버 제조사가 GB200 NVL72 기반 AI 서버 출하 시작
• 2025년 3월부터 양산 출하 개시 (ASUS AI POD, Dell PowerEdge XE9712 등)
• 2025년 하반기부터 본격적으로 NVIDIA의 Blackwell 라인업 중 주력 제품으로 자리매김 예정

GB200 NVL72의 구성도.

 

공급 가속화의 주요 동향:

• 공급망 점검 결과: Baird 애널리스트들은 최근 공급망 점검을 통해 GB200의 공급이 가속화되고 있다고 밝혔습니다. 2025년 하반기부터 2026년까지 GB200이 NVIDIA의 주요 제품군을 대표할 것으로 예상되며, 초기 지연은 데이터 센터의 공간 및 전력 문제와 새로운 아키텍처 최적화에 따른 것이었습니다. Investing.com
•  
• ASUS의 생산 확대: ASUS는 GB200 NVL72 플랫폼을 기반으로 한 AI POD의 대량 생산 준비를 마치고, 2025년 3월부터 고객에게 출하를 시작할 예정이라고 발표했습니다. ASUS Servers and Workstations
•  
• Dell의 출하 시작: Dell Technologies의 CEO인 Michael Dell은 자사의 PowerEdge XE9712 서버 랙을 CoreWeave에 출하했다고 밝혔습니다. 이는 세계 최초의 GB200 NVL72 서버 랙 출하로, AI 및 HPC 성능 향상에 기여할 것으로 기대됩니다. LinkedIn+1PR Newswire+1
•  
• Oracle의 대규모 배치: Oracle Cloud Infrastructure는 GB200 NVL72 플랫폼을 활용하여 수천 대의 시스템을 배치하고 있습니다. 이러한 AI 팩토리는 대규모 AI 추론 및 학습을 지원하며, GB200 NVL72의 성능과 에너지 효율성을 활용하고 있습니다. NVIDIA Blog

이러한 동향은 GB200 NVL72 플랫폼의 공급이 본격적으로 확대되고 있음을 시사합니다. 데이터 센터의 공간 및 전력 문제와 같은 초기 장애 요소들이 해결되면서, GB200 NVL72의 채택이 더욱 가속화될 것으로 예상됩니다.

 

-------------------

2025.02.20

Supply chain checks suggest Nvidia poised to accelerate GB200 ramp: Baird By Investing.com

Supply chain checks suggest Nvidia poised to accelerate GB200 ramp: Baird By Investing.com

 

 

"공급망 점검 결과, Nvidia의 GB200 공급 확대 가속화 예상" - 베어드(Baird)
(출처: Investing.com)

 

베어드 애널리스트들에 따르면, 출시 초기에 다소 늦고 느린 출발을 보였던 엔비디아의 첨단 AI 가속기 GB200이 최근 본격적인 모멘텀을 얻고 있다고 한다.
이는 최신 공급망 점검 결과를 바탕으로 한 분석이다.

 

GB200은 2025년 하반기부터 2026년까지 엔비디아의 Blackwell 제품군 내에서 주력 모델로 자리잡을 것으로 전망된다.
초기 지연은 수요 부족이 아닌, 데이터센터 공간 및 전력 용량 부족, 그리고 새로운 아키텍처 적용 및 최적화에 소요된 시간 때문이었다.

 

베어드 측은 엔비디아가 NVL72 서버 플랫폼의 도입을 적극적으로 추진 중이며,
투자자들에게는 GB200을 건너뛰고 차세대 제품으로 넘어갈 것을 기대하지 말라고 조언했다.

 

애널리스트 트리스탄 제라(Tristan Gerra)는 다음과 같이 언급했다:

“우리는 GB200이 2025년 하반기부터 2026년까지 엔비디아 Blackwell 제품군의 중심을 차지할 것으로 예상합니다.
GB300으로의 전환은 2026년 하반기 이후에야 시작될 것입니다.”

 

또한, 대형 기업 고객의 강력한 GB200 주문과
하이퍼스케일러들의 수요 급증이 엔비디아의 긍정적인 중기 전망을 뒷받침하고 있다.

 

베어드는 앞으로 출시될 제품 로드맵도 주목했다.
예정된 B300과 Rubin 같은 차세대 제품들은 이전 세대 대비 1.5배 이상의 성능 향상을 제공할 것으로 기대된다.

 

엔비디아가 AI 데이터센터 최적화를 위해 개발한 네트워크 플랫폼인 Spectrum-X는 이미 출하를 시작했으며,
**메타(Meta, NASDAQ: META)**는 다음 달 중 초기 샘플링을 완료할 예정이다.

애널리스트들은 Nvidia의 Infiniband 기술이 Ethernet 대비 우위를 유지하고 있으며,
새로운 제품 출시로 그 격차를 더욱 벌리고 있다고 전했다.

 

또한, 알리바바와 텐센트 등 중국의 대형 테크 기업들로부터 주문이 증가하고 있으며,
DeepSeek과 같은 모델이 적은 GPU 자원으로 자체 지식 베이스를 훈련할 수 있게 하면서,
기업 고객의 도입이 확산되고 있다고 밝혔다.

 

애널리스트들은 “DeepSeek의 도입과 함께 알리바바와 텐센트로부터 최근 주문이 급증하고 있다”고 전했다.

또한 칩렛(Chiplet) 및 패키지 온 패키지(CPO: Chip-on-Package) 기술의 채택도 점점 늘고 있으며,
초기 양산은 2026년 하반기부터 시작될 것으로 전망된다고 베어드는 밝혔다.

 

베어드는 Nvidia 주식에 대해 ‘시장수익률 상회(Outperform)’ 등급과 목표 주가 195달러를 유지한다고 밝혔다.
이는 **2026년 기준(2027 회계연도) 예상 희석 주당순이익 6.50달러(주식 보상 제외)**에
30배 주가수익비율(P/E)을 적용한 수치다.

 

애널리스트들은 이 배수(30배)는 업계 평균 P/E 범위(11~25배)를 상회하지만,
이는 AI 데이터센터 시장에서의 NVIDIA의 강력한 입지와 점유율 확대를 반영한 것이라고 설명했다.

 

베어드는 동시에 몇 가지 잠재적 리스크도 지적했다.
여기에는 경쟁 심화, 산업의 경기 순환성, 재고 변동성,
그리고 특정 최종 시장에 대한 집중도가 포함된다.

 

------------------------

202502.02

ASUS AI POD with NVIDIA GB200 NVL72 platform ready for ramp-up production and scheduled for shipment in March | ASUS Servers

 

ASUS, NVIDIA GB200 NVL72 플랫폼 기반 'AI POD' 양산 준비 완료 – 2025년 3월 출하 예정

ASUS는 NVIDIA GB200 NVL72 플랫폼을 탑재한 ASUS AI POD가
본격적인 양산 준비를 마쳤으며, 2025년 3월부터 고객사에 출하될 예정이라고 발표했다.

 

ASUS는 AI 슈퍼컴퓨팅부터 클라우드 서비스에 이르기까지
전반적인 엔드투엔드 솔루션 및 소프트웨어 서비스를 제공하며,
업계 전반에 AI 도입을 촉진하기 위해 노력하고 있다.

 

ASUS는 고객들이 시장 출시 시간을 앞당길 수 있도록
포괄적인 AI 솔루션을 제공함으로써,
산업 전반의 AI 확산을 가속화하는 데 기여하고자 한다.

 

ASUS가 직접 투자한 사전 검증 프로그램 (Proof of Concept)

ASUS는 고객에게 탁월한 가치를 제공하겠다는 약속을 바탕으로,
NVIDIA Blackwell 플랫폼 기반의 획기적인 ASUS AI POD를 활용한 사전 검증(POC) 프로그램을 시작한다.

 

이 특별한 기회는 AI 컴퓨팅의 잠재력을 극대화하고자 하는 혁신적인 기업 및 개발자에게 열려 있으며,
대규모로 AI 및 딥러닝 솔루션을 직접 체험할 수 있는 기회를 제공한다.

이 한정된 기회를 활용하고자 하는 기업이나 개인은 아래 설문 링크를 통해 등록할 수 있다:
👉 https://forms.office.com/r/FrAbm5BfH2

 

참여자들은 ASUS의 NVIDIA GB200 전문가 팀의 안내를 통해 다음 단계를 진행하게 된다.

 

ASUS의 AI POD는 NVIDIA의 최신 GB200 NVL72 플랫폼을 기반으로 한 고성능 AI 슈퍼컴퓨팅 솔루션으로, 2025년 3월부터 본격적인 양산 및 출하가 시작되었습니다 .

🔧 주요 사양 요약

• GPU 구성: 총 72개의 NVIDIA Blackwell Tensor Core GPU 탑재
• CPU 구성: 36개의 NVIDIA Grace CPU Superchips 포함
• 연결 기술: 5세대 NVIDIA NVLink 기술 적용
• 냉각 시스템: 액체-공기 및 액체-액체 냉각 솔루션 지원
• 성능 지표:
  • 실시간 LLM 추론 성능: NVIDIA H100 대비 최대 30배 향상
  • LLM 학습 속도: 최대 4배 향상
  • 에너지 효율성: 최대 25배 향상
  • 데이터 처리 성능: 기존 CPU 대비 최대 18배 향상 .트윅타운+16ASUS Global+16ASUS Servers and Workstations+16event.asus.com.cn+8트윅타운+8ASUS Global+8ASUS Servers and Workstations

💡 주요 활용 사례

• 초대형 언어 모델(LLM) 학습 및 추론: 트릴리언(1조) 파라미터 규모의 모델을 실시간으로 처리 가능
• 고성능 컴퓨팅(HPC): 과학 연구, 시뮬레이션 등 대규모 연산 작업에 적합
• 에너지 효율이 중요한 AI 인프라: 액체 냉각을 통한 열 관리로 에너지 소비 최적화
• 대규모 데이터 센터 및 클라우드 서비스: 확장성과 유지보수 용이성 제공 .ASUS Global+1ASUS Servers and Workstations+1

🧩 ASUS의 통합 솔루션

ASUS는 하드웨어뿐만 아니라 소프트웨어와 인프라 관리 도구까지 통합된 서비스를 제공합니다:

• ASUS Infrastructure Deployment Manager: 시스템 배포 및 관리 자동화
• ASUS AFS 소프트웨어: AI 워크로드 최적화를 위한 통합 플랫폼
• WEKA 기반 스토리지 솔루션: 고속 데이터 처리 및 저장 지원 .

📌 요약

ASUS AI POD는 NVIDIA GB200 NVL72 플랫폼을 기반으로 한 고성능 AI 슈퍼컴퓨팅 솔루션으로, 대규모 언어 모델 처리, 고성능 컴퓨팅, 에너지 효율적인 AI 인프라 구축 등 다양한 분야에 활용될 수 있습니다. ASUS의 통합 솔루션과 함께 제공되어, 기업의 AI 도입과 확장을 효과적으로 지원합니다.