NVIDIA GB300, 향상된 사양으로 출시 예정… 2025년 3분기부터 랙 단위 출하 확대 – TrendForce(2025.03.19)
2025.03.19
블랙웰 울트라 칩-->.HBB3E 12단x 12개=36GBx12개=432GB
GB300 슈퍼칩-->2개의 블랙웰 울트라 칩+1개의 그레이스 CPU
GB300 NVL72 rack server--> 이 서버는 72개의 GB300 슈퍼칩을 결합한 것.
NVIDIA GB300 To Feature Enhanced Specifications, Full Rack Shipments Expected to Gradually Scale in 3Q25, Says TrendForce
NVIDIA GB300, 향상된 사양으로 출시 예정… 2025년 3분기부터 랙 단위 출하 확대 – TrendForce
TrendForce’s latest findings on the AI server supply chain have revealed that NVIDIA is expected to launch the GB300 chip ahead of schedule in 2Q25. However, due to its improved computing performance, memory capacity, networking, and power management compared to the GB200, ODM partners will require additional time for testing and customer validation.
TrendForce의 최신 AI 서버 공급망 분석에 따르면, NVIDIA는 당초 예상보다 빠른 2025년 2분기에 GB300 칩을 출시할 것으로 보인다. 그러나 GB300은 GB200 대비 연산 성능, 메모리 용량, 네트워크, 전력 관리가 향상되어 ODM(제조업체) 파트너들이 추가적인 테스트 및 고객 검증에 시간이 필요할 것으로 예상된다.
Recent supply chain developments, GB300–related suppliers are set to initiate design planning in 2Q25. The GB300 chip and Compute Tray are expected to enter production by May, with ODM manufacturers designing early engineering samples. By 3Q25, as rack system configurations, power specifications, and SOCAMM designs are finalized and move into mass production, GB300 full-rack systems are expected to gradually scale up shipments.
최근 공급망 동향에 따르면, GB300 관련 업체들은 2025년 2분기부터 설계 계획을 시작할 예정이다. GB300 칩과 Compute Tray(컴퓨트 트레이)는 5월부터 생산에 돌입하며, ODM 제조업체들은 초기 엔지니어링 샘플을 설계할 것으로 예상된다. 2025년 3분기에는 랙 시스템 구성, 전력 사양, SOCAMM 설계가 확정되고 대량 생산이 시작되면서 GB300의 랙 단위 출하가 점진적으로 확대될 전망이다.
Currently, Hopper-based AI servers remain NVIDIA’s primary shipment driver, while the Blackwell platform is gradually ramping up starting in 1Q25. GB200 is expected to be the primary system for full-rack shipments until 3Q25. Meanwhile, demand for the China-specific H20 model has surged, largely due to the DeepSeek effect, which has increased the adoption of AI-optimized hardware in the region.
현재 NVIDIA의 AI 서버 출하량은 Hopper 아키텍처 기반 시스템이 주도하고 있으며, Blackwell 플랫폼은 2025년 1분기부터 점진적으로 확대될 예정이다. GB200은 2025년 3분기까지 주요 랙 시스템으로 출하될 것으로 보인다. 한편, 중국 시장을 겨냥한 H20 모델의 수요가 급증하고 있는데, 이는 DeepSeek 효과로 인해 AI 최적화 하드웨어 도입이 증가했기 때문이다.
To support rack-mounted systems, the GB300 NVL72 will feature upgraded networking capabilities to meet higher bandwidth demands and improve overall computational efficiency. Although battery backup units (BBUs) are not standard for GB300, they are expected to see increased adoption as server power consumption continues to rise.
랙 마운트형 시스템을 지원하기 위해 GB300 NVL72는 네트워크 성능이 대폭 향상되어 더 높은 대역폭 수요를 충족하고 전체적인 연산 효율을 개선할 예정이다. 다만, GB300에는 기본적으로 배터리 백업 유닛(BBU)이 포함되지 않지만, 서버의 전력 소비가 지속적으로 증가함에 따라 BBU 채택이 늘어날 것으로 예상된다.
In terms of thermal design power (TDP), NVIDIA’s 2024 mainstream HGX AI servers range between 60 – 80 KW. The GB200 NVL72, currently the flagship system, has a TDP of 125 – 130 KW due to its higher computational density. TrendForce forecasts that the GB300 rack system will see further increases in power consumption—reaching 135 – 140 KW—with most industry players continuing to use Liquid-to-Air cooling solutions to maintain thermal efficiency.
전력 소모(TDP) 측면에서 보면, 2024년 NVIDIA의 주력 HGX AI 서버는
60-80KW 범위를 유지하고 있다. 그러나 GB200 NVL72는 연산 밀도가 높아 TDP가 125-130KW에 이르며,
GB300 랙 시스템은 이보다 더 증가해 135~140KW에 이를 것으로 보인다. 대부분의 업계는 효율적인 열 관리를 위해 Liquid-to-Air(액체-공기) 냉각 솔루션을 지속적으로 사용할 것으로 전망된다.
The GB200 cold plate design currently integrates one CPU and two GPUs into a single cooling module. However, with the GB300, each chip will have its own dedicated cold plate, significantly increasing cold plate value in Compute Tray configurations. This shift will also boost demand for quick disconnect (QD) fittings, as each chip will now require separate cooling connections. While GB200 QD suppliers are predominantly Western firms, Taiwanese manufacturers are expected to enter the supply chain for GB300.
GB200의 경우, 냉각판(콜드 플레이트) 설계가 CPU 1개와 GPU 2개를 하나의 냉각 모듈로 통합하는 방식이었다. 그러나 GB300에서는 각 칩이 개별적인 냉각판을 갖게 되어 Compute Tray 설계에서 냉각판의 가치가 크게 증가할 것이다. 또한, 각 칩이 별도의 냉각 연결을 필요로 하면서 퀵 디스커넥트(QD) 피팅 수요도 증가할 전망이다. 현재 GB200의 QD 공급업체는 주로 서구 기업이지만, GB300에서는 대만 제조업체들도 공급망에 합류할 것으로 예상된다.
TrendForce notes that several factors could influence the deployment of GB200 and GB300 rack systems. The DeepSeek effect is prompting major CSPs to reassess AI investments, potentially favoring custom ASIC development or simpler, cost-effective AI server solutions. Additionally, uncertainties in the GB200 and GB300 supply chain readiness may impact shipment timelines, making actual deployment schedules and end-user demand fluctuations key factors to monitor in the coming months.
TrendForce는 GB200 및 GB300 랙 시스템의 배치에 영향을 미칠 여러 요인이 있다고 분석했다. 특히 DeepSeek 효과로 인해 주요 클라우드 서비스 제공업체(CSP)들이 AI 투자 전략을 재검토하며, 맞춤형 ASIC 개발 또는 비용 효율적인 AI 서버 솔루션을 선호할 가능성이 있다. 또한, GB200 및 GB300의 공급망 준비 상황에 따른 불확실성이 출하 일정에 영향을 줄 수 있어, 실제 배포 일정과 최종 사용자 수요 변동이 향후 주요 모니터링 요소가 될 것으로 전망된다.