NVIDIA Blackwell 플랫폼, 새로운 컴퓨팅 시대를 이끌다(2024.03.19)

2024.03.19

Bing에 물어봤습니다.

 

엔비디아가 **차세대 AI GPU ‘블랙웰’**을 공개했습니다. 이 GPU는 게임 이론, 확률론, 정보 이론 등을 확립한 20세기 미국인 수학자인 데이빗 해럴드 블랙웰의 이름을 따왔습니다. 블랙웰 GPU는 **대만 TSMC의 4나노급 공정 (4NP)**으로 만든 반도체 다이 두 개를 연결해 만든 칩이며 2천80억 개의 트랜지스터를 집적했습니다. 이 GPU는 초당 10TB 데이터를 주고 받으며 하나의 칩처럼 작동합니다. 또한, 최대 576개의 GPU 사이에서 양방향으로 초당 1.8TB 데이터를 주고 받는 연결 통로인 5세대 NV링크, 장시간 구동되는 데이터센터 환경에서 GPU와 메모리 신뢰성을 검증하는 AI 기반 RAS 엔진, 민감한 데이터를 암호화하고 신뢰성을 보장하는 시큐어 AI 등이 내장되어 있습니다. 이 GPU는 H100 36개로 구성된 기존 시스템 대비 LLM (거대언어모델) 처리 속도를 최대 30배 향상했다고 밝혔습니다. 엔비디아는 인텔 제온·AMD 에픽 등 기존 x86 기반 프로세서를 활용할 수 있는 가속기인 HGX B200도 출시할 예정이며, 이는 B200 텐서코어 GPU를 8개 내장하고 엔비디아 퀀텀2 이더넷 네트워크를 이용해 초당 최대 400Gbps로 데이터를 전송합니다12. 출시는 2024년 4분기에 예상됩니다.

 

 

-------------------------------------------------------------------

NVIDIA Blackwell Platform Arrives to Power a New Era of Computing.

 

GTC—Powering a new era of computing, NVIDIA today announced that the NVIDIA Blackwell platform has arrived — enabling organizations everywhere to build and run real-time generative AI on trillion-parameter large language models

at up to 25x less cost and energy consumption than its predecessor.

 

GTC—새로운 컴퓨팅 시대를 이끄는 NVIDIA는 오늘 NVIDIA Blackwell 플랫폼이 도착했음을 발표했습니다. 

이를 통해 전 세계의 조직들이 이전 세대에 비해 최대 25배 더 적은 비용과 에너지 소비로 십억단위의  파라미터급

대규모 언어 모델을 사용한 실시간 생성 AI를 구축하고 운영할 수 있게 되었습니다.

 

The Blackwell GPU architecture features six transformative technologies

for accelerated computing, which will help unlock breakthroughs in data processing, engineering simulation, electronic design automation, computer-aided drug design, quantum computing and generative AI — all emerging industry opportunities for NVIDIA.

 

Blackwell GPU 아키텍처는 가속 컴퓨팅을 위한 여섯 가지 혁신적인 기술을 특징으로 하며, 데이터 처리, 엔지니어링 시뮬레이션, 전자 설계 자동화, 컴퓨터로 설계하는 약물 설계, 양자 컴퓨팅 및 생성 AI와 같은 분야에서의 돌파구를 가능하게 할 것입니다. 이들은 모두 NVIDIA에게 샐로운 사업 기회를 제공합니다.

 

“For three decades we’ve pursued accelerated computing, with the goal of enabling transformative breakthroughs like deep learning and AI,” said Jensen Huang, founder and CEO of NVIDIA. “Generative AI is the defining technology of our time. Blackwell is the engine to power this new industrial revolution. Working with the most dynamic companies in the world, we will realize the promise of AI for every industry.”

 

NVIDIA의 창립자이자 CEO인 젠슨 황은 "삼십 년 동안 우리는 가속 컴퓨팅을 추구해 왔으며, 깊은 학습과 AI와 같은 혁명적인 돌파구를 가능하게 하는 것이 목표였습니다,"라고 말했습니다. "생성 AI는 우리 시대를 정의하는 기술입니다. Blackwell은 이 새로운 산업 혁명을 구동할 엔진입니다. 세계에서 가장 역동적인 회사들과 협력하여, 모든 산업에 대한 AI의 약속을 실현할 것입니다."

 

Among the many organizations expected to adopt Blackwell are Amazon Web Services, Dell Technologies, Google, Meta, Microsoft, OpenAI, Oracle, Tesla and xAI.

 

Blackwell을 채택할 것으로 예상되는 많은 조직들 중는 Amazon Web Services, Dell Technologies, Google, Meta, Microsoft, OpenAI, Oracle, Tesla 및 xAI가 있습니다.

 

Sundar Pichai, CEO of Alphabet and Google: “Scaling services like Search and Gmail to billions of users has taught us a lot about managing compute infrastructure. As we enter the AI platform shift, we continue to invest deeply in infrastructure for our own products and services, and for our Cloud customers. We are fortunate to have a longstanding partnership with NVIDIA, and look forward to bringing the breakthrough capabilities of the Blackwell GPU to our Cloud customers and teams across Google, including Google DeepMind, to accelerate future discoveries.”

알파벳과 구글의 CEO인 순다르 피차이는 "검색 및 Gmail과 같은 서비스를 수십억 사용자에게 확장하면서 컴퓨트 인프라 관리에 대해 많은 것을 배웠습니다. 우리가 AI 플랫폼 전환에 들어섬에 따라, 우리 자신의 제품과 서비스를 위한 인프라에 깊이 투자하는 것을 계속하고 있으며, 클라우드 고객들을 위해서도 마찬가지입니다. 우리는 NVIDIA와 오랜 파트너십을 가지고 있어 운이 좋으며, Blackwell GPU의 혁신적인 기능을 클라우드 고객 및 구글 전반의 팀들에게, 구글 딥마인드를 포함하여, 제공하게 되어 미래의 발견을 가속화할 것을 기대합니다,"라고 말했습니다.