Nvidia는 새로운 DGX GH200 AI 슈퍼컴퓨터를 공개

2023.06.02

 DGX GH200은  AI supercomputer.

 

Nvidia는 또한 DGX GH200 AI 슈퍼컴퓨터를 구동하는 새로운 Grace Hopper 슈퍼칩이 완전 생산 모드에 들어갔으며, 

이 슈퍼칩이 장착된 시스템이 올해 후반에 출시될 것으로 예상된다고 밝혔습니다.

 

Nvidia’s new Grace Hopper superchip to fuel its DGX GH200 AI supercomputer | Network World

Nvidia has unveiled a new DGX GH200 AI supercomputer, underpinned by its new Grace Hopper superchip and targeted toward developing and supporting large language models.

Large language models are the new cloud battleground

Nvidia는 새로운 DGX GH200 AI 슈퍼컴퓨터를 공개했습니다. 

이 슈퍼컴퓨터는 새로운 Grace Hopper 슈퍼칩을 기반으로 하며, 대형 언어 모델의 개발과 지원을 목표로 합니다.

 

“DGX GH200 AI supercomputers integrate Nvidia’s most advanced accelerated computing and networking technologies to expand the frontier of AI,” Nvidia CEO Jensen Huang said in a blog post.

NVIDIA Announces DGX GH200 AI Supercomputer

 

"Nvidia CEO Jensen Huang은 블로그 게시물에서 'DGX GH200 AI 슈퍼컴퓨터는

 Nvidia의 가장 최첨단 가속 컴퓨팅 및 네트워킹 기술을 통합하여 AI의 경계를 확장합니다.'라고 말했습니다."

 

The supercomputer, according to Huang, combines the company’s GH200 Grace Hopper superchip and Nvidia’s NVLink and Switch System, to allow the development of large language models for generative AI language applications, recommender systems, and data analytics workloads.

What is generative AI? The evolution of artificial intelligence

 

젠슨황에 따르면, 이 슈퍼컴퓨터는 회사의 GH200 Grace Hopper 슈퍼칩과 Nvidia의 NVLink 및 스위치 시스템을 결합하여 생성적인 AI 언어 응용프로그램, 추천 시스템 및 데이터 분석 작업에 대한 대형 언어 모델의 개발을 가능하게 합니다.

 

Nvidia’s DGX GH200 uses the NVLink interconnect technology to combine 256 Grace Hopper superchips into a single graphics processing unit (GPU) in order to extract “1 exaflop of performance and 144 terabytes of shared memory — nearly 500 times more memory than the previous generation NVIDIA DGX A100, which was introduced in 2020.”

 

Nvidia의 DGX GH200은 NVLink 상호 연결 기술을 사용하여 256개의 Grace Hopper 슈퍼칩을 

하나의 그래픽 처리 장치(GPU)로 결합하여 "1 exaflop의 성능과 144 테라바이트의 공유 메모리"를 사용합니다. 

이는 2020년에 출시된 이전 세대 NVIDIA DGX A100보다 거의 500배 더 많은 메모리입니다.

 

The chip maker will emulate the strategy it took with its DGX Pods in making the new supercomputer available.

칩 제조업체는 새로운 슈퍼컴퓨터를 이용할 수 있도록 DGX Pods에서 사용한 전략을 에뮬레이션할 것입니다

 

Earlier in March, Huang said the company struck a deal to make its DGX systems available through multiple cloud providers, rather than installing the necessary hardware on-premises.

Currently, Microsoft, Meta, and Google Cloud have access to the new supercomputer, the company said.

 

3월 초에 젠슨황은 회사가 DGX 시스템을 현장에 필요한 하드웨어를 설치하는 대신

여러 클라우드 공급업체를 통해 이용할 수 있도록 계약을 체결했다고 말했습니다.

현재, Microsoft, Meta 및 Google Cloud가 이 새로운 슈퍼컴퓨터에 액세스할 수 있다고 회사는 말했습니다.

 

Nvidia also said the new Grace Hopper superchip that fuels the DGX GH200 AI supercomputer is in full production mode and systems with the superchip are expected to be available later this year.

The company also said that it was using the new Grace Hopper superchip to help SoftBank design next-generation distributed data centers that will be capable of handling generative AI and 6G applications.

 

Nvidia는 또한 DGX GH200 AI 슈퍼컴퓨터를 구동하는 새로운 Grace Hopper 슈퍼칩이 완전 생산 모드에 들어갔으며, 

이 슈퍼칩이 장착된 시스템이 올해 후반에 출시될 것으로 예상된다고 밝혔습니다.

또한, 회사는 새로운 Grace Hopper 슈퍼칩을 사용하여 소프트뱅크가 생성 AI 및 6G 응용프로그램을 

처리할 수 있는 차세대 분산 데이터 센터를 설계하는 데 도움을 주고 있다고 말했습니다.

 

--------------------------------

아래 표를 보니 향후 서버에서 메모리가 차지하는 비중이 계속 높아진다고 예상하는군요.

 

AI 시대로의 전환, 메모리 반도체의 역할과 미래 수요 예상 : 네이버 블로그 (naver.com)