Nvidia Corp.는 성장하는 분야에서 회사의 우위를 공고히 하는 것을 목표로 칩의 용량과 성능을 향상시키는 개선된 AI 프로세서를 공개했습니다. NVIDIA GH200 Grace Hopper는 2024년 2분기에 출시될 예정입니다.
Nvidia는 화요일 로스앤젤레스에서 열린 Siggraph 컨퍼런스에서 Grace Hopper Superchip, 하이브리드 그래픽 칩 및 CPU가 새로운 형태의 메모리의 혜택을 받을 것이라고 말했습니다. 이 장치는 고대역폭 메모리 3 또는 HBM3e를 기반으로 하며 초당 5기가바이트의 속도로 데이터에 액세스할 수 있습니다.
Nvidia의 최신 발표는 현재 생산 중이며 올해 말에 출시될 이전에 발표된 HBM3 탑재 GH200에 이은 것입니다. 이것은 NVIDIA가 동일한 장치의 두 가지 버전을 생산할 것임을 의미합니다. 첫 번째는 HBM3를 사용하고 두 번째는 HBM3e를 통합합니다. Nvidia는 또한 차세대 GH200이 HBM3e 메모리 덕분에 현재 모델보다 3.5배 더 빠르게 AI 모델을 실행할 수 있을 것이라고 말합니다.
Nvidia GH200 Grace Hopper: 72코어 Grace CPU 기반
새로운 GH200 그레이스 호퍼 슈퍼칩은 480GB ECC LPDDR5X 메모리가 장착된 72코어 그레이스 CPU와 6,144비트 폭의 메모리 인터페이스와 6개의 24GB 스택에서 141GB HBM3E 메모리가 장착된 GH100 컴퓨팅 GPU를 기반으로 합니다. NVIDIA는 물리적으로 144GB의 메모리를 설치하지만 생산량 증가를 위해 141GB만 액세스할 수 있습니다.
NVIDIA의 현재 GH200 Grace Hopper Superchip은 대역폭이 4TB/s 미만인 96GB의 HBM3 메모리를 특징으로 합니다. 이에 비해 새 모델은 메모리 용량을 약 절반, 대역폭을 1/4 이상 늘렸습니다. 이러한 주요 개선 사항을 통해 새로운 플랫폼은 이전 반복보다 더 큰 AI 모델을 실행할 수 있으므로 성능이 크게 향상되었습니다.
Microsoft와 NVIDIA는 다음과 같은 계약을 체결했습니다. Nvidia GeForce Now 게임 패스
Nvidia는 이것이 몇 년 전의 A100의 40GB 및 80GB 버전과 유사한 동일한 구성 요소의 다른 구성 때문이라고 주장합니다. 사실, 적어도 당분간은 RAM 로드아웃이 주요 차이점입니다. 현세대 GH200에 있는 96GB HBM3 vRAM과 480GB LPDDR5x DRAM 대신 “차세대” GH200에는 141GB HBM3e와 500GB 더 느린 400GB/초 LPDDR5x가 있습니다. 512GB/sec LPDDR5x DRAM은 이전 반복에서 사용되었습니다.
Nvidia는 한동안 Grace Hopper Superchips에서 작업해 왔습니다.
회사가 예비 계획을 공개한 최소 2021년 이후 그레이스 호퍼 슈퍼칩은 Nvidia의 CEO에게 뜨거운 이슈였습니다.
Superchip은 모바일 장치에서 광범위하게 사용되는 Arm 아키텍처를 기반으로 하며 Intel 및 AMD의 x86 기반 기술과 경쟁합니다. Arm 기반 Nvidia Grace CPU와 Hopper GPU 아키텍처를 결합했기 때문에 Nvidia에서 “슈퍼칩”이라고 합니다.
Grace Hopper Superchip은 Nvidia GH200 Grace Hopper의 최신 버전에서 세계에서 가장 빠른 메모리인 HBM3e의 성능을 강화했습니다. Nvidia에 따르면 HBM3e 메모리는 GH200의 현재 반복에 포함된 HBM3 기술보다 최대 50% 더 빠릅니다.
엔비디아 컴퓨텍스 2023 게임의 미래를 가져옵니다
“우리는 이 새로운 GH200에 대해 매우 흥분하고 있습니다. 141GB의 HBM3e 메모리가 탑재됩니다. Venture Beat에 따르면 HBM3e는 GPU에 연결된 메모리의 용량과 양을 증가시킬 뿐만 아니라 훨씬 더 빠릅니다.
Nvidia는 더 빠른 하드웨어를 개발할 뿐만 아니라 새로운 서버 설계에서 이를 확장하고 있습니다.
Buck은 Nvidia가 차세대 Grace Hopper Superchip 2개를 탑재한 새로운 듀얼 GH200 기반 Nvidia MGX 서버 시스템을 개발 중이라고 밝혔습니다. 그는 계속해서 새로운 GH200이 Nvidia의 상호 연결 기술인 NVLink를 사용하여 연결될 것이라고 말했습니다.
새로운 듀얼 GH200 서버의 CPU와 GPU는 모두 NVLink 덕분에 완전히 일관된 메모리 연결과 결합됩니다.
엔비디아 GH200 그레이스 호퍼 출시일
NVIDIA에 따르면 HBM3를 탑재한 GH200 Grace Hopper 플랫폼은 현재 생산 중이며 다음 달에 상용화될 예정입니다. 이와는 대조적으로 HBM3e가 탑재된 GH200 Grace Hopper 플랫폼은 현재 샘플링 중이며 2024년 2분기에 준비될 것으로 예상됩니다.
NVIDIA에 따르면 새로운 GH200 Grace Hopper는 이전 반복과 동일한 Grace CPU 및 GH100 GPU 기술을 사용하므로 추가 수정이나 스테핑이 필요하지 않습니다.
주요 이미지 크레딧: 엔비디아
