A NVIDIA anunciou a próxima geração da plataforma NVIDIA GH200 Grace Hopper para computação acelerada e inteligência artificial generativa na SIGGRAPH, uma conferência global de computação gráfica que acontece em Los Angeles de 6 a 10, horário local. Plataforma Hopper™).
A plataforma é baseada no novo superchip Grace Hopper com o primeiro processador HBM3e do mundo.
A plataforma GH200 Grace Hopper foi projetada para lidar com as cargas de trabalho de IA mais complexas do mundo, incluindo modelos de linguagem em grande escala, sistemas de recomendação e bancos de dados vetoriais, e estará disponível em várias configurações.
Oferecendo 3,5 vezes mais capacidade de memória e 3 vezes mais largura de banda do que os produtos da geração atual, a configuração dupla consiste em um único servidor com 144 núcleos Arm Neoverse, 8 petaflops de desempenho de IA e 282 GB da mais recente tecnologia de memória HBM3e.
“Para atender à crescente demanda por IA generativa, os data centers precisam de plataformas de computação aceleradas com requisitos especializados”, disse Jensen Huang, fundador e CEO da NVIDIA. A nova plataforma GH200 Grace Hopper melhora a produtividade com tecnologia de memória e largura de banda superiores e consolida o desempenho conectando GPUs sem sacrificar o desempenho. Podemos fazer isso projetando um servidor que pode ser facilmente implantado em um data center inteiro.”
Os superchips Grace Hopper usados na nova plataforma podem ser conectados a superchips adicionais usando NVIDIA NVLink™, permitindo que eles trabalhem juntos para implantar modelos massivos usados em IA generativa. Essa tecnologia consistente de alta velocidade permite que a GPU acesse totalmente a memória da CPU, fornecendo um total de 1,2 TB de memória rápida em uma configuração dupla.
A memória HBM3e tem uma velocidade de transferência de dados 50% mais rápida que a HBM3 convencional e fornece uma largura de banda total de 10 terabytes por segundo. Isso permite que a nova plataforma execute modelos com 3,5x a capacidade das versões anteriores e melhore o desempenho com largura de banda até três vezes mais rápida.
Os principais fabricantes já estão oferecendo sistemas baseados no super chip Grace Hopper anunciado anteriormente. A próxima geração da plataforma Grace Hopper SuperChip com HBM3e é totalmente compatível com a especificação de servidor NVIDIA MGX (MGX™) revelada na Computex no início deste ano para expandir a adoção da tecnologia.
Qualquer fabricante de sistema pode adicionar o Grace Hopper de forma rápida e econômica a qualquer uma de suas mais de 100 variantes de servidor por meio do MGX. Espera-se que os principais fabricantes de sistemas introduzam sistemas baseados nessa plataforma no segundo trimestre de 2024.
“Leitor implacável. Especialista em mídia social. Amante de cerveja. Fanático por comida. Defensor de zumbis. Aficionado por bacon. Praticante da web.”