A NVIDIA, conhecida principalmente pelas suas potentes placas gráficas para gaming, como as GeForce RTX 4090 e GeForce RTX 4080, tem vindo a ganhar destaque no mercado de computação de alto rendimento, especialmente com o crescimento da inteligência artificial (IA). Sob a liderança de Jen-Hsun Huang, a empresa americana tornou-se uma referência neste campo, sendo a escolha óbvia para empresas que necessitam de treinar modelos de IA.
Recentemente, a NVIDIA anunciou a sua mais recente GPU para IA, a NVIDIA H200. Esta nova GPU promete revolucionar o treino de modelos de IA, com um desempenho impressionante e características técnicas avançadas.
A NVIDIA H200 é uma GPU de arquitectura Hopper com 141 GB de VRAM HBM3E, a primeira a alcançar tal capacidade, e uma banda de até 4,8TB/s. Em comparação, a sua antecessora, a H100, tinha 80 GB de VRAM HBM3E e uma banda de 3,35TB/s.
Em termos de desempenho, a NVIDIA H200 promete alcançar 3,958 teraFLOPS em FP8 (ponto flutuante de 8 bits para Transformer Engine). Isto traduz-se, pelo menos em teoria, no dobro do desempenho em tarefas de inferência em modelos longos de linguagem (LLM), em comparação com a H100.
As melhorias ao nível da banda permitirão reduzir os bloqueios em cenários de processamento complexos e melhorar o desempenho da placa gráfica numa variedade de tarefas exigentes, que vão além da IA, como as simulações.
A NVIDIA H200 será oferecida de várias formas. Para além da GPU individual, a empresa também disponibilizará o sistema HGX H200, uma solução que integra várias tecnologias. Este sistema combina a potência da GPU com as interconexões de alta velocidade NVLink e NVIDIA InfiniBand, sendo ideal para ser aplicado em centros de dados.
A NVIDIA HGX H200 estará disponível em configurações de quatro e oito vias e será compatível com o hardware existente HGX das H100. Um HGX H200 de oito vias promete oferecer mais de 32 petaFLOPS em FP8 e até 1,1 TB de memória com ancho de banda de alto rendimento.
Grandes empresas, como Amazon Web Services, Google Cloud, Microsoft Azure e Oracle Cloud Infrastructure, já reservaram os seus HGX H200 para alimentar a sua infraestrutura e treinar os modelos de IA do futuro. No entanto, terão de esperar até ao próximo ano, altura em que a NVIDIA começará a distribuir o seu novo produto.
Fonte: Cnbc
