NVIDIA lanza la H200, la GPU más potente del mundo

[Noticias]

NVIDIA lanza la H200, la GPU más potente del mundo

NVIDIA, conocida por sus tarjetas gráficas para gaming como las GeForce RTX 4090 y 4080, ha anunciado su nueva GPU para inteligencia artificial (IA), la NVIDIA H200, una evolución de su anterior modelo H100. Esta GPU de arquitectura Hopper cuenta con 141 GB de VRAM HBM3E y un ancho de banda de hasta 4,8TB/s, superando significativamente a la H100 que tiene 80 GB de VRAM HBM3E y un ancho de banda de 3,35TB/s. La H200 ofrece un rendimiento de 3,958 teraFLOPS en FP8, el doble que la H100 en tareas de inferencia en modelos largos de lenguaje. En pruebas, se ha demostrado que la H200 realiza tareas de inferencia en Llama 2 70B hasta 1,9 veces más rápido y en GPT-3 175B hasta 1,6 veces más rápido. Estas mejoras permitirán reducir cuellos de botella en procesos complejos y mejorar el rendimiento en una variedad de tareas exigentes. Además, NVIDIA lanzará el sistema HGX H200, que integra la GPU con interconexiones de alta velocidad NVLink y NVIDIA InfiniBand, destinado a centros de datos. Las configuraciones de cuatro y ocho vías de la NVIDIA HGX H200 ofrecerán más de 32 petaFLOPS en FP8 y hasta 1,1 TB de memoria. Estas soluciones serán utilizadas por grandes empresas como Amazon Web Services, Google Cloud, Microsoft Azure y Oracle Cloud Infrastructure para alimentar su infraestructura y entrenar futuros modelos de IA. NVIDIA comenzará a distribuir su nuevo producto el próximo año.

fuente