La nueva NVIDIA H100 es una GPU mastod贸ntica con 80.000 millones de transistores. Y no es para ti
En NVIDIA ofrecieron ayer un evento cargado de novedades. Las noticias se centraron en el 谩mbito de los centros de datos, pero es que como ya sucedi贸 hace dos a帽os con Ampere, lo presentado hace unas horas nos sirve para comprender lo que llegar谩 a futuras GPUs para usuarios finales.
Entre las novedades destacaron la nueva arquitectura NVIDIA Hopper, sucesora de Ampere —presente en las RTX 3000—, y tambi茅n su primera implementaci贸n pr谩ctica, la GPU NVIDIA H100 que va a煤n m谩s all谩 de lo que fue su antecesora, la A100, y plantea una potencia sin precedentes gracias a sus 80.000 millones de transistores.
Transistores a m铆
La nueva GPU es un nuevo prodigio tecnol贸gico. La fotolitograf铆a de 4 nm de TSMC es una de las claves de un chip que cuenta un n煤mero de transistores absurdo: 80.000 millones. Es dif铆cil de entender la magnitud de la cifra, pero sirve como referencia que su antecesora, la A100, contaba con 54.200 millones.Todo en
Pr谩cticamente todo en la NVIDIA H100 mejora respecto a su predecesora. Los n煤meros son prometedores en todos los 谩mbitos, pero tambi茅n es cierto que el TDP casi se dobla y pasa a ser de 700 W frente a los 400 W: con la factura de la luz en m谩ximos hist贸ricos, usar estos chips no les va a salir barato a las empresas.
Y es que la H100 es una GPU destinada totalmente a centros de datos. La apuesta por 谩mbitos relacionados con la inteligencia artificial es enorme, y de hecho la empresa hac铆a especial hincapi茅 en su Transformer Engine, "dise帽ado para acelerar el entrenamiento de modelos de inteligencia artificial". Este tipo de tecnolog铆a est谩 detr谩s de sistemas como GPT-3, y har谩 que entrenar esas funciones sea mucho m谩s r谩pido.
A esa GPu tambi茅n le beneficia la presencia de la tecnolog铆a NVLink de cuarta generaci贸n que permite escalar la interconexi贸n de todos sus nodos. Ofrece hasta 900 GB/s de transferencias bidireccionales por GPU, o lo que es lo mismo, siete veces el ancho de banda del est谩ndar PCIe 5 que ni siquiera ha llegado de forma pr谩ctica al mercado.
La arquitectura Hopper es tambi茅n parte fundamental de estos avances. En NVIDIA destacaban la capacidad de esta nueva arquitectura para acelerar la llamada programaci贸n din谩mica, "una t茅cnica de resoluci贸n de problemas usada en algoritmos para gen贸mica, computaci贸n cu谩ntica, optimizaci贸n de rutas y m谩s".
Seg煤n el fabricante, todas esas operaciones se har谩n ahora 40 veces m谩s r谩pido gracias al uso de las nuevas instrucciones DXP , un nuevo conjunto de instrucciones que pueden ser aplicadas en estos 谩mbitos.
Otro de los anuncios m谩s llamativos fue el de su Grace CPU Superchip, que est谩 formado por dos procesadores conectados a trav茅s de un enlace NVLink-C2C de baja latencia. La idea es orientar este chip para que "sirva a centros HPC de gran escala y aplicaciones de inteligencia artificial" junto a las GPUs con arquitectura Hopper.
Este "chip doble" es la evoluci贸n del Grace Hopper Superchip anunciado el a帽o pasado. En esta iteraci贸n se incluyen 144 n煤cleos ARMv9 que logran un rendimiento 1,5 veces superior al de la CPU dual de los sistemas DGX A100 que NVIDIA ofrece desde hace tiempo.
En NVIDIA indicaron adem谩s que est谩n creando una nueva supercomputadora llamada Eos destinada a tareas de inteligencia artificial. Seg煤n el fabricante, ser谩 la m谩s potente del mundo cuando est茅 implantada. Este proyecto constar谩 de 4.600 GPUs H100 que permitir谩n ofrecer 18,4 exaflops de rendimiento en operaciones de IA, y se espera que est茅 lista en unos meses, aunque solo se utilizar谩 para investigaci贸n interna en NVIDIA.
Se espera que las Grace CPU Superchip est茅n disponibles en la primera mitad de 2023, de modo que tendremos que ser pacientes. Las NVIDIA H100 estar谩n disponibles antes, en el tercer trimestre de 2022.
M谩s informaci贸n | NVIDIA
-
La noticia
La nueva NVIDIA H100 es una GPU mastod贸ntica con 80.000 millones de transistores. Y no es para ti
fue publicada originalmente en
En este blog
por
Javier Pastor
.
No hay comentarios.: