NVIDIA DGX-2, supercomputadora con 16 Tesla V100 y 2 PFLOPs para Deep Learning

[amazon_link asins=’B06X9TNDFF’ template=’ProductAd’ store=’botechnewstienda-20′ marketplace=’MX’ link_id=’bcd1a38c-66fb-11e8-bd36-07deb77d090f’]

Una de las frases que Jensen Huang, fundador y CEO de NVIDIA, ha repetido con mayor frecuencia durante sus últimas presentaciones es: “entre más GPUs compres, más dinero ahorras“. Su finalidad ha sido recalcar que los GPUs representan una mejor solución en términos de rendimiento y eficiencia energética para resolver problemas actuales de Deep Learning (o Inteligencia Artificial) y acelerar el supercómputo (HPC, o High-Performance Computing).

Sin embargo, durante la conferencia de prensa de este año en GTC 2018, el CEO de NVIDIA reconoció que “la industria quiere GPUs aún más grandes”. Su respuesta fue el anuncio de la nueva supercomputadora NVIDIA DGX-2 capaz de entregar hasta 10x veces mayor rendimiento que la primera generación anunciada en el 2017.

La nueva NVIDIA DGX-2 es una supercomputadora unificada con diseño modular para Inteligencia Artificial (Deep Learning) y cómputo de alto rendimiento (HPC, o High-performance Computing). Básicamente es un sueño hecho realidad.

Jensen Huang, fundador y CEO de NVIDIA, comenta:

“El mundo de cómputo ha cambiado.”

“El escalamiento de CPU ha disminuido en una época donde la demanda de cómputo está despegando. El NVIDIA HGX-2 con GPUs Tensor Core entrega a la ndustria una plataforma poderosa y versátil que fusiona el HPC y la IA para resolver los retos más grandes del mundo.”

Para hacerlo posible, la nueva NVIDIA DGX-2 está compuesta 16 GPUs Tesla V100 fabricados a 12nm por TSMC con 32GB de memoria HBM 2 cada una, los cuales están distribuidores a través de dos módulos (o baseboards) conectados mediante seis interruptores NVSwitch y una interfaz NVLink para que cada GPU se comunique con otra a una velocidad de 300GB/s.

Todo esto combinado da como resultado que el DGX-2 se comporte como  “un inmenso GPU virtual” que tiene 81,920 CUDA Cores y 512GB de memoria HBM2 que trabaja una velocidad de 14.4 TB/s. Esto da como resultado que la plataforma DGX-2 un espectacular rendimiento de 2 PTFLOPs en cómputo de precisión media (FP16) y 125 TFLOPs en cómputo de simple y doble precisión (FP32 y FP64).

	HGX-1 con Malla Hybrid Cube	HGX-2 con NVSwitch
# de GPUs V100	8	16
Rendimiento Tensor Core (FLOPS)	1 Petaflop	2 Petaflops
Cantidad de memoria en GPU	256GB	512GB
1 GPU a 1 GPU	1 o 2 NVLink o PCIe	6 NVLink Todo el tiempo
Completamente conectadas por NVLink	4 GPU	16 GPU
Ancho de banda	300GB/s	2,400GB/s (48 NVLink)
Multi-GPU Deep Learning	Reduce todo tipo de Paralelismo de Información	Reduce todo tipo de Paralelismo de Información Paralelismo de Modelo

En adición, la DGX-2 incluye dos procesadores Intel Xeon Platinum “Skylake”, 1.5TB de memoria RAM, 30TB para almacenamiento en SSDs NVMe, y ocho procesadores NIC EDR 1B/100GigE. Todo esto con un consumo de tan sólo 10KW comparado a supercomputadoras tradicionales que requieren hasta 180KW de energía.

¿La mejor parte?

De acuerdo a NVIDIA, la plataforma DGX-2 no solamente ofrece el mejor rendimiento en cómputo paralelo para Inteligencia Artificial que el mundo haya visto, sino que además ofrece un gran valor en el sentido de que representa una inversión más económica, ahorra espacio y es mucho más eficiente en consumo de energía.

En cuestión de rendimiento, señalaron que la nueva plataforma DGX-2 puede entrenar redes neuronales a una velocidad de 15,000 imágenes por segundo en el benchmark ResNet-50, lo cual es suficiente para reemplazar hasta 300 servidores basados en CPUs x86.

Plataforma NVIDIA HGX-2

NVIDIA sabe que diseñar servidores no es trabajo sencillo y que implementar clústers acelerados por GPUs de alto rendimiento representan un reto. Para ello anunciaron una nueva plataforma que busca estandarizar las motherboards para servidores hyperscale llamada HGX-2.

Disponibilidad, precio

A pesar que la plataforma DGX-2 puede correr juegos, según NVIDIA. Su precio de $399 mil dólares la hará muy prohibitiva para los mortales. Sin embargo, señalaron que compañías líderes en la industria como Lenovo, QCT, Supermicro y Wiwynn son algunos de los integradores OEM, ODM que traerán sistemas HGX-2 al mercado para finales de este 2018.

Más información | NVIDIA DGX-2 | NVIDIA HGX-2