Nvidia ha presentado la nueva tarjeta gráfica Tesla A100, y eso significa que hay nuevo equipo DGX, el DGX-A100. Son los servidores todo en uno para grandes empresas porque su precio parte de los 200 000 dólares y en su interior se encuentran ocho tarjetas gráficas Tesla A100 conectadas a través del NVLink 3 de Nvidia, más otros extras que lo convierten en un servidor extremadamente potente para inteligencia artificial.
La curiosidad de este servidor es que recurre a dos procesadores EPYC 7742 para 128 núcleos en total para mover toda la carga de trabajo, por lo que en lo que a procesadores se refiere está claro que Nvidia confía en AMD. Incluye 320 GB de memoria total, 1 TB de almacenamiento, usa Ubuntu como sistema operativo por defecto.
El tamaño del servidor es de 26.4 cm × 48.23 cm × 89.71 cm y tiene un peso de 123 kg. En su interior se encuentran ocho tarjetas de red de Mellanox, ahora filial de Nvidia, para una conexión en total de 200 Gb/s. Los enlaces NVLink 3 aportan 600 GB/s de comunicación intertarjetas, y se sustentan en seis NVSwitch que aportan 4.8 TB/s de comunicación bidireccional. La potencia de cómputo total en inferencias alcanza las 10 petaoperaciones por segundo.