Amazon Web Services (AWS) es el brazo en la nube de la famosa compañía y la base de la mayor parte de las grandes compañías con algún servicio en internet. Gran parte de los desarrollos actuales de AWS y sus competidores, como Google Cloud, están más enfocados que nunca a los servicios en la nube basados en inteligencia artificial, por lo que la compañía sigue expandiendo su catálogo de chips propios para este tipo de cómputos. Los dos nuevos son los Graviton4 y Trainium2, con diseños internos distintos.
El Graviton4 es un chip multipropósito para los servidores de AWS, aunque habrá diversos modelos, por lo que integra hasta 96 núcleos de arquitectura ARM, aunque no indica qué tipo exactamente son los núcleos. El diseño es de módulo multichip con un encapsulado realizado por Intel Foundry Services.
Con este procesador promete hasta un 30 % más de rendimiento de cómputo general, tiene un 50 % más de núcleos que el modelo anterior, y un ancho de banda un 75 % superior. Su función principal son bases de datos, procesamiento en memoria y análisis de datos a gran escala.
En cuanto al Trainium 2, también es multichip y está orientado a entrenamiento de inteligencia artificial, que se usará principalmente en los grandes modelos de lenguaje (LLM) usados por las inteligencias artificiales generativas. Promete un rendimiento hasta cuatro veces superior al Trainium original, duplicando además el rendimiento por vatio. Las redes de entrenamiento de LLM pueden escalar hasta los 100 000 procesadores Trainium 2, lo cual arroja 65 exa-FLOPS de potencia de cómputo. Se usará en los sistemas UltraCluster de EC2. Es un competidor directo de las aceleradoras de NVIDIA.
Vía: Tom's Hardware.