El sector de las aceleradoras necesita memoria superrápida, y eso implica que los fabricantes de chips de memoria evolucionen lo más rápido posible la HBM. Entre ellos está Micron, la cual ha anunciado ahora su chip de HBM3E que da una vuelta de tuerca al sector ya que se compone de doce capas apiladas de memoria, un 50 % más que el actual chip que tenía disponible. La capacidad total del chip es de 36 GB, y gracias a la mejora en su frecuencia de funcionamiento, 9.2 Gb/s, alcanza los 1.2 TB/s de ancho de banda.
Los procesadores que tienen estos chips de HBM integrados en su encapsulado suelen incluir hasta ocho, por lo que el ancho de banda total que puede alcanzar el procesador con ellos es de 9.6 TB/s con una cantidad total de memoria en el encapsulado de 288 GB. Será ideal para las aceleradoras de entrenamiento de los grandes modelos de lenguaje que se usan para dar vida a las inteligencias artificiales como Gemini o GPT. Estos chips están en producción en masa y los clientes de la compañía ya los están recibiendo.
Vía: TechPowerUp.
