AMD también quiere ser alguien en el sector de las aceleradoras de inteligencia artificial, y no lo ha sido antes por el desinterés que tenía en ello, centrándose en su lugar en los procesadores. Probablemente sea la peor jugada de Lisa Su en todo lo que lleva de directora ejecutiva, aunque ahora está apretando las tuercas para conseguir algo comparable a las de NVIDIA, a todos los niveles. La Instinct MI455X presentada es la primera que realmente aporta algo, y para ello ha tenido que recurrir a los 2 nm de TSMC.
La GPU de esta aceleradora es de arquitectura CDNA 5, del que os dejo más abajo el libro blanco ya que se explica bien los detalles generales de la GPU. No ha dejado nada sin tocar, empezando por cómo se agrupan los hilos, que bajan de nuevo a 32 (Wave32) en lugar de usar Wave64 como en la Instinct 355X. Eso lo hace para disminuir la latencia, y las cargas de IA son muy sensibles a la latencia. Junto con nuevas instrucciones, o mejorando la compatibilidad, como para FP4, FP6 y FP8, AMD ha llamado ya la atención del sector. Compañías como Anthropic ya tienen acuerdos para comprarle estas aceleradoras, que se venderán en bastidores Helios.
Sea como sea, cada Instinct MI455X contiene 32 768 núcleos en una disposición mejorada, 432 GB de HBM4, con un ancho de banda de memoria de 23.3 TB/s, y una potencia de cómputo FP8 que alcanza los 20 PFLOPS, o el doble en FP4. Con ello, AMD promete que puede procesar hasta 34 veces más tókenes por segundo que la MI355X cuando haya una alta interactividad, que cae a cuatro veces más cuando haya una baja interactividad. De media, promete un 94 % menos de coste por token con estas aceleradora frente a la MI355X.
Libro blanco de CDNA 5
