AMD se quita los guantes en la carrera armamentista de IA | ENBLE
AMD deja de lado los guantes en la carrera armamentística de IA | ENBLE
AMD parece estar listo para luchar. En su evento Advancing AI, la compañía finalmente lanzó su GPU de IA Instinct MI300X, de la que ya habíamos escuchado hace algunos meses. Lo emocionante de este desarrollo es el rendimiento que AMD afirma en comparación con el elefante de IA verde en la habitación: Nvidia.
Basado en especificaciones, AMD afirma que el MI300X supera al GPU de IA H100 de Nvidia en capacidad de memoria y ancho de banda de memoria, y es capaz de ofrecer un rendimiento teórico 1.3 veces superior en operaciones FP8 y FP16. AMD mostró esto con dos Modelos de Lenguaje Grande (LLMs) utilizando un kernel mediano y grande. El MI300X mostró una mejora entre 1.1x y 1.2x en comparación con el H100.
En un momento que parece sacado directamente de una conferencia de Nvidia, Lisa Su, CEO de AMD, presentó la Plataforma MI300X, que combina ocho de estas GPU en una sola placa. AMD afirma que estas placas ofrecen el mismo rendimiento de entrenamiento que el H100 HGX de Nvidia y un rendimiento de inferencia 1.6 veces superior. Además, AMD dice que puedes ejecutar dos LLMs por sistema, mientras que H100 HGX solo puede manejar uno.
Para ilustrar lo importante que es esto, AMD trajo al escenario a Kevin Scott, Director de Tecnología de Microsoft, para hablar sobre cómo AMD y Microsoft están trabajando juntos en IA. Es importante resaltar que el popular ChatGPT se ejecuta en servidores de Microsoft y originalmente fue entrenado en miles de GPUs de Nvidia.
Además del MI300X, AMD anunció el MI300A, que es el primer APU para IA, según AMD. Esto combina la arquitectura de GPU de IA CDNA 3 de AMD con 24 núcleos de CPU Zen 4, junto con 128GB de memoria HBM3. AMD dice que esto es un equilibrio entre el rendimiento de IA y la computación de alto rendimiento, ofreciendo la destreza de la CPU que vimos recientemente en Threadripper 7000 para centros de datos.
- Google podría finalmente tener una respuesta a GPT-4 | ENBLE
- Microsoft cobrará por las actualizaciones de Windows 10 en el futur...
- Amazon ataca a Microsoft en la investigación del mercado de la nube...
A pesar de subirse al tren de la IA junto con el resto del mundo tecnológico, AMD ha estado en un segundo plano en comparación con Nvidia hasta este punto. Nvidia comenzó a invertir fuertemente en IA hace años, lo que le dio una importante ventaja sobre AMD e Intel. Esa inversión temprana ha catapultado a Nvidia a convertirse en una compañía de billones de dólares este año.
Con un grupo de GPU que está listo para desafiar al H100 de Nvidia, así como asociaciones con Meta y Microsoft, AMD finalmente está entrando al ring. Podría salir magullado y ensangrentado, pero parece que AMD está listo para plantar cara.
