AMD ha presentado ROCm 7, la que es la séptima gran versión de la plataforma abierta Radeon Open Compute pensada para sistemas de alto rendimiento HPC e Inteligencia Artificial mediante tarjetas aceleradoras y GPUS.
ROCm 7 toma las bases de las últimas versiones de ROCm 6, adoptando el soprote para los últimos algoritmos y modelos de lenguaje de IA, mejoras para entornos empresariales, gestión de clústeres y funciones avanzadas para escalado IA.
Naturalmente, con el lanzamiento de hoy de las AMD Instinct 350 Series, no podía faltar el soporte específico para esta nuevas GPUs aceleradoras.
Entre las novedades específicas de ROCm , destacan el soporte para los frameworks vLLM v1, LLM-d y 5G Lang. también se han optimizado métodos de inferencia distribuida, prefill, o desagregación. Sistemas de comunicación GPU Direct Acces, RCCL o rocSHMEM.
En cuanto a kernels y algoritmos, se soporta MoE, Attention, Kernel Authoring basado en Phyton o GEMM Autotunning. También se añade soporte para tipos de datos avanzados como FP4 o FP6 que añaden las MI350, además de FP98 y tipos mixtos.
También se añaden nuevas tecnologías para entrenamiento de ia, con modelos de código abierto de AMD, frameworks mejorados, más algoritmos y kernels, o tipos de datos como FP8 y BF16.
ROCm 7 promete 3,5 veces más rendimiento que ROCm 6
Con estas mejoras, ROCm 7 promete multiplicar el rendimiento una media de 3,5 veces respecto del uso de ROCm 6 en modelos como Llama 3.1 70B, Qwen2-72B o DeepSeek R1.
En tareas de entrenamiento, AMD promete triplicar el rendimiento.
Fin del Artículo. ¡Cuéntanos algo en los Comentarios!
