AMD asegura que la IA con agentes necesitará más CPUs y menos dependencia exclusiva de GPUs

Con la era de la Inteligencia Artificial, los centros de datos demandaban cada vez GPUs aceleradoras más potentes, además de ir duplicando su presencia en cada nodo. Pero esta tendencia parece que va a cambiar con la llegada de la era de los Agentes de Inteligencia Artificial, donde los expertos aseguran que será necesaria una mayor participación de la CPU. Durante la presentación de resultados de AMD para este primer trimestre, la Dra. Lisa Su ha explicado esta y otras ideas para la nueva generación de IA con Agentes.

AMD cree que la IA con agentes necesitará más CPUs y menos dependencia exclusiva de GPUs

Con anterioridad a la era de los agentes de IA, la configuración básica de cada nodo podría constar de 1 CPU y 4 o hasta 8 GPUs para satisfacer la demanda de IA. Pero con la llegada de los agentes de IA esta configuración puede verse modificada a 1:1, siendo necesaria una mayor participación de la CPU en esta configuración. Los centros de datos que se están preparando para esta próxima generación están demandando mayor cantidad de CPU, para igualar o incluso superar al número de GPUs.

Los centros de datos podrían pasar de configuraciones 1 CPU y 8 GPU a una relación 1:1

Debido a las características de estos agentes, estos hacen que los grandes modelos de lenguajes (LLM) hagan uso de la CPU principal para las actualizaciones continuas, y para la orquestación de los agentes. Esto hace que la CPU vuelva a cobrar importancia más allá de una configuración de varias GPUs, hasta llegar al punto de igualar la cantidad de CPUs necesarias para esta next gen de IA.

Los agentes son capaces de realizar múltiples tareas de forma autónoma dentro de un LLM, por ejemplo, revisar código o realizar cambios hasta completar la compilación de un programa, e incluso corregir los errores detectados. Un trabajo que casi puede dejar la dependencia de la revisión humana, pero a cambio se necesitaría una mayor carga para la CPU, y escalando su necesidad a medida que el número de agentes se incrementa.

Fin del Artículo. ¡Cuéntanos algo en los Comentarios!