NVIDIA presenta Minerva, su plataforma de AIOps para vigilar GPUs red y cargas de trabajo en las fábricas de IA

Una sola GPU que trabaja más caliente que sus vecinas o una unidad NVMe que pierde rendimiento bajo carga. Son situaciones habituales que lastran un trabajo completo de entrenamiento. Claro, en una instalación con cientos de miles de aceleradores repartidos por redes de alta velocidad, esa señal se pierde con facilidad. Ahí es donde entra NVIDIA Minerva.

Se trata de una plataforma de AIOps, es decir, de operación de infraestructura asistida por IA. Minerva reúne la telemetría que generan tanto la infraestructura como las cargas de trabajo de IA y le aplica modelos entrenados para ese fin concreto, de modo que los datos se conviertan en avisos accionables.

Todo gira alrededor del AI factory yield, una métrica que mide el trabajo útil que produce la instalación a partir de las horas de GPU, el goodput, es decir, la parte del cómputo que realmente avanza el trabajo, el tiempo de servicio del clúster y los tokens generados.

Un mapa vivo de la fábrica que sabe qué cable está lastrando el entrenamiento

El problema de las herramientas de monitorización clásicas es que parten el centro de datos en compartimentos, con los equipos de red, cómputo, fiabilidad y machine learning mirando cada uno su propia pantalla. Minerva cruza las señales de GPU, red, almacenamiento, planificadores y cargas. Así es como construye un mapa de conocimiento dinámico que relaciona el hardware con los trabajos que se ejecutan encima.

Gracias a ese mapa, un entrenamiento lento se puede rastrear hasta el componente responsable, aunque la instalación tenga cientos de miles de aceleradores. Para sostenerlo, la plataforma analiza miles de millones de datos por hora con aprendizaje supervisado y no supervisado.

De este modo aprende cuál es el comportamiento normal de cada pieza, detecta anomalías que nunca había visto, anticipa fallos en formación y agrupa los eventos relacionados según la topología. En la práctica, eso quiere decir que una tormenta de alertas se condensa en un único incidente con su causa más probable, en lugar de llegar al operador en forma de aluvión.

Un asistente al que se le pregunta por el estado del clúster y responde con la telemetría en la mano

Como no podía ser de otra manera, Minerva incluye su propio asistente de IA, que se conecta además con herramientas agénticas externas. De este modo, el estado de un clúster se puede consultar en lenguaje natural y la propia plataforma sugiere cómo resolver lo que encuentre. A partir de ahí, cada equipo decide si aplica los cambios a mano o si enlaza Minerva con sistemas de automatización mediante las API de la infraestructura.

Entre los socios que ya la utilizan está IREN, cuyo director de tecnología, Denis Skrinnikoff, explica que les da una vista única de la red, las GPUs y los trabajos en marcha, lo que les permite dedicar más tiempo al mantenimiento preventivo. Aolani, Bitdeer AI, IBM, Jio, Lambda, Quake AI y Tesla tienen previsto desplegarla, mientras que Dell, Lenovo y Supermicro la ofrecerán dentro de sus catálogos para fábricas de IA.

Fin del Artículo. ¡Cuéntanos algo en los Comentarios!