NVIDIA lanza CUDA 13.5 con soporte de producción para Vera Rubin y mejoras al compartir una GPU

NVIDIA ha publicado CUDA Toolkit 13.5 con soporte de disponibilidad general para Vera Rubin. La arquitectura sale así de la fase de acceso anticipado para desarrolladores dentro de la plataforma de computación de la compañía. La actualización también amplía a DGX Station para Windows la compatibilidad con Windows sobre Arm.

El lanzamiento reúne cambios en la asignación de recursos y en la comunicación entre GPU. Son funciones dirigidas a quienes desarrollan o despliegan aplicaciones de cálculo e inteligencia artificial y necesitan controlar cómo utilizan el hardware cuando varias cargas coinciden en un mismo sistema.

Más control al compartir una GPU

Multi-Process Service, conocido como MPS, recibe nuevas opciones en su versión 3. Este servicio permite gestionar la ejecución de varios procesos sobre una GPU, y ahora añade reparto de tiempo con ponderaciones.

También cambia la gestión de las particiones de los multiprocesadores de flujo, o SM, que son los bloques de ejecución de la GPU. Una carga puede tomar prestados recursos que otra partición no esté utilizando. Esto permite aprovechar capacidad disponible sin tener que asignarla de forma permanente a una sola aplicación.

El reparto por dominios de localidad ofrece a los desarrolladores más margen para distribuir el trabajo. La actualización permite elegir entre particiones uniformes y otras que incorporan todos los SM disponibles en cada dominio. En el segundo caso, las particiones pueden tener tamaños diferentes, por lo que la aplicación debe consultar cuántos recursos tiene cada una.

Estas opciones sirven para adaptar la asignación al trabajo concreto. Una aplicación puede preferir un reparto homogéneo para simplificar su ejecución, mientras que otra puede utilizar todos los bloques disponibles y ajustar la cantidad de trabajo que envía a cada partición.

CUDA Tile permite comunicar varias GPU

CUDA Tile añade comunicación directa entre GPU conectadas mediante NVLink y NVSwitch. El código puede combinar operaciones de cálculo y comunicación dentro de un mismo kernel, la función que se ejecuta en la GPU. La novedad amplía las posibilidades de CUDA Tile en aplicaciones cuyo trabajo se reparte entre varios aceleradores.

La marca incorpora también una versión preliminar pública de la interoperabilidad entre Tile y bibliotecas SIMT, el modelo de ejecución de una instrucción sobre varios hilos. El objetivo es que el código escrito para Tile pueda utilizar funciones de esas bibliotecas durante su propia ejecución.

Python y las bibliotecas reciben nuevas funciones

La biblioteca cuda.core 1.2 incorpora transferencias de memoria por lotes y más flexibilidad para actualizar CUDA Graphs. Estos grafos describen secuencias de operaciones que se pueden volver a ejecutar, por lo que facilitar sus modificaciones ayuda a reutilizarlos cuando cambian los parámetros de una aplicación.

CCCL 3.5 añade algoritmos para cargas de inferencia, entre ellos la selección Top-K por lotes. Esta operación permite escoger un número determinado de elementos dentro de varios grupos de datos. Es una de las tareas que pueden aparecer en el procesamiento de modelos de inteligencia artificial.

El lanzamiento actualiza asimismo las herramientas de análisis y depuración. Entre ellas figura una versión preliminar pública de Nsight Perf SDK for AI, destinada a estudiar el comportamiento de cargas de inteligencia artificial.

Rubin cambia los modos de controlador en Windows

En las GPU Rubin, CUDA admite WDDM y MCDM. Este último corresponde al modo de controlador dedicado al cálculo. TCC deja de estar soportado a partir de Rubin, un cambio que deben tener en cuenta las herramientas de despliegue que daban por hecho su uso.

CUDA Toolkit 13.5 ya se puede descargar. Las nuevas funciones de plataforma requieren la rama R620 del controlador, que debe instalarse por separado: NVIDIA ha dejado de incluir los controladores de GPU dentro del paquete del toolkit.

Fin del Artículo. ¡Cuéntanos algo en los Comentarios!