Microsoft demuestra cómo ejecutar un modelo de IA de 235.000 millones de parámetros en tres PC unidos por USB4
por Manuel Naranjo
Microsoft ha anunciado una versión preliminar para desarrolladores de RDMA sobre USB4, una tecnología que permite repartir la ejecución de un modelo de inteligencia artificial entre varios PC con Windows. La propuesta aprovecha conexiones USB4 directas para que un software compatible utilice la memoria y la capacidad de procesamiento gráfico de los equipos participantes.
El anuncio incluye demostraciones con plataformas de AMD e Intel. El código de los componentes ya está disponible, aunque todavía falta la compilación de Windows que habilitará las pruebas. Microsoft prevé distribuirla próximamente mediante el canal Experimental, dentro de la rama Future Platforms del programa Windows Insider.
Ejecutar modelos que no caben en un solo ordenador
El caso de uso principal son los modelos cuyo tamaño supera la memoria disponible en un equipo. La distribución entre varios ordenadores permite almacenar y procesar partes del mismo modelo en máquinas diferentes, manteniendo la ejecución en una instalación local.
Esto exige un programa preparado para repartir el trabajo. La conexión entre los PC no convierte automáticamente sus memorias en una ampliación que pueda utilizar cualquier aplicación de Windows. Microsoft ha publicado una variante de llama.cpp con cambios para trabajar mediante NetworkDirect, la interfaz de Windows para comunicaciones RDMA.
El repositorio identifica funciones específicas para ejecución distribuida, optimizaciones de cálculo y opciones de paralelismo tensorial. También aclara que estas incorporaciones requieren compilar esa variante: los instaladores y las versiones habituales del proyecto original no incluyen automáticamente los cambios.
Menor latencia sobre el mismo enlace USB4
RDMA significa acceso directo a memoria remota. Permite transferir datos entre regiones de memoria de distintos sistemas, reduciendo el recorrido por la pila de red convencional y evitando copias adicionales de software. Windows ya dispone de esta tecnología para adaptadores especializados; la novedad consiste en llevarla a conexiones USB4 entre PC compatibles.
Microsoft ha medido tiempos de ida y vuelta de entre 28 y 50 microsegundos para mensajes pequeños. Su comparación utiliza Ethernet mediante UDP sobre el mismo enlace USB4 y sitúa la latencia de RDMA aproximadamente en una cuarta parte.
La gráfica publicada concreta 28 microsegundos frente a 128 para mensajes de 64 bytes, y 50 frente a 194 para mensajes de 16 KiB. La mejora depende del tamaño del mensaje y describe la comunicación entre máquinas, sin equivaler a multiplicar por cuatro la velocidad de generación del modelo.
La implementación contempla enlaces de 40 y 80 Gbps. Microsoft señala que ambos alcanzan una latencia reducida, mientras que los 80 Gbps proporcionan el doble de ancho de banda nominal. Esa diferencia puede ser útil en cargas que transfieren más datos, como el procesamiento de entradas con contextos largos.

Tres PC AMD para Qwen3 y hasta cuatro Intel para GPT-OSS
Una demostración utiliza tres mini PC con Ryzen AI Max+ 395, gráficos Radeon 8060S y 128 GB de memoria unificada por equipo. En conjunto, suman 384 GB de memoria física, aunque parte de esa capacidad debe atender al sistema operativo y al propio software. Conectados mediante USB4 de 40 Gbps, ejecutan Qwen3-235B-A22B con cuantización de cuatro bits.
Microsoft comunica aproximadamente 18,5 tokens por segundo en su laboratorio. AMD registra 21,98 tokens por segundo de generación con su propia configuración.
Intel, por su parte, ha probado GPT-OSS-120B con equipos Core Ultra Series 3, conexiones Thunderbolt 4 y 64 GB de memoria por ordenador. Con un contexto de 1.000 tokens, obtiene 49,4 tokens por segundo usando tres PC y 54,2 con cuatro.
La tabla también recoge un tiempo hasta el primer token de 1,1 segundos con tres equipos y 1,2 segundos con cuatro en esa prueba. Añadir una máquina aumenta la capacidad disponible, pero estos resultados muestran que no todas las medidas mejoran al mismo ritmo.

Cada ordenador necesita una conexión directa con los demás
Microsoft recomienda una malla completa, con un cable entre cada pareja de equipos. Para tres PC hacen falta tres cables y dos puertos USB4 por ordenador. Con cuatro, el cálculo asciende a seis cables y tres puertos por máquina.
Conectarlos en cadena reduce considerablemente el rendimiento, advierte la compañía. También deben utilizar la misma compilación compatible de Windows y versiones coincidentes de los componentes de la prueba. El proveedor NetworkDirect incluye herramientas para comprobar los enlaces y requiere configurar correctamente las interfaces de red.
La fase preliminar exige activar la firma de pruebas y deshabilitar Secure Boot, por lo que Microsoft la destina a equipos de ensayo. Además, la aplicación debe restablecer la conexión si esta se interrumpe, ya que el transporte no reintenta automáticamente.
Todavía no hay una fecha para incorporar RDMA sobre USB4 a una versión estable de Windows. La siguiente fase será publicar la compilación Insider necesaria para que los desarrolladores puedan probar el conjunto.
Fin del Artículo. ¡Cuéntanos algo en los Comentarios!



