Huawei asegura que su arquitectura CloudMatrix supera a los chips de Nvidia en pruebas internas

Huawei ha anunciado un importante avance en rendimiento de IA con su nueva arquitectura de centro de datos CloudMatrix384, que, según sus pruebas internas, supera a los chips H800 de NVIDIA, sobre los cuales pesan restricciones de exportación a China.

Las pruebas que han salido a la luz se han efectuado ejecutando el modelo avanzado DeepSeek R1, según un documento técnico publicado por Huawei junto con la startup china SiliconFlow. Es la primera vez que se dispone de detalles públicos sobre el rendimiento de este sistema. No obstante, cabe destacar que los resultados no han sido validados por terceros, por lo que las cifras deben interpretarse con cautela.

CloudMatrix384 integra 384 NPU Ascend 910C y 192 CPU Kunpeng en un supernodo, conectados por un bus unificado de alta velocidad. A diferencia de los diseños tradicionales, su arquitectura permite una comunicación directa entre todos los nodos, facilitando el uso de modelos de IA avanzados como los Modelos de Mezcla de Expertos (MoE), que acuden a la parte del modelo más adecuada según la tarea encomendada por el usuario. Esta técnica permite que los modelos ofrezcan la misma calidad de los resultados, pero con una eficiencia superior.

En términos de rendimiento, Huawei afirma que su sistema es capaz de procesar 6.688 tokens por segundo en la fase de lectura y 1.943 tokens por segundo generando respuestas, con un tiempo de respuesta de menos de 50 milisegundos por token. Además, asegura lograr una mayor eficiencia por TFLOPS en comparación con los chips Nvidia H100 y H800.

El sistema mantiene un ritmo de 538 tokens por segundo incluso bajo condiciones de alta exigencia, con tiempos inferiores a 15 milisegundos por token. Aunque los resultados son prometedores y no es la primera vez que Huawei logra superar a NVIDIA, la falta de validación externa sigue siendo un punto pendiente para que el sector considere estas cifras como un verdadero hito frente a los estándares actuales.

Fin del Artículo. ¡Cuéntanos algo en los Comentarios!