Gigabyte AI TOP ATOM Review, 128 GB de memoria unificada y 200 GbE para llevar la IA local a tu mesa

Introducción a las características del Gigabyte AI TOP ATOM

Ya no es una cuestión de tener un buen entorno de desarrollo y pruebas, sino que estos modelos compactos equipados con el NVIDIA DGX Spark, así como otros que todos conocemos, como ciertos modelos de Apple o gráficas normalmente orientadas para jugadores, se están convirtiendo en una alternativa productiva para muchos entornos profesionales y empresariales, sobre todo empresas de pequeño tamaño que han apostado e integrado la IA de forma decidida en sus procesos.

En esta review analizamos el Gigabyte AI TOP ATOM, la propuesta propia de Gigabyte para la plataforma NVIDIA DGX Spark. No es la primera unidad NVIDIA DGX Spark que pasa por nuestras manos, así que sabemos bien lo que ofrece este SoC de NVIDIA desarrollado conjuntamente con MediaTek. Gigabyte ofrece su plataforma, su forma de entender la refrigeración de la unidad y algunas novedades importantes de software, pero al final no deja de ser otro DGX Spark, para lo bueno y para lo malo también.

Gigabyte lleva años en el hardware de consumo y de servidores; nosotros mismos hemos ampliado nuestras capacidades hace poco gracias a su tecnología en servidores, y con su línea AI TOP busca posicionarse en el desarrollo de IA local para desarrolladores, estudiantes, investigadores y entusiastas, pero también para empresas que quieran hacer una inversión controlada y bien gestionada de su incorporación de la IA a sus formas de trabajar. El modelo que nosotros analizamos es el que cuenta con 128 GB de RAM y 1 TB de capacidad, aunque pronto habrá alternativas algo más económicas de 64 GB con el mismo SoC.

El Gigabyte AI TOP ATOM combina el NVIDIA GB10 Grace Blackwell equipado con 128 GB de memoria LPDDR5x unificada, accesible tanto para la CPU como para la GPU. Gigabyte indica un rendimiento de hasta 1 petaFLOP en FP4 y soporte para modelos de hasta 200.000 millones de parámetros en una sola unidad.

Su tarjeta de red NVIDIA ConnectX-7 permite conectar este dispositivo con otras unidades de red u otras unidades de proceso de IA mediante enlaces de alta velocidad de hasta 200 GbE. Todo ello cabe en un chasis de 150 x 150 x 50,5 mm que se alimenta con un adaptador externo de 240 W y que incluye el sistema operativo NVIDIA DGX OS basado en Ubuntu, listo para trabajar desde el primer arranque.

Características técnicas del Gigabyte AI TOP ATOM

• Plataforma: NVIDIA GB10 Grace Blackwell Superchip
• CPU:
  • Arm de 20 núcleos
  • 10 Cortex-X925
  • 10 Cortex-A725
• GPU:
  • Arquitectura NVIDIA Blackwell integrada
  • Tensor Cores de 5.ª generación
• Rendimiento de IA: hasta 1 petaFLOP en FP4 (con sparsity)
• Memoria del sistema: 128 GB LPDDR5x unificada
• Interfaz y ancho de banda de memoria:
  • Interfaz de 256 bits
  • 273 GB/s
  • 8533 MT/s
• Almacenamiento: hasta 4 TB NVMe Gen5 con soporte de autocifrado [CONFIRMAR capacidad y modelo de la unidad recibida]
• Red por cable: 1 x RJ-45 de 10 GbE
• Red de alta velocidad:
  • NVIDIA ConnectX-7
  • Puertos QSFP
  • Hasta 200 GbE
• Wi-Fi: Wi-Fi 7 (2x2)
• Bluetooth: 5.4
• USB: 3 x USB 3.2 Gen 2x2 Type-C a 20 Gbps
• Puerto de alimentación: 1 x USB Type-C con Power Delivery
• Vídeo: 1 x HDMI 2.1a
• Alimentación: adaptador externo de 240 W
• Sistema operativo: NVIDIA DGX OS
• Software incluido: Gigabyte AI TOP Utility
• Dimensiones: 150 x 150 x 50,5 mm
• Peso: 1,2 kg
• Precio: [COMPLETAR]

NVIDIA GB10 Grace Blackwell Superchip basado en NVIDIA DGX Spark

El corazón de esta unidad del tamaño de un MiniPC es el mismo que el del NVIDIA DGX Spark de referencia, un sistema con el que NVIDIA quiere acercar al escritorio la experiencia del datacenter y que se ha convertido en una buena alternativa para presupuestos más ajustados, sobre todo con la escalada de precios de la RAM y las GPU, tanto domésticas como profesionales.

Combina en un solo encapsulado una CPU Arm de 20 núcleos, diseñada por MediaTek, con una GPU de arquitectura Blackwell, la misma de las RTX 50, comunicadas entre sí mediante NVLink-C2C, una conexión directa de gran ancho de banda que evita los cuellos de botella de un bus tradicional, como podría ser el PCI Express 5.0.

La CPU mezcla diez núcleos Cortex-X925 de alto rendimiento con diez Cortex-A725 más eficientes, una estructura que reparte las tareas pesadas y las de fondo para mantener el sistema ágil sin disparar el consumo. La GPU añade Tensor Cores de quinta generación, capaces de que esta CPU desarrolle hasta 1 petaFLOP en FP4 con sparsity, el rendimiento aproximado de una RTX 5070.

Pero lo que realmente marca la diferencia en este equipo u otros similares para IA local es la memoria. Los 128 GB de LPDDR5x son compartidos por CPU y GPU, de modo que un modelo grande no tiene que repartirse entre la RAM del sistema y la VRAM de una tarjeta, algo imposible en una GPU de sobremesa convencional limitada a 32 GB como máximo. Con 273 GB/s de ancho de banda, la memoria es suficiente para mover modelos de decenas de miles de millones de parámetros con soltura, aunque sin duda es bastante más lenta que la GDDR7 que equipan las GPU dedicadas de NVIDIA de última generación.

Una supercomputadora de tamaño compacto

El formato es el mismo; sin duda NVIDIA quiere que su integración sea similar en tamaño y forma al formato de referencia, pero, como otros fabricantes, Gigabyte busca un diseño más funcional, que mejore la refrigeración, que es uno de los aspectos más críticos de estas unidades, sobre todo si tenemos la intención de acabar llevándolas a un entorno de producción.

Gigabyte ha apostado por un chasis oscuro y mate con un frontal completamente cubierto por una rejilla de barras horizontales y un patrón ondulado detrás, un diseño pensado para mejorar en la medida de lo posible el flujo de aire. El frontal no lleva puertos ni botones, lo que lo mantiene limpio, y toda la conectividad se concentra en la parte trasera. La verdad es que es una unidad bien fabricada, donde se nota la mano experta de los ingenieros de la marca.

En la parte trasera encontramos tres puertos USB Type-C a 20 Gbps, un cuarto USB Type-C reservado a la alimentación (240 W máximo), un HDMI 2.1a, el RJ-45 de 10 GbE y los puertos de la tarjeta ConnectX-7. Es una conectividad muy completa para su tamaño, aunque el USB se queda en 20 Gbps en lugar de dar el salto a USB4, que hubiera sido una incorporación interesante para integrar, por ejemplo, GPU externas.

El almacenamiento se instala en formato M.2 2242, un tamaño compacto que limita la oferta de unidades. Gigabyte permite llegar a 4 TB con un SSD NVMe Gen5, lo que coloca a este modelo en lo más alto en velocidad de disco dentro de esta plataforma. Este es precisamente el modelo que hemos podido probar, el más alto de gama de esta serie.

Gigabyte vende por separado el cable AI TOP QSFP, un accesorio pensado para conectar dos unidades por ConnectX-7 y ampliar la capacidad de trabajo, pudiendo encadenar hasta cuatro de estos dispositivos para formar un clúster con hasta 512 GB de RAM. La fuente es externa y de 240 W, y usa un puerto USB Type-C dedicado, que hemos mencionado antes.

Gigabyte AI TOP Utility

Es difícil diferenciarse de otros integradores en una unidad cuyo hardware está muy controlado por NVIDIA y su modelo de referencia. La idea de NVIDIA era mantener un diseño compacto, la idea de tener un “superordenador IA” encima de la mesa, así que los integradores están bastante restringidos en cuanto al diseño del hardware, aunque todos presentan su personalización a nivel de refrigeración y acabados.

Lo que sí distingue a esta unidad de Gigabyte es que han prestado especial atención al software suministrado. Cierto es que el DGX OS de NVIDIA ya ofrece excelentes prestaciones para montar una estación de trabajo de IA o servidor remoto de gran calidad, con un montón de herramientas disponibles, con framework de drivers y software realmente capaz y con un entorno muy reconocible como es Ubuntu.

Aun así, Gigabyte consigue hacer las cosas aún más fáciles, suministrando su plataforma AI TOP Utility, que hace fácil acceder a diferentes tipos de modelos con un par de clics, pero también crear un contexto de calidad para esos modelos, pudiendo crear fácilmente datasets y también afinado de modelos estándar, creando uno de factura propia, ajustado a nuestras necesidades. Todo de forma realmente fácil y accesible.

Sí debo decir que ahora mismo tienen un poco de caos porque las últimas versiones suministradas de DGX OS por parte de Gigabyte ya no son compatibles con la versión completa de AI TOP, así que debemos hacer uso de la versión más reciente, denominada Lite, que trae menos cosas instaladas de serie y que nos obliga a descargar de internet, como por ejemplo, modelos recientes.

Aparte de este detalle, la verdad es que hace todo mucho más fácil, sobre todo para quienes se están iniciando en este mundillo y quieren sacar partido rápidamente de su inversión en este versátil computador de “bolsillo” basado en tecnología Blackwell de NVIDIA.

Rendimiento general e IA

No vemos grandes diferencias en benchmarks, sobre esta unidad o el DGX de referencia o también el GX10 Ascent de ASUS. Todos estos dispositivos son muy similares, con un formato muy cerrado y controlado por NVIDIA, pero siempre está bien darle una revisión a este hardware, que puede ser una solución muy bien integrada, sin carencias de memoria o conectividad, para adentrarse en la IA local de calidad.

Geekbench 6.5  Single Core

Geekbench 6.5  Multi Core

 Qwen3 32B Token/s

GPT-OSS 120B Token/s

GPT-OSS 20B Token/s

Consumo en Reposo (w)

Consumo en Carga

Ruido en carga

Análisis y conclusión

El Gigabyte AI TOP ATOM comparte con el resto de sistemas basados en NVIDIA DGX Spark la misma arquitectura, la misma memoria y el mismo rendimiento generalista y de IA. Las diferencias son puntuales, basadas normalmente en la refrigeración de la unidad, para la cual, si queréis sacar partido 24/7, yo buscaría alguna forma de ventilación supletoria; hay infinidad de diseños 3D para instalar algún ventilador exterior que mejore la refrigeración.

La verdad es que en el aspecto de personalización propia de Gigabyte destacan su chasis cuidado, un SSD de última generación con capacidad de hasta 4 TB, pero sobre todo destaca el software añadido, que permite sacar partido de la unidad con una facilidad sorprendente.

No puedo comparar con el modelo de referencia, aún no pasó por mis manos, pero el Gigabyte AI TOP ATOM no tiene nada que envidiar a la GX10 de ASUS. Lo iguala o mejora en calidad de fabricación y rendimiento y ofrece un paquete de software que lo hace todo bastante más rápido y fácil para usuarios menos experimentados.

Fin del Artículo. ¡Cuéntanos algo en los Comentarios!