Qualcomm y Cirrascale se alían para ofrecer inferencia de IA más eficiente en centros de datos con el Dragonfly AI200
por Juan Antonio SotoHoy mismo hemos conocido cómo AMD se ha hecho con Taalas, completando una compra que permitirá a la compañía añadir mejores soluciones de inferencia para inteligencia artificial entre su cartera de productos. Qualcomm también quiere mejorar en este aspecto y también ha anunciado su colaboración con Cirrascale para impulsar la inferencia de IA de próxima generación que sea energéticamente más eficiente.
Qualcomm Dragonfly AI200 ya está disponible para su evaluación a través de Cirrascale
Con esta colaboración, Qualcomm ha anunciado que su solución para inferencia de IA Dragonfly AI200 ya está disponible. Una solución diseñada específicamente para inferencia junto con Cirrascale Cloud Services, y que está disponible para su evaluación para clientes seleccionados a través de Cirrascale. El Dragonfly AI200 afronta el desafío del consumo de energía y el coste con una gran capacidad de memoria, un rendimiento a escala de rack y una pila de software que ha sido diseñada para optimizar la inferencia.
Un conjunto que permitirá grandes cargas de trabajos de IA, multimodales o de diferente tipo, ofreciendo un gran rendimiento vatio-dólar. Cirrascale ofrece a los clientes seleccionados un entorno en la nube para probar este Dragonfly AI200 en el que podrás ejecutar tus modelos de inferencia. No te preocupes por la implementación o las pruebas; tanto Qualcomm como Cirrascale ofrecerán un amplio soporte para ayudarte con las cargas de trabajo y la validación de la plataforma.
Dragonfly AI200 ofrece hasta 768 GB de memoria LPDDR por tarjeta y escalabilidad para centros de datos
La Dragonfly AI200 cuenta con hasta 768 GB de memoria LPDDR por cada tarjeta, una opción con flexibilidad para inferencia de IA a gran escala. Su arquitectura también cuenta con soporte para modelos más complejos y avanzados, con un gran número de parámetros, y un rendimiento acorde al esperado con aplicaciones de IA avanzadas.
La solución está disponible para montaje en rack, con refrigeración líquida directa, escalabilidad PCIe en caso de necesitar ampliar sus capacidades, escalabilidad Ethernet para mejorar las comunicaciones y computación confidencial. Qualcomm también ofrece para trabajar con la Dragonfly AI200 su paquete Qualcomm AI Management Suite con soporte para las principales tecnologías de IA.
Cirrascale permitirá probar Dragonfly AI200 en la nube y mostrará una demostración en SC26
Todo esto podrás evaluarlo desde la nube de Cirrascale, comprobando cómo la compañía ha realizado un entorno dedicado a la inferencia. La compañía cuenta con experiencia en este tipo de entornos, así como servicios gestionados y un modelo con tarifa plana. Una colaboración entre Qualcomm y Cirrascale que pretende ser el comienzo de muchos años en la hoja de ruta de inferencia de IA para centros de datos basados en tecnología de Qualcomm.
Además, podrás ver una demostración en el stand de Cirrascale presente en el SC26 celebrado en Chicago durante el día de hoy.
Fin del Artículo. ¡Cuéntanos algo en los Comentarios!



