KIOXIA AiSAQ permite liberar la carga de vectores e índices a la DRAM en grandes lenguajes de Inteligencia Artificial

Aunque el auge de la Inteligencia Artificial se ha desplegado en los dispositivos de consumo en el último año, los fabricantes llevan empleando esta tecnología desde algunos años antes. KIOXIA utiliza tecnología de Inteligencia Artificial en la fabricación de memoria flash que ayuda a la identificación y clasificación del producto, inspección de defectos en semiconductores, calibración de modelos CAD de simulación y algunas otras más. Pero KIOXIA también quiere ayudar a mejorar la IA ofreciendo acceso a estas tecnologías con un menor coste.

Para ofrecer un mayor rendimiento y mejor escalabilidad a la hora de afrontar grandes cargas de trabajo con LLM, KIOXIA ha desarrollado AiSAQ, una tecnología que liberará a la DRAM de tareas para que pueda delegarse en los discos SSD o unidades de almacenamiento. Trabajando con DRAM básica, la tarea de los índices y vectores recae sobre ella, mientras que con DiskANN de Microsoft se ha conseguido trasladar el índice y la mitad de los vectores a las unidades de almacenamiento. KIOXIA ha conseguido liberar la carga completa de los vectores gracias a AiSAQ, encargándose los discos SSD que deja disponible mayor cantidad de DRAM para otras tareas.

Con KIOXIA AiSAQ se ha conseguido que las unidades de almacenamiento carguen con el trabajo de los vectores al completo y índices, liberando así a la DRAM, y permitiendo que la carga en esta sea mucho menor. Así el coste para la externalización de vectores será mucho menor, ya que la escalabilidad en almacenamiento con discos SSD es mucho más fácil y económica que ampliar la DRAM.

Fin del Artículo. ¡Cuéntanos algo en los Comentarios!