La plataforma Vera Rubin funciona con memoria SOCAMM2, una memoria que mezcla la eficiencia energética de los módulos LPDDR5 y la capacidad para escalar y reemplazar de los módulos DIMM tradicionales. SK Hynix ha anunciado que ya ha comenzado la fabricación en masa de sus módulos SOCAMM2 de 192 GB, unos módulos de alta capacidad que maximizarán la eficiencia energética en servidores y centros de datos bajo esta última plataforma de NVIDIA.
SK Hynix inicia la producción masiva de memoria SOCAMM2 para la plataforma NVIDIA Vera Rubin
La compañía ha colaborado con NVIDIA para la fabricación de esta mejora que pretende eliminar el cuello de botella en infraestructuras destinadas a la inteligencia artificial. Están fabricados con un proceso 1cnm que usa tecnología de 10 nm de sexta generación para ofrecer estos módulos de bajo consumo que ahora también han llegado a servidores para IA de próxima generación.
Hasta un 75 % más eficiente que RDIMM y el doble de ancho de banda
Estos módulos ofrecen una eficiencia energética de hasta un 75 % superior a la de los módulos RDIMM y más del doble de su ancho de banda. De esta forma esta memoria SOCAMM2 se ha convertido en la favorita de este tipo de servidores, que cada vez buscan mayor eficiencia energética con un rendimiento superior.
Una solución clave para eliminar cuellos de botella en IA generativa
Esta memoria ha llegado para eliminar los cuellos de botella de la memoria que se producen a la hora de entrenar grandes modelos de lenguaje y que también están presentes durante la inferencia. Por esto, los módulos SOCAMM2 están llamando la atención como solución de memoria capaz de gestionar estas tareas con bajo consumo. SK Hynix ofrece esta solución que ya ha comenzado a fabricar en masa, disponible como nuevo estándar en el rendimiento de memoria para IA.
Fin del Artículo. ¡Cuéntanos algo en los Comentarios!
