SK hynix propone una infraestructura centrada en la memoria para la IA

Durante el OCP Global Summit 2026 en San José, SK hynix presentó soluciones basadas en tecnología CXL para mitigar el cuello de botella de datos, destacando el dispositivo CMM-DDR5 que duplica el ancho de banda respecto a su generación anterior.

Ante el aumento explosivo en la cantidad de datos que maneja la inteligencia artificial (IA), el "cuello de botella de datos", que representa una limitación de la estructura informática actual, se ha convertido en un desafío fundamental. Para resolverlo, SK hynix ha propuesto una solución para los centros de datos de IA de próxima generación mediante la visión de una "infraestructura centrada en la memoria", que traslada el núcleo de los servidores hacia la memoria.

SK hynix participó en el "OCP Global Summit 2026", celebrado del 12 al 15 en San José, California, Estados Unidos, donde presentó una amplia gama de soluciones de memoria de próxima generación. El núcleo de esta exhibición se centró en demostrar su capacidad tecnológica a nivel de sistema para aumentar la eficiencia de todo el sistema de servidores basándose en la tecnología CXL (Compute eXpress Link), yendo más allá del simple suministro de componentes.

Maximización del rendimiento de agentes de IA con memoria "pooled" basada en CXL

El elemento central del ecosistema de servidores de próxima generación presentado por SK hynix es la "memoria pooled basada en CXL (Compute eXpress Link)". CXL es una interfaz de próxima generación que conecta de manera eficiente la CPU, la GPU y la memoria para soportar cálculos de gran capacidad y ultra alta velocidad. Especialmente, a través de la función de "pooling", varios servidores pueden compartir recursos de memoria según sea necesario, maximizando la utilización de los mismos.

El producto "CMM-DDR5" exhibido es un dispositivo de segunda generación (256 GB) basado en el estándar CXL 3.2, que cuenta con un ancho de banda más del doble (80 GB/s) que la generación anterior y una mejora de aproximadamente el 30% en la eficiencia energética. SK hynix utilizó este producto para validar la eficacia de la solución de intercambio de "KV Cache (Key Value Cache)", esencial en entornos de IA agéntica (Agentic AI). El KV Cache es una memoria temporal que utilizan los modelos de IA para recordar el contenido de las conversaciones, cuya capacidad aumenta drásticamente a medida que el diálogo con el usuario se prolonga. Mediante esta demostración, se mostró que las soluciones basadas en CXL pueden resolver eficazmente los cuellos de botella en entornos de IA de alta carga.

También llamó la atención el "MARS (Memory Centric AI Rack System)", que integra las soluciones de socios en un único rack centrado en la memoria. SK hynix realizó diversas demostraciones en colaboración con socios globales como Arcee, Liqid y Marvell. En particular, en las demostraciones realizadas junto a AMD y Penguin, se demostró el proceso de almacenamiento eficiente y reutilización rápida de un KV Cache a gran escala utilizando memoria CXL y memoria híbrida. Además, compartió resultados con la empresa de agentes de IA personales Pickle, donde se mejoró el retraso en la respuesta del servicio mediante tecnología de streaming basada en memoria pooled.

Reducción de costos y consumo de energía con la memoria de cómputo "CMM-Ax"

Se presentó también la solución "CMM-Ax" para resolver los problemas de consumo de energía y costos en los centros de datos. La CMM-Ax combina funciones de cómputo dentro de la propia memoria, realizando los cálculos directamente en su interior sin necesidad de trasladar los datos a la CPU. Esto reduce drásticamente el consumo de energía y el tiempo de latencia que ocurre durante el proceso de movimiento de datos.

SK hynix realizó una demostración utilizando la CMM-Ax para acelerar el rendimiento del procesamiento de "contexto largo (Long Context)", que resultaba difícil de manejar en los sistemas basados en GPU tradicionales. Considerando que los modelos de lenguaje de gran tamaño (LLM) requieren más memoria a medida que el contexto se alarga, se espera que la CMM-Ax sea una tecnología clave para los sistemas de inferencia de IA de próxima generación. Los resultados de la investigación relacionada fueron aceptados en "MICRO 2026", una de las conferencias de mayor autoridad en el campo de la arquitectura de computadores, reconociendo su excelencia técnica.

Portafolio de memoria para IA completo: desde HBM hasta el próximo HBF

En una parte del espacio de exhibición se dispuso una línea de productos que conecta el presente y el futuro de SK hynix. Se presentó un amplio portafolio que incluye desde eSSD (SSD para empresas), pilar de la infraestructura de IA, hasta DRAM para servidores. En particular, se exhibieron la serie "PEB210", que admite refrigeración líquida (DLC), y el "256GB 3DS RDIMM", que alcanza la mayor capacidad de la industria, indicando la preparación para responder a las diversas necesidades de los clientes.

En la sección de HBM (High Bandwidth Memory), se exhibieron productos reales de cada generación, como HBM4 y HBM3E, junto con un modelo del superchip Vera Rubin, que simboliza la sólida asociación con NVIDIA. Destacó especialmente la solución de NAND de próxima generación, "HBF (High Bandwidth Flash)". El HBF es un producto que aplica la tecnología TSV (Through-Silicon Via), similar a la de la HBM, añadiendo un alto ancho de banda a las características de gran capacidad del almacenamiento convencional.

SK hynix presentó una estrategia diferenciada: mientras que la HBM está optimizada para entornos que requieren una velocidad de respuesta rápida, la HBF tiene la ventaja en entornos de demanda de memoria de gran capacidad que deben prestar servicios a múltiples usuarios. Durante la sesión de presentación, el vicepresidente Kim Ho-sik enfatizó la transición hacia la infraestructura centrada en la memoria, afirmando que "el sistema de rack de IA centrado en la memoria, implementado con la próxima tecnología CXL, es una estructura que puede aumentar significativamente la velocidad de movimiento de datos en cargas de trabajo de alta intensidad".

Fuente: news.skhynix.co.kr