"Para 2040, podríamos consumir toda la energía de la humanidad"... La solución a la crisis energética de la IA es la 'eficiencia de la memoria'

A medida que la tecnología de inteligencia artificial (IA) se vuelve más avanzada, surge la previsión de que el consumo de energía de los centros de datos y los dispositivos de IA aumentará de forma explosiva. En particular, se ha lanzado una advertencia de que, si se mantiene el método de computación actual, para el año 2040 se podría utilizar toda la energía producida por la humanidad únicamente para el movimiento de datos. En consecuencia, la 'eficiencia energética' de los semiconductores de memoria está emergiendo rápidamente como el elemento clave que determinará la sostenibilidad de la industria de la IA.

Se prevé que el consumo de energía de los centros de datos aumente drásticamente a 945 teravatios hora para 2030

Según el vídeo de 'CLASS de Talentos del Futuro' del canal de YouTube de SK hynix, se predice que el consumo de energía generado durante los procesos de entrenamiento e inferencia de los modelos de IA aumentará exponencialmente. El participante, el profesor Lee Cheol-ho del Departamento de Ingeniería Eléctrica e Información de la Seoul National University, explicó: "Se utilizan aproximadamente 50 gigavatios (GW) de energía para entrenar modelos de IA supergigantes, lo que equivale a la cantidad de energía que utiliza la City and County of San Francisco durante tres días".

La demanda de energía ocurre continuamente no solo en la etapa de entrenamiento, sino también en la etapa de 'inferencia' al responder preguntas. Esto se debe a que cuanto más compleja sea la tarea solicitada, es decir, cuanto mayor sea la cantidad de tokens, el consumo real de energía aumentará proporcionalmente. El vídeo cita una previsión estadística de que el consumo de energía de los centros de datos aumentará más del doble, pasando de 415 teravatios hora (TWh) en 2024 a 945 teravatios hora en 2030. El profesor Lee enfatizó la urgencia de mejorar la eficiencia energética, afirmando que "existe la previsión de que, manteniendo la estructura de computación actual, la energía utilizada para llamar a los datos consumirá todas las fuentes de energía que la humanidad produzca para el año 2040".

Se espera que este problema de energía se vuelva aún más grave en la era de la 'Physical AI', que se extiende al mundo físico. El profesor Lee comentó: "Dentro de 10 años, la Physical AI, que va más allá de los dispositivos portátiles y los coches autónomos, será algo cotidiano, como los robots humanoides. La energía necesaria para operar el chip de IA, que actúa como el cerebro del robot, y la energía para el funcionamiento del sistema de accionamiento son esenciales; dado que los robots deben funcionar con baterías en cualquier momento y lugar, resolver el problema de la energía es una condición previa para la realización tecnológica".

La clave es resolver el 'cuello de botella'... Atención a las tecnologías de próxima generación como HBM y PIM, CIM

El problema energético de la era de la IA no se limita simplemente al consumo de energía de la memoria en sí misma. El profesor señaló que el consumo de energía que ocurre al intercambiar datos entre el procesador (CPU, GPU, etc.) y la memoria es muy grave. Esto se debe a que la actual 'arquitectura de von Neumann' separa el procesador de la memoria, por lo que se consume una enorme cantidad de energía en el proceso de llamar a la información desde la memoria para realizar cálculos y luego volver a guardar el resultado. Este fenómeno de congestión en la transferencia de datos que ocurre en este proceso se denomina 'cuello de botella' (bottleneck), y resolverlo es la clave de la eficiencia energética.

El principio de funcionamiento dentro de la memoria también se señala como una de las principales causas del consumo de energía. La memoria DRAM almacena información cargando electricidad en pequeños condensadores, y es esencial el proceso de 'refresco' (Refresh), que vuelve a cargar la carga que se consume al leer la información o la que se fuga con el paso del tiempo. El profesor explicó: "A medida que el tamaño de la celda de memoria se reduce, este problema se vuelve mayor".

Para resolver esto, se mencionan como principales soluciones la memoria de alto ancho de banda (HBM), que aumenta la densidad de los canales de transferencia de datos, o la tecnología 'PIM, CIM', que realiza simultáneamente el cálculo y el almacenamiento dentro de la memoria para minimizar el movimiento de datos. El profesor diagnosticó: "Sin el desarrollo de la memoria, será difícil desarrollar una IA muy eficiente".

SK hynix expande su línea de baja potencia, desde LPDDR hasta HBM4

Las empresas de semiconductores están desarrollando soluciones de baja potencia personalizadas por producto para superar esta crisis energética. En el caso de SK hynix, está desarrollando una línea de productos LPDDR de baja potencia optimizada para la 'On-device AI' basada en baterías, como robots o coches autónomos. Además, presentó el producto 'LPCAMM2', que modulariza la DDR de baja potencia para centros de datos.

La tecnología HBM, que se utiliza en los aceleradores de IA de alto rendimiento, también se está centrando en mejorar la eficiencia energética. Según el vídeo, se sabe que el modelo de próxima generación de SK hynix, HBM4, ha mejorado la eficiencia energética en aproximadamente un 40% en comparación con el modelo anterior, HBM3E, al aumentar la densidad de las líneas de conexión (I/O) e introducir procesos avanzados ultra-finos en el die lógico.

El profesor definió la baja potencia no simplemente como reducir el rendimiento, sino como "un problema de eficiencia de utilizar menos energía mientras se obtiene el mismo rendimiento". Pronosticó que en el futuro "el núcleo será desarrollar elementos de memoria que sean de alto rendimiento y de baja potencia, y el hecho de asegurar esta eficiencia energética jugará un papel decisivo en la incursión de la IA en el mundo físico".