Las empresas apuestan por la IA on-premise para asegurar datos y costes

El sector de la inteligencia artificial se desplaza hacia la infraestructura on-premise y la IA vertical especializada para resolver problemas de seguridad y previsibilidad presupuestaria. Según Eum Jae-hoon, director de GFT Ventures, este movimiento busca evitar la fuga de datos sensibles y la variabilidad de costes por token propia de la nube.

El eje central de la inversión en infraestructura de inteligencia artificial (IA) se está desplazando desde el hardware hacia las aplicaciones y, posteriormente, hacia el interior de las empresas. Tras la primera fase del auge de la IA, liderada por las GPU de NVIDIA y los semiconductores de memoria de Samsung Electronics y SK hynix, se está intensificando el movimiento de las empresas para gestionar sus propios datos y resolver simultáneamente problemas de seguridad y costes.

Eum Jae-hoon, director de GFT Ventures, analizó las últimas tendencias de inversión en IA de Silicon Valley en una entrevista realizada el día 3 (hora local). Eum identificó la "IA on-premise" y la "IA vertical especializada" como la siguiente etapa del ecosistema de la IA. Su análisis sugiere que, tras la fase de infraestructura compuesta por GPU y memoria, se están abriendo nuevas oportunidades en la capa de aplicaciones que generan ingresos reales.

Las empresas se vuelcan al "on-premise" ante problemas de seguridad y costes

Uno de los mayores puntos de inflexión recientes en la industria de la IA es la seguridad de los datos. Aunque los servicios de IA basados en la nube ofrecidos por empresas como OpenAI o Anthropic son convenientes, presentan una debilidad crítica para las empresas: el riesgo de que datos sensibles se filtren al exterior. "En sectores donde el cumplimiento normativo es crucial, como las finanzas, la atención sanitaria, la seguridad o las instituciones públicas, es imposible que los datos se suban a la nube", explicó Eum.

De hecho, muchas empresas se encuentran en una situación en la que utilizan ChatGPT en sus hogares, pero al llegar al trabajo no pueden usar la IA en absoluto debido a problemas de seguridad. Para solucionar esto, las empresas están prestando atención a la "IA on-premise", que consiste en construir la infraestructura en sus propios centros de datos o servidores. Al conectar dispositivos de IA (appliances) que incluyen GPU y memoria a la red interna de la empresa, es posible implementar la IA en el trabajo de inmediato resolviendo los problemas de seguridad.

La previsibilidad de los costes es otro fuerte incentivo. La IA en la nube tiene una estructura donde los costes por "token" se generan continuamente según el uso, lo que dificulta la gestión presupuestaria. Por el contrario, el modelo on-premise, excluyendo el coste inicial de construcción del hardware (CAPEX), permite mantener constantes los gastos operativos (OPEX), lo que resulta preferible para los directores financieros (CFO). "Se puede usar de forma ilimitada hasta que el ordenador deje de funcionar, lo que permite predecir los costes", añadió Eum.

La IA "especialista" sobrevivirá frente a la IA de propósito general

La forma en que compiten los modelos de IA también está cambiando. Si los modelos de lenguaje de gran tamaño (LLM) que abarcan todos los campos son como "médicos generales", la IA especializada en industrias específicas es como un "médico especialista". Eum predijo que la "IA vertical especializada", entrenada con datos de sectores específicos, tendrá una fuerte competitividad en el mercado futuro.

Aunque la IA de propósito general posee un conocimiento amplio al haber aprendido de los vastos datos de la humanidad, su precisión puede disminuir en cuanto a reglamentos internos de empresas o datos financieros y médicos especializados. En cambio, al utilizar conjuntos de datos de entrenamiento específicos para una industria, la precisión puede incrementarse drásticamente. "Para los clientes donde la precisión es más importante que la velocidad, los modelos especializados son esenciales", afirmó Eum, pronosticando que cobrarán atención las soluciones que utilicen tecnologías de agentes múltiples para elevar la precisión por encima del 99%.

Esta tendencia no solo se observa en las grandes corporaciones, sino también en las medianas empresas. Mientras que las grandes empresas tienen la capacidad de colaborar directamente con gigantes tecnológicos como OpenAI, las medianas empresas necesitan desesperadamente soluciones personalizadas que resuelvan simultáneamente la seguridad y los costes. "Las soluciones de IA que permitan a una mediana empresa de miles de empleados conectarse mediante un solo cable Ethernet y empezar a usarlas atacarán el mercado", analizó Eum.

El cuello de botella de los centros de datos y la oportunidad para las empresas coreanas

Las limitaciones físicas que surgen en el proceso de expansión de la infraestructura de IA también están cambiando el panorama de la inversión. Actualmente, la obtención de suministro eléctrico para la construcción de centros de datos se considera el mayor cuello de botella (Bottleneck) a nivel mundial. Eum señaló que "más de la mitad de los proyectos de centros de datos anunciados podrían tener dificultades para operar en la realidad debido al suministro eléctrico o a la oposición de las comunidades locales".

Debido al retraso en la construcción de grandes centros de datos por la escasez de energía y los retrasos en la infraestructura de transmisión eléctrica, la construcción on-premise de menor escala o los métodos híbridos (mezcla de nube y servidores propios) están surgiendo como alternativas. En este proceso, se observa que las empresas coreanas, que poseen capacidades de fabricación, podrían obtener beneficios indirectos. Esto se debe a que, en medio del conflicto entre Estados Unidos y China, Corea ocupa una posición importante en el sector de fabricación relacionado con la infraestructura de IA como potencia manufacturera.

"Al final, los ganadores definitivos serán las empresas de aplicaciones que se apoyen en la infraestructura para crear un gran valor", concluyó Eum, enfatizando que el centro de gravedad se está desplazando de la inversión centrada en el hardware hacia el software y los servicios especializados.

Fuente: vídeo original (YouTube)