"Desde el PCC de Apple hasta el DGX de NVIDIA"... El panorama empresarial que cambiará la 'IA privada'

Se prevé que en 2027, el núcleo de la tecnología de IA sea el "agente de IA" que colabora con los humanos, yendo más allá de los simples chatbots. Los análisis sugieren que la estructura organizacional de las empresas se reorganizará en organizaciones que colaboran con agentes, organizaciones que trabajan con chatbots y organizaciones que trabajan con personas. Según un vídeo de T Times TV, a medida que las empresas entran en la era de la "IA privada", construyendo sus propios servidores de IA debido a problemas de seguridad y costes, el papel de las empresas relacionadas con las GPU y los centros de datos se vuelve cada vez más importante. Especialmente, cuando las empresas posean sus propias GPU, también se espera que el panorama de las grandes tecnológicas cambie.

La estrategia de IA por capas de Apple, desde el dispositivo hasta la nube privada

Apple está fortaleciendo recientemente las funciones de IA de Siri, construyendo su propio ecosistema de IA. Park Jong-cheon, CAIO de JiranJigyo Soft, explicó en el vídeo que Apple adopta una estrategia de operar modelos divididos por capas. En primer lugar, en el entorno de dispositivo (On-device), utilizando los últimos chipsets de Apple como el A20, se procesa la mayor parte de las tareas dentro del dispositivo mediante modelos ligeros como el "AFM3 Core", sin filtración de información personal. En esta etapa, se pueden procesar datos personales como fotos o texto sin enviarlos fuera del dispositivo.

Sin embargo, el procesamiento en el dispositivo tiene límites para manejar cálculos complejos. Para resolver esto, Apple utiliza el "PCC" (Apple Private Cloud Computing). El PCC es un centro de datos gestionado directamente por Apple, caracterizado por maximizar la seguridad al estar construido sobre silicio de alto rendimiento como el M5 Max. Se espera que en el PCC se construyan centros de datos que integren CPU, GPU y NPU, que son silicio avanzado para servidores. El participante señaló: "Es importante que Apple tome el liderazgo y acumule la experiencia de dividir los modelos por capas, mezclando el uso de hardware y la nube", sugiriendo la posibilidad de que este stack tecnológico se extienda hacia la IA de Siri para negocios en el futuro.

Esta estrategia de Apple también ofrece implicaciones para el mercado empresarial. Esto se debe a que podrían surgir casos en los que las empresas adopten dispositivos como el DGX Spark de NVIDIA (en el rango de los 10 millones de wones) o utilicen el Mac mini funcionando las 24 horas como una "fábrica de tokens" para reducir los costes de API. En última instancia, se espera que el flujo de la IA personal, que pasa del dispositivo al PCC de Apple y luego a la IA en la nube como Google Cloud, coincida con la estrategia de construcción de IA privada de las empresas.

La entrada de NVIDIA en el mercado de modelos y el auge de la IA china de bajo coste

El rumbo de NVIDIA, líder en el mercado de infraestructura de IA, también está cambiando. NVIDIA, que en el pasado se centraba en el suministro de GPU, ha entrado recientemente en el mercado de modelos al presentar directamente modelos de IA como el "Nemotron 3 Ultra". Esto se interpreta como una estrategia para proporcionar directamente modelos que puedan ofrecer el rendimiento óptimo en dicho hardware cuando las empresas posean sus propias GPU y operen IA privada. El hecho de que NVIDIA cree sus propios modelos es para proporcionar un ecosistema poderoso a las empresas que utilizan sus GPU.

En este flujo, la estrategia de "relación calidad-precio" de los modelos de IA chinos también está captando la atención. Según el vídeo, el modelo chino "QN 3.8(27B)" ofrece un rendimiento comparable al de los modelos de alto rendimiento de Estados Unidos, pero ha maximizado la eficiencia de costes reduciendo drásticamente los requisitos de hardware. Por ejemplo, si se requiere maquinaria de 1,000 millones de wones para ejecutar Nemotron, se analiza que el modelo QN puede funcionar en maquinaria de 50 millones de wones. Se analiza que las sanciones de EE. UU. sobre las GPU han impulsado, por el contrario, a las empresas chinas a desarrollar modelos de alta eficiencia que funcionen bien incluso en hardware de bajas especificaciones, provocando una guerra de costes donde se mantiene el rendimiento pero se reduce el precio a un veinteavo.

El desafío clave de la IA empresarial: 'Grados de seguridad de datos' y gestión de permisos

Cuando llegue la era en la que las empresas otorguen todos los permisos de trabajo a los agentes de IA, los problemas de seguridad se prevé que sean el mayor obstáculo. El participante enfatizó la necesidad de un sistema para clasificar los grados de seguridad de los datos internos de las empresas. Citando el N2SF (sistema de seguridad de datos) del gobierno, explicó que los datos deben gestionarse dividiéndolos en grados como Clasificado (Classified), Sensible (Sensitive) y Abierto (Open).

Por ejemplo, el director puede acceder a datos de todos los grados, pero el gerente de equipo solo hasta el grado Sensible (S), y el empleado general solo hasta el grado Abierto (O), controlando así los permisos. En este caso, la IA debe apoyar el trabajo mientras cumple con los permisos del usuario. El participante pronosticó: "Cuando un usuario pregunte por información para la cual no tiene permiso, un motor de seguridad inteligente que proporcione 'pistas' útiles para el trabajo, aunque no revele el contenido directo, será la clave de la seguridad empresarial del futuro". Esto se refiere a una tecnología de seguridad avanzada donde la IA identifica la correlación entre los datos y ofrece respuestas de un nivel adecuado sin infringir los permisos del usuario.