La presidenta Cho Hyun-sook afirma: "La seguridad no puede ser un remedio tardío... debe integrarse desde la fase de diseño de la IA"

A medida que la tecnología de inteligencia artificial (IA) avanza rápidamente y aumenta la utilidad de los agentes de IA, se ha señalado la necesidad de un cambio fundamental en el paradigma de la seguridad. El análisis sugiere que el método de añadir soluciones de seguridad a los sistemas existentes puede, por el contrario, perjudicar la eficiencia del sistema y aumentar las vulnerabilidades de seguridad.

Según un vídeo de T Times TV, la presidenta del CODEGATE Security Forum, Cho Hyun-sook, señaló la "integración de la seguridad" como la clave de la seguridad en la era de la IA en una entrevista reciente. La presidenta Cho explicó: "Si simplemente se añade seguridad a los sistemas actuales, se convierten en un remiendo", y añadió: "Si cada vez que aparece un nuevo código malicioso se siguen añadiendo sistemas de seguridad para capturarlo, el sistema acaba siendo un remiendo". Continuó enfatizando: "Si se trata de un sistema nuevo, la seguridad debe integrarse obligatoriamente. El Modelo fundacional de IA soberana también debe incluir la seguridad desde las etapas iniciales de su diseño".

La aceleración del hackeo de IA y la necesidad de controlar los permisos de los agentes

La tecnología de IA también está cambiando completamente la naturaleza del hackeo. El vídeo advierte que la velocidad del hackeo utilizando IA puede ser abrumadoramente más rápida que la de un hacker humano. El vídeo mencionó el peligro de que la IA se utilice como herramienta de hackeo, afirmando: "Si en 2018 se tardaba una media de 2,2 años en vulnerar una debilidad, utilizando MitoSu solo se tarda 20 horas".

Especialmente, la aparición de los 'agentes de IA', que juzgan y actúan por sí mismos, plantea nuevos desafíos de seguridad. A medida que los agentes de IA reciben diversos permisos, como el envío de correos electrónicos, la lectura de documentos y los pagos, el punto central de debate ha surgido sobre hasta qué punto se deben permitir estos permisos. La presidenta Cho explicó que se debe poder controlar qué ha aprendido el modelo, a qué datos ha accedido y hasta qué alcance puede actuar. Además, sugirió que los humanos deben poseer la capacidad de detener las operaciones en cualquier momento mientras colaboran con la IA.

Seguridad ciber-física y riesgos para la seguridad nacional

El ámbito de la seguridad no se limita al software, sino que se está extendiendo al mundo físico. La presidenta Cho mencionó la importancia de la 'seguridad ciber-física' y advirtió que los ataques cibernéticos pueden derivar en impactos sobre instalaciones de producción física, como fábricas de semiconductores o centros de datos. Este es un problema que está directamente relacionado con la seguridad humana en la era de la 'IA física', como la conducción autónoma o las fábricas inteligentes.

Además, se señaló el riesgo de la 'guerra cibernética', donde los ataques cibernéticos pueden llevar a la parálisis de las infraestructuras nacionales. Se advirtió que un pequeño código malicioso puede propagarse a través de las redes de comunicación o las redes eléctricas y neutralizar a todo un país. La presidenta Cho señaló como vulnerabilidades de seguridad de South Korea la cultura de respuesta rígida y las débiles regulaciones de castigo. Dijo: "Cuando surge un problema, debería poder repararse de inmediato, pero debido a que el sistema de reporte es complejo, la respuesta inmediata es difícil", y añadió: "Deben establecerse legalmente regulaciones de castigo estrictas para responder cuando ocurra un incidente".