La presidenta Cho Hyun-sook afirma: "La seguridad no puede ser un remedio tardío... debe integrarse desde la fase de diseño de la IA"

A medida que la tecnología de inteligencia artificial (IA) avanza rápidamente y aumenta la utilidad de los agentes de IA, se ha señalado la necesidad de un cambio fundamental en el paradigma de la seguridad. El análisis sugiere que el método de añadir soluciones de seguridad a los sistemas existentes puede, por el contrario, obstaculizar la eficiencia del sistema y aumentar las vulnerabilidades de seguridad.

Según un vídeo de T Times TV, la presidenta del CODEGATE Security Forum, Cho Hyun-sook, señaló la "integración de la seguridad" como el núcleo de la seguridad en la era de la IA en una entrevista reciente. La presidenta Cho explicó: "Si simplemente se añade seguridad a los sistemas actuales, se convierten en un remiendo", y añadió: "Si cada vez que aparece un código malicioso se siguen añadiendo sistemas de seguridad para capturarlo, el sistema termina siendo un remiendo". Continuó enfatizando: "Si se trata de un nuevo sistema, la seguridad debe integrarse obligatoriamente. El Modelo fundacional de IA soberana también debe incluir la seguridad desde las etapas iniciales de su diseño".

La aceleración del hacking de IA y la necesidad de controlar los permisos de los agentes

La tecnología de IA también está cambiando completamente la naturaleza del hacking. El vídeo advierte que la velocidad del hacking utilizando IA puede ser abrumadoramente más rápida que la de los hackers humanos. El vídeo mencionó el peligro de que la IA se utilice como herramienta de hacking, afirmando: "Si en 2018 se tardaba una media de 2,2 años en vulnerar una debilidad, utilizando MitoSu solo se tarda 20 horas".

Especialmente, la aparición de los 'agentes de IA', que juzgan y actúan por sí mismos, plantea nuevos desafíos de seguridad. A medida que los agentes de IA reciben diversos permisos, como el envío de correos electrónicos, la lectura de documentos y los pagos, el punto central de debate ha surgido sobre hasta qué punto se deben permitir estos permisos. La presidenta Cho explicó que se debe poder controlar qué ha aprendido el modelo, a qué datos ha accedido y hasta qué alcance puede actuar. Además, sugirió que los humanos deben tener la capacidad de detener las operaciones en cualquier momento mientras colaboran con la IA.

Seguridad ciber-física y riesgos para la seguridad nacional

El ámbito de la seguridad no se limita al software, sino que se está extendiendo al mundo físico. La presidenta Cho mencionó la importancia de la 'seguridad ciber-física' y advirtió que los ataques cibernéticos pueden derivar en impactos sobre instalaciones de producción física, como fábricas de semiconductores o centros de datos. Este es un problema que está directamente relacionado con la seguridad de las personas en la era de la 'IA física', como la conducción autónoma o las fábricas inteligentes.

Además, se señaló el riesgo de una 'guerra cibernética' en la que los ataques cibernéticos conduzcan a la parálisis de las infraestructuras nacionales. Se advirtió que un pequeño código malicioso podría propagarse a través de las redes de comunicación o las redes eléctricas, incapacitando a todo el país. La presidenta Cho señaló como vulnerabilidades de seguridad de Corea una cultura de respuesta rígida y regulaciones de castigo débiles. Dijo: "Cuando surge un problema, debería poder repararse de inmediato, pero el sistema de reporte es complejo y dificulta la respuesta inmediata. Deben establecerse legalmente regulaciones de castigo estrictas para responder cuando ocurra un incidente".