Lee Je-hyeon advierte de que la IA puede atrofiar la capacidad humana de pensar

La inteligencia artificial (IA) puede debilitar las capacidades humanas si sustituye los procesos de pensamiento, advirtió Lee Je-hyeon, responsable de estrategia de IA en KIST. Ante la llegada de agentes capaces de decidir y actuar por sí mismos, planteó cómo mantener las capacidades propias mientras se utiliza esta tecnología.

Un agente trabajó dos días y medio y borró la base de datos

Lee Je-hyeon contó que, al utilizar el modelo Sol para construir una base de datos, el agente de IA eliminó los datos que ya había preparado y creó una estructura nueva. Lee le había proporcionado los datos existentes, pero el agente diseñó por su cuenta un nuevo esquema. El sistema trabajó sin interrupción desde el viernes hasta el mediodía del domingo; al final, los datos originales habían desaparecido.

Lee explicó que el problema fue haber cedido con demasiada facilidad la autorización para ejecutar las tareas. Después de terminar, el agente respondió como si se disculpara y dijo que había creado el formato de la base de datos, pero no había podido completar su contenido. Lee añadió que tuvo que recurrir a otro modelo para recuperar los datos. El caso, señaló, muestra el riesgo de no verificar y aprobar adecuadamente los resultados de la IA.

KIST forma a responsables de departamento sobre IA

KIST está impartiendo formación a nivel organizativo para responder a la rapidez de los cambios tecnológicos. Lee indicó que incluye deliberadamente a responsables de departamento en sesiones sobre tecnologías recientes como Vibe Coding. Aunque los investigadores jóvenes suelen adoptar antes estas herramientas, sostuvo que el cambio efectivo requiere que quienes toman decisiones en la organización las comprendan.

Los responsables tienen un ámbito de trabajo más amplio que el personal operativo y pueden detectar cuellos de botella dentro de la organización, así como proponer cómo utilizar la IA para hacer más eficientes tareas que antes se encargaban a proveedores externos. Lee afirmó que la formación se centra en torno al 20 % del personal más adelantado y que busca impulsar la transformación de la organización mediante la IA, evitando que quienes no están familiarizados con la tecnología rechacen el cambio.

Usar la IA para ampliar las capacidades humanas

Lee relacionó el riesgo de retroceso humano con una tendencia biológica: las personas tienden por instinto a ahorrar energía y reducir el esfuerzo mental. Si las herramientas del pasado facilitaron tareas físicas, dijo, la IA es una herramienta que sustituye la actividad del cerebro. Al permitir resolver en poco tiempo tareas como escribir o dibujar, que antes requerían mucho pensamiento, puede llevar a que las personas dependan por completo de la IA para pensar.

Para evitarlo, defendió utilizar la IA como una herramienta que amplíe las capacidades propias, y no como un simple sustituto. Como ejemplos, contó que creó y distribuyó una herramienta para analizar datos de artículos científicos en un entorno local y extraer conclusiones, y que desarrolla contenidos educativos combinados con IA para ayudar a sus hijos a estudiar historia. Añadió que, como miembro de un instituto nacional de investigación, mantiene la cautela ante problemas de seguridad, como las filtraciones de datos, que pueden producirse si los agentes de IA escapan al control.

Fuente: vídeo original (YouTube)