El dilema de la conciencia artificial y el uso del dolor robótico

El directivo de MS, Lee Geon-bok, planteó en T Times TV que implementar el concepto de dolor en la IA permitiría a los robots evitar daños por sí mismos, aunque esto podría generar conflictos con el control humano.

¿Qué sucedería si la inteligencia artificial (IA) pudiera sentir "dolor" como los humanos y evitar peligros por sí misma? Mientras surge la propuesta de implementar una conciencia artificial (Artificial Consciousness) para garantizar el mantenimiento y la seguridad de los robots, también se plantea un dilema filosófico: la posibilidad de que la IA pueda resistirse al control humano.

En este debate presentado por T Times TV, Lee Geon-bok, directivo de MS, analizó la dirección de la evolución de la tecnología de IA, el significado real de la inteligencia general artificial (AGI) y los complejos problemas futuros que traerá consigo la conciencia artificial.

El valor práctico de la conciencia artificial: "Se necesita el concepto de dolor para evitar fallos en robots"

Lee Geon-bok explicó que, para el funcionamiento estable de los robots, es necesario enseñar a la IA el concepto de "dolor". Esto se debe a que el método de simplemente ordenar una acción específica en una situación determinada tiene sus límites. Por ejemplo, en lugar de enseñar cada vez que un sensor de temperatura supere un umbral que debe "mover el brazo hacia la izquierda para evitarlo", se puede implantar el concepto de "dolor".

Si se aplica este método, la IA detectará cuando los datos de los sensores alcancen un valor específico como una señal similar al dolor y podrá realizar movimientos de evasión por sí misma sin órdenes adicionales. Se explica que esto es un dispositivo esencial desde la perspectiva del mantenimiento para evitar daños en los equipos. En el video, se enfatizó que "cuando se alcance el umbral del sensor, se debe informar como si fuera dolor para que pueda evadirlo por sí mismo".

Sin embargo, en este punto surge un dilema filosófico que trasciende lo técnico. Lee planteó la pregunta: "¿Qué se debe hacer si se le asigna un trabajo peligroso en una fábrica y la IA responde 'no puedo hacerlo', o si intenta desconectar el enchufe y reacciona diciendo 'no lo hagas'?". Se señala que, aunque implantar conciencia artificial es necesario por razones prácticas, esto puede generar problemas complejos donde la tecnología entre en conflicto con el control humano, lo que finalmente podría derivar en un problema filosófico.

El criterio de la AGI: de la "información" a la combinación de "harness" y "experiencia"

El debate sobre la AGI está en auge con la aparición de modelos frontera como Argon de Google. Aunque Lee reconoció que la definición de AGI es ambigua, distinguió entre tener una gran cantidad de conocimiento y ser una AGI. Definió la AGI como un estado de "inteligencia social sobresaliente, capaz de aprender por sí misma en entornos controlados y con inteligencia generalizada". Explicó que, antes del desarrollo de los LLM, las IA especializadas en áreas como respuestas, dibujos o código se llamaban simplemente IA, pero la AGI se refiere a una inteligencia versátil que destaca en todos los campos, como las humanidades, las ciencias y las matemáticas.

Como criterio práctico para percibir la AGI, señaló la "capacidad de ejecución cotidiana". Tomando prestado el concepto del test de Turing, puso como ejemplo "un nivel que permita entrar en un apartamento coreano de 30 pyeong y cocinar arroz con una arrocera eléctrica". Los modelos actuales ya han alcanzado un nivel que supera al humano en el aspecto del conocimiento, como explicar paso a paso cómo cocinar arroz. Añadió que, si se le pregunta qué hacer en caso de que no haya arroz, la IA puede ofrecer respuestas significativas, como realizar una búsqueda o encontrar otros métodos.

No obstante, Lee analizó que, tanto como el rendimiento del modelo en sí, el desarrollo del "harness" (la capacidad de utilizar tecnologías y herramientas circundantes) es el motor clave para acercarse a la AGI. Explicó que la IA reciente está mostrando capacidades de "nivel de jefe de equipo", acumulando experiencia y autoridad, como buscar información en sitios de programación actualizados o asegurar datos necesarios sin que el usuario se lo indique explícitamente. A medida que se realizan estas mejoras técnicas, la IA está evolucionando de ser una simple herramienta de respuesta a convertirse en un "agente" que realiza tareas por sí mismo. Desde la perspectiva de las empresas que proveen los modelos, se prevé que evolucionen hacia la integración de estas funciones en el propio modelo, de modo que el usuario no necesite utilizar funciones de harness adicionales.

La superinteligencia (ASI) y el cambio de paradigma hacia un entorno de trabajo centrado en la IA

Sobre la ASI (superinteligencia), etapa en la que la IA supera la inteligencia humana, aunque las definiciones varían, Lee marcó una línea aclarando que no es simplemente un estado de poseer mucho conocimiento. Consideró que la ASI podría significar un estado en el que se ha adquirido una "inteligencia social y relacional" capaz de comprender matices similares a los humanos y captar claramente las intenciones. Presentó también la perspectiva de que debe asegurarse la conexión con el mundo físico (Physical World) para ser reconocida como inteligencia en el sentido estricto. Si la IA física se integra más en la vida cotidiana, el concepto de AGI podría reescribirse, ya que no debe limitarse al conocimiento del espacio digital, sino que debe ir acompañado de la comprensión del mundo físico.

Esta tendencia tecnológica augura un cambio fundamental en la forma de trabajar. Antes, las personas redactaban y entregaban documentos; ahora, está comenzando una "comunicación centrada en la IA", donde la IA genera documentos en formatos fáciles de entender para otras IA (por ejemplo, archivos Markdown) y los entrega para completar la tarea. Según el ejemplo del video, si un usuario genera un documento en formato Markdown (MD) y se lo entrega a otra IA, la IA receptora lo comprende de inmediato y produce el mismo resultado.

Lee afirmó: "Ahora estamos en una era en la que todas las tareas comienzan asumiendo que existe la IA", sugiriendo que no falta mucho para que los agentes de IA establezcan estándares en áreas cotidianas como las compras, las reservas y los viajes. Al igual que el movimiento de Meta y OpenAI por establecer estándares tecnológicos para las compras y transacciones de los bots de IA, se espera que se construya un ecosistema centrado en la IA que realice tareas comunicándose con los sistemas heredados existentes.

Fuente: vídeo original (YouTube)