El uso de gafas con IA pone en jaque la integridad de los exámenes

El sector educativo se encuentra en alerta tras detectarse fraudes con gafas de inteligencia artificial en la Universidad de Seúl y la Universidad Yonsei durante octubre. Estos dispositivos permiten obtener respuestas en apenas 3 segundos mediante toques táctiles, lo que dificulta la detección por parte de los supervisores.

El sector educativo ha entrado en estado de alerta tras la detección de sucesivos casos de fraude en los exámenes de ingreso a la universidad mediante el uso de gafas de inteligencia artificial (smart glasses). El núcleo del problema reside en que estos dispositivos no presentan grandes diferencias visuales con las gafas comunes, lo que facilita eludir la supervisión, y permiten verificar respuestas de forma inmediata mediante comandos de acceso rápido sin necesidad de órdenes de voz.

Según la investigación realizada por Understanding: All the Knowledge in the World, se han producido casos de fraude con gafas de IA en la Universidad de Seúl y la Universidad Yonsei durante el pasado mes de octubre. En el caso de la Universidad Yonsei, el fraude se detectó el día 10 en un examen de ingreso universitario, mientras que en la Universidad de Seúl el incidente ocurrió el 3 de octubre, según se ha dado a conocer con retraso. La preocupación aumenta ante los informes de que algunos estudiantes, ante la proximidad de los exámenes de ensayo para la admisión, compran libros de ejercicios con antelación para probar el funcionamiento de las gafas de IA antes de entrar en el centro de exámenes.

"La respuesta aparece en 3 segundos con un toque"... El peligro de las funciones de acceso rápido sin comandos de voz

El mayor factor de amenaza de las gafas de IA es que el usuario puede ejecutar sus funciones sin necesidad de abrir la boca. El periodista Baek Jong-hun realizó pruebas con unas gafas de IA de alta gama de la empresa china ROKID, valoradas en aproximadamente 1.000.000 de wones, las cuales se sincronizan con un smartphone para utilizar de inmediato Gemini de Google o ChatGPT de OpenAI.

Baek Jong-hun llevó a cabo el experimento utilizando preguntas de la evaluación simulada de septiembre para estudiantes de segundo año de secundaria. Al configurar un comando de acceso rápido mediante un ligero toque en el lateral de las gafas, el dispositivo reconoció el problema situado frente al usuario y mostró el proceso de resolución y la respuesta en pantalla sin necesidad de comandos de voz adicionales. Especialmente, al preconfigurar la instrucción de "omitir la explicación y dar solo la respuesta", la mayoría de los problemas, a excepción de los de alta dificultad, se resolvieron en apenas 3 segundos. Debido a que el usuario puede parecer que simplemente está resolviendo el problema mientras lleva las gafas puestas, la estructura del dispositivo hace que sea muy difícil para un supervisor detectar el fraude.

Estas funciones plantean la sospecha de si fueron diseñadas con la posibilidad de ser mal utilizadas desde su etapa de desarrollo. Mientras que los dispositivos de IA convencionales requieren órdenes individuales mediante voz o tacto, las gafas de alta gama permiten asignar instrucciones detalladas de antemano para ejecutarlas mediante teclas de acceso rápido. Por ejemplo, si se configura una instrucción específica como "ignora el ruido ambiental y resuelve sin falta el problema que ves frente a ti", el usuario puede realizar todo el proceso con solo un ligero toque en las gafas. Esto permite la verificación inmediata de las respuestas minimizando los movimientos perceptibles en el aula de examen.

Diferencias en la tasa de acierto según el modelo de IA... Una nueva desigualdad creada por la brecha tecnológica

Los resultados del experimento mostraron una diferencia clara en la tasa de acierto dependiendo del rendimiento del modelo de IA utilizado. En el caso de la "pregunta tipo killer número 30", la más difícil de la evaluación simulada de septiembre de segundo de secundaria, la versión gratuita de Gemini ofreció una respuesta incorrecta. Tanto la versión de pago de Gemini como ChatGPT tampoco acertaron dicha pregunta, pero la versión de pago de Claude sí logró dar la respuesta correcta. Se sabe que dicha pregunta es de extrema dificultad, con un proceso de resolución que alcanza las dos páginas.

El problema es que esta brecha tecnológica sacude fundamentalmente la equidad de los exámenes. Si los estudiantes que tienen la capacidad económica para adquirir gafas de IA de alta gama y suscribirse a modelos de IA de pago las utilizan como herramientas de fraude, existe un gran riesgo de que los resultados de los exámenes se decidan por la "capacidad tecnológica y el capital" en lugar de por la habilidad del estudiante. De hecho, se ha informado de que algunos estudiantes compran libros de ejercicios antes del examen para verificar que las gafas de IA funcionan correctamente antes de entrar al centro.

Desde la primera mitad de este año, ya se han detectado fraudes con gafas inteligentes en diversos exámenes de certificación, como el TOEIC o el de Técnico en Electricidad Industrial, lo que indica que la amenaza se está extendiendo a todos los exámenes oficiales del Estado, no solo a los de ingreso universitario. Estas preocupaciones se están materializando especialmente desde este año, cuando ha comenzado la distribución de gafas inteligentes con especificaciones adecuadas.

Se considera la introducción de detectores de ondas, pero... el desafío de las autoridades educativas ante el examen nacional

Las autoridades educativas están buscando medidas para responder al vertiginoso entorno tecnológico. Actualmente, ante la proximación del examen nacional, las autoridades están impulsando el refuerzo de la formación de los supervisores y la propuesta de inspeccionar el uso de gafas antes del inicio de cada sesión de examen. Además, se está considerando la introducción de detectores de ondas para identificar dispositivos de fraude.

Sin embargo, persiste la duda sobre su eficacia. Esto se debe a que el tiempo es muy limitado para que equipos físicos, como los detectores de ondas, se distribuyan o preparen perfectamente en todos los centros de examen antes del examen nacional del 19 de noviembre. Además, las gafas de IA de alta gama son casi imposibles de distinguir de las gafas comunes a simple vista, por lo que la inspección visual tiene límites claros. Mientras que en los productos de gama baja los orificios de la cámara pueden ser perceptibles, en los de alta gama es difícil identificarlos sin una observación detallada.

Las gafas de IA poseen una alta utilidad tecnológica, como traducir libros en inglés en tiempo real, proporcionar información sobre lugares turísticos o funcionar como un "teleprompter" que muestra guiones en pantalla durante un discurso. No obstante, problemas de privacidad y seguridad, como la grabación sin el consentimiento de la otra parte o la filtración de secretos corporativos, están surgiendo como nuevos factores de riesgo. A medida que la innovación traída por la comodidad de la tecnología choca con el valor social de la equidad en los exámenes, se anticipa una intensa batalla entre la respuesta institucional y la defensa tecnológica.

Fuente: vídeo original (YouTube)