El modelo Jev revoluciona Silicon Valley con decisiones intuitivas de bajo coste

El modelo de IA ultraligero Jev, desarrollado por Typesafe AI, destaca en Silicon Valley por su capacidad para tomar decisiones rápidas con un coste de procesamiento de apenas 0,3 wones. Esta herramienta especializada en tareas de "Sistema 1" permite filtrar, por ejemplo, el 10% de correos spam de cada 100 para optimizar el uso de modelos más costosos.

Se está rompiendo el paradigma de que la inteligencia artificial (IA) debe ser capaz de hacerlo todo. En lugar de redactar textos complejos o escribir código, un modelo de IA ultraligero que solo toma decisiones intuitivas, como responder "sí" o "no" o asignar puntuaciones, está captando la atención de Silicon Valley y de los desarrolladores.

Según el análisis de Choi Ji-ung, director de YouCanLabs, presentado por T Times TV, la nueva tendencia en la industria de la IA consiste en crear "IA que sea buena en una sola cosa". En el centro de este movimiento se encuentra Jev, de la empresa Typesafe AI, fundada por Diogo Almeida, uno de los investigadores de ChatGPT. Aunque Jev no posee la capacidad de emplear frases elaboradas como la IA generativa, es un modelo especializado en tomar decisiones rápidas ante situaciones específicas.

"Contrata a un niño de primaria en lugar de a un profesor"... la IA de "Sistema 1" que solo decide

Choi Ji-ung comparó las características de Jev con el "Sistema 1" del sistema cognitivo humano. Si el Sistema 1 representa las respuestas que surgen de forma intuitiva y directa sin un gran pensamiento, los modelos que requieren un análisis meticuloso, como ChatGPT o Claude, corresponden al "Sistema 2". Mientras que los modelos de lenguaje de gran tamaño (LLM) actuales operan principalmente en el ámbito del Sistema 2, Jev ataca directamente el terreno del Sistema 1.

Las tareas que puede realizar Jev son extremadamente simples: responder con "sí/no", elegir una opción entre varias dadas o asignar una puntuación a un valor específico. Choi explicó esto comparándolo con "niños prodigio de la música que son excelentes tocando, pero que no saben nada de herramientas como Excel". Debido a que no realiza otras funciones, el modelo es pequeño, lo que le permite alcanzar una velocidad abrumadora y un coste muy bajo.

En las pruebas de rendimiento por modelo realizadas por Choi, Jev mostró una eficiencia inigualable. Los resultados indicaron que el coste de procesamiento de Jev es de aproximadamente 0,3 wones, una cifra significativamente más barata que los modelos de Claude o GPT, cuyos costes oscilan entre decenas y cientos de wones. En términos de velocidad, también demostró haber capturado la eficiencia de costes y la rapidez al completar las tareas primero.

Un "componente de decisión de IA" que filtra 90 de cada 100 correos de spam

¿Por qué las empresas prestan atención a esta pequeña IA que no sabe escribir? La clave reside en el "procesamiento eficiente de tareas". Choi propuso una estrategia para construir agentes de IA empresariales integrando modelos como Jev como "componentes de decisión". Señaló que confiar todas las tareas a los costosos LLM supone un desperdicio de recursos.

Por ejemplo, en una situación donde se reciben cientos de correos electrónicos al día, hacer que ChatGPT lea cada uno de ellos supondría un gasto masivo de tiempo y dinero. Si se emplea primero a Jev para que decida intuitivamente la "presencia de spam" o la "relevancia laboral", se podrían filtrar inmediatamente el 10% de los correos que son claramente publicidad o spam de un total de 100. De este modo, se reduce drásticamente el coste total del sistema al permitir que los LLM de alto rendimiento analicen con precisión solo el 90% de los correos importantes restantes.

Esta estructura es fundamental también en el diseño de "agentes", una tecnología clave para la mejora del rendimiento de la IA. En el vídeo se mencionó el caso de utilizar modelos de IA generativa como "evaluadores". En el proceso donde un LLM genera un resultado y luego se debe juzgar si dicho resultado cumple con la intención del usuario para volver a trabajar, modelos como Jev pueden desempeñar un papel de evaluación eficiente.

Desde la detección de mensajes fraudulentos hasta el control de juegos... el campo de la IA de decisión se expande

El ámbito de aplicación de Jev muestra el potencial de expandirse más allá de la clasificación simple hacia el área del control en tiempo real. Choi presentó una demostración de juego donde se utiliza Jev para analizar situaciones en tiempo real y decidir "si esquivar o disparar". Esta estructura es similar a la de la película Misión: Imposible, donde el protagonista se mueve en tiempo real siguiendo instrucciones externas: Jev toma la decisión y un programa programado ejecuta la acción real.

Además, el objetivo de Jev incluye cualquier área que requiera un "juicio intuitivo", como la clasificación de emociones mediante la lectura de sutiles cambios en las expresiones faciales o matices humanos, o la clasificación de archivos en las carpetas adecuadas entre una gran cantidad de ellos. Choi pronosticó que "no todos los componentes de IA necesitan ser de lujo" y que la clave para construir los servicios de IA del futuro será la combinación de modelos adecuados para cada propósito.

Actualmente, Jev se ofrece en forma de API (Interfaz de Programación de Aplicaciones) en lugar de código abierto, lo que permite a las empresas utilizarlo alquilando ese "cerebro de decisión" para sus propios servicios. El hecho de que grandes empresas tecnológicas, incluidas OpenAI, estén lanzando modelos de decisión ligeros similares, demuestra que el centro de gravedad del mercado de la IA se está desplazando de la "inteligencia masiva" hacia la "decisión eficiente".

Fuente: vídeo original (YouTube)