La inteligencia artificial podría dejar señales antes de desarrollar nuevas capacidades. Esa es la hipótesis que quiere demostrar KnoWare, un nuevo proyecto de Horizonte Europa en el que participan investigadores de la Universidad de Granada (UGR) y que pretende detectar por adelantado cómo evolucionarán los sistemas de IA de propósito general.
El objetivo es ir más allá de las pruebas actuales, que evalúan lo que un modelo de inteligencia artificial ya es capaz de hacer, para desarrollar métodos que permitan identificar capacidades emergentes antes de que sean visibles.
“Las pruebas que se emplean hoy se quedan cortas: miden lo que la IA ya sabe hacer, pero no detectan lo que está a punto de poder hacer”, explican los investigadores de la UGR que participan en el proyecto.
Leer las señales internas de una inteligencia artificial
El proyecto está liderado desde Granada por Isaac Triguero, nuevo director del Instituto de Investigación en Ciencia de Datos e Inteligencia Computacional (DaSCI) de la UGR, junto a Leonardo Concepción, investigador del instituto y del Departamento de Ciencias de la Computación e Inteligencia Artificial (DECSAI).
La Universidad de Granada tendrá un papel clave dentro del consorcio internacional: desarrollar métodos capaces de analizar las llamadas “señales internas” de los modelos de IA, es decir, los patrones que aparecen dentro de estos sistemas cuando empiezan a adquirir nuevas capacidades.
La investigación parte de una idea: los comportamientos avanzados de la inteligencia artificial no aparecen de forma repentina, sino que pueden dejar indicios previos que permitan anticipar su evolución.
“La idea es que estas capacidades no surgen de la nada, sino que dejan pistas tempranas que, si se saben leer, permiten pasar de vigilar la IA ‘por detrás’ a adelantarse a sus riesgos”, explica Isaac Triguero.
Una nueva generación de herramientas para entender la IA
Para lograrlo, el equipo aplicará técnicas de inteligencia artificial explicable (XAI), una disciplina que busca comprender cómo y por qué los sistemas de IA toman determinadas decisiones.
Este campo se ha convertido en una de las líneas estratégicas de la investigación actual, especialmente ante el crecimiento de modelos cada vez más complejos cuyo funcionamiento interno resulta difícil de interpretar.
La finalidad de KnoWare es crear herramientas que permitan no solo evaluar una inteligencia artificial cuando ya muestra un comportamiento determinado, sino comprender hacia dónde puede evolucionar.
De la energía a las pandemias: pruebas en escenarios reales
Los métodos desarrollados en el proyecto se probarán en cuatro ámbitos considerados estratégicos.
Entre ellos se encuentran asistentes de inteligencia artificial aplicados al mercado energético, sistemas de alerta temprana frente a pandemias como la gripe aviar, tecnologías para detectar ciberataques en el tráfico marítimo y herramientas destinadas a identificar fraude alimentario.
Los resultados también servirán como apoyo a la aplicación de la nueva normativa europea sobre inteligencia artificial, conocida como AI Act, que establece un marco regulador para garantizar un desarrollo más seguro y responsable de estas tecnologías.
Casi cuatro millones de euros para anticipar los riesgos de la IA
KnoWare está coordinado por el centro tecnológico noruego SINTEF y reúne a universidades, centros de investigación y empresas de distintos países europeos.
El consorcio cuenta con la participación de instituciones como la Universidad Noruega de Ciencia y Tecnología (NTNU), la Universidad Aristóteles de Tesalónica, la Universidad de Warwick, la Universidad Católica de Lovaina (KU Leuven) y la Universidad de Guelph, además de compañías tecnológicas especializadas.
Con un presupuesto cercano a los cuatro millones de euros y una duración prevista de tres años, el proyecto pretende desarrollar una nueva forma de supervisar la evolución de la inteligencia artificial: no solo analizando lo que hace hoy, sino intentando descubrir qué podría llegar a hacer mañana.
