La inteligencia artificial toma decisiones todos los días que afectan a personas reales. Concede o deniega créditos, ayuda a diagnosticar enfermedades, detecta fraudes o clasifica imágenes médicas. El problema es que muchas veces no sabemos por qué decide lo que decide. Sus modelos más potentes funcionan como cajas negras. Acertan mucho, sí, pero no explican nada. Y eso, en sectores críticos, ya no es suficiente.
Un nuevo estudio realizado por la UNED y publicado en la revista Neural Networks propone una solución elegante a este problema. El trabajo presenta un método que permite abrir la caja negra de las redes neuronales y ver, con exactitud matemática, qué peso tiene cada variable en una decisión concreta. No aproximaciones, no suposiciones: exactitud.
La herramienta que explica las decisiones tomadas por la inteligencia artificial
El equipo de investigadores José Luis Carles-Bou y Enrique Javier Carmona, del Departamento de Inteligencia Artificial de la UNED, ha creado FACE (Feature Attribution Computed Exactly), un método innovador que traduce el funcionamiento interno de las denominadas redes neuronales feedforward profundas en explicaciones claras y precisas.
Estas redes funcionan como una línea de procesamiento: los datos entran, se analizan paso a paso en varias capas, y al final la red genera un resultado o predicción. La información siempre fluye hacia adelante, sin “dar marcha atrás”, lo que hace que su funcionamiento sea más fácil de entender y analizar en comparación con otros tipos de redes más complejas.
Gracias a FACE, se puede ver qué características de los datos influyen en cada decisión, un avance crucial para detectar sesgos y comportamientos inesperados en campos como la medicina, la conducción autónoma, la ciberseguridad o las finanzas.
El gran reto de entender a las redes neuronales
Las redes neuronales artificiales, especialmente las llamadas feedforward, se utilizan desde hace décadas. Son relativamente sencillas en su arquitectura, pero incluso así resultan difíciles de interpretar. Sabemos qué entra y qué sale, pero el camino intermedio suele estar envuelto en misterio.
Este problema no es menor. La legislación europea ya exige que los sistemas automáticos sean explicables, y desde el punto de vista ético la transparencia es clave para generar confianza. Tal y como señalan los investigadores, existe desde hace años una tensión clara entre precisión y comprensión. Cuanto más complejo es un modelo, mejor predice, pero peor se explica.
De ahí nace todo un campo llamado inteligencia artificial explicable, o XAI por sus siglas en inglés. Su objetivo es sencillo de formular, pero difícil de lograr: explicar cómo y por qué un modelo llega a una predicción concreta.
Muchas explicaciones… pero pocas realmente fieles
Hasta ahora, la mayoría de métodos de explicación funcionan por aproximación. Algunos, como LIME o SHAP, crean modelos simplificados alrededor de una predicción concreta. Otros, como los métodos basados en gradientes, observan cómo cambia la salida si se modifican ligeramente las entradas. El problema es que todas estas técnicas introducen ruido, dependen de parámetros arbitrarios o requieren valores de referencia difíciles de justificar.
En palabras del equipo que firma este estudio, muchas explicaciones actuales “no replican fielmente el comportamiento real del modelo”. Es decir, explican algo, pero no necesariamente lo que la red neuronal está haciendo de verdad.
Ahí es donde entra su propuesta.
FACE: explicaciones exactas, no aproximadas
El método se llama FACE, siglas de Feature Attribution Computed Exactly. Su promesa es ambiciosa: calcular exactamente cuánto contribuye cada característica de entrada a una predicción individual, sin aproximaciones y con fidelidad perfecta.
La idea clave es aprovechar una propiedad matemática de muchas redes neuronales modernas. Cuando usan funciones de activación como ReLU, su comportamiento interno es lineal por partes. Eso permite, si se sabe exactamente qué neuronas se activan y cuáles no para una entrada concreta, reescribir toda la red como una ecuación lineal equivalente.
Dicho de forma sencilla, el modelo se “congela” para un caso concreto y se convierte en una fórmula transparente. Según explican los investigadores, esto permite “replicar exactamente la salida del modelo y descomponerla en contribuciones individuales de cada variable”.
El resultado es una explicación que no solo tiene sentido, sino que reproduce exactamente la predicción original. Si se suman todas las contribuciones, se obtiene el mismo valor que devuelve la red neuronal. Ni más ni menos.
«FACE permite analizar si la red ha aprendido sesgos indeseados antes de su despliegue en sistemas reales. Esto es especialmente relevante en aplicaciones que afectan directamente a personas, como la concesión de ayudas sociales, evaluaciones de riesgo financiero o procesos de selección automatizados», explica Enrique Javier Carmona.
¿Funciona en la práctica? Los experimentos dicen que sí
El equipo probó FACE en múltiples escenarios: problemas de regresión, clasificación binaria y clasificación de imágenes. Compararon su método con técnicas muy populares como LIME, SHAP, Integrated Gradients y otras.
Los resultados son contundentes. FACE alcanza fidelidad perfecta en todos los casos, es decir, siempre reproduce exactamente el comportamiento del modelo original. Otros métodos se quedan cerca, pero no llegan al cien por cien o dependen de configuraciones específicas.
Además, FACE no necesita hiperparámetros ni valores de referencia. Eso elimina una fuente importante de subjetividad. Tal y como destacan los investigadores, se trata de “un algoritmo libre de ajustes externos”, lo que facilita su uso en entornos reales.
Explicaciones más claras y más honestas
Otro punto fuerte del método es cómo se interpretan las explicaciones. En FACE, cada valor indica la importancia real y absoluta de una característica, no su efecto relativo respecto a un punto arbitrario. Esto hace que los resultados sean más intuitivos, especialmente para usuarios no expertos.
En el caso de imágenes, por ejemplo, las explicaciones resaltan exactamente los píxeles que empujan una decisión hacia una clase u otra. En datos tabulares, se puede ver con claridad qué variables pesan más y en qué dirección.
El estudio también muestra que FACE puede utilizarse como referencia para evaluar otros métodos. Si una explicación se aleja mucho de FACE, probablemente no esté capturando bien el comportamiento del modelo.
Un paso importante hacia una IA más responsable
Este trabajo no pretende resolver todos los problemas de la explicabilidad, pero sí da un paso muy sólido. Demuestra que, al menos para un tipo muy común de redes neuronales, es posible explicar decisiones de forma exacta, eficiente y comprensible.
En un contexto en el que la inteligencia artificial se cuela cada vez más en decisiones sensibles, herramientas como FACE ayudan a cerrar la brecha entre rendimiento y transparencia. Como subraya el equipo investigador, el objetivo final es “aumentar la confianza y la comprensión de los sistemas de IA en escenarios reales”.
