La forma en que la inteligencia artificial recomienda productos, noticias o contenidos digitales influye cada día en millones de decisiones cotidianas. Sin embargo, estos sistemas han sido criticados durante años por su falta de transparencia y por posibles sesgos que pueden afectar tanto a usuarios como a proveedores.
Un nuevo avance desarrollado en la Universidad de Jaén propone un cambio de enfoque en este ámbito: sistemas de recomendación capaces de ser no solo más precisos, sino también más justos y explicables. El trabajo se enmarca en el proyecto europeo FIDELITY, financiado dentro de las acciones Marie Skłodowska-Curie de Horizonte Europa, y sitúa a la institución andaluza en un lugar destacado en la investigación internacional en inteligencia artificial responsable.
IA que explica sus decisiones y reparte mejor sus resultados
El proyecto aborda uno de los grandes desafíos actuales de la inteligencia artificial: cómo hacer que los sistemas que influyen en decisiones de consumo, ocio o información sean comprensibles y equitativos al mismo tiempo.
Frente a modelos tradicionales que funcionan como cajas negras, los investigadores han desarrollado algoritmos capaces no solo de generar recomendaciones de alta calidad, sino también de explicar por qué una opción es sugerida y cómo se garantiza un equilibrio entre los distintos actores del sistema, desde los usuarios hasta los proveedores de contenidos o servicios.
El investigador Raciel Yera, que lidera el proyecto bajo la supervisión del catedrático Luis Martínez, resume este cambio de enfoque con una idea clave: “la explicabilidad y la equidad algorítmica no deben entenderse como elementos separados, sino como dimensiones complementarias para construir sistemas verdaderamente confiables”.
Cómo se mide la justicia en una inteligencia artificial
Uno de los aspectos más relevantes del trabajo es la forma en la que se evalúan estos sistemas. Más allá de medir únicamente si una recomendación es acertada, el equipo ha analizado cómo perciben los usuarios la transparencia del sistema, su nivel de satisfacción en contextos individuales y grupales, y la sensación de equidad en las decisiones generadas por los algoritmos.
Para ello se han realizado experimentos controlados, pruebas en escenarios reales y estudios con usuarios, lo que permite observar no solo el comportamiento técnico de los modelos, sino también su impacto en la experiencia humana.
Este enfoque resulta especialmente relevante en los sistemas de recomendación en grupo, donde las decisiones no dependen de una sola persona, sino del equilibrio entre preferencias diferentes que deben armonizarse.
Del modelo opaco al sistema que explica lo que hace
Una de las aportaciones más importantes del proyecto es el desarrollo de sistemas capaces de justificar sus recomendaciones. Esto supone un cambio significativo respecto a muchas herramientas actuales de inteligencia artificial, que ofrecen resultados sin explicar los criterios utilizados para generarlos.
La incorporación de mecanismos de explicabilidad permite que los usuarios comprendan mejor cómo se toman las decisiones, lo que incrementa la confianza en los sistemas digitales y reduce la percepción de arbitrariedad en las recomendaciones automatizadas.
En este sentido, la transparencia deja de ser un elemento añadido para convertirse en una parte central del propio diseño del algoritmo.
Reconocimiento internacional y validación científica
Los resultados del proyecto han sido presentados en foros científicos de alto nivel, entre ellos el congreso ACM UMAP, una de las principales referencias mundiales en modelado de usuario y personalización. En estos espacios, las propuestas desarrolladas han servido para validar el impacto de las nuevas estrategias de recomendación explicable y justa en entornos reales.
Estas contribuciones refuerzan la relevancia internacional del trabajo y consolidan a la Universidad de Jaén y al grupo SINBAD 2 como actores destacados en el ámbito de la inteligencia artificial aplicada a sistemas de recomendación, la explicabilidad y la equidad algorítmica.
Una hoja de ruta para una inteligencia artificial más responsable
Más allá del avance científico, el proyecto FIDELITY propone una dirección clara para el futuro de estas tecnologías: integrar principios de justicia, transparencia y responsabilidad desde el diseño de los algoritmos.
El objetivo no es únicamente mejorar el rendimiento técnico de los sistemas, sino también garantizar que su funcionamiento sea comprensible y beneficioso para todos los agentes implicados en el ecosistema digital.
Financiado por la Unión Europea dentro del programa Horizon Europe, este trabajo consolida una línea de investigación que busca situar a las personas en el centro del desarrollo tecnológico, promoviendo una inteligencia artificial más transparente, equitativa y confiable.
