La penetración de la inteligencia artificial es imparable. Esta tecnología está presente en ámbitos tan diferentes como la salud, la banca e incluso también las seguridad de víctimas de violencia de género. Ofrece soluciones avanzadas que facilitan tareas tediosas y agilizan procesos que hasta su llegada requerían horas de trabajo humano. Sin embargo, como cualquier sistema digital, la inteligencia artificial puede fallar y cuando eso ocurre ¿quién asume la responsabilidad?
La determinación de la responsabilidad civil de la inteligencia artificial se ha convertido en uno de los mayores retos en el campo del Derecho de Daños. Tradicionalmente, esta rama jurídica se ha basado en la existencia de un sujeto humano que asume la culpa, pero esa máxima ya no es válida.
Con la inteligencia artificial entran en juego actores nuevos que dificultan determinar la responsabilidad de un fallo. No se trata de un médico que ha realizado una práctica negligente y ha originado un daño en el paciente; o de un fontanero que ha enganchado la tubería equivocada y ha provocado un auténtico desastre en un hogar. Los sistemas de inteligencia artificial son resultado del trabajo conjunto de fabricantes, programadores, comercializadores, usuarios y… por qué no decirlo, la propia máquina que toma decisiones.
Cómo determinar la responsabilidad cuando falla la inteligencia artificial
«Es muy necesario establecer un marco jurídico claro, que permita determinar quién es el responsable cuando se produce un daño», afirma la investigadora del Grupo de Estudios de Derecho Privado y Comparado de la Universidad de Almería, Ana María Arroyo Moreno. Esta especialista en Derecho Civil es autora de un estudio publicado en la revista Aranzadi Doctrinal, donde analiza en profundidad los retos que plantea la inteligencia artificial en el campo de la responsabilidad civil.
Las decisiones de la inteligencia artificial afectan a la inmensa mayoría de la población. Esta tecnología se emplea cada vez más en medicina, a la hora de realizar un diagnóstico o de prescribir un tratamiento; también en el sector de la banca, con sistemas automáticos que calculan el riesgo de impago de personas que solicitan un préstamo; incluso también se emplean en la administración públicas, para determinar la concesión de ayudas y prestaciones públicas. Esta tecnología no es infalible, puede cometer errores que dañen los derechos de los ciudadanos.
«Las situaciones en las que un sistema de inteligencia artificial puede causar un daño son muy variadas y crecientes, a medida que se incorpora esta tecnología. Y nos encontramos que los sistemas de inteligencia artificial son cada vez más autónomos: ya no se limitan a ejecutar instrucciones humanas, sino que aprenden y toman decisiones por sí mismos, y muchas de ellas sin supervisión directa», afirma Ana María Arroyo.
Algoritmos «imprevisibles y opacos» que dificultan determinar la responsabilidad
En su estudio, esta investigadora introduce un concepto fundamental para explicar las dificultades que los especialistas en Derecho Civil están encontrando para dar con una doctrina sobre la responsabilidad en los casos en los que la inteligencia artificial cause daños o lesione derechos. Ana María Arroyo pone de relieve que los algoritmos son cada vez más «imprevisibles y opacos», lo que dificulta conocer los motivos que llevaron a la máquina a tomar una decisión determinada o en qué momento del proceso se decidió tomar un camino u otro.
Los más sencillo sería culpar a la máquina, sin embargo, esta solución no resulta válida, en la medida en que una máquina no puede ser responsable jurídicamente. Hay que indagar en el fallo, para determinar en qué punto de la cadena de decisión se produjo, con el objetivo de determinar a quién se le atribuye la culpa directa del hecho, que puede ser el fabricante, el programador, en ensamblador o incluso la persona usuaria que realizó un uso inadecuado de la herramienta inteligente. «Aquí la cuestión reside en demostrar la negligencia y a veces es muy difícil», explica la investigadora de la Universidad de Almería.
Trazabilidad de los algoritmos
Los procesos de determinación de la culpa se facilitarían con una mayor «trazabilidad algorítmica», para reconstruir qué ocurrió y dónde se produjo el error. Con esa información se logra conocer en qué ciclo del producto se cometió el fallo.
A albur de esta necesidad y de la importancia del establecimiento de la culpa en caso de errores de la inteligencia artificial surgen oportunidades de empleo para profesionales del derecho y la tecnología, que tienen ante sí un campo de especialización muy interesante y de alta demanda. Un nicho de mercado nuevo que crece a medida que lo hacen los sistemas de inteligencia artificial y la normativa que los regula.
La Unión Europea es un referente internacional en la regulación de la inteligencia artificial, sin embargo todavía no cuenta con un marco de reponsabilidad civil definido, después de que en febrero de 2025 se retirara una propuesta por falta de consenso. Esto demuestra lo complejo que resulta garantizar una seguridad jurídica compatible con el avance tecnológico y la implantación de soluciones nuevas.
