Connect with us
Actualidad

¿Quién es el responsable de las decisiones de la IA y responde de los daños que genere este tipo de herramientas?

Abogados de distintas jurisdicciones debaten en el ICAM la evolución del derecho de daños ante esta tecnología

La irrupción de las herramientas de IA Generativa pueden cambiar el concepto actual de derechos de daños. (Foto: Freepik)

Luisja Sánchez

Periodista jurídico




Tiempo de lectura: 9 min

Publicado




Actualidad

¿Quién es el responsable de las decisiones de la IA y responde de los daños que genere este tipo de herramientas?

Abogados de distintas jurisdicciones debaten en el ICAM la evolución del derecho de daños ante esta tecnología

La irrupción de las herramientas de IA Generativa pueden cambiar el concepto actual de derechos de daños. (Foto: Freepik)



Las herramientas de IA Generativa van a revolucionar el derecho de daños y necesitarán de una regulación propia. El actual Reglamento de la IA solo regula un posible seguro de responsabilidad civil para aquellos sistemas de IA de muy alto grado, pero parece que acabará por implementarse.

Abogados y Juristas de jurisdicciones como EE.UU., Reino Unido, España, Escocia, Polonia o Italia se han preguntado  en este I Congreso Internacional de Responsabilidad y Seguro, que concluyó este viernes, quién va a responder ante los daños derivados de la IA en un entorno en el que sobre esta cuestión apenas hay regulación por el momento.



En este debate hay preguntas que están en el aire como si se puede demandar a un abogado que presente una demanda defectuosa utilizando CHATGPT, o en el caso de una negligencia médica, cuando se sabe que el médico ha utilizado esta herramientas de IA, además de demandar al médico y al hospital se puede demandar a la empresa creadora de la herramienta.

Por el momento, tal y como indico el catedrático de Derecho Civil de la Universitat de Girona, Miquel Marti-Casals, la nueva jurisprudencia de la Sala Tercera del Tribunal Supremo, en cuanto a producto defectuoso, a la espera que entre la directiva, indica con el colirio AlaOpta que no hay responsabilidad de los médicos y que los consumidores tienen que reclamar al fabricante. Un fabricante que, en muchos casos, está fuera de España.



La preocupación está ahí. Este I Congreso Internacional  de Responsabilidad Civil y seguro organizado entre la sección de RC del ICAM, la asociación transfronteriza de abogados expertos en derecho de daños, PEOPIL y la Asociación de Abogados de víctimas de accidente y Responsabilidad Civil, en adelante ANAVARC, tuvieron como foco central analizar el derecho de daños y su evolución en el derecho comparado.



En la inauguración, Eugenio Ribón, decano del ICAM, comentaba que la responsabilidad civil es uno de los pilares del Derecho. «Cualquier seguro de RC que se cree se hace para reducir el daño a organizaciones y empresas públicas producido por terceros. Es importante definir bien, en este mundo global, las relaciones de la responsabilidad civil con las herramientas de IA, ahora pendiente de la directiva de producto defectuoso que está a punto de aprobarse».

Para Ana Romero, abogada española y presidenta de PEOPIL,  entidad que agrupa a mas de 500 juristas expertos en derecho de daños en 25 jurisdicciones europeas y otras 10 internacionales, incluyendo Estados Unidos entre profesionales del derecho (abogados, jueces) como a académicos de reconocido prestigio “la responsabilidad civil está de actualidad y ahora el reto está en regular su relación con las herramientas de IA” señala para luego indicar que el Congreso Anual de la entidad será el año que viene en Praga.

Abogados y juristas de distintos países han debatido durante dos días en el ICAM sobre este derecho de daños y el entorno normativo que se avecina. (IMAGEN: ICAM)

Por su parte, Manuel Castellanos, presidente de la sección de RC del ICAM y de ANAVA-RC, se congratulaba de la internacionalización de este Congreso: “el primero que se celebra en nuestro país. En un momento como el actual con la eclosión de las herramientas de IA, es bueno estudiar desde el punto de vista de derecho comparado este derecho de daños, ya consolidado como tal en Europa y del que tenemos mucho que aprender en nuestro país”.

La IA lo va a cambiar todo

Los expertos Iñigo Navarro, profesor de Derecho Civil (ICADE), decano de la Facultad de Derecho de la Universidad Pontificia Comillas (2011-2021),  y Bárbara de la Vega, Profª. Titular de Derecho Mercantil de la Universidad Carlos III de Madrid y beneficiaria de una Ayuda a la Investigación Ignacio H. De Larramendi 2023, de Fundación MAPFRE, para realizar un estudio sobre la conveniencia de un seguro sobre IA, fijaron el tema.

Con posterioridad, otro experto como Miguel Marti-Casals, catedrático de Derecho Civil de la Universitat de Girona, explicó la postura de Peopil ante las dos directivas que están a punto de aprobarse y tienen que ver con la IA, una sobre producto defectuoso y otra sobre la culpa y la IA.

Para Navarro, uno de los impulsores del Observatorio LegalTech que ICADE ha puesto en marcha con el despacho Garrigues, se ha hablado de IA desde los años cincuenta, pero lo que es importante son las herramientas de IA generativa que han aparecido en los últimos cinco años: “Esta es una herramienta que no piensa como nosotros pensamos, pero es predictiva. El problema es que evoluciona cada año, eso la hace difícil regularla”.

En opinión de De la Vega, “la regulación aprobada en el Reglamento de IA busca el equilibrio entre la innovación y los derechos fundamentales de las personas. El problema es que en otros países como EE.UU. y China no existe dicha protección y se apuesta claramente por el negocio sin restricciones. Nosotros legislamos de otra manera y somos bastante garantistas”.

A juicio de este experto de ICADE, “es posible que la directiva sobre producto defectuoso y regulación contractual que está a punto de aprobarse en la UE, pueda ayudar a la regulación de la IA en materia de daños. Habrá que ver cómo se implementa dentro de dos años en nuestro país”.

“La normativa aprobada de IA hasta la fecha es muy compleja de aplicar por todas las categorías que conlleva, frente a los modelos chinos y americanos que no tienen apenas restricciones sobe el desarrollo de estas herramientas. Eso puede generar la problemática que la normativa pueda frenar la innovación en el continente europeo. Sin embargo, creo que ha sido un acierto regular la IA porque los riesgos que subyacen de la implementación de esta normativa son muy elevados”, subraya.

Un debate abierto sobre el derecho de daños

Ambos expertos son conscientes que el debate está abierto sobre si las herramientas de IA pueden tener personalidad jurídica y se les puede reclamar por esos daños que genera su implementación. Para Bárbara de la Vega hay un problema ético en cuanto al control de de las herramientas. Quizás, la única solución es desconectar la herramienta para frenar su actividad cuando esta genera daño: “No es fácil hacerlo ni tampoco reconocer esa personalidad jurídica”, apunta.

Esta jurista subraya que “en el estudio que realizo para Mapfre, estamos viendo como implementar un seguro de responsabilidad a terceros en este tipo de situaciones, como el que ya existe en ciberriesgos, pero habrá que definir muy bien sus condiciones y póliza. Sabemos que se va a crear en el futuro, aunque en el actual Reglamento de IA no se dice nada. En este escenario, habrá que ver la figura de los fondos de compensación que ahora aparece y como se va a gestionar en el futuro”.

Ana Romero, de PEOPIL, Eugenio Ribón, decano del ICAM, y Manuel Castellanos, posan para Economist & Jurist poco antes de iniciar este Congreso. (IMAGEN: E&J)

Navarro subrayó que la IA puede afectar de lleno en el mundo contractual y modificar los contratos existentes: “el problema de los algoritmos y sus sesgos es evidente y hay que buscar una forma de mitigarlo y ver quién se hace responsable de ellos, si la empresa que adquirió la herramienta o aquella otra que lo creo. En este contexto será fundamental definir conceptos como el de diligencia o el de consentimiento contractual, dolo y otras cuestiones”.

Por su parte, Miquel Marti-Casals, catedrático de Derecho Civil de la Universidad de Girona, miembro de la Comision de Seguimiento del Baremo e integrante de la asociación internacional PEOPIL, desde sus inicios, presentaba el informe de esta asociación sobre la futura  directiva de producto defectuoso que sustituirá a la actual  85/ 374CEE de 25 de julio de 1985. Una directiva que se aprobara en junio de este año y que se implementará en dos años en nuestro país.

En declaraciones a Economist & Jurist, ha mencionado que “este Congreso es importante porque la dimensión internacional del llamado derechos de daños es cada vez más relevante. Además de los temas transfronterizos hay un asunto importante que es el de la IA. Desde PEOPIL hemos realizado un informe sobre las directivas de producto defectuoso y otra sobre IA en caso de culpa. Esta directiva de productos defectuosos se aprobará antes de las elecciones europeas de junio”.

Para este jurista “la importancia de esta directiva de producto defectuoso es que se puede aplicar a todos los productos. Supone una gran revolución en la medida que facilita muy bien la prueba del defecto que era una de las críticas de la directiva actual. Además se aplica a todo tipo de productos, por lo tanto creo que será muy útil emplear esta directiva cuando esté dispuesta, aun quedan dos años para su trasposición”.

Este experto reconoce que “no se ha atrevido la UE a establecer un seguro obligatorio de responsabilidad civil en materia de IA, en cambio en el último texto ha introducido un elemento que son los fondos de compensación. Se ha demostrado que en materia de responsabilidad civil es imbatible una combinación como existe con los vehículos de motor, tiene su fondo de compensación, su seguro obligatorio etc.

Tres juristas como Íñigo Navarro, Bárbara de la Vega y Carlos Villacorta han debatido sobre IA y derecho de daños: la creación de un seguro de responsabilidad civil parece cercana sobre la IA no será fácil. (IMAGEN: ICAM)

Desde su punto de vista, “la aplicación de los fondos de compensación es un reto. Habrá que ver cómo se articula. Pero, realmente, el impacto de esta directiva sobre esos daños que genera la IA puede generar grandes cambios en el derecho de daños en nuestro país”.

Para Martí-Casals, “el derecho de daños está evolucionando y ha cambiado mucho en los últimos treinta años. Nos hubiera gustado que la directiva de daños hubiera cubierto otro tipo de daños, por ejemplo, daños emocionales. Ahora, queda claro que los daños morales se pueden resolver de acuerdo con la directiva pero siempre que el derecho nacional lo haga. Es un avance pero no estamos satisfechos”.

La IA lo puede cambiar todo

Por su parte, Carlos Villacorta, abogado del ICAM, experto en derecho internacional y en la defensa de víctimas de accidentes aéreos así como de sus familiares. Forma parte de la junta directiva de ANAVA-RC y es socio de Peopil. Ha moderado la mesa de los daños de la IA  Iñigo Navarro, profesor de ICADE y Bárbara, estudiosa de la problemática del seguro en la IA: “Es un lujo organizar un congreso de este calado con ponentes de primer nivel de varias jurisdicciones”, destaca.

Sobre el derecho de daños, este experto indica que “tenemos mucho que aprender de nuestro entorno. España es el único país de Europa con un sistema de valoración de daños, algo que sorprende. En nuestro país es para accidentes de tráfico pero se aplica de manera sistemática para cualquier sistema de responsabilidad civil. En PEOPIL hemos logrado que no se desarrolle un baremo de daños europeo porque generaría desigualdades”.

Miquel Marti-Casals cree que la directiva de producto defectuoso a punto de aprobarse ayudara a la regulación del daño de las herramientas de IA. (ICAM)

“También tenemos que evolucionar en la obtención de pruebas y contemplar el Discovery de los países anglosajones, sobre todo, si te enfrentas a empresas con mucho poder y recursos que son los dueños de la información y que, si no son obligados, no la van a revelar. Esa posibilidad de revelar la información es importante para la resolución del caso”, apunta.

Para este abogado, “con estas intervenciones hemos conocido lo que es la IA y su evolución hacia la IA Generativa, así como los retos a los que nos enfrentamos desde el punto de vista jurídico. Es evidente que el derecho de daños puede cambiar mucho con la irrupción de la IA  y los riesgos inherentes a dicha tecnología en cuanto a su uso. Los cambios en tecnología y en IA van a tener una incidencia enorme y habrá que ver quién se responsabiliza de esos daños”.

En su opinión, “la IA y sus herramientas están cambiando nuestra forma de trabajar desde hace años. Nosotros ya utilizamos este tipo de herramientas para hacer resúmenes de documentos o preparar presentaciones o incluso analizar documentos y extraer cuestiones claves de documentos complejos para entender ese contenido básico”.

Notable expectación en este I Congreso Internacional d RC y seguro celebrado en el ICAM. Madrid, capital internacional del derecho de daños. (IMAGEN: ICAM)

A nivel de práctica y de responsabilidades, “todavía no sabemos cómo se va a regular porque estamos en una fase incipiente de litigación, en otros países como EEUU ya está desarrollado y hay acciones de clase que arrancan desde hace un años contra las redes sociales por el uso de algoritmos que son de tipo adictivo y que generan esa adicción en los jóvenes. Creo que llegara a España, así como el uso de los datos personales”.

En cuanto a los daños físicos, “causados por productos por la IA, por el momento no hay un seguro de responsabilidad civil que cubra estos daños como Miquel Marti-Casals lo ha explicado, explicando la directiva de daño por producto defectuoso. Sin embargo, creo que será necesario como en su día surgió para cubrir los daños de los ciberdelitos con el seguro de ciberriesgo. De hecho, en el marco del Reglamento de IA, el seguro solo está previsto en esas IA que son de muy alto riesgo. Pero sabemos que el seguro acabara por introducirse”.

Última hora jurídica



Recibe nuestra newsletter de forma gratuita