¿Dónde puede —y dónde no— utilizarse la inteligencia artificial en la actividad jurídica?
La prohibición de utilización de datos personales
(Imagen: E&J)
¿Dónde puede —y dónde no— utilizarse la inteligencia artificial en la actividad jurídica?
La prohibición de utilización de datos personales
(Imagen: E&J)
La inteligencia artificial (IA) ha entrado definitivamente en la actividad jurídica. Los abogados y otros profesionales del Derecho ya utilizan estas herramientas para resumir documentos, localizar y ordenar información, preparar borradores de contratos y escritos, comparar cláusulas, analizar grandes volúmenes documentales o plantear posibles líneas de argumentación jurídica. La cuestión, por tanto, ya no consiste tanto en determinar si los profesionales jurídicos van a utilizar inteligencia artificial como en establecer hasta dónde puede llegar ese uso sin comprometer las obligaciones legales y profesionales que les corresponden.
La respuesta que ofrece el Derecho europeo es bastante más matizada de lo que, en ocasiones, se presenta. Ni el Reglamento (UE) 2024/1689, por el que se establecen normas armonizadas en materia de inteligencia artificial, el denominado Reglamento de Inteligencia Artificial o AI Act, ni la normativa europea sobre protección de datos establecen una prohibición general de utilizar inteligencia artificial en la actividad jurídica. El modelo europeo parte fundamentalmente de un enfoque basado en el riesgo, estableciendo determinadas prácticas prohibidas, sometiendo ciertos sistemas a obligaciones especialmente rigurosas y admitiendo otros muchos usos con distintos niveles de exigencia.
Por ello, al analizar la utilización de la IA por abogados y demás profesionales jurídicos, conviene distinguir entre usos admisibles, usos que requieren especiales cautelas y usos que, por su naturaleza o por las circunstancias en que se realizan, pueden resultar prohibidos o incompatibles con las obligaciones del profesional.
(Imagen: E&J)
Suscríbete a nuestra
NEWSLETTER
La IA como herramienta, no como sustituto del criterio jurídico
Existe un amplio conjunto de actividades en las que la inteligencia artificial puede desempeñar legítimamente una función auxiliar. Puede utilizarse para estructurar documentos, resumir información, realizar una primera clasificación documental, comparar versiones contractuales, preparar cronologías, generar esquemas, asistir en determinadas tareas de investigación o elaborar un primer borrador sobre el que posteriormente trabajará el profesional. La propia concepción del Reglamento europeo permite esta utilización instrumental de la tecnología y, al regular específicamente determinados sistemas relacionados con la administración de justicia, distingue entre aquellos que pueden intervenir de forma relevante en la interpretación de hechos y del Derecho y otras herramientas destinadas a tareas auxiliares o administrativas.
Esta distinción contiene una idea que puede trasladarse al ejercicio profesional de la abogacía: no es lo mismo utilizar la IA para asistir al jurista que delegar en ella el juicio profesional que le corresponde. Una herramienta puede preparar el primer borrador de una demanda, pero quien decide qué argumentos se sostienen y cuáles se descartan debe ser el abogado; puede resumir una sentencia, pero corresponde al profesional comprobar que esa resolución existe, conocer su contenido real y determinar si resulta aplicable al supuesto concreto; y puede proponer cláusulas contractuales, pero la valoración sobre si esas cláusulas protegen adecuadamente los intereses del cliente continúa siendo una decisión jurídica que corresponde al profesional.
No todo lo que no está prohibido por el Reglamento de IA está permitido al abogado
Esta distinción resulta especialmente importante. El artículo 5 del Reglamento (UE) 2024/1689 establece una serie concreta de prácticas de inteligencia artificial prohibidas, pero de ello no puede deducirse que cualquier utilización que quede fuera de ese catálogo sea automáticamente lícita para un abogado. El Reglamento de Inteligencia Artificial constituye solamente una de las normas que deben tenerse en cuenta. Sobre el profesional siguen proyectándose las obligaciones derivadas del Reglamento General de Protección de Datos, la legislación nacional, las normas procesales y, de manera particularmente relevante, las obligaciones vinculadas al derecho de defensa, la confidencialidad, el secreto profesional y la deontología.
Por ello, deben diferenciarse dos preguntas. La primera es si un determinado sistema o utilización está prohibido o sujeto a condiciones específicas por el Reglamento de Inteligencia Artificial. La segunda, distinta de la anterior, consiste en determinar si el abogado puede utilizar ese sistema de esa determinada manera teniendo en cuenta sus propias obligaciones profesionales. Puede suceder perfectamente que una utilización no esté prohibida por el AI Act y que, sin embargo, resulte jurídicamente inaceptable porque compromete el secreto profesional, supone un tratamiento ilícito de datos personales o implica una falta de diligencia en el asesoramiento prestado al cliente.
(Imagen: E&J)
Primer gran límite: el secreto profesional y la confidencialidad
Probablemente uno de los principales riesgos para un abogado no se encuentre en la respuesta producida por la inteligencia artificial, sino unos segundos antes, en la información que el profesional introduce en el sistema para obtenerla. El Estatuto General de la Abogacía Española configura el secreto profesional como uno de los elementos esenciales del ejercicio de la profesión y establece el deber y derecho del profesional de guardar secreto respecto de los hechos o noticias conocidos como consecuencia de su actuación, extendiendo esa protección a hechos, comunicaciones, datos, informaciones, documentos y propuestas conocidos, emitidos o recibidos durante el ejercicio profesional.
A ello se suma, actualmente, la Ley Orgánica 5/2024, de 11 de noviembre, del Derecho de Defensa, que refuerza normativamente las garantías de confidencialidad de las comunicaciones y del secreto profesional vinculadas al ejercicio del derecho de defensa. La aparición de herramientas de inteligencia artificial no disminuye estas garantías ni crea una excepción tecnológica respecto de ellas. Al contrario, obliga al profesional a plantearse qué ocurre con la información desde el momento en que abandona el entorno controlado del despacho y se proporciona a un tercero mediante una plataforma tecnológica.
Copiar en una herramienta de IA generativa de propósito general un contrato confidencial, una estrategia procesal, las comunicaciones mantenidas con un cliente, un informe jurídico interno o la documentación completa de un procedimiento no constituye, por ello, una actuación tecnológicamente neutra. Antes de introducir esa información, el abogado debe conocer razonablemente qué sucede con ella: quién la procesa, dónde se almacena, durante cuánto tiempo puede conservarse, quién puede acceder a ella, si puede utilizarse para mejorar o entrenar modelos, qué garantías contractuales ofrece el proveedor y qué medidas existen para evitar usos posteriores incompatibles con las obligaciones del profesional. De ahí puede extraerse una regla especialmente sencilla: no debe introducirse información protegida por el secreto profesional en una herramienta de IA cuyas condiciones de confidencialidad, tratamiento y seguridad no hayan sido previamente evaluadas y consideradas adecuadas.
Esto no significa, sin embargo, que la utilización de la inteligencia artificial sobre documentación confidencial deba descartarse de manera general. Debe distinguirse entre las herramientas de IA generativa de propósito general y las soluciones específicamente concebidas para el ámbito jurídico o implantadas en entornos profesionales controlados. Plataformas propias o especializadas, como las desarrolladas para el entorno profesional de Economist & Jurist, pueden incorporar medidas técnicas, organizativas y contractuales dirigidas precisamente a preservar la confidencialidad y la seguridad de la información y a garantizar un tratamiento conforme a la normativa aplicable. En estos casos, lo determinante no es tanto que se utilice inteligencia artificial como las condiciones concretas en las que se produce el tratamiento: que la información no se utilice para entrenar modelos de propósito general, que existan garantías adecuadas sobre su conservación y acceso, que se establezcan las correspondientes obligaciones de confidencialidad y protección de datos, y que el profesional mantenga el control sobre la información proporcionada. Por tanto, la cuestión no consiste en excluir de la IA cualquier información sometida a secreto profesional, sino en asegurarse de que el entorno tecnológico utilizado ofrece las garantías necesarias para que ese secreto no se vea comprometido.
(Imagen: E&J)
Segundo límite: la protección de los datos personales
Cuando la documentación utilizada contiene datos personales, entra en juego, además, la normativa sobre protección de datos. El Reglamento (UE) 2016/679 del Parlamento Europeo y del Consejo, de 27 de abril de 2016 (Reglamento General de Protección de Datos (RGPD)), junto con la Ley Orgánica 3/2018, de 5 de diciembre, de Protección de Datos Personales y garantía de los derechos digitales (LOPDGDD), conforman el marco normativo de referencia para la protección del derecho fundamental a la protección de datos personales. Este régimen resulta plenamente aplicable cuando el tratamiento se lleva a cabo mediante sistemas de inteligencia artificial, pues el uso de una nueva tecnología no desplaza ni excepciona las obligaciones generales que rigen el tratamiento de datos personales. En este sentido, el propio Reglamento de Inteligencia Artificial preserva expresamente la aplicación de la normativa de la Unión en materia de protección de datos personales.
Esto obliga a examinar cuestiones como la base jurídica que legitima el tratamiento, su finalidad, la minimización de los datos utilizados, los posibles destinatarios de la información, la relación con los proveedores que puedan actuar como encargados del tratamiento, las medidas de seguridad aplicables y, cuando proceda, la existencia de transferencias internacionales de datos. Resulta especialmente relevante en este contexto el principio de minimización: que técnicamente sea posible proporcionar a una herramienta el expediente completo no significa que jurídicamente resulte necesario ni adecuado hacerlo. En numerosos casos será posible trabajar con información anonimizada, seudonimizada o limitada a los elementos estrictamente necesarios para la tarea que se pretende realizar.
Tercer límite: las alucinaciones no eximen de responsabilidad
La inteligencia artificial generativa presenta una característica particularmente problemática para la actividad jurídica: puede producir respuestas incorrectas con una apariencia extraordinariamente convincente. Una herramienta puede inventar jurisprudencia, atribuir a una sentencia razonamientos que nunca formuló, proporcionar referencias normativas incorrectas, confundir normas derogadas con normas vigentes o construir referencias bibliográficas inexistentes. Desde el punto de vista profesional, la consecuencia debe ser inequívoca: una respuesta generada por inteligencia artificial no constituye, por sí misma, una fuente jurídica y debe ser verificada.
El uso de una herramienta tecnológica tampoco desplaza la responsabilidad hacia quien la ha desarrollado. Frente al cliente, al tribunal o a terceros, quien suscribe un informe, un contrato, una demanda o cualquier otro documento jurídico continúa siendo responsable de su contenido en los términos previstos por el ordenamiento jurídico. Cuanto mayor sea la trascendencia jurídica del documento, mayor deberá ser el nivel de revisión humana. La IA puede reducir considerablemente el tiempo empleado en determinadas tareas, pero no reduce por ello el estándar de diligencia profesional exigible al abogado. El ahorro de tiempo que proporciona la automatización debe emplearse, precisamente, para reforzar aquellas tareas en las que el criterio jurídico y la comprobación humana siguen siendo indispensables.
(Imagen: E&J)
Cuarto límite: la independencia y el criterio profesional
La independencia constituye uno de los principios esenciales de la abogacía y adquiere una dimensión nueva con los sistemas algorítmicos. Un abogado que acepta sistemáticamente las recomendaciones de una herramienta sin comprender suficientemente sus limitaciones corre el riesgo de transformar una tecnología de asistencia en un auténtico decisor. El problema no consiste únicamente en que la máquina pueda equivocarse, sino también en que el profesional termine adaptando su propio criterio al resultado de un sistema cuyas fuentes, sesgos, criterios de selección o funcionamiento desconoce.
La decisión profesional debe seguir siendo atribuible al abogado. Esto significa que el profesional debe encontrarse en condiciones de explicar por qué recomienda una estrategia determinada, por qué considera conveniente una cláusula contractual o por qué sostiene una interpretación jurídica determinada. La respuesta «porque así lo indicó el sistema de inteligencia artificial» difícilmente puede considerarse compatible con el estándar de independencia, competencia y diligencia que caracteriza el ejercicio profesional.
¿Qué ocurre cuando la IA se utiliza en la Administración de Justicia?
En este ámbito el Reglamento europeo de Inteligencia Artificial establece una frontera especialmente significativa. El Reglamento considera de alto riesgo determinados sistemas destinados a ser utilizados por una autoridad judicial, o en su nombre, para ayudar a investigar e interpretar hechos y Derecho y aplicar la ley a unos hechos concretos. La razón es evidente: los errores, sesgos u opacidad de estos sistemas pueden afectar directamente al derecho a la tutela judicial efectiva, al derecho de defensa y al derecho a un juez imparcial.
El propio Reglamento parte del principio de que las herramientas de inteligencia artificial pueden apoyar la capacidad decisoria de los jueces, pero no deben sustituirla, y la decisión final debe permanecer como una actividad humana. Al mismo tiempo, diferencia estos sistemas de otras herramientas destinadas a realizar actividades auxiliares o administrativas, como determinadas tareas de anonimización, seudonimización, comunicación o gestión documental. Una vez más, el criterio europeo no puede resumirse simplemente en «IA sí» o «IA no», sino que obliga a preguntarse qué función concreta desempeña el sistema, quién lo utiliza y qué consecuencias puede tener su intervención.
(Imagen: E&J)
No toda herramienta jurídica de IA es un sistema de «alto riesgo»
También debe evitarse una confusión frecuente: que una herramienta sea utilizada por un abogado para realizar una actividad jurídica no convierte automáticamente ese sistema en una inteligencia artificial de alto riesgo a efectos del Reglamento (UE) 2024/1689. La clasificación depende fundamentalmente de la finalidad prevista del sistema y de los supuestos específicamente contemplados en el Reglamento, y no simplemente del sector profesional en el que se utiliza.
Un asistente utilizado por un despacho para resumir documentación, ordenar información o generar un primer borrador contractual no se convierte, por esa sola circunstancia, en un sistema de alto riesgo. situaciónLa diferente puede ser muy diferente en sistemas específicamente destinados a adoptar o apoyar determinadas decisiones incluidas en los ámbitos que el Reglamento considera de alto riesgo. Esta precisión resulta especialmente importante para evitar una interpretación excesivamente expansiva en virtud de la cual cualquier producto comercializado como legal AI quedaría automáticamente sometido al régimen jurídico previsto para los sistemas de alto riesgo.
Una obligación que los despachos no deberían ignorar: la alfabetización en IA
Existe, además, una disposición del Reglamento de Inteligencia Artificial de especial interés para los despachos profesionales. Su artículo 4 exige que los proveedores y los responsables del despliegue adopten medidas para garantizar, en la mayor medida posible, un nivel suficiente de alfabetización en materia de inteligencia artificial de su personal y de las demás personas que se ocupen del funcionamiento y la utilización de estos sistemas en su nombre, teniendo en cuenta sus conocimientos técnicos, experiencia, educación y formación, así como el contexto en el que vayan a utilizarse.
Para los despachos, esta obligación plantea una cuestión organizativa de gran importancia. Difícilmente parece suficiente adquirir una licencia de una herramienta de inteligencia artificial y permitir que cada profesional experimente con ella de forma individual. Una política interna razonable debería establecer qué herramientas se encuentran autorizadas, qué información puede introducirse y cuál no, cómo deben tratarse los datos personales y la información confidencial, qué resultados deben ser objeto de comprobación, cómo se verifican la jurisprudencia y referencias normativas, para qué actividades no deben utilizarse determinados sistemas y qué formación necesitan los profesionales que van a emplearlos. La gobernanza de la inteligencia artificial comienza así a convertirse en una cuestión de organización interna del propio despacho.
(Imagen: E&J)
Un «semáforo» para el uso profesional de la IA
Desde una perspectiva práctica, los usos profesionales de la inteligencia artificial podrían clasificarse en tres grandes categorías. En una zona verde quedarían los usos auxiliares sobre información pública, anonimizada o adecuadamente protegida: estructuración de textos, elaboración de esquemas, traducciones, comparación documental, clasificación de información, generación de ideas jurídicas o preparación de primeros borradores, siempre sometidos a una revisión adecuada. En una zona ámbar se situaría la utilización de información de clientes, datos personales, documentación procesal, estrategias jurídicas o materiales confidenciales; no necesariamente se trata de usos prohibidos, pero requieren analizar previamente la herramienta, las condiciones contractuales del proveedor, el tratamiento de los datos, la seguridad, la confidencialidad y las obligaciones profesionales aplicables. Finalmente, en la zona roja se encontrarían la delegación sin un control humano adecuado de decisiones jurídicas relevantes, la presentación de jurisprudencia o citas generadas por IA sin haber comprobado su existencia y contenido, la introducción de información protegida por secreto profesional en herramientas que no ofrecen garantías suficientes, las prácticas expresamente prohibidas por el Reglamento de Inteligencia Artificial y, con carácter general, aquellas utilizaciones en las que el profesional permita que el resultado automatizado sustituya el juicio jurídico que le corresponde realizar.
La pregunta correcta ya no es si utilizamos inteligencia artificial
Durante los próximos años probablemente resulte tan poco realista imaginar un despacho completamente ajeno a la inteligencia artificial como hoy resultaría imaginarlo sin bases de datos jurídicas, correo electrónico o herramientas de gestión documental. La ventaja profesional, sin embargo, no estará simplemente en «utilizar IA», sino en saber qué herramienta utilizar, para qué finalidad, con qué información, en qué condiciones y con qué grado de supervisión humana.
El modelo europeo no pretende expulsar la inteligencia artificial de las profesiones jurídicas, sino introducir una lógica de responsabilidad proporcional al riesgo. Y esta idea encaja especialmente bien con la naturaleza de la abogacía. La tecnología puede modificar profundamente la manera de investigar, redactar y revisar documentos, y de gestionar información jurídica, y permitir que determinadas tareas que antes consumían horas de trabajo se realicen en minutos. Pero existen funciones que no pueden externalizarse a un algoritmo: la independencia de criterio, la protección de la confianza del cliente, el respeto al secreto profesional y la responsabilidad por el asesoramiento prestado.
En definitiva, el abogado puede servirse de la inteligencia artificial como herramienta de apoyo, pero no puede delegar en ella su condición de abogado.
Garzón, quien fue expulsado de la carrera judicial por el TS, analiza sin el menor rubor el ‘lawfare’ en la Universidad de La Laguna
Ver la noticia completa →
Condenada a pagar las costas por demandar a la entidad financiera a pesar de que ésta había aceptado la reclamación extrajudicial
Ver la noticia completa →
