Retos de la Inteligencia Artificial en los parlamentos

La IA, conforme al Reglamento (UE) 2024/1689, se define como un sistema que procesa datos de entrada y genera resultados (predicciones, recomendaciones, decisiones) con impacto real o virtual. Desde el punto de vista jurídico, el uso de IA en parlamentos activa el marco del Reglamento General de Protección de Datos (RGPD), especialmente cuando implica tratamiento masivo de datos personales.

La IA generativa —una manifestación avanzada de esta tecnología— plantea mayores desafíos al generar contenido original a partir de enormes volúmenes de datos, frecuentemente personales, con todos los riesgos que esto conlleva.

Los peligros específicos de la IA generativa incluyen: uso ilegítimo de datos sin base jurídica adecuada, falta de transparencia, sesgos algorítmicos, problemas para ejercer el derecho al olvido y generación de contenidos que permiten la reidentificación de personas. Todo ello exige una estricta interpretación del RGPD y un enfoque de cumplimiento normativo reforzado.

Así las cosas, el uso de IA puede fortalecer principios como la eficiencia, la transparencia y la participación ciudadana, pero también entraña riesgos serios para otros como la representación política, la deliberación parlamentaria y la responsabilidad institucional.

Por ejemplo, aunque puede facilitar la participación mediante plataformas de consulta, existe el peligro de reemplazar el juicio político por decisiones estadísticas automatizadas, lo que podría debilitar el vínculo representativo. También puede mejorar la publicidad y trazabilidad legislativa, pero la opacidad algorítmica (“caja negra”) puede socavar la transparencia real.

La responsabilidad por decisiones parlamentarias influenciadas por IA plantea complejidades jurídicas, especialmente en cuanto a la imputabilidad de actos automatizados. Además, la existencia de sesgos en datos de entrenamiento puede reproducir desigualdades históricas.

Frente a estos desafíos, la Unión Interparlamentaria (UIP) ha aprobado unas directrices (Asamblea 149ª, 2024) para promover un uso responsable de la IA en parlamentos, centrado en la mejora de la capacidad humana, la gobernanza ética, la transparencia y la rendición de cuentas. Estas directrices se dirigen a legisladores, directivos y personal administrativo, y abordan aplicaciones, riesgos, principios éticos, gestión de datos, formación y cooperación interparlamentaria.

Existen múltiples ámbitos donde la IA puede integrarse en la actividad parlamentaria:

• Trabajo parlamentario individual: apoyo en redacción de discursos, subtitulado automático, búsqueda de información y votación electrónica (presencial o remota).
• Proceso legislativo: diagnóstico normativo, análisis de solapamientos legales, redacción legislativa, gestión de enmiendas y evaluación ex post del impacto de las leyes.
• Apertura del parlamento: mejora de la participación ciudadana mediante buscadores inteligentes, datos abiertos, seguimiento en tiempo real y canales bidireccionales de participación.
• Análisis del impacto externo: monitorización de la presencia parlamentaria en medios y redes sociales, detección de desinformación y sesgos algorítmicos.
• Administración parlamentaria: asistentes virtuales inclusivos, herramientas de traducción, ciberseguridad, gestión documental, apoyo a servicios jurídicos y gestión de proyectos.

Estas aplicaciones deben desplegarse con prudencia, respetando el equilibrio entre tradición parlamentaria y disrupción tecnológica.

Por otra parte, la adopción de IA plantea retos jurídicos, técnicos, organizativos y éticos:

• Vacío normativo específico: aunque existen normas generales (RIA y RGPD), los parlamentos carecen de marcos específicos que orienten el uso interno de IA, lo que genera inseguridad jurídica.
• Vulnerabilidades en ciberseguridad y riesgos para la protección de datos personales: la gestión de información sensible requiere estándares avanzados de seguridad, auditorías periódicas y una arquitectura tecnológica confiable.
• Falta de capacitación interna: el desconocimiento de la IA entre los operadores parlamentarios dificulta su implementación segura y eficaz. Esta carencia también agrava el riesgo de dependencia de proveedores externos o de decisiones opacas.
• Problemas éticos y de confianza: sesgos algorítmicos, decisiones automatizadas sin control humano, falta de explicabilidad y transparencia pueden erosionar la legitimidad democrática.
• Elección del modelo tecnológico: decidir entre soluciones locales o en la nube implica evaluar riesgos de privacidad, soberanía tecnológica y dependencia tecnológica.

Para mitigar estos riesgos, propondríamos:

• Garantizar la protección de datos y la seguridad de la información como pilares.
• Establecer criterios éticos para el diseño y uso de IA: transparencia, explicabilidad, supervisión humana, equidad y proporcionalidad.
• Asegurar que los sistemas de IA sean multilingües, promuevan la participación ciudadana y se integren en la estrategia digital institucional.
• Fomentar la formación continua de parlamentarios y personal, la cooperación interinstitucional y la supervisión ética interna.

Algunos de los DPO de parlamentos autonómicos en las Cortes de Castilla León tras una jornada de trabajo (Imagen cedida por asociación DPD parlamentarios)

Toda decisión sobre la implantación de IA debe ser reflexiva, meditada y consensuada entre operadores jurídicos, técnicos y políticos, con vistas a preservar los principios fundamentales del parlamentarismo democrático.

Teniendo en cuenta todo esto, y siguiendo los criterios establecidos por la Unión Interparlamentar, hemos de indicar las siguientes directrices teniendo como centro el respeto a los derechos fundamentales:

1. Deben establecerse estándares de transparencia en los procesos algorítmicos
2. La supervisión humana debe presidir todo uso de la IA
3. Deben preverse mecanismos de detección de sesgos algorítmicos
4. Deben limitarse los riesgos de seguridad cibernética, para lo cual serán precisas medidas robustas de ciberseguridad, así como evaluaciones de impacto en materia de seguridad
5. Deberán minimizarse los riesgos para la privacidad y la protección de datos personales, teniendo en cuenta lo dispuesto por el RGPD y las recomendaciones de la OCDE
6. En este sentido, es preciso garantizar el conocimiento de la tipología de datos que se va almacenando en los sistemas de IA. A través de este conocimiento puede garantizarse que el uso de la IA sea responsable y respetuoso de los derechos humanos y de los principios democráticos.
7. Debe garantizarse la transparencia, por más que debamos preservar la seguridad y la privacidad. Nunca debe ser la IA un pretexto para restringir la transparencia parlamentaria o limitar el acceso a la información pública

Habiendo hecho estas precisiones en materia de derechos humanos, también se deben señalar directrices de índole más práctica, como son:

A) La necesidad de que los sistemas de IA utilizados por los parlamentos estén integrados en la estrategia parlamentaria digital. Es decir, que esté alineada perfectamente con los objetivos del parlamento en materia tecnológica y digital.

Esto comporta una serie de tareas que aseguren esta integración, como son la implementación de protocolos eficaces de gobernanza y gestión de datos, con controles de calidad de datos, cifrado, controles de acceso, auditorias, etc., así como la creación de órganos de supervisión ética parlamentaria, con personas expertas en derecho y en tecnología.

B) Dentro de estas directrices de carácter práctico, no podemos olvidar la especialización y la formación del personal, cuestiones realmente importantes.

En cuanto a la especialización, es fundamental hacer un equipo de personas expertas que se mantengan al día con las innovaciones tecnológicas en el campo de la IA. En este equipo deberían participar informáticos, juristas y, por supuesto, el respectivo delegado o delegada de protección de datos.

Este equipo de expertos deberá recibir formación continua, deberá colaborar constantemente con expertos externos, instituciones educativas y la industria de la IA, y deberá asimismo difundir su propio conocimiento. Precisamente asociaciones como la nuestra son elementos clave para conseguir esta difusión, esta especialización y para elaborar doctrina, en materia de protección de datos, en IA y en derecho digital en general.

Además de la especialización, es básica la formación del personal, del funcionariado parlamentario y de los parlamentarios y parlamentarias.

C) Aunque pudiéramos encuadrarlo dentro del área de la formación, merece mención aparte la conveniencia, y casi diría necesidad de creación de comisiones parlamentarias de estudio acerca de los avances tecnológicos y de la IA en particular, tal como se ha llevado a cabo en otros países, siendo claro ejemplo de ello el Bundestag alemán. Estas comisiones podrían contribuir a una formación profunda de nuestros representantes, a través de la invitación a comparecer de personas expertas en la materia.

Y, como corolario, debemos señalar que la implantación de la IA en nuestros parlamentos, para ser utilizada en las funciones parlamentarias, conlleva necesariamente establecer un buen sistema de gobernanza de la IA, presidido por una serie de principios insoslayables. Los enumero, siguiendo a García Mexía:

• El sistema debe estar centrado en el ser humano
• Debe ser establecido expresamente, a través de una norma o acto
• Se debe basar en la transparencia
• Debe ser conforme con la legislación
• Orientado a la seguridad
• No discriminatorio
• Ajustado a los tiempos
• Simple y comprensible
• Alineado con los proveedores
• Favorable a la innovación.

Desde luego, no es tarea sencilla cumplir con todas estas directrices, y diseñar un sistema de gobernanza que cumpla con todos estos principios, pero nuestra ciudadanía se merece unos parlamentos punteros en materia tecnológica y escrupulosísimos con todos estos requisitos. Es una obligación del poder legislativo hacia sus representados y representadas.