Connect with us

Derecho inteligente

El Derecho Digital (III)



El derecho digital (I)

El Derecho Digital (II): el algoritmo

Otro de los aspectos que destacan, por sí solo, en la compleja relación jurídica-digital que se origina entre una sociedad mercantil y el usuario correspondiente, es la falta de información suficiente y veraz[1] acerca del contenido y finalidad del uso y explotación de los medios digitales que conforman dicha relación jurídica. El posible error causado por la utilización de la inteligencia artificial y las consecuencias dañosas o perjudiciales, son imprevisible en la actualidad. En estos casos, es evidente que la empresa que presta estos servicios no se podrá defender alegando un fallo de diseño, por ejemplo, o un error en los datos suministrados, o incluso en la transmisión de un virus informático. En este último caso, las consecuencias perjudiciales pueden ser realmente devastadores al ser potencialmente apto para contaminar a otros usuarios del mismo ramo informático.

Por muchos riesgos, que los hay, en la utilización masiva de la inteligencia artificial, la implantación de la misma en el sector público y privado, sigue y seguirá siendo masiva e imparable. Asistimos en nuestros días, al fomento del denominado tele trabajo, que a su vez, no hace más que aumentar los riesgos de posible contaminación digital, en el que prácticamente nadie ha levantado la voz. Es la propia Administración Pública la que fomenta ese uso masivo del teletrabajo, sin reparar en las consecuencias, ni tampoco prever el posible perjuicio que se puede ocasionar, no sólo por contaminaciones víricas informáticos, malware,  sino errores en aspectos tan básicos y determinantes en una determinada comunidad, como la salud, la seguridad pública, el trabajo, la información de datos básicos, etc. Todo ello, dependerá del algoritmo utilizado objeto de programación, que puede adaptarse a las necesidades de información actual.

Cada unidad u ordenador desde el que se realice el tele trabajo, debería contar con la conexión correspondiente para fomentar el aprendizaje o lo que denomina machine learning, que puede beneficiar el sistema informático. En caso contrario, puede desencadenarse el proceso de exigencia de responsabilidad de los perjudicados o afectados por una decisión informática no adecuada o desfasada. Por ello, conviene insistir en que el algoritmo, fruto de la intervención de la potestad organizatoria administrativa y al mismo tiempo, como muestra de su potestad intervencionista, debe ser conocido en su contenido y finalidad. Ello debe ser así considerado, pues cuando el algoritmo es destinado a ser el fundamento en la adopción de determinadas decisiones, bien podía considerarse similar a un acto administrativo, aun cuando no reúna los requisitos del mismo, pero al menos sí en cuanto al uso o destino que se lleva a cabo en relación a determinados usuarios o administrados.





Para ello, se deberá tener en cuenta otra consideración básica, y es que el algoritmo es un medio adecuado para conseguir un determinado fin, sin que pueda ser considerado un fin en sí mismo. Es un acto, elemento o dato tecnológico de gran complejidad que debería ser objeto de información para la gran masa de usuarios, que posiblemente no sean especialistas o técnicos en informática.





En la actualidad, numerosas prestaciones sociales se pueden solicitar por medios informáticos, sin que el usuario conozca de antemano la relevancia que pueden tener sus datos personales, o la prestación solicitada, ni el resultado final, pues todo dependerá de la programación previa que se haya realizado de esa información masiva[2] que deberá tratarse por medio de la inteligencia artificial, lo que no está exento de posibles errores. La rapidez en el tratamiento masivo de esos datos y la respuesta ofrecida, no impide que se realice de forma efectiva, rápida y limpia, sin errores, que podrán ser objeto, en su momento, de la consiguiente impugnación administrativa, con el fin de que no se produzca ninguna situación de indefensión en el administrado.

La actividad administrativa nunca puede basarse en la arbitrariedad, ni tampoco en la discriminación, o vulneración de derechos fundamentales reconocidos en la Constitución. Por ello, la información exhaustiva al usuario de un servicio informático, es esencial y determinante de la protección que merece el administrado, bien sea atendido por funcionario público, o bien, por una máquina dotada de inteligencia artificial que responde a sus preguntas y le guía hasta alcanzar un determinado resultado.

Hoy no es posible programar una actividad administrativa, en el ejercicio de la potestad organizatoria, sin contar con el algoritmo, la inteligencia artificial y lo que ello supone al prescindir físicamente del funcionario público. La facilitación de información pública, en el ámbito de que se trate, exige esta garantía, y de modo especial cuando se trata de actividades administrativas que están completamente automatizadas y en las que no interviene ningún funcionario público en la toma correspondiente de decisiones o denegaciones de la prestación solicitada.  Como dijimos en su momento, la responsabilidad no será del sistema informático, sino del órgano administrativo correspondiente,[3] quien responderá ante los perjuicios causados al usuario de aquél. Pensemos en lo que puede ocurrir en las notificaciones masivas que se realicen por medios electrónicos,[4] por ejemplo, denuncias por infracciones de tráfico.

El riesgo de la comisión de errores, así como de daños y perjuicios, radica en el tratamiento masivo de datos, la existencia de sistemas repetitivos de tratamiento informático, utilizados por innumerables usuarios que se benefician, por otra parte, de la inteligencia artificial.[5] La aportación de dicha inteligencia artificial es, en la actualidad, desconocida por su relevancia tan extraordinaria y su influencia en todos los medios tanto del sector o conocimiento público, como del privado. Por ello es urgente su regulación legal. No se trata de un sistema asistencial, sino que dirige el procedimiento administrativo y le puede poner fin por medio de la resolución correspondiente que se notificará al interesado y todo ello sin la intervención de un funcionario público.

Los preceptivos cambios que se avecinan y asimismo, el cambio de mentalidad o de cultura social y económica, es perceptible en el análisis del denominado Derecho Digital, en la utilización de la inteligencia artificial, en el algoritmo, en la nueva exigencia de responsabilidad patrimonial de las Administraciones públicas, pues el avance tecnológico no puede continuar por delante de la preceptiva regulación legal de estos medios informáticos.

En la situación social y económica que estamos viviendo, fruto de las decisiones adoptadas con motivo del Covid-19, parece que la sociedad ha dado un paso más avanzado en su digitalización, al exigir numerosas instituciones y la Administración Pública, una configuración de la prestación laboral, e incluso funcionarial, gracias al tele trabajo. Pero ello, bien entendido que no supone disminuir los riesgos de contaminación por el virus del Covid-19, pero sí que aumenta el riesgo de contaminación de virus informáticos. Sólo una tecnología avanzada podrá prevenir esos riesgos, que en caso de materializarse puede conducir al desastre a parte del sector público y privado. La intromisión o aparición del Covid-19 en la vida social y económica, ha sido el desencadenante de que la inteligencia artificial, manifestada en numerosos sistemas informáticos, pueda suplir la presencia física de empleados y funcionarios en el desempeño de sus funciones profesionales. Ello permite afirmar que, casi de repente, nos hemos encontrado con una sociedad digitalizada, de la que difícilmente se podrá renunciar o salir de ella.

A partir de ahora aumentarán las prestaciones del sector público y privado, debido a la implantación del desarrollo tecnológico a través de Internet, cuando en el otro extremo del sistema sólo aparezca una máquina, que suplirá a un ser humano, y en el que tendrá que confiar la persona que mantenga una relación digital con dicha máquina, encuadrada en el contexto general de un sistema mucho más amplio y complejo que podrá atender a miles de personas al mismo tiempo. Llama la atención que por muy poderoso que sea un Estado, cada vez dependerá más de programas informáticos y algoritmos para que su acción pública llega a todos los ciudadanos.

Sobre los autores: Jordi Fontquerni i Bas e Yvonne Fontquerni Coloma, son Procuradores de los Tribunales en Barcelona y Madrid.

[1] Ley 19/2013, de Transparencia, Acceso a la Información Pública y Buen Gobierno.

[2] Pensemos lo que ocurre en la actualidad con la solicitud de prestaciones económicas por desempleo, salud, seguridad social, o incluso, reconocimiento de derechos.

[3] Se debe identificar de forma expresa el órgano administrativo responsable ante decisiones o resultados erróneos que hayan causado perjuicio al administrado.

[4] Artículo 41.1 Ley 39/2015 y artículo 43 del mismo texto legal.

[5] La inteligencia artificial es una especialidad científica que genera programas informáticos, que se encargan de realizar un trabajo similar al que ejecuta la mente del ser humano, como podría ser el aprendizaje o el razonamiento lógico (Diccionario de la RAE).

Click para comentar

Deja una respuesta

Tu dirección de correo electrónico no será publicada. Los campos obligatorios están marcados con *