Deloitte Legal y la Universidad de Navarra defienden el llamado “liderazgo imaginativo” en la implementación de la IA

La inteligencia artificial (IA) tiene un potencial transformador, como todo el mundo ha escuchado durante el último año, pero solo en la medida en que el liderazgo lo permita. La aplicación de la IA como una manera más rápida de hacer las cosas de la forma en que siempre se han hecho resultará, en el mejor de los casos, en un potencial perdido y, en el peor, en sesgos amplificados.

El liderazgo imaginativo y valiente llevará esta tecnología a otro nivel estableciendo las mejores prácticas y creando las “próximas prácticas”, en las que encontremos nuevas formas de organizarnos a nosotros mismos y a nuestros datos hacia un mundo habilitado por la IA.

Cuando se trata de IA, es probable que las empresas tengan en el futuro las mismas consideraciones que hoy: datos, datos y datos. Es una de las conclusiones del ‘Informe sobre Inteligencia artificial’, una iniciativa del Observatorio de Regulación Digital y Tecnología promovida por la Universidad de Navarra y Deloitte Legal que analiza el impacto de la IA desde una perspectiva jurídica y ética, profundizando en los riesgos, la regulación y la necesidad de garantizar un uso responsable que respete los derechos fundamentales.

En dicho estudio se indica que hasta que los sistemas de IA puedan alcanzar la inteligencia artificial general o aprender tan eficientemente como el cerebro humano, estarán hambrientos de más datos que los ayuden a ser más poderosos y precisos. Las medidas adoptadas hoy para organizar, racionalizar y proteger los datos empresariales podrían dar sus frutos en los próximos años, ya que la deuda de datos podría convertirse algún día en la mayor parte de la deuda técnica.

Este trabajo preliminar y un correcto liderazgo también deberían ayudar a las empresas a prepararse para la letanía de desafíos regulatorios e incertidumbres éticas (como las limitaciones de recopilación y uso de datos, preocupaciones sobre la equidad y la falta de transparencia) que conlleva guiar esta nueva y poderosa tecnología hacia el futuro. Lo que está en juego no es baladí y marcará la diferencia a las futuras generaciones.

La inteligencia artificial está revolucionando todos los ámbitos de nuestra sociedad: la actividad empresarial, el mercado laboral, la salud, el diseño de políticas públicas o las smart cities. Ante esta transformación sin precedentes, es imprescindible analizar sus implicaciones jurídicas y éticas, especialmente en el ámbito empresarial y en nuestra sociedad.

De Izq. a derecha: Juan Carlos Hernández, profesor titular de Derecho Administrativo de la Universidad de Navarra; Julio Roche, director de Deloitte; Javier Echániz, socio de Deloitte; Mercedes Galán, decana de la facultad de Derecho de la Universidad de Navarra; Eduardo Valpuesta, catedrático de Derecho Mercantil de la Universidad de Navarra; Rodrigo González, socio de Deloitte Legal; y Manel Carpio, socio de Deloitte. (Imagen: José Juan Rico/Universidad de Navarra)

La IA y los derechos fundamentales

Partiendo de una descripción técnica y jurídica de lo que es la IA y su marco regulador europeo, este informe de Deloitte Legal y la Universidad de Navarra analiza cuestiones clave como su relación con los derechos fundamentales, la responsabilidad civil derivada de su uso, el impacto en el buen gobierno corporativo, la soberanía digital o la importancia de los datos como pilar esencial del desarrollo tecnológico.

Los primeros datos que arroja el informe es que el tamaño del mercado de la IA estimado para 2025 es de 243.000 millones de dólares; el número de patentes sobre IA concedidas desde 2010 hasta 2022 ha sido de 62.264; el tamaño de mercado de la IA Generativa estimado para 2025 será de 62.720 millones de dólares; mientras que el volumen de inversión empresarial en 2023 fue de 189.160 millones de dólares.

El acto de presentación de este informe detallado, celebrado en la sede madrileña de la Universidad de Navarra, ha contado con una apertura inaugural de Mercedes Galán, decana de la Facultad de Derecho de la Universidad de Navarra, y Javier Echániz, socio responsable de Inteligencia Artificial y Data en Deloitte España.

Galán ha elogiado la investigación profunda del Derecho Digital realizado en este informe, que ha aunado a grandes conocedores en materia de la regulación de las nuevas tecnologías. Mientras que Echániz, por su parte, ha enfatizado en que las empresas están advirtiendo las oportunidades que brinda la transformación tecnológica de la IA en sus corporaciones, poniendo el acento en la importancia de que las organizaciones cuenten con equipos multidisciplinares para implantar los sistemas de IA en su trabajo diario. En esos equipos junto a la figura de los informáticos aparecen también la de los juristas que ayudan a que las empresas conozcan el marco legal que debe seguir este tipo de desarrollos.

También, ha señalado que los gobiernos, junto con las empresas y las universidades, han de construir un ecosistema unido, de manera que los avances tecnológicos vayan al mismo ritmo en todos los ámbitos y también en las esferas públicas y privadas.

Por su parte, Rodrigo González, socio del área de Derecho digital de Deloitte Legal, y Eduardo Valpuesta, catedrático de Derecho Mercantil de la Universidad de Navarra, ambos miembros del Observatorio de Regulación Digital y Tecnología, han explicado los pilares básicos del informe y sus conclusiones.

En palabras de Valpuesta, es importante “no perder el control y la supervisión de la IA para no acabar vulnerando los derechos fundamentales de las personas”, que acaban afectando a todas las facetas de las personas: salud, integridad personal, privacidad, derecho de los trabajadores. Al mismo tiempo comentó que este informe dedica un capítulo a la responsabilidad de los posibles daños causados por el uso de la IA. De acuerdo con el enfoque otorgado por el legislador europeo, la IA debe respetar de forma absoluta la dignidad humana, que actúa como principio orientador y límite infranqueable, según se reporta en este informe.

Por su parte, Rodrigo González matiza que a pesar de que el informe tenga una composición puramente técnica, “es un documento con utilidad práctica en nuestro trabajo diario”. Asegura González que el Reglamento Europeo de Inteligencia Artificial se encuentra atravesado por un conjunto de normativas de suma relevancia: aquellas relacionadas con la identidad digital, las de ciberseguridad y resiliencia operativa, y otras sobre utilización y reutilización de los datos.

“Los datos son la gasolina de la IA”, y de ahí la importancia de preservar el derecho de las personas cuando se manejan los datos para alimentar un modelo de lenguaje de inteligencia artificial, ha asegurado Javier Echániz.

Por último, Manel Carpio, socio de ciberseguridad de Deloitte España, y Juan Carlos Hernández, profesor titular de Derecho Administrativo de la Universidad de Navarra, participaron en una mesa redonda que fue moderada por Julio Roche, director de Consultoría Tecnológica.

Ambos ponentes pusieron el foco en el control de los sesgos en el uso de los modelos de IA, en el rol de la regulación europea de IA y en su regulación abierta a la innovación en Europa, y en el régimen de responsabilidad de las entidades creadoras de modelos de lenguaje de IA, y aquellas creadoras de los agentes de IA.

Un informe que sirve de herramienta práctica para las empresas para guiarles en su camino hacia la transformación tecnológica a través de los sistemas y programas de inteligencia artificial.

De izq. a derecha: Eduardo Valpuesta, catedrático de Derecho Mercantil de la Universidad de Navarra, y Rodrigo González, socio de Deloitte Legal. (Imagen: José Juan Rico/Universidad de Navarra)

Un foro de debate

Hay que recordar que hace algo más de un año Universidad de Navarra y Deloitte Legal suscribieron un acuerdo de colaboración para desarrollar un Observatorio de regulación digital y tecnología pionero en España. El Observatorio nació con la vocación de ser un espacio de referencia en la divulgación de estudios, reflexiones y producción científica sobre cuestiones de actualidad en el ámbito de la regulación digital, gestión de los datos y tecnología.

Ante la irrupción de la inteligencia artificial y la abundante regulación que afecta a esta tecnología y al ámbito digital, el Observatorio tiene como objetivo ser un espacio de referencia en la divulgación de estudios, reflexiones y producción científica sobre cuestiones de actualidad en el ámbito de la regulación digital, gestión de los datos y tecnología.

Con esta finalidad, la Facultad de Derecho de la Universidad de Navarra y la firma de servicios profesionales Deloitte impulsan un Observatorio de regulación digital y tecnología que se asentará sobre tres pilares fundamentales: la investigación, la divulgación y la formación en el ámbito regulatorio digital, tecnológico y de la inteligencia artificial.

En investigación, el propósito es generar publicaciones, artículos y material científico que analicen los cambios normativos digitales, las tendencias del sector y el impacto de la regulación y la tecnología en el ámbito empresarial. En el apartado de divulgación, el objetivo del Observatorio es reflexionar y compartir las perspectivas sobre los cambios normativos en foros de debate, jornadas de trabajo y sesiones de divulgación para profesionales y estudiantes de Derecho y otras disciplinas académicas.

Asimismo, se está ofreciendo también formación en Derecho Digital a estudiantes y profesionales que operan en el sector de la regulación digital y la tecnología. En este sentido, en el marco del Observatorio acaba de abrirse la convocatoria del I Challenge in Digital Law, un concurso para estudiantes de último curso de carrera sobre un caso de Regulación Digital abierto a todas las facultades españolas.

Según comentan sus promotores, el Observatorio está llevando a cabo una investigación rigurosa de la regulación digital a través de la colaboración interdisciplinar de académicos y profesionales expertos en distintos ámbitos, ya sea desde el derecho, consultoría, riesgos, mercados digitales y finanzas hasta la ingeniería y computación cuántica.

De este modo, están siendo objeto de estudio, entre otros ámbitos: la inteligencia artificial, robótica, los mercados e infraestructuras digitales, data economy, e-government, metaverso o los criptoactivos.

Además, el Observatorio cuenta en esos primeros trabajos con un grupo de expertos formado por profesionales de alto nivel tanto del ámbito universitario como del empresarial, especializados en diversos ámbitos relacionados con la regulación digital como la tecnología, consultoría, ciberseguridad o inteligencia artificial.