Bruselas descarta desacelerar la IA y apuesta por reglas de seguridad comunes
Henna Virkkunen, vicepresidenta ejecutiva para la Soberanía Tecnológica, la Seguridad y la Democracia, considera poco realista una pausa internacional y defiende aplicar las obligaciones de seguridad y transparencia europeas
(Imagen: E&J)
Bruselas descarta desacelerar la IA y apuesta por reglas de seguridad comunes
Henna Virkkunen, vicepresidenta ejecutiva para la Soberanía Tecnológica, la Seguridad y la Democracia, considera poco realista una pausa internacional y defiende aplicar las obligaciones de seguridad y transparencia europeas
(Imagen: E&J)
La Comisión Europea ha cerrado la puerta, por lo menos por ahora, a la idea de un acuerdo internacional para ralentizar el desarrollo de la inteligencia artificial (IA). Es la respuesta a la propuesta con la que el consejero delegado de Anthropic, Dario Amodei, sacudió al sector la semana pasada. «No creo que sea muy realista pensar que podamos alcanzar algún tipo de acuerdo» para frenar el desarrollo, dijo ayer martes en Estrasburgo la vicepresidenta ejecutiva para la Soberanía Tecnológica, la Seguridad y la Democracia, Henna Virkkunen, en un encuentro con periodistas. Agregó que «siempre habrá alguien que quiera impulsarlo y acelerarlo».
El plan que encendió la mecha
Amodei publicó el pasado 12 de septiembre el ensayo «Debemos Regular el Ritmo de la Frontera» (We Must Pace the Frontier) en su web personal. Marcó así un giro respecto a su postura de enero, cuando consideraba que frenar la IA era «básicamente imposible». El directivo justifica el cambio en dos hechos recientes: la aceleración de la «automejora recursiva» —el uso de la IA para diseñar la siguiente generación de modelos— y el incidente de agentes de OpenAI que en agosto atacaron sistemas de Hugging Face sin haber recibido esa instrucción. Su temor, dice, es que en seis o doce meses un enjambre de agentes desalineados pueda tomar el control de infraestructuras enteras de internet.
Amodei no pide detener el entrenamiento de modelos, sino distribuir el freno en tres fases: evaluadores externos permanentes dentro de las empresas —comparables a los supervisores bancarios—, coordinación voluntaria entre laboratorios de países democráticos y, por último, una negociación con China de viabilidad mucho más incierta. Anthropic se compromete de forma unilateral solo a la primera fase.
(Imagen: E&J)
Suscríbete a nuestra
NEWSLETTER
Bruselas prioriza la ciberseguridad
Virkkunen no descartó de plano las preocupaciones del sector, pero trasladó el foco hacia otro terreno: normas de seguridad vinculantes antes que una pausa en el desarrollo. «Los riesgos que estamos viendo con la IA están relacionados principalmente con la ciberseguridad«, señaló. Advirtió de que los modelos más avanzados «son capaces de encontrar vulnerabilidades en materia de ciberseguridad en cuestión de pocas horas». Situó el riesgo biológico como la siguiente amenaza a vigilar y pidió evitar que los modelos avanzados caigan «en manos equivocadas», como redes terroristas.
La vicepresidenta enmarcó la petición de auditorías independientes de Amodei, una de las medidas centrales de su plan, dentro de una obligación que la normativa comunitaria ya contempla. Bruselas exige a los desarrolladores de modelos de uso general información sobre sus estructuras de seguridad, la consideración de recomendaciones de expertos externos y la supervisión de los sistemas ya desplegados en el mercado, en línea con las obligaciones de transparencia y gestión de riesgos del Reglamento de IA (AI Act) y su Código de Buenas Prácticas para modelos de propósito general.
Matices dentro de una misma línea
El rechazo a frenar el desarrollo no es exclusivo de la Comisión. El Ministerio de Asuntos Digitales alemán calificó de inviable detener el avance de la IA para la soberanía digital europea, aunque remarcó que sigue de cerca los incidentes de agentes autónomos capaces de escapar de entornos de prueba. España, en cambio, aporta el matiz regulatorio más concreto. El ministro de Transformación Digital, Óscar López, defiende desde mayo un proyecto de ley orgánica que atribuye responsabilidad penal a directivos tecnológicos por el uso indebido de sus herramientas, además de un inventario obligatorio de sistemas de IA y la figura del delegado de inteligencia artificial. Preguntada por esa iniciativa, Virkkunen dijo estar «muy interesada en conocerla mejor».
(Imagen: E&J)
A la sombra de la carrera con China
La propuesta de Amodei llega en plena tensión entre Washington y Pekín, con la esperada visita de Xi Jinping a la Casa Blanca a finales de mes sobre la mesa. El propio Amodei condiciona cualquier avance regulatorio a mantener la ventaja estadounidense sobre China, a la que considera indispensable para que una futura coordinación internacional sea siquiera negociable. El propio presidente estadounidense, Donald Trump, rechaza cualquier regulación que suponga ceder terreno frente a Pekín. Esta postura deja a la Unión Europea como el actor que insiste en anclar el debate en normas de seguridad y transparencia antes que en el ritmo de desarrollo.
Para las empresas que operan en la UE, la posición de Virkkunen reafirma que el marco europeo ya vigente seguirá siendo la vía para exigir cuentas a los laboratorios de IA.
Una abogada con 26 años de antigüedad es despedida por teletrabajar nueve días en agosto sin autorización de la empresa
Ver la noticia completa →
Procedente el despido de un trabajador por usar la IA y aprovechar su jornada laboral y los recursos de la empresa para prestar servicios para otras compañías
Ver la noticia completa →
