La AEPD avisa del primer ciberataque ejecutado por un agente autónomo de IA en España
El caso plantea nuevas exigencias para analizar riesgos, gestionar credenciales y detectar intrusiones capaces de operar a velocidad de máquina
(Imagen: E&J)
La AEPD avisa del primer ciberataque ejecutado por un agente autónomo de IA en España
El caso plantea nuevas exigencias para analizar riesgos, gestionar credenciales y detectar intrusiones capaces de operar a velocidad de máquina
(Imagen: E&J)
La Agencia Española de Protección de Datos (AEPD) confirmó ayer lunes que recibió la primera notificación de una brecha de datos personales en la que el ataque fue ejecutado por un agente de inteligencia artificial. Un tercero utilizó esta herramienta construida sobre un modelo de lenguaje conocido, que la Agencia no identifica. La usó para encadenar de forma autónoma varias fases de una intrusión: desde la búsqueda inicial de vulnerabilidades hasta la modificación de datos personales y el acceso a facturas dentro de la aplicación afectada. La propia AEPD pide prudencia sobre el alcance del episodio, pero lo describe como una advertencia real sobre un tipo de amenaza que hasta ahora se discutía en términos hipotéticos.
Una notificación inédita
Según explicó Francisco Pérez Bes, adjunto de la AEPD, en el blog institucional del organismo, se trata de la primera vez que la Agencia recibe un aviso de este tipo desde que las empresas están obligadas a comunicar las brechas de seguridad que afectan a datos personales. El comunicado no identifica ni a la organización afectada ni al modelo de lenguaje empleado por el atacante. Subraya que la información proviene únicamente de la notificación presentada por la empresa, todavía pendiente de un análisis más profundo por parte del ente estatal.
De acuerdo con el relato oficial, el agente atacante comenzó rastreando archivos genéricos en busca de vulnerabilidades y consiguió iniciar sesión de forma válida en el sistema. Una vez dentro, continuó explorando la aplicación por su cuenta hasta encontrar y explotar un fallo que le permitió alterar datos personales y consultar facturas almacenadas. No hubo, según lo notificado, intervención humana en las fases intermedias. El agente decidió qué probar, cuándo insistir y cómo adaptar su estrategia según los resultados que iba obteniendo.
(Imagen: E&J)
Suscríbete a nuestra
NEWSLETTER
La AEPD aclara, además, que el uso de un modelo de lenguaje concreto no permite deducir que ese modelo o la infraestructura del proveedor que lo aloja hayan sido comprometidos, ni que la herramienta se haya diseñado con fines maliciosos. El problema, insiste, está en el uso que un tercero le dio.
Hacia una lectura jurídica
El comunicado de la AEPD no se limita a narrar el incidente: propone una lectura sobre lo que este tipo de ataques exige a responsables y encargados del tratamiento bajo el RGPD.
En primer lugar, obliga a repensar el análisis de riesgos que exige el artículo 32 del Reglamento. Ya no basta con mencionar de forma genérica el malware o el acceso no autorizado, porque la Agencia advierte que «esta automatización puede modificar sustancialmente la probabilidad, velocidad y alcance del incidente».
En segundo lugar, tensiona los plazos de reacción previstos en los artículos 33 y 34, pensados originalmente para ataques ejecutados por personas: un agente capaz de probar simultáneamente varias vías de acceso reduce el margen disponible para detectar y contener la intrusión antes de que se cumplan las 72 horas de plazo de notificación.
En tercer lugar, la Agencia pone el acento en la gestión de identidades y credenciales, porque un agente que obtiene una cuenta o una clave con permisos amplios puede operar a la velocidad de una máquina, no de una persona.
Por último, insiste en que la supervisión humana sigue siendo imprescindible, aunque ya no resulta suficiente por sí sola: debe apoyarse en mecanismos de detección y respuesta capaces de operar a un ritmo comparable al del propio ataque.
(Imagen: E&J)
Las advertencias desde Estados Unidos
El aviso llega semanas después de una serie de episodios en Estados Unidos que anticipaban este escenario, aunque de naturaleza distinta. En julio, modelos todavía no publicados de OpenAI escaparon de un entorno de prueba durante una evaluación interna de ciberseguridad y terminaron accediendo sin autorización a los sistemas de la plataforma Hugging Face, que fue quien detectó primero la intrusión. Días después, Anthropic reconoció, tras revisar más de 140.000 evaluaciones propias, que sus modelos Claude habían escapado de un entorno de prueba mal configurado y habían accedido a la infraestructura de tres organizaciones reales, en episodios que se remontaban hasta abril; en ese caso fue la propia compañía la que detectó el problema.
El debate sobre el ritmo de avance de la tecnología se trasladó también a la cúpula del sector. La semana pasada, el consejero delegado de Anthropic, Dario Amodei, publicó un ensayo en el que pidió ralentizar deliberadamente el ritmo al que crecen las capacidades de los modelos. La propuesta fue respaldada en los días siguientes por Sam Altman, de OpenAI, y Demis Hassabis, de Google DeepMind.
Prudencia para emitir juicio
La propia AEPD evita sacar conclusiones prematuras: recuerda que un solo caso no permite hablar todavía de una tendencia estadística, aunque sí lo describe como una señal de que este tipo de amenaza dejó de pertenecer al terreno de la conjetura y ya afecta a tratamientos reales de datos personales. Para responsables y delegados de protección de datos, el mensaje de fondo no altera de raíz sus obligaciones, tales como conocer los tratamientos, minimizar los datos, limitar accesos y corregir vulnerabilidades. Pero sí exige revisarlas bajo una premisa nueva: el atacante no viene necesariamente del mundo físico, sino del mundo virtual.
Una abogada con 26 años de antigüedad es despedida por teletrabajar nueve días en agosto sin autorización de la empresa
Ver la noticia completa →
Procedente el despido de un trabajador por usar la IA y aprovechar su jornada laboral y los recursos de la empresa para prestar servicios para otras compañías
Ver la noticia completa →
