La Agencia Española de Protección de Datos (AEPD) ha recibido la primera notificación de una brecha de datos personales en la que el incidente habría sido ejecutado mediante un agente de inteligencia artificial. Este agente utilizó un conocido modelo de lenguaje para llevar a cabo el ataque, según ha explicado la propia AEPD en un análisis firmado por Francisco Pérez Bes. El agente atacante inició una búsqueda de vulnerabilidades en archivos genéricos. Consiguió realizar un login correcto en el sistema. Una vez dentro, comenzó a buscar de forma autónoma vulnerabilidades en la aplicación. Esta búsqueda le permitió, finalmente, modificar datos personales y acceder a facturas.
La AEPD subraya que, antes de extraer conclusiones, conviene señalar que la información disponible procede de la notificación presentada por la organización afectada. Esta información deberá ser objeto del correspondiente análisis. La Agencia aclara además que el uso de un modelo de IA concreto no implica que ese modelo o la infraestructura de su proveedor hayan sido comprometidos. Tampoco implica que la herramienta haya sido diseñada para desarrollar actividades maliciosas.
Lo relevante desde la perspectiva de la protección de datos es que un tercero habría utilizado un agente de IA como instrumento. Este agente permitió encadenar con éxito distintas fases del ataque. Aunque una única notificación no permite afirmar una tendencia estadística, sí constituye una señal significativa. Los ataques apoyados en inteligencia artificial han dejado de ser un riesgo teórico. Empiezan a materializarse en incidentes que afectan a tratamientos reales de datos personales.
De la asistencia al atacante a la actuación autónoma
La utilización de inteligencia artificial en actividades maliciosas no es nueva. Desde hace tiempo se emplean modelos generativos para redactar mensajes de phishing, traducir campañas fraudulentas, suplantar identidades, analizar código o facilitar la búsqueda de vulnerabilidades. Recientemente, Anthropic publicó un informe en el que relataba algunos casos en los que los usuarios trataron de dar un uso criminal a su IA.
La aparición de agentes de IA introduce, sin embargo, un cambio cualitativo. Un agente puede recibir un objetivo y planificar tareas intermedias por sí mismo. Puede utilizar herramientas, ejecutar código, consultar fuentes e interpretar resultados. Y puede modificar su actuación de forma autónoma, en función de lo que va encontrando durante el proceso.
La AEPD recuerda que la IA no crea nuevas amenazas. Pero sí aumenta la velocidad, la escala y la capacidad de adaptación de técnicas maliciosas ya conocidas. Esto reduce el tiempo disponible para detectarlas y contenerlas.
Por qué es relevante esta primera notificación
La importancia de esta notificación va más allá de la tecnología empleada. Modifica, según la AEPD, el propio escenario de la gestión de riesgos, en cuatro aspectos concretos.
En primer lugar, confirma la necesidad de incorporar expresamente los ataques asistidos o ejecutados mediante IA a los análisis de riesgos de los tratamientos. No basta con incluir una referencia genérica a malware, phishing o acceso no autorizado. Esta automatización puede modificar sustancialmente la probabilidad, velocidad y alcance del incidente.
En segundo lugar, obliga a revisar los tiempos de respuesta. Los procedimientos diseñados para ataques ejecutados manualmente pueden resultar insuficientes. Un agente puede analizar simultáneamente múltiples activos, probar distintas vías de acceso y adaptar su comportamiento con rapidez.
En tercer lugar, aumenta la importancia de las identidades digitales y de las credenciales. Un agente que obtiene una cuenta, una clave API o un token con permisos excesivos puede operar a la velocidad de una máquina. Puede acceder a diferentes servicios antes de que la organización detecte un comportamiento anómalo.
Finalmente, evidencia que la seguridad de los tratamientos no puede depender únicamente de la intervención manual. La supervisión humana sigue siendo imprescindible. Pero debe apoyarse en mecanismos de detección, contención y respuesta capaces de operar con la rapidez suficiente.
Una llamada a actuar
La AEPD concluye que la llegada de los agentes de IA al ámbito ofensivo debe impulsar una revisión inmediata de los modelos de seguridad y protección de datos. Responsables, encargados y delegados de protección de datos deben prepararse para un escenario en el que la velocidad del ataque será cada vez mayor. Sin embargo, según la Agencia, seguirán siendo decisivos los mismos fundamentos de siempre: conocer los tratamientos, minimizar los datos, limitar los accesos, corregir vulnerabilidades, controlar a los proveedores y estar preparados para responder.
