El Consejo Asesor Internacional de Inteligencia Artificial ha presentado en Madrid el Manifiesto de Madrid por una IA Responsable. El documento defiende que las democracias deben conservar un papel central en la configuración, gobernanza y supervisión de esta tecnología. Los expertos consideran que la autorregulación de las empresas tecnológicas no es suficiente para garantizar que el desarrollo de la inteligencia artificial responda al interés público.
El manifiesto llega después de una nueva reunión del Consejo, constituido por el Gobierno en 2024 para asesorar sobre las tendencias, oportunidades y riesgos asociados al desarrollo de la IA. El presidente del organismo, Manuel Castells, y la experta en política digital Francesca Bria presentaron las conclusiones junto al ministro para la Transformación Digital y de la Función Pública, Óscar López.
Uno de los principales mensajes del documento es que el desarrollo de la IA no puede quedar condicionado exclusivamente por las decisiones de las empresas que diseñan y despliegan estos sistemas. El Consejo sostiene que la autorregulación no garantiza por sí misma que la tecnología se desarrolle de acuerdo con el interés público y reclama que las instituciones democráticas tengan capacidad efectiva para intervenir en su gobernanza y supervisión.
Los expertos plantean además que la discusión sobre inteligencia artificial no debe limitarse a la competición entre empresas o países por desarrollar el modelo más potente. A su juicio, el reto estratégico consiste también en preparar a las sociedades para aprovechar las capacidades de la IA y distribuir sus beneficios, combinando competitividad e innovación con transparencia, trazabilidad, supervisión humana y mecanismos de rendición de cuentas.
El poder sobre la IA se concentra en pocas manos
El Consejo advierte de que el poder tecnológico vinculado a la inteligencia artificial se está concentrando en un número reducido de actores. Esta concentración, según el manifiesto, plantea riesgos para la gobernanza democrática, la equidad económica y la soberanía tecnológica de los países.
El documento vincula esta cuestión con la gestión de los datos y las infraestructuras digitales. Los expertos consideran que la soberanía digital no significa aislamiento, sino disponer de autonomía y capacidad de decisión sobre las infraestructuras críticas, los datos, los sistemas y los servicios tecnológicos de los que dependen las sociedades. Para ello, reclaman mantener capacidades públicas robustas a lo largo de la cadena de valor de la IA.
Derechos fundamentales y protección de los menores
El manifiesto también plantea que los derechos fundamentales deben integrarse desde las primeras fases del desarrollo de los sistemas de inteligencia artificial. Entre los principios señalados se encuentran la igualdad, la inclusión y la no discriminación, además de la protección de la privacidad, los datos personales y la seguridad de los usuarios.
La protección de los menores ocupa un apartado específico. El Consejo considera que garantizar su seguridad no debe interpretarse como una barrera a la innovación, sino como una condición para que esta resulte legítima. Por ello, propone que los sistemas de IA destinados a interactuar con niños y adolescentes incorporen sus intereses desde el diseño y sean sometidos a evaluaciones independientes antes de su despliegue.
Responsabilidad para los sistemas de IA agénticos
Una de las cuestiones especialmente relevantes para el futuro de la IA es la responsabilidad sobre los sistemas capaces de actuar de forma autónoma. El Consejo reclama que los agentes de inteligencia artificial puedan ser identificados de manera inequívoca y que sus acciones sean atribuibles a personas físicas o jurídicas responsables.
El manifiesto establece que la responsabilidad por los daños provocados por estos sistemas debe recaer en quienes los desarrollan y despliegan. Además, propone reforzar los mecanismos de reclamación de las personas afectadas y proteger a quienes denuncien internamente riesgos o irregularidades relacionados con sistemas de IA.
Evaluación independiente para los modelos frontera
El Consejo pone el foco también en los modelos de IA frontera y en los sistemas agénticos, dos ámbitos que están adquiriendo una importancia creciente a medida que los modelos incorporan mayores capacidades de autonomía y ejecución de tareas. Los expertos consideran que estos sistemas deberían someterse a evaluaciones independientes antes de su despliegue.
Para que esas evaluaciones sean efectivas, los evaluadores deberían disponer de acceso a los modelos, a la documentación sobre los datos de entrenamiento y a los registros de incidentes. El Consejo reclama además que las autoridades públicas tengan capacidad para suspender o retirar sistemas cuando su comportamiento escape al control humano efectivo.
España plantea una IA gobernada desde las instituciones democráticas
El Manifiesto de Madrid sitúa así el debate sobre la inteligencia artificial en un terreno que va más allá de la innovación tecnológica. El Consejo defiende que España y el resto de democracias deben desarrollar capacidades propias para participar en la gobernanza de una tecnología que considera estratégica para la ciencia, la salud, la educación, la economía y la organización de las sociedades.
El documento está suscrito por los integrantes del Consejo Asesor Internacional de Inteligencia Artificial, entre ellos Manuel Castells, Luciano Floridi, Paul S. Adler, Jeroen van den Hoven, Francesca Bria, Carissa Véliz, Vint Cerf, Erika Staël von Holstein, Kate Crawford, Niklas Lundblad y Jerome A. Feldman. La reunión celebrada esta semana en Madrid fue inaugurada por la secretaria de Estado de Digitalización e IA, María González Veracruz, y clausurada por Óscar López.
