El secretario general de Naciones Unidas, António Guterres, y la presidenta del Comité Internacional de la Cruz Roja, Mirjana Spoljaric, han pedido a los Estados que den un paso decisivo para regular los sistemas de armas autónomas. Instan también a que comiencen a negociar normas jurídicamente vinculantes que establezcan prohibiciones y restricciones claras sobre su desarrollo y utilización.
El llamamiento se produce tres años después de que ambos dirigentes pidieran por primera vez una actuación internacional sobre estas tecnologías. La petición llega en un momento en el que, según advierten, la evolución de los sistemas autónomos está avanzando más rápidamente que la capacidad de los Estados para establecer límites. Para Guterres y Spoljaric, noviembre puede convertirse en un momento clave para transformar años de debate internacional en negociaciones formales.
La principal preocupación de Naciones Unidas y del CICR se centra en la pérdida de control humano sobre el uso de la fuerza. El desarrollo de sistemas capaces de identificar, seleccionar y atacar objetivos con distintos grados de autonomía plantea interrogantes especialmente graves cuando las decisiones afectan directamente a la vida de las personas y se producen en escenarios de conflicto armado.
Guterres y Spoljaric consideran que una autonomía cada vez mayor puede incrementar los riesgos para la población civil y las infraestructuras al reducir la intervención humana en decisiones críticas. En su declaración advierten de que el mundo se encuentra cerca de una “línea roja moral” si las máquinas llegan a seleccionar de forma autónoma a seres humanos como objetivos, y reclaman a los Estados que actúen antes de que estas capacidades se generalicen.
El problema de la responsabilidad
La expansión de las armas autónomas plantea además una cuestión fundamental para el derecho internacional humanitario: quién debe responder cuando un sistema toma una decisión equivocada o cuando su utilización provoca una violación de las normas aplicables a los conflictos armados. Los responsables de la ONU y del CICR advierten de que, sin prohibiciones y restricciones suficientemente claras, puede resultar cada vez más complicado determinar las responsabilidades por errores o infracciones. El riesgo, según su planteamiento, no se limita a las consecuencias inmediatas de un ataque, sino que afecta también al sistema de protección de la población civil construido por el derecho internacional humanitario. Cuanto mayor sea la autonomía de una plataforma, más difícil puede resultar establecer qué decisiones corresponden al operador, cuáles al fabricante y cuáles al propio sistema, especialmente cuando intervienen múltiples sensores, algoritmos y cadenas de decisión.
Una carrera tecnológica que ya está en marcha
Guterres y Spoljaric sostienen que la carrera hacia sistemas de armas con mayores niveles de autonomía ya ha comenzado. El desarrollo de inteligencia artificial, sistemas de percepción, robótica y tecnologías capaces de procesar grandes cantidades de información en tiempo real está ampliando las posibilidades de automatización de determinadas funciones militares. El llamamiento destaca además que las advertencias no proceden únicamente de organizaciones internacionales. Científicos e ingenieros relacionados con el desarrollo de estas tecnologías también han reclamado límites para evitar determinados usos. Para los responsables de Naciones Unidas y del CICR, esta circunstancia debería servir de incentivo para que los Gobiernos aceleren la elaboración de reglas internacionales. La cuestión, por tanto, es establecer qué usos deben quedar prohibidos y qué nivel de control humano debe mantenerse obligatoriamente cuando una tecnología puede intervenir en decisiones relacionadas con el uso de la fuerza.
Noviembre puede marcar un punto de inflexión
La próxima oportunidad para avanzar en esta cuestión será la Séptima Conferencia de Examen de la Convención sobre Ciertas Armas Convencionales que tendrá lugar en noviembre. Guterres y Spoljaric sostienen que esta reunión debería servir para iniciar formalmente las negociaciones de un instrumento jurídicamente vinculante que establezca prohibiciones y restricciones específicas. El objetivo es evitar que las conversaciones internacionales vuelvan a quedar limitadas a declaraciones de principios mientras la tecnología continúa evolucionando. Para ambos dirigentes, ya existe una base suficiente para pasar de la discusión a la negociación y establecer unas reglas que definan los límites aceptables antes de que estas armas alcancen una mayor difusión.
La autonomía tecnológica frente al control humano
El debate sobre las armas autónomas se sitúa así en uno de los puntos de encuentro más delicados entre inteligencia artificial, defensa y derecho internacional. La incorporación de sistemas capaces de analizar información, identificar objetos y actuar con distintos niveles de autonomía puede proporcionar nuevas capacidades militares, pero también introduce riesgos que no existían con los sistemas tradicionales.
La ONU y el CICR defienden que la innovación tecnológica debe permanecer subordinada a principios destinados a proteger la vida humana y reducir el sufrimiento en los conflictos. La cuestión que plantean no es frenar el desarrollo tecnológico en general, sino establecer límites concretos para aquellas aplicaciones en las que la autonomía pueda comprometer el control humano y la responsabilidad.
La decisión que adopten los Estados en noviembre será, por ello, especialmente relevante. Guterres y Spoljaric consideran que todavía existe la posibilidad de establecer normas antes de que estas capacidades proliferen de forma descontrolada. Su mensaje es claro: la comunidad internacional debe decidir ahora qué nivel de autonomía está dispuesta a permitir cuando una máquina puede intervenir directamente en una decisión sobre el uso de la fuerza.
