El director del instituto de desarme de la ONU advierte que la inteligencia artificial acorta los tiempos de decisión en los ejércitos, incluso en el terreno nuclear. Naciones Unidas responde con reglas voluntarias, un vocabulario común y un foro permanente, pero la diplomacia sigue yendo más lento que la tecnología.
Es una pregunta sencilla y por eso incomoda. «¿Vamos a dejar que las máquinas seleccionen y maten a seres humanos?», planteó Robin Geiss, director del Instituto de las Naciones Unidas para la Investigación sobre el Desarme (UNIDIR), en una rueda de prensa en Nueva York. Su diagnóstico cabe en una frase: la guerra dirigida por máquinas se acerca cada vez más.
El problema no es solo el robot asesino
Geiss aclaró que el peligro no se agota en la imagen de robots totalmente autónomos disparando solos. Lo que ya está en marcha es una transformación más silenciosa. La IA interviene en casi todas las etapas de una operación militar, desde el análisis de inteligencia y la identificación de objetivos hasta el pilotaje de drones y los ciberataques. A medida que avanza, las decisiones se aceleran y la posibilidad de que una persona intervenga se achica. Los ciclos de decisión, dijo, se acercan a la velocidad de las máquinas y el margen del juicio humano se estrecha, «incluso en el ámbito nuclear».
Imaginá una partida de ajedrez en la que cada jugada tiene que hacerse antes de que alguien llegue a pensarla. Si además el sistema que sugiere esa jugada es opaco, porque su funcionamiento a veces sigue siendo difícil de explicar, crecen los riesgos de error, de cálculo equivocado y de escalada involuntaria. En un choque entre potencias nucleares, advierte la ONU, una decisión demasiado rápida basada en un análisis erróneo podría tener consecuencias catastróficas.
Quién fabrica el poder
El problema también es de reparto del poder. Un número reducido de Estados y de empresas privadas está dando forma a tecnologías que pueden afectar la seguridad de todo el planeta, y los mecanismos tradicionales de control de armamentos no fueron pensados para eso. Las decisiones de los fabricantes, desde cómo se diseña un sistema hasta con qué datos se lo entrena, definen buena parte de su comportamiento en el terreno. Su fiabilidad, su previsibilidad y su apego al derecho internacional se juegan mucho antes de que un ejército lo despliegue.
Para llenar ese vacío, UNIDIR prepara junto con la Oficina del Alto Comisionado de la ONU para los Derechos Humanos un marco de conducta responsable para las empresas del sector. Propone recomendaciones prácticas basadas en el derecho internacional y en los principios rectores de la ONU sobre empresas y derechos humanos. Hay un detalle clave. Esas recomendaciones serán voluntarias. Una primera versión del marco se presentó en febrero en la cumbre REAIM, en A Coruña, España. El instituto quiere sumar a los grandes grupos de defensa, las empresas tecnológicas jóvenes, los desarrolladores de software, los subcontratistas y los inversores, junto con gobiernos y sociedad civil.
Algoritmos al alcance de cualquiera
Otra preocupación es el acceso de actores no estatales a tecnologías que antes eran patrimonio de los ejércitos más avanzados. Según Geiss, hay investigaciones que muestran que grupos con malas intenciones ya usan IA para facilitar la planificación, la ejecución y la logística de sus operaciones. Organizaciones terroristas y redes criminales podrían así llevar adelante acciones más sofisticadas con medios limitados.
Los controles de exportación y de no proliferación nacieron para vigilar equipos y tecnologías sensibles, y les cuesta atrapar capacidades digitales que están al alcance de casi cualquiera. Por eso UNIDIR lanza, junto con el Instituto de las Naciones Unidas para la Formación y la Investigación (UNITAR) y Austria, una reflexión sobre cómo impedir estos desvíos sin limitar los usos pacíficos de la IA.
Una diplomacia que llega tarde
El obstáculo, además, es político. La rivalidad entre grandes potencias complica las reglas comunes, las negociaciones están repartidas en varios foros y los Estados no se ponen de acuerdo sobre cuánto restringir los sistemas de armas autónomos. Hasta las palabras se disputan. Términos aparentemente consensuados, como «autonomía», «fiabilidad» o «seguridad», significan cosas muy distintas según el gobierno que los use.
Para destrabar el diálogo, UNIDIR presenta esta semana un proyecto de léxico común. También inaugura, con Suiza y Pakistán, un foro permanente que reúne a Estados, industriales, investigadores y sociedad civil, vinculado al centro de excelencia que el instituto creó en junio en Ginebra.
Geiss destacó algunos signos de apertura. En septiembre, Estados Unidos propuso a China una línea de comunicación dedicada a incidentes de IA que puedan amenazar la seguridad nacional. Y los llamados del secretario general de la ONU, António Guterres, a un tratado jurídicamente vinculante sobre armas autónomas encuentran, según Geiss, un eco creciente.
Hay un matiz importante. En una charla en la Universidad Tsinghua, en Beijing, el propio Geiss reconoció que una convención global sobre IA militar es poco realista en el clima geopolítico actual, aunque señaló que los países coinciden en líneas generales en tres principios. El derecho humanitario debe aplicarse a estas armas, tiene que mantenerse el control humano sobre el uso de la fuerza y el mando y control nuclear debe quedar fuera de la IA.
Lo que queda por resolver
Las iniciativas anunciadas esta semana buscan acercar posiciones y no imponer nuevas obligaciones. La distancia entre la velocidad de las innovaciones militares y la de la diplomacia sigue siendo enorme. El debate de fondo, si alcanzan los códigos voluntarios o hace falta un tratado vinculante, sigue abierto, y mientras tanto las máquinas ocupan un lugar cada vez más grande en las decisiones de guerra.
