Un holandés busca una solución para los robots asesinos

Imagínese: un soldado en el campo de batalla quiere rendirse en el último minuto. No tiene ninguna posibilidad porque el sistema que lo rastrea no está controlado por un humano, sino por una inteligencia artificial.

Otro ejemplo: a un enjambre de drones se le encomendó la tarea de volar un puente por el que pasaban los soldados. En el último momento, el puente se llena de refugiados, pero no se puede hacer nada: la máquina está programada para atacar y lo hace mientras la situación ha cambiado por completo.

Si bien no hace mucho esto era todavía una cosa del futuro o incluso completamente impensable, hoy en día estas situaciones son concebibles, como señaló el diplomático y embajador para el desarme Robert den Bosch. Su trabajo es liderar la discusión para evitar que los mortíferos sistemas de armas autónomas se salgan completamente de control.

“Es una carrera contra el tiempo”, dice en su oficina de Ginebra. “Este tipo de armas existen, se utilizan y su uso sólo aumentará en el futuro. El hecho de que las máquinas marquen la diferencia entre la vida y la muerte tiene enormes implicaciones”.

Bosch lidera un grupo de expertos de 128 países que están intentando llegar a un acuerdo sobre el uso de sistemas de armas autónomos. Y “esta no es una tarea fácil”.

Rusia, China, India y Estados Unidos siguen participando en las negociaciones y eso es bueno, afirma In den Bosch. “Si sólo discutiéramos esto con nuestros amigos más cercanos, fácilmente podríamos llegar a acuerdos maravillosos”.

Pero se trata de control de armas y derecho humanitario de la guerra y luego también hay que sentarse con tus oponentes potenciales, especialmente si son militarmente importantes”.

Todo se desarrolla en una sala temporal en las instalaciones de las Naciones Unidas que apoya el proceso: una sala gris sin luz natural con espacio para unas 300 personas. En reuniones que duran horas, los negociadores intentan ponerse de acuerdo sobre si se necesitan leyes y regulaciones nuevas y adicionales para evitar que las cosas salgan mal en el futuro.

“¿Qué más se puede y no se puede hacer con estos sistemas? ¿Qué sistemas son compatibles con el derecho internacional y el derecho humanitario y cuáles no?”

El grupo de trabajo lleva diez años trabajando y es un proceso difícil y lento. El contraste con los rápidos acontecimientos en el campo de batalla difícilmente podría ser mayor. “Pero no hay otra manera”, afirma Jessica Dorsey, experta en guerra moderna de la Universidad de Utrecht.

También cree que la inteligencia artificial está transformando completamente la guerra. “En el campo de batalla en Ucrania, en Gaza y ahora en Irán y el Líbano”. Ella muestra un ejemplo, el Saker Scout ucraniano.

Se trata de un dron programado para eliminar 64 tipos diferentes de objetos, como vehículos militares. Un humano todavía tiene que encenderlo, pero luego el dron sigue su propio camino.

Dorsey: “El sistema puede identificarse, seleccionarse y desactivarse a sí mismo sin intervención humana. Pero, ¿cómo puede estar seguro de que el Saker Scout está desactivando el objetivo correcto? ¿Que no confundirá a un civil con un soldado y que no confundirá un camión que transporta suministros con un vehículo militar?”

Sin embargo, es bueno que el embajador de desarme en Ginebra se tome su tiempo. “La diplomacia, la negociación y el debate simplemente requieren mucho tiempo. Es mejor consultar a fondo para crear una buena base sobre la cual construir”.

Las negociaciones podrían conducir a nuevas reglas, adiciones a un tratado existente o incluso a un nuevo tratado, como los sobre minas y armas nucleares y químicas.

“Las leyes de guerra existentes ya cubren muchas cosas, pero sería poderoso si un tratado incluyera una prohibición de sistemas verdaderamente peligrosos, por ejemplo sistemas que no entendemos o predecimos adecuadamente”, dice Dorsey.

In den Bosch no quiere esperar esto todavía, ya que podría alterar el delicado proceso. En noviembre, una conferencia de revisión examinará el trabajo del embajador y decidirá acciones futuras. Pero el grupo de trabajo está de acuerdo en un punto: “Nadie, ningún país quiere sistemas completamente autónomos”.