Un tratado para la prohibición de las armas letales completamente autónomas

La primera revolución tecnológica en la capacidad destructiva de las armas fue debida a la invención de la pólvora, y la segunda consistió en la aparición del armamento nuclear. A juicio de muchos analistas, nos encontramos frente a una tercera revolución inminente: la de las denominadas "armas letales completamente autónomas" o, más coloquialmente, "robots asesinos" ("killer robots"), ante cuyo desarrollo y puesta en operación se está generando un movimiento civil mundial que busca su prohibición preventiva inmediata, evitando así que esta tercera revolución letal llegue a hacerse realidad.

 

Estas armas tienen como característica fundamental que han sido diseñadas con el fin de seleccionar y atacar letalmente objetivos sin control significativo ni decisión final por parte de ningún humano. Para ello, incluyen los avances tecnológicos más recientes en inteligencia artificial, robótica y sensores que permiten al "robot asesino" decidir autónomamente cuál es su objetivo y cómo neutralizarlo. Por tanto, suponen un paso cualitativo que diferencia estas armas con respecto a los drones armados ya existentes o algunos sistemas de defensa automáticos, ya que en todos ellos siempre hay humanos directamente implicados en la toma de decisiones y el control del uso de la fuerza.

 

Aparentemente este tipo de armas no está en uso todavía, pero hay numerosas evidencias de que algunos prototipos se encuentran en fase de desarrollo avanzado, y existen sistemas en operación que pueden considerarse precursores de armas completamente autónomas. Como ejemplo, el robot armado SGR-1, en uso en la frontera entre las dos Coreas, que posee una ametralladora y un lanzagranadas junto con un detector de seres humanos mediante sensores infrarrojos. La tecnología necesaria para la producción de este tipo de nuevas armas se está desarrollando de forma muy rápida, y países como Corea del Sur, China, Estados Unidos, Israel, Reino Unido y Rusia ya han manifestado el interés en las mismas. Sin duda, si tenemos en cuenta los "automóviles autónomos" que están empezando a ponerse en circulación o el uso cotidiano de la inteligencia artificial en la toma de decisiones en los mercados bursátiles, será fácil persuadirnos de que el traspaso de este tipo de tecnología "sin humanos" al sector militar podría ser inmediata.

 

Es evidente que el uso de estas armas completamente autónomas implica un cambio inimaginable hacia un modelo de confrontaciones armadas en las que los humanos irían perdiendo progresivamente el control del uso de la fuerza, con todas las implicaciones que esto conlleva tanto desde el punto de vista ético, legal y de seguridad humana.

 

Desde una perspectiva ética, una máquina no debería nunca poder decidir sobre la vida o la muerte de nadie, ya que esta decisión trascendental no puede reducirse a la aplicación automática de un algoritmo. Además, ¿quién sería el responsable de una acción armada ilegal o injustificada? ¿El robot, el desarrollador del algoritmo o el comandante militar? Así mismo, conviene recordar que el Derecho Internacional Humanitario (DIH) existe para recordar a las partes de un conflicto que no poseen una libertad de elección ilimitada en los medios, métodos y objetivos militares en una guerra. No parece que estas nuevas armas sean capaces de distinguir adecuadamente entre civiles y combatientes, o realizar una evaluación adecuada de la proporcionalidad de una respuesta de fuerza, por lo que no serían compatibles con el DIH existente.

 

Desde el punto de vista de la mera seguridad, cabe también imaginarse que estas armas completamente autónomas pueden contribuir a reducir las prevenciones para el uso de la fuerza y disminuir los incentivos para la búsqueda de soluciones políticas y dialogadas a los conflictos. Podemos también pensar que, al igual que ocurrió con la segunda revolución generada por las armas nucleares, probablemente asistiríamos a una nueva carrera de armamentos autónomos que desestabilizaría aún más la situación política internacional. Finalmente, no podemos olvidar que el diseño y la fabricación de estas armas están asociados a un desarrollo tecnológico muy elevado, y una vez más serían los países más avanzados del Planeta los que dispondrían de una nueva herramienta de hegemonía bélica.

 

Por todo ello, resulta necesario promover muy rápidamente un tratado internacional vinculante que prohíba el desarrollo, producción y uso de armas completamente autónomas, y que garantice un control humano decisivo en todas las acciones militares. Con este objetivo se inició en 2013 la campaña "Stop Killer Robots", que reúne a las ONGs por la paz y el desarme más representativas a nivel internacional, a través de la cual están realizando acciones de concienciación y movilización en todo el mundo. Así mismo, en 2015 más de 3000 investigadores en inteligencia artificial han alertado del problema y pidieron a Naciones Unidas que actuara, y en 2017 se manifestaron en la misma línea 116 altos ejecutivos de empresas de robótica. Actualmente son ya 26 los países que han reclamado un tratado de este tipo, los 88 estados participantes en los encuentros sobre este tipo de armas dentro de la Convención Internacional sobre Armas Convencionales han recomendado que éste siga siendo tema central de sus deliberaciones, y en septiembre de 2018 el Parlamento Europeo ha adoptado con apoyo abrumador (566 votos a favor, 47 en contra y 73 abstenciones) una resolución muy significativa en la que insta a los países de la Unión a promover "negociaciones internacionales sobre un instrumento legalmente vinculante que prohíba los sistemas de armas letales autónomos".

 

Afortunadamente, estamos aún a tiempo de conseguirlo si se actúa con rapidez y se consigue el apoyo de una proporción significativa la opinión pública mundial. Porque la tecnología evoluciona con tal velocidad que fijar los límites entre lo aceptable y lo inaceptable no puede dejarse para mañana. Bastantes amenazas existen ya para la paz y la seguridad humana como para añadir otras nuevas que, además, en este caso ni tan siquiera estarían totalmente bajo control humano.

Ángel Ballesteros

 Comisión Justicia y Paz de Burgos

Para leer más:

https://www.stopkillerrobots.org

https://www.paxforpeace.nl/our-work/programmes/killer-robots

Contacto

Justicia y Paz de España Rafael de Riego 16, 3º dcha.
28045 Madrid
(+34) 915061828 juspax@juspax-es.org