“Los robots asesinos ya no son cosa de ciencia ficción. Desde los drones dirigidos por inteligencia artificial hasta las armas automáticas que pueden elegir su propio objetivo, los avances tecnológicos en armamento ganan terreno rápidamente al derecho internacional. Nos deslizamos hacia un futuro en el que los seres humanos podrían verse eliminados de la toma de decisiones sobre el uso de la fuerza”, ha manifestado Rasha Abdul Rahim, investigadora/asesora sobre Inteligencia Artificial y Derechos Humanos de Amnistía Internacional

A medida que los rápidos progresos tecnológicos acercan los “robots asesinos” cada vez más a la realidad, Amnistía Internacional pide a los Estados que apoyen la negociación de una nueva legislación internacional para prohibir los sistemas de armas totalmente autónomos.

El grupo de expertos gubernamentales sobre sistemas de armas autónomos letales de la Convención sobre Ciertas Armas Convencionales se reunirá en Ginebra del 27 al 31 de agosto de 2018. La reunión es un momento clave para que los Estados debatan opciones con las que abordar los desafíos éticos, humanitarios, de derechos humanos y de seguridad planteados por los sistemas de armas totalmente autónomos.

“Los robots asesinos ya no son cosa de ciencia ficción. Desde los drones dirigidos por inteligencia artificial hasta las armas automáticas que pueden elegir su propio objetivo, los avances tecnológicos en armamento ganan terreno rápidamente al derecho internacional. Nos deslizamos hacia un futuro en el que los seres humanos podrían verse eliminados de la toma de decisiones sobre el uso de la fuerza”, ha manifestado Rasha Abdul Rahim, investigadora/asesora sobre Inteligencia Artificial y Derechos Humanos de Amnistía Internacional.

“Aún no es tarde para cambiar de rumbo. La prohibición de los sistemas de armas totalmente autónomos podría impedir algunos escenarios realmente distópicos, como una nueva carrera de armas de alta tecnología entre superpotencias mundiales que provocaría que las armas autónomas proliferaran ampliamente. Pedimos a los Estados presentes en Ginebra esta semana que actúen con la urgencia que esta cuestión requiere, y que presenten un mandato ambicioso para abordar los numerosos riesgos planteados por las armas autónomas.”

La mayoría de los Estados que asistieron a la última reunión sobre la Convención sobre Ciertas Armas Convencionales en abril de 2018 subrayaron la importancia de mantener el control humano sobre los sistemas de armamento y el uso de la fuerza, y manifestaron su apoyo al desarrollo de nueva legislación internacional sobre sistemas de armas autónomos letales. Veintiséis de estos Estados, entre ellos Austria, Brasil y Egipto, pidieron una prohibición total. China también ha pedido un nuevo protocolo de la Convención sobre Ciertas Armas Convencionales que prohíba el uso de sistemas de armas totalmente autónomos.

Sin embargo, varios Estados clave se oponen a crear prohibiciones jurídicamente vinculantes, entre ellos gobiernos de los que se sabe que ya están desarrollando sistemas de armas autónomos, como Corea del Sur, Estados Unidos, Francia, Israel, Reino Unido y Rusia.

Amnistía Internacional pide que se creen normas legalmente vinculantes para garantizar que los derechos humanos siguen ocupando un lugar central en las “funciones críticas” de los sistemas de armas, como la identificación, la selección y la involucración de objetivos. Sólo así se podrá garantizar el respeto por el derecho internacional y abordar los motivos de preocupación ética respecto a la delegación en las máquinas del poder de tomar decisiones de vida o muerte.

Estas cuestiones se han debatido en periodos de sesiones previos sobre la Convención sobre Ciertas Armas Convencionales en el contexto del uso de estos sistemas en situaciones de guerra. Amnistía Internacional pide a los Estados que garanticen que también abordan los riesgos de utilizar armas autónomas para hacer cumplir la ley.

“Hasta ahora, la probabilidad de que las armas autónomas se utilicen en operaciones policiales, con todos los riesgos que ello comporta, no se ha tenido muy en cuenta. Pero existen ya drones capaces de disparar dardos de electrochoque, gas lacrimógeno y proyectiles de pimienta. Israel ha utilizado recientemente drones semiautónomos para lanzar gas lacrimógeno contra manifestantes en Gaza, y es probable que volvamos a ver emplear este tipo de tecnología a organismos encargados de hacer cumplir ley en el futuro”, ha señalado Rasha Abdul Rahim.

“El uso de armas totalmente autónomas para hacer cumplir la ley, sin control humano efectivo y significativo, sería incompatible con el derecho internacional de los derechos humanos y podría dar lugar a muertes y lesiones causadas de manera ilegítima y a otras violaciones de derechos humanos. Pedimos a los Estados que tomen medidas concretas para detener la proliferación de estas peligrosas armas tanto en las calles como en el campo de batalla antes de que sea demasiado tarde.”

Información complementaria

Amnistía Internacional y las organizaciones que participan con ella en la Campaña contra los Robots Asesinos piden la prohibición total del desarrollo, producción y uso de sistemas de armas totalmente autónomos, dados los riesgos que plantean desde el punto de vista humanitario y de los derechos humanos. Con el uso de armas totalmente autónomas sin control humano efectivo y significativo podría parecer que se crea una brecha en materia de rendición de cuentas si, una vez desplegadas, no pueden tomar determinaciones sobre el uso de fuerza letal por sí solas.

Aunque no se sabe cuán sofisticadas serán las futuras tecnologías, es muy poco probable que los sistemas de armas totalmente autónomos reproduzcan toda la gama de características intrínsecamente humanas que son necesarias para cumplir el derecho internacional.  Entre ellas figura la capacidad de analizar la intención de las acciones humanas, de evaluar y responder a situaciones a menudo dinámicas e imprevisibles o de tomar decisiones difíciles sobre la proporcionalidad o la necesidad de un ataque.

Los Estados se reunirán de nuevo en noviembre para la Reunión de las Altas Partes Contratantes en la Convención sobre Ciertas Armas Convencionales y tendrán la oportunidad de acordar el inicio de negociaciones sobre un instrumento jurídicamente vinculante.