Los jefes de las Naciones Unidas y de la Cruz Roja pidieron esta semana mayores controles sobre los sistemas de armas autónomos -los llamados robots asesinos-, advirtiendo que el avance de la tecnología está superando la regulación a un ritmo letal.
“Ahora estamos peligrosamente cerca de cruzar la línea roja moral: el autoataque de humanos por parte de máquinas”, dijeron en un comunicado el secretario general de la ONU, António Guterres, y la presidenta del Comité Internacional de la Cruz Roja, Mirjana Spoljaric Egger. Declaración conjunta Publicado el martes.
Pero los expertos en el uso de inteligencia artificial en combate dicen que esa línea ya se ha cruzado. El dron ruso que mató a tres civiles en el sureste de Ucrania en julio parece haber sido guiado hasta su objetivo final únicamente por inteligencia artificial, según el Daily Mail británico. Informes de noticias.
Aunque el dron está programado por operadores humanos para viajar a una gasolinera específica, su objetivo final probablemente estará determinado por el sistema interno del arma.
“Las armas no tenían antena para pilotaje humano y tenían una potente computadora a bordo con categorías de objetivos previamente entrenadas”, dijo Stuart Russell, profesor de informática en UC Berkeley y director del centro de investigación. Asociación Internacional. Por una inteligencia artificial segura y ética.
Si bien los tres civiles que albergaron a los que murieron cuando el dron se estrelló contra un muro parecen ser las primeras muertes de no combatientes con armas autónomas, es posible que no hayan sido las primeras víctimas humanas.
Ucrania realizó una prueba única de drones totalmente autónomos hace dos años que resultó en la muerte de soldados rusos. De acuerdo a Citado por un funcionario de la revista New Scientist.
“Si tenemos que ponerle una fecha, (esa experiencia) me parece un momento Rubicón”, dijo. ryan jenkinsprofesor asociado de filosofía en Cal Poly y miembro principal del grupo Ética + Ciencias Emergentes, que estudia la ética de la guerra robótica. “Creo que, lamentablemente, se ha cruzado la línea”.
La tecnología militar ha avanzado constantemente hacia una mayor automatización durante décadas, dijo Jenkins. La diferencia crucial entre la última clase de armas de IA es que sacan a los humanos de la “cadena de muerte” por completo, en lugar de depender únicamente de la automatización para trabajos individuales como detectar o rastrear objetivos.
Las Naciones Unidas y la Cruz Roja han pedido la prohibición de las armas autónomas que apuntan a humanos, en lugar de misiles o objetivos de infraestructura, o que son “impredecibles”, lo que significa que un operador humano no puede predecir el resultado una vez que se despliega el arma.
que El segundo llamamiento de este tipo logrados por las organizaciones en tres años. Sin embargo, el control integral y significativo sobre la IA dentro y fuera del campo de batalla se ha debilitado, en gran parte debido a la falta de confianza entre los gobiernos y de comprensión de la tecnología y sus riesgos, afirmó Russell.
Mientras tanto, las armas autónomas se han vuelto más baratas y sofisticadas, lo que las hace más atractivas para las naciones y más difíciles de mantener fuera del campo de batalla.
“Una vez que un arma se utiliza en la batalla, una vez que se demuestra que confiere una ventaja, a los países les resulta muy difícil renunciar a ella”, dijo Jenkins. “En la última década desde que estudié los robots asesinos, a menudo me pareció que los activistas estaban compitiendo para prohibir estas armas antes de que hubieran demostrado su utilidad en el campo de batalla. Ahora, creo que aquellos que buscan una prohibición esencialmente han perdido esa carrera”.
Los llamados internacionales para mayores restricciones a los sistemas de armas autónomos se producen mientras los negociadores se preparan para reunirse en Ginebra en noviembre para fortalecer la Convención sobre Armas Convencionales existente. Las Naciones Unidas y la Cruz Roja dicen que la conferencia “ofrece el camino más claro disponible” hacia normas legales vinculantes sobre el uso de tales armas.
Los esfuerzos a lo largo de los años para frenar el uso de sistemas de armas autónomos han luchado por establecer límites. El nuevo impulso se produce gracias a los drones y otras tecnologías que se utilizan en la guerra entre Rusia y Ucrania y en los conflictos en Medio Oriente, Sudán y otros lugares.
La Prensa Asociada contribuyó a este informe.