Proliferación de robots asesinos, el inquietante lado B y “momento Oppenheimer” de la inteligencia artificial

Los reguladores que quieren controlar la nueva generación de máquinas de matar con inteligencia artificial tal vez no tengan mucho tiempo para hacerlo, se advirtió el lunes a los Gobiernos.

Mientras los sistemas de armamento autónomo proliferan rápidamente, incluidos en los campos de batalla de Ucrania y Gaza, los algoritmos y los vehículos aéreos no tripulados ya están ayudando a los planificadores militares a decidir si atacar o no objetivos. Pronto, esa decisión podría completamente externalizada a las máquinas.

“Este es el momento Oppenheimer de nuestra generación”, dijo el ministro austriaco de Asuntos Exteriores, Alexander Schallenberg, en referencia a J. Robert Oppenheimer, que ayudó a inventar la bomba atómica en 1945 antes de abogar por el control de la proliferación de armas nucleares.

Funcionarios civiles, militares y tecnológicos de más de 100 países se reunieron el lunes en Viena para debatir cómo sus economías pueden controlar la fusión de la IA con las tecnologías militares, dos sectores que han animado recientemente a los inversionistas, contribuyendo a elevar las valoraciones de las acciones a máximos históricos.

Según Jaan Tallinn, uno de los primeros inversionistas en la plataforma de inteligencia artificial DeepMind Technologies de Alphabet Inc., la propagación del conflicto global combinada con incentivos financieros para que las empresas promuevan la IA aumenta el desafío de controlar los robots asesinos.

“Los incentivos de Silicon Valley podrían no estar alineados con los del resto de la humanidad”, afirma Tallinn.

IA en defensa

Gobiernos de todo el mundo han tomado medidas para colaborar con empresas que integran herramientas de IA en defensa. El Pentágono está invirtiendo millones de dólares en startups de IA. La Unión Europea pagó la semana pasada a Thales SA para crear una base de datos de imágenes que ayude a evaluar objetivos en el campo de batalla.

La revista +972, con sede en Tel Aviv, informó este mes que Israel estaba utilizando un programa de inteligencia artificial llamado “Lavender” para encontrar objetivos de asesinato. El informe, que Israel ha cuestionado, afirmaba que el sistema de IA había desempeñado un “papel central en el bombardeo sin precedentes de palestinos”.

“El futuro de los robots de matanza está aquí”, dijo Anthony Aguirre, un físico que predijo la trayectoria que tomaría la tecnología en un cortometraje de 2017 visto por más de 1,6 millones de espectadores. “Necesitamos un tratado de control de armas negociado por la Asamblea General de las Naciones Unidas”.

Pero es probable que los defensores de las soluciones diplomáticas se sientan frustrados, al menos a corto plazo, según Alexander Kmentt, máximo responsable austriaco de desarme y artífice de la conferencia de esta semana.

“Un enfoque clásico del control de armas no funciona porque no estamos hablando de un único sistema de armas, sino de una combinación de tecnologías de doble uso”, declaró Kmentt en una entrevista.

En lugar de elaborar un nuevo tratado “magnum opus”, Kmentt dio a entender que los países podrían verse obligados a arreglárselas con las herramientas legales que ya tienen a su disposición. La aplicación de controles a la exportación y de leyes humanitarias podría ayudar a mantener bajo control la expansión de los sistemas de armas de IA, afirmó.

A largo plazo, cuando la tecnología sea accesible a agentes no estatales y, potencialmente, a terroristas, los países se verán obligados a redactar nuevas normas, predijo Arnoldo André Tinoco, ministro de Relaciones Exteriores de Costa Rica.

“La fácil disponibilidad de armas autónomas elimina las limitaciones que garantizaban que solo unos pocos pudieran entrar en la carrera armamentista”, afirmó. “Ahora los estudiantes con una impresora 3D y conocimientos básicos de programación pueden fabricar drones con capacidad de causar muchas víctimas. Los sistemas de armas autónomos han cambiado para siempre el concepto de estabilidad internacional”.