Revolución IA

La Inteligencia Artificial está llamada a protagonizar la próxima Revolución tecnológica

Inicio

Sobre Revolucionia

Temas

Para saber más

Contacto

El futuro probable de las armas autónomas

Fernando P.    17/01/2018

Temas:  Actualidad    Aplicaciones    Divulgación    Inteligencia Artificial y Sociedad

La incipiente presencia de las técnicas de la Inteligencia Artificial en muchas aplicaciones de uso común ha creado temores sobre la posibilidad de que, al final, se hagan realidad algunas situaciones descritas en relatos de ciencia ficción relativas a la dominación del mundo por hordas de máquinas inteligentes.

Ya hemos hablado aquí sobre estos temores y sobre la realidad de lo que realmente están discutiendo las potencias militares respecto a la posibilidad de desarrollar armas autónomas avanzadas.

Lo que vamos a comentar esta vez es una entrevista muy interesante a una persona bastante involucrada en la definición de políticas respecto al desarrollo de nuevas armas.

Entrevista a Paul Scharre
Paul Scharre es un investigador en Center for a New American Security, su área de interés son las armas avanzadas, sobre cómo pueden transformar las prácticas militares tradicionales y cómo pueden influir en la defensa nacional.

Ha dirigido el grupo de trabajo que creó el grupo de directivas vigentes sobre armas autónomas para el Departamento de Defensa Norteamericano. Tiene pendiente de publicación un libro sobre el tema, titulado Army of None: Autonomous Weapons and the Future of War.

Recientemente, Paul Scharre ha sido objeto de una entrevista en Bulletin of the Atomic Scientists sobre el tema de las armas autónomas y sobre cómo los avances tecnológicos relativos a la Inteligencia Artificial pueden cambiar el escenario militar actual.

Se trata de una entrevista muy larga pero muy interesante, en la que Paul Scharre trata con detalle todas las cuestiones candentes relativas a las nuevas generaciones de armas.

Armas autónomas y semiautónomas
Paul Scharre hace mucho incapié en la diferencia entre armas autónomas y semiautónomas. Las primeras son aquellas que, teóricamente, pueden operar sin ninguna supervisión por parte de humanos y las segundas vienen a ser sistemas controlados o supervisados de forma remota por humanos.

Muchos sistemas existentes actualmente son armas semiautónomas, que se usan como forma de establecer un perímetro de seguridad sobre los soldados. Según Paul Scharre, este tipo de sistemas son de enorme utilidad y cada vez se van a usar más a menudo porque permiten realizar operaciones con una mínima exposición de humanos a potenciales daños.

Por ejemplo, sistemas semiautónomos son de gran utilidad para realizar tareas de patrulla o para establecer controles de acceso o de seguridad. Pero no son sistemas que tengan capacidad de decisión, en última instancia están controlados por militares humanos y sin ellos su operatividad es reducida o nula.

El margen que hay para hacer completamente autónomos este tipo de sistemas de vigilancia o patrulla es muy reducido porque, según cuenta Paul Scharre, cuando las cosas se complican hay que tomar decisiones bien justificadas atendiendo a un montón de factores que confluyen en la situación.

Habla Paul Scharre, por ejemplo, de su experiencia en Iraq o Afganistan a la hora de establecer controles de seguridad. Es muy difícil saber a priori si un coche con un comportamiento raro es un terrorista o alguien que se ha perdido. Un sistema autónomo tiene muy difícil evaluar este tipo de situaciones y tiene la posibilidad de hacer mucho daño a inocentes si se equivoca. No es el tipo de cosas que un ejército moderno quiere.

Evidentemente, hay mucho margen para aplicar técnicas de Inteligencia Artificial a este tipo de armas, pero de ninguna manera constituyen una amenaza porque no tienen capacidad de revelarse. Se trata, básicamente, de herramientas controladas remótamente por humanos.

Respecto a las armas púramente autónomas, Paul Scharre comenta que se trata de un concepto que ya existe, porque la utilidad de este tipo de armas consiste en poder atacar objetivos militares muy concretos, sin que el dispositivo tenga necesidad de decidir nada relevante. Este tipo de dispositivos ya existen en la forma de misiles autónomos, por ejemplo. Así que, no hay mucha novedad y tampoco se trata de sistemas que tengan capacidad de revelarse.

Sobre los avances tecnológicos
Paul Scharre ve inevitable que se apliquen los avances tecnológicos actuales a nuevas generaciones de armas porque se trata de tecnología bastante común. Establecer prohibiciones sobre este tipo de cosas tendría efectos muy adversos sobre el desarrollo de estas tecnologías en el ámbito civil.

Por otro lado, reconoce que a veces ha sido necesario establecer prohibiciones sobre determinados tipos de dispositivos muy bien definidos. Estas prohibiciones pueden llegar a funcionar bien, aunque no es tan sencillo como firmar un tratado.

Pero otra cosa completamente distinta es establecer prohibiciones genéricas sobre toda una tecnología con multitud de aplicaciones en el ámbito civil, como pueden ser las técnicas de Inteligencia Artificial.

En este sentido, recientemente hemos conocido que Rusia ha abandonado conversaciones con otras potencias militares para establecer prohibiciones sobre determinadas armas autónomas por el simple hecho de que no existen ejemplos de esas armas.

Ejércitos de robots
Respecto a la posibilidad de que en el futuro las potencias militares dispongan de ejércitos de armas autónomas en la forma de robots inteligentes que luchen entre ellos, Paul Scharre comenta que es un escenario poco probable por varios motivos.

Un motivo muy interesante reside en que las comunicaciones son vitales en el campo de batalla, pero cuanta más distancia hay entre el frente de batalla y las unidades de mando, más sencillo es para el enemigo atacar esas comunicaciones. Asi que no es buena idea que haya grandes distancias entre las unidades de combate y los centros de mando. Esto implica que, al final, siempre va a ser necesario que haya humanos más o menos cerca del frente de batalla.

Y con esto, volvemos de nuevo a la idea de considerar las nuevas generaciones de armas más como extensiones de la capacidad de los soldados actuales, en la forma de armas semiautónomas.

Por otro lado, Paul Scharre comenta que una máxima de las operaciones militares es que no hay plan que sobreviva al contacto con el enemigo. Y para poder hacer frente a esto los ejércitos cuentan con la capacidad de improvisar y de arriesgar de sus soldados, algo que no se espera de una máquina. Es una desventaja prescindir de la imaginación de los soldados cuando los planes salen mal y es necesario improvisar.

Armas nucleares y armas autónomas
Las armas nucleares han sido desde hace tiempo objeto de acuerdos y programas para verificar y controlar su uso. Esto ha sido así porque se trata de dispositivos muy bien definidos, relativamente fáciles de detectar y controlar, tienden a ser muy voluminosos y necesitan de enormes instalaciones para su desarrollo y operación.

Pero con hipotéticas armas autónomas letales, los famosos robots asesinos, la situación es distinta porque la verificación de este tipo de armas es casi imposible:

¿ Cómo vamos a saber si hay o no hay un humano
supervisando o controlando remótamente un robot asesino ?

Es básicamente imposible distinguir un arma autónoma de un arma semiautónoma. La prohibición de armas semiautónomas no es razonable porque ya se emplean masivamente desde hace tiempo y más que ocasionar muertes, se puede decir que tienden a salvar vidas respecto de la forma de funcionar tradicional.

Así que Paul Scharre ve muy complicado que se pueda llegar a una prohibición generalizada de las armas autónomas, aunque pudiera hacerse sin prohibir la tecnología, porque siempre quedará el recurso de introducir de forma mínima un componente humano en forma de operador que supervisa el dispositivo desde la distancia.

La entrevista a Paul Scharre es muy larga, trata con exquisito detalle las cuestiones fundamentales que hemos comentado aquí y algunas otras igualmente interesantes. Se trata de una estupenda forma de obtener información de primera mano respecto a esta cuestión tan candente y que afecta de lleno a todo lo que hoy entendemos por Inteligencia Artificial.

El debate sobre las armas autónomas es muy complejo, hay gran cantidad de cuestiones a considerar, pero el temor sistemático a armas basadas en técnicas de Inteligencia Artifical es completamente infundado.

Para saber más:

• Bulletin of the Atomic Scientists - Don’t fear the robopocalypse ...

Entrevista completa a Paul Scharre en Bulletin of the Atomic Scientists. Es una entrevista bastante larga pero muy reveladora del estado actual de las cosas sobre la cuestión de armas autónomas y de potenciales aplicaciones de la Inteligencia Artificial al campo de batalla del futuro.

• Amazon - Army of None: Autonomous Weapons and the Future of War

Libro de Paul Scharre en el que se tratan de forma detallada todas las cuestiones relativas a la configuración de las guerras del futuro y al impacto que las armas autónomas puedan tener. A fecha actual el libro no se ha publicado aún.

• Center for a New American Security - Paul Scharre

Página personal de Paul Scharre en Center for a New American Security