Revolución IA

La Inteligencia Artificial está llamada a protagonizar la próxima Revolución tecnológica

Inicio

Sobre Revolucionia

Temas

Para saber más

Contacto

Parece que no existen los robots asesinos

Fernando P.    04/12/2017

Temas:  Actualidad    Aplicaciones    Divulgación    Inteligencia Artificial y Sociedad

Desde hace algún tiempo, hay iniciativas políticas para intentar controlar el desarrollo de lo que ha venido en llamarse como sistemas de armas autónomas letales o LAWS (de Lethal Autonomous Weapons Systems), que viene a ser lo que en lenguaje coloquial se ha venido llamando como robots asesinos.

Ya se ha tratado aquí este tema cuando Elon Musk se hizo eco de todo este asunto intentando crear determinada corriente de opinión. El caso es que se trata de un tema que lleva tiempo en la agenda de las potencias militares y que últimamente ha registrado un giro inesperado.

La Convención sobre Ciertas Armas Convencionales
Desde hace tiempo existe un mecanismo de las Naciones Unidas denominado Convención sobre Ciertas Armas Convencionales o CCW (de Convention on Certain Conventional Weapons) que aglutina a las principales potencias militares con el objetivo de controlar o prohibir determinados tipos de armas. Las minas antipersona (un ejemplo de arma autónoma) son una de las armas que están prohibidas por esta convención desde hace ya tiempo.

Naturalmente, la tecnología avanza y las principales potencias militares se reúnen de vez en cuando para intentar extender esta convención a nuevos tipos de armas cuyo uso se considera poco ético. Uno de los tipos de armas sobre los que se discute desde hace algún tiempo son las armas LAWS.

Pero hay un escollo inicial importante en estas discusiones sobre armas LAWS, que consiste en definir qué es exactamente un arma LAWS. Es decir, el primer paso para regular algo consiste en acotar bien el ámbito de actuación y en eso están atascadas las discusiones del CCW desde hace tiempo.

Los tipos de armas que ya están prohibidos por la CCW, como las minas antipersona, no suelen ser cosas muy complicadas y, básicamente, ya existían o eran perfectamente viables cuando se pusieron en marcha las primeras reuniones de la CCW, hace muchos años. Pero en esta ocasión hay un escollo importante para poder centrar el problema y decidir qué es lo que se debe prohibir.

No existen los robots asesinos
A la vista de muchos augurios catastrofistas que se leen a diario sobre los peligros de la Inteligencia Artificial, parece sorprendente que grupos de expertos militares de las grandes potencias lleven años tratando de ponerse de acuerdo para delimitar los peligros de las armas LAWS.

Pero a veces la realidad es más sencilla de lo que parece y el tiempo termina mostrando las cosas como son. Después de años de reuniones de la CCW para tratar de avanzar en el tema de las armas LAWS, la delegación rusa ha abandonado las mismas, cansados de tanto apocalípsis en los medios pero nulo avance en las comisiones técnicas.

Básicamente, la delegación rusa ha dicho algo como esto:

No podemos regular algo que no existe. Cuando exista, ya pensaremos en regularlo.

Es decir, Rusia ha reconocido que llevan años haciendo especulaciones y que no está claro que alguna vez llegen a existir este tipo de armas. No existen los robots asesinos, no hay tecnología para construirlos aún, como ya hemos explicado aquí.

Naturalmente, los caminos de la política y la diplomacia son muy intrincados. Probáblemente, durante años, las grandes potencias se han reunido para intentar averiguar si alguno de ellos había conseguido realmente un avance tecnológico que posibilitara este tipo de armas revolucionarias. Y al final, alguien ha dicho lo que ya saben todos a estas alturas y se ha levantado de la mesa.

Penalizar la innovación
El argumento de la delegación rusa sobre la no existencia de ejemplos reales de armas LAWS es bastante contundente, pero esconde una idea más elaborada.

El problema de regular y prohibir cosas que no existen aún consiste en que, para ser efectivas, esas regulaciones y prohibiciones habrán de ser muy genéricas y con seguridad terminarán afectando a desarrollos tecnológicos en el ámbito civil.

Es decir, el argumento de fondo de Rusia consiste en oponerse a cortar de raíz innovaciones legítimas pero que pudieran tener aplicación en armas de tipo LAWS.

Por poner un ejemplo, la aviación civil no se hubiera desarrollado nunca si en los inicios de la aviación se hubiera pensado que la aplicación de la misma a la guerra sería demasiado destructiva y había que parar aquella locura de emular a los pájaros.

¿ Qué podemos esperar de todo esto en el futuro ?
Naturalmente, la interpretación más sencilla de la posición rusa consiste en argumentar que Rusia ya tiene tecnología para construir armas LAWS y no quieren que nadie les prohiba seguir con ello.

El problema de esta interpretación consiste en que este tipo de armas serían capaces de cambiar el equilibrio de poder militar. Ya hemos hablado aquí sobre el concepto de equilibrio y sobre cómo funciona el desarrollo de nuevas tecnologías que tienen capacidad de alterar ese equilibrio, como en este cado lo sería la Inteligencia Artificial para el desarrollo de armas LAWS.

Si alguien ya tiene armas LAWS es inevitable que el resto las consigan también y la convención CCW pasa a ser irrelevante. Nótese que la convención CCW se viene aplicando a tipos de armas con potencial muy limitado, es inútil intentar que funcione en tipos de armas con enorme potencial.

En cualquier caso, el tipo de Inteligencia Artificial necesaria ( Inteligencia Artificial fuerte) para hacer realidad el concepto de arma LAWS, o robots asesinos, está lejos de ser una realidad, a pesar de todos los avances que se han producido en el campo de la Inteligencia Artificial, que se trata más bien de avances en la Inteligencia Artificial débil. No se trata de decir que es algo imposible, se trata de reconocer que falta mucho aún para tener algo de eso, en el supuesto de que, efectivamente, sea posible tenerlo.

Por otro lado, ya ha sucedido muchas veces en las últimas décadas que grandes avances tecnológicos que parecían inminentes se han quedado estancados o han desaparecido del mapa directamente y otros avances, en los que pocos creían, han cambiado significativamente el mundo.

Nunca sabremos los verdaderos motivos de la delegación rusa para cerrar las conversaciones sobre armas LAWS. Pero existe la posibilidad de que, por una vez, alguien haya dicho algo sincero sobre el estado real de las cosas.

Para saber más:

• CCW: Examination of various dimensions of emerging technologies in the area ...

Nota de prensa del grupo de expertos de la conveción CCW que han venido reuniéndose en los últimos tiempos para tratar el tema de las armas LAWS. Esta nota de prensa resume la posición de delegación rusa, que ha dado un giro inesperado a las conversaciones.

• United Nations Office at Geneva: Background on Lethal Autonomous Weapons Systems in the CCW

Página de la oficina en Génova de las Naciones Unidas que se ocupa de las discusiones en el ámbito de la convención CCW y que contiene información específica sobre reuniones relativas a armas LAWS.

• Defense One - Russia to the United Nations: Don’t Try to Stop Us From Building Killer Robots

Sitio web especializado en noticias relativas a cuestiones de defensa, que trata la noticia sobre la negativa de Rusia a seguir en las discusiones de la convención CCW. En este artículo se sugiere que Rusia ya tiene en desarrollo armas de tipo LAWS pero también se reconoce el caos que existe a la hora de tratar de delimitar qué son armas LAWS.