Revolución IA
La Inteligencia Artificial está llamada a protagonizar la próxima Revolución tecnológica
Inicio | Sobre Revolucionia | Temas | Para saber más | Contacto |
El futuro probable de las armas autónomas
Fernando P. 17/01/2018
Temas: Actualidad Aplicaciones Divulgación Inteligencia Artificial y Sociedad
La incipiente presencia de las técnicas de la Inteligencia Artificial en muchas
aplicaciones de uso común ha creado temores sobre la posibilidad de que, al final, se
hagan realidad algunas situaciones descritas en relatos de ciencia ficción relativas
a la dominación del mundo por hordas de máquinas inteligentes.
Ya hemos hablado aquí sobre
estos temores
y sobre la
realidad
de lo que realmente están discutiendo las potencias militares respecto a la
posibilidad de desarrollar armas autónomas avanzadas.
Lo que vamos a comentar esta vez es una
entrevista muy interesante a una persona
bastante involucrada en la definición de políticas respecto al desarrollo de
nuevas armas.
Entrevista a Paul Scharre
Paul Scharre es un investigador en Center for a New American Security, su área de interés
son las armas avanzadas, sobre cómo pueden transformar las prácticas militares tradicionales y cómo
pueden influir en la defensa nacional.
Ha dirigido el grupo de trabajo que creó el grupo de directivas vigentes sobre armas autónomas para el Departamento
de Defensa Norteamericano. Tiene pendiente de publicación un libro sobre el tema, titulado
Army of None: Autonomous Weapons and the Future of War.
Recientemente, Paul Scharre ha sido objeto de una entrevista en
Bulletin of the Atomic Scientists sobre el tema
de las armas autónomas y sobre cómo los avances tecnológicos relativos a la
Inteligencia Artificial pueden cambiar el escenario militar actual.
Se trata de una entrevista muy larga pero muy interesante, en la que Paul Scharre
trata con detalle todas las cuestiones candentes relativas a las nuevas generaciones
de armas.
Armas autónomas y semiautónomas
Paul Scharre hace mucho incapié en la diferencia entre armas autónomas y
semiautónomas. Las primeras son aquellas que, teóricamente, pueden operar sin
ninguna supervisión por parte de humanos y las segundas vienen a ser sistemas
controlados o supervisados de forma remota por humanos.
Muchos sistemas existentes actualmente son armas semiautónomas, que se usan como
forma de establecer un perímetro de seguridad sobre los soldados. Según
Paul Scharre, este tipo de sistemas son de enorme utilidad y cada vez se van
a usar más a menudo porque permiten realizar operaciones con una mínima
exposición de humanos a potenciales daños.
Por ejemplo, sistemas semiautónomos son de gran utilidad para realizar tareas
de patrulla o para establecer controles de acceso o de seguridad. Pero no
son sistemas que tengan capacidad de decisión, en última instancia están
controlados por militares humanos y sin ellos su operatividad es reducida o nula.
El margen que hay para hacer completamente autónomos este tipo de
sistemas de vigilancia o patrulla es muy reducido porque, según cuenta Paul Scharre,
cuando las cosas se complican hay que tomar decisiones bien justificadas
atendiendo a un montón de factores que confluyen en la situación.
Habla Paul Scharre,
por ejemplo, de su experiencia en Iraq o Afganistan a la hora de establecer
controles de seguridad. Es muy difícil saber a priori si un coche con
un comportamiento raro es un terrorista o alguien que se ha perdido. Un sistema
autónomo tiene muy difícil evaluar este tipo de situaciones y tiene la
posibilidad de hacer mucho daño a inocentes si se equivoca. No es el tipo
de cosas que un ejército moderno quiere.
Evidentemente, hay mucho margen para aplicar técnicas de Inteligencia Artificial
a este tipo de armas, pero de ninguna manera constituyen una amenaza porque
no tienen capacidad de revelarse. Se trata, básicamente, de herramientas
controladas remótamente por humanos.
Respecto a las armas púramente autónomas, Paul Scharre comenta que se trata
de un concepto que ya existe, porque la utilidad de este tipo de armas consiste
en poder atacar objetivos militares muy concretos, sin que el dispositivo tenga
necesidad de decidir nada relevante. Este tipo de dispositivos ya existen en la
forma de misiles autónomos, por ejemplo. Así que, no hay mucha novedad y tampoco se
trata de sistemas que tengan capacidad de revelarse.
Sobre los avances tecnológicos
Paul Scharre ve inevitable que se apliquen los avances tecnológicos actuales
a nuevas generaciones de armas porque se trata de tecnología bastante común.
Establecer prohibiciones sobre este tipo de cosas
tendría efectos muy adversos sobre el desarrollo de estas tecnologías
en el ámbito civil.
Por otro lado, reconoce que a veces ha sido necesario establecer prohibiciones
sobre determinados tipos de dispositivos muy bien definidos. Estas prohibiciones
pueden llegar a funcionar bien, aunque no es tan sencillo como firmar un tratado.
Pero otra cosa completamente distinta es establecer prohibiciones genéricas
sobre toda una tecnología con multitud de aplicaciones en el ámbito civil,
como pueden ser las técnicas de Inteligencia Artificial.
En este sentido, recientemente hemos conocido que Rusia
ha abandonado conversaciones
con otras potencias militares para establecer prohibiciones sobre determinadas
armas autónomas por el simple hecho de que no existen ejemplos de esas
armas.
Ejércitos de robots
Respecto a la posibilidad de que en el futuro las potencias militares
dispongan de ejércitos de armas autónomas en la forma de robots inteligentes
que luchen entre ellos, Paul Scharre comenta que es un escenario poco
probable por varios motivos.
Un motivo muy interesante reside en que las comunicaciones son vitales en el
campo de batalla, pero cuanta más distancia hay entre el frente de batalla
y las unidades de mando, más sencillo es para el enemigo atacar esas
comunicaciones. Asi que no es buena idea que haya grandes distancias entre
las unidades de combate y los centros de mando. Esto implica que, al final, siempre
va a ser necesario que haya humanos más o menos cerca del frente de batalla.
Y con esto, volvemos de nuevo a la idea de considerar las nuevas generaciones
de armas más como extensiones de la capacidad de los soldados actuales,
en la forma de armas semiautónomas.
Por otro lado, Paul Scharre comenta que una máxima de las operaciones militares
es que no hay plan que sobreviva al contacto con el enemigo. Y para poder hacer
frente a esto los ejércitos cuentan con la capacidad de improvisar y de
arriesgar de sus soldados, algo que no se espera de una máquina. Es una desventaja
prescindir de la imaginación de los soldados cuando los planes salen mal
y es necesario improvisar.
Armas nucleares y armas autónomas
Las armas nucleares han sido desde hace tiempo objeto de acuerdos y programas
para verificar y controlar su uso. Esto ha sido así porque se trata de
dispositivos muy bien definidos, relativamente fáciles de detectar y controlar, tienden a ser
muy voluminosos y necesitan de enormes instalaciones para su desarrollo
y operación.
Pero con hipotéticas armas autónomas letales, los famosos robots asesinos,
la situación es distinta porque la verificación de este tipo de armas
es casi imposible:
¿ Cómo vamos a saber si hay o no hay un humano
supervisando o controlando
remótamente un robot asesino ?
Es básicamente imposible distinguir un arma autónoma de un arma semiautónoma. La
prohibición de armas semiautónomas no es razonable porque ya se emplean masivamente
desde hace tiempo y más que ocasionar muertes, se puede decir que tienden a salvar
vidas respecto de la forma de funcionar tradicional.
Así que Paul Scharre ve muy complicado que se pueda llegar a una prohibición
generalizada de las armas autónomas, aunque pudiera hacerse sin prohibir la tecnología,
porque siempre quedará el recurso de introducir de forma mínima un componente
humano en forma de operador que supervisa el dispositivo desde la distancia.
La entrevista a Paul Scharre es muy larga, trata con exquisito detalle las cuestiones
fundamentales que hemos comentado aquí y algunas otras igualmente interesantes. Se trata de una
estupenda forma de obtener información de primera mano respecto a esta cuestión tan
candente y que afecta de lleno a todo lo que hoy entendemos por Inteligencia Artificial.
El debate sobre las armas autónomas es muy complejo, hay gran cantidad de cuestiones
a considerar, pero el temor sistemático a armas basadas en técnicas de Inteligencia
Artifical es completamente infundado.
Para saber más:
Entrevista completa a Paul Scharre en Bulletin of the Atomic Scientists. Es una entrevista bastante larga pero muy reveladora del estado actual de las cosas sobre la cuestión de armas autónomas y de potenciales aplicaciones de la Inteligencia Artificial al campo de batalla del futuro.
Libro de Paul Scharre en el que se tratan de forma detallada todas las cuestiones relativas a la configuración de las guerras del futuro y al impacto que las armas autónomas puedan tener. A fecha actual el libro no se ha publicado aún.
Página personal de Paul Scharre en Center for a New American Security
Inicio |
![]() ![]() |
En general, todo el contenido de este sitio web es original, salvo referencias o enlaces a otros sitios web y citas o reproducciones expresamente presentadas como tales. No está permitida la reproducción ni la copia del contenido de este sitio web sin el permiso expreso de la propiedad del mismo. Este sitio web no utiliza cookies ni ningún otro mecanismo para almacenar información en los navegadores de los visitantes ni para realizar seguimiento de los mismos. 2017,2018 Revolucionia.net |
Sobre Revolucionia | ||
Temas | ||
Para saber más | ||
Contacto |