Revolución IA

La Inteligencia Artificial está llamada a protagonizar la próxima Revolución tecnológica

Inicio Sobre Revolucionia Temas Para saber más Contacto

Prohibición sobre robots asesinos

Fernando P.    21/08/2017

Temas:  Actualidad    Divulgación

En un artículo arterior ya habíamos hablado de la preocupación de Elon Musk sobre la potencial amenaza que, según él, la Inteligencia Artificial puede suponer para la sociedad civilizada.

En esta ocasión, el mismo Elon Musk y un centenar de personas relacionadas con empresas que trabajan en proyectos que incluyen técnicas de Inteligencia Artificial, han elevado una petición a las Nacionas Unidas para que se ponga en marcha la prohibición de armas autónomas, igual que existen prohibiciones para otros tipos de armas.

¿ Qué entendemos por armas autónomas ?
Bueno, realmente no está muy claro. Seguramente, la primera cosa que se nos viene a la cabeza es la idea de robots muy complejos, dotados de potentes armas, casi invulnerables y con pocos o ningún escrúpulo.
Robot destructivo
Seguramente que nadie deseamos que se construyan este tipo de robots asesinos. Otra cosa es que sea viable, que veremos un poco más adelante.

El caso es que armas autónomas existen desde hace mucho tiempo. Una mina antipersona es el ejemplo de arma autónoma más simpre. Usando lo que sabemos sobre agentes inteligentes no es difícil darse cuenta de que una mina antipersona es un ejemplo de agente muy simple.

Existen otros ejemplos de armas autónomas, como algunos sistemas de defensa antiaérea muy avanzados que deben funcionar en unos tiempos tan cortos que la intervención humana los hace básicamente inservibles. Se trata de agentes inteligentes bastante caros pero no escandalosamante complejos, conceptualmente.

En el extremo low cost, hay algunos drones comerciales que han sido modificados de forma casera para trasportar granadas y otras cargas poco deseables.

El concepto de arma autónoma es demasiado amplio, como es fácil de ver.

La Inteligencia Artificial y la industria armamentística
Ciertamente, la industria armamentística siempre está a la vanguardia de la tecnología y desde hace mucho tiempo se emplean técnicas de Inteligencia Artificial en muchos dispositivos bélicos.

Incluso se da el caso de que algunas tecnologías muy prometedoras en Inteligencia Artificial han sido promovidas desde estamentos militares, como es el caso del coche autónomo y el DARPA Grand Challenge financiado por el Departamento de Defensa de EEUU.

Técnicas bastante estándar de Inteligencia Artificial, de uso común hoy en día, como pueden ser el reconocimiento de imágenes o de sonidos son usadas desde hace mucho tiempo en equipamiento militar por todo el mundo.

Todas estas técnicas se vienen usando como apoyo a militares humanos, de la misma forma que se usan otros avances de la técnica para mejorar la eficiencia de las armas y los ejércitos.

Los robots asesinos
Este tipo de dispositivos u otros asimilables no están hoy por hoy en el mapa de lo que es viable para los ejércitos actuales, hay varios motivos para ellos:


Ciertamente, no parece deseable que robots asesinos empiecen a sustituir a soldados en los ejércitos, pero las limitaciones de la tecnología no parece que vayan a hacerlo posible en el corto o medio plazo.

Básicamente, el miedo a los robots asesinos viene del hecho de que, con las limitaciones conocidas de la tecnología, sabemos que tarde o temprano se van a equivocar y van a hacer mucho daño. Pero. jústamente, este es el tipo de dispositivos que un ejército nunca quiere. Algo que pueda venderse a un ejército debe funcionar sin fallos y obedecer siempre las órdenes, por eso estamos muy lejos de ver cosas autónomas en el ejército, incluso cosas que ya funcionen más o menos bien en la vida civil.

El equilibrio de poder
Por otro lado, buen parte de las guerras actuales se libran como un juego (en el sentido matemático). El objetivo de los ejércitos actuales no es pegar tiros, sino demostrar al oponente que se está a la par en capacidad y que una confrontación terminaría mal para ambos. Se trata de llegar a lo que se llama punto de equilibrio en Teoría de Juegos.

En este sentido, si realmente alguna vez alguien consigue armas autónomas en el sentido de autonomía amplia, no un simple agente inteligente confinado a un entorno muy determinado, es inevitable que el resto de oponentes las deban tener también, porque de lo contrario se rompería el equilibrio en el juego virtual de la guerra y entonces empezaría la guerra de verdad.

Más capacidad destructiva que tienen las armas nucleares no van a tener los robots asesinos y las armas nucleares no se han usado durante décadas, mientras ha habido cierto equilibrio.

Estaría bien que Elon Musk y sus amigos nos explicaran exactamente qué tipo de dispositivos autónomos son los que se deben prohibir y cuales son las tecnologías que los hacen posibles, si es que ya existen, pero, honestamente, creemos que aún restan algunas décadas antes de tener que enfrentarnos a este tipo de problemas.


Para saber más:

Noticia en la CNN sobre la petición de Elon Musk a las Naciones Unidas con la prohibición de armas autónomas.

Página de la Wikipedia sobre el proyecto de la Oficina de Proyectos Avanzados del Departamento de Defensa de EEUU, que puso en marcha el desarrollo de coches autónomos tal y como los conocemos hoy en día.

Página de la Wikipedia sobre la Teoría de Juegos y el concepto de equilibrio, que es una disciplina esencial para entender cómo operan hoy en día los ejércitos y cómo se posicionan frente a sus adversarios directos.



 

Inicio Powered by NetBSD
 
HTML5
 
En general, todo el contenido de este sitio web es original, salvo referencias o enlaces a otros sitios web y citas o reproducciones expresamente presentadas como tales.

No está permitida la reproducción ni la copia del contenido de este sitio web sin el permiso expreso de la propiedad del mismo.

Este sitio web no utiliza cookies ni ningún otro mecanismo para almacenar información en los navegadores de los visitantes ni para realizar seguimiento de los mismos.

2017,2018 Revolucionia.net
Sobre Revolucionia
Temas
Para saber más
Contacto