Revolución IA

La Inteligencia Artificial está llamada a protagonizar la próxima Revolución tecnológica

Inicio

Sobre Revolucionia

Temas

Para saber más

Contacto

Elon Musk y los juegos de guerra

Fernando P.    05/09/2017

Temas:  Actualidad    Divulgación    Inteligencia Artificial y Sociedad

En artículos anteriores, ya habíamos hablado de la preocupación de Elon Musk sobre los riesgos de la Inteligencia Artificial y sobre la petición de Elon Musk para para prohibir armas autónomas basadas en Inteligencia Artificial.

En esta ocasión, el fundador de Tesla y otras conocidas compañías del ámbito tecnológico, nos advierte sobre la inevitabilidad de una tercera guerra mundial, provocada, como no, por la Inteligencia Artificial.

Leyendo despacio los comentarios de Elon Musk, llama la atención la siguiente reflexión: La Inteligencia Artificial llegará a la conclusión de que el ataque preventivo es el camino más rápido a la victoria.

¿ Es cierto que todo esto se rige por unos ordenadores que juegan a la guerra ?

Teoría de Juegos
Desde hace tiempo, existe una disciplina matemática denominada Teoría de Juegos. Contra lo que puede suponerse, esta disciplina no se ocupa del Ajedrez o cosas similares.

Básicamente, la Teoría de Juegos se ocupa de situaciones, denominadas juegos, en las que dos o más adversarios tienen que adoptar una estrategia y en la que cada adversario recibe una recompensa o un castigo de acuerdo a las estrategias elegidas por todos.

En el caso más sencillo de un juego, tenemos dos adversarios (o jugadores) J₁  y  J₂, cada uno de ellos puede elegir una estrategia de entre un conjunto de posibles estrategias posibles para cada uno:

Sea  D₁ = { a₁ ... a_m }   el conjunto de   m   posibles estrategias para el jugador  J₁

y sea  D₂ = { b₁ ... b_n }   el conjunto de   n   posibles estrategias para el jugador  J₂

En el caso más sencillo, ambos jugadores deben elegir una de sus posibles estrategias y automáticamente queda definida la recompensa (numérica en este caso) a cada jugador, que podemos definir como una matriz de pares de valores:

Sea  M  matriz m x n  cuyos elementos son de la forma  w_ij = (u_ij , v_ij )   1 ≤ i ≤ m , 1 ≤ j ≤ n

Supuesto que el jugador  J₁  elige la decisión  a_i  y el jugador  J₂  elige la decisión  b_j :

El resultado del juego será  w_ij
La recompensa para  J₁  será  u_ij
La recompensa para  J₂  será  v_ij

El valor numérico de la recompensa puede representar cualquier cosa, incluso un castigo si consideramos valores negativos, por ejemplo.

La idea de juego descrita es muy simple, pero recoge lo esencial del funcionamiento. Naturalmente, existen variantes mucho más complejas de juegos, que se aproximan más a situaciones reales susceptibles de ser modelizadas como un juego.

Juegos de guerra
Podemos tratar de modelizar un conflicto militar como un juego en el que hay una serie de adversarios que eligen su estrategia concreta y, como resultado de las estrategias tomadas por todos, resulta una posición de ventaja o desventaja militar para todos.

Este tipo de modelizaciones son muy antiguas. Naturalmente que los juegos que se modelizan en la realidad son mucho más complejos que la idea básica de juego que hemos visto aquí. Pero son herramientas muy útiles para preveer posibles escenarios y poder anticiparse.

En general, la Teoría de Juegos no busca estrategias vencedoras, porque no suele haberlas en situaciones reales. Interesa más otro concepto denominado equilibrio.

Equilibrio en un juego
Usando la descripción de juego dada, podemos decir que existe un punto de equilibrio en el juego si se verifica lo siguiente:

Ambos jugadores han elegido estrategia y el resultado del juego es  w_ij
Si, a posteriori, el jugador  J₁  cambia su estrategia  i,  no va a mejorar, elija la que elija
Si, a posteriori, el jugador  J₂  cambia su estrategia  j,  no va a mejorar, elija la que elija

Es decir, un punto de equilibrio en un juego es una situación en la que ambos jugadores no tienen incentivo para cambiar su estrategia de forma unilateral, porque no mejoran respecto a la situación actual, hagan lo que hagan.

Los juegos que modelizan situaciones reales suelen tener puntos de equilibrio. La tarea básica de la Teoría de Juegos es estudiar en qué situaciones aparecen puntos de equilibrio y cómo mantenerse en ellos.

La decisión inteligente de un jugador no es intentar derrotar al adversario si no tienes cierta seguridad de que puedes hacerlo y salir sin daños. La decisión inteligente es buscar puntos de equilibrio lo mejor posibles.

La tercera guerra mundial
No hace falta pensar mucho para darse cuenta de que en el mundo hay cierto equilibrio de fuerzas a nivel militar. Esto no es casualidad, es el resultado de decisiones inteligentes tomadas de acuerdo a la Teoría de Juegos. Ese equilibrio es lo que ha evitado la tercera guerra mundial.

La Inteligencia Artificial puede aplicarse para buscar estrategias mejores en modelos extraordinariamente complejos de juegos, que son los que sirven para modelizar el reparto de poder y fuerza militar existente en el mundo. Pero el concepto de equilibrio va a seguir ahí y ninguna Inteligencia Artificial va a poder librarse de él.

La única forma de estar en una situación en la que mereciera la pena salirse de un punto de equilibrio sería un cambio tan grande del reparto de fuerza militar que estaríamos ante un nuevo juego. Armas mucho más destructivas y neutralizantes sí que podrían dar lugar a un nuevo juego. Esto es lo que sucedió con el advenimiento de las armas nucleares, pero ambos bandos se movieron al unísono y eso dió lugar al equilibrio actual.

En cualquier caso, las decisiones de guerra siempre son políticas. La Teoría de Juegos y la Inteligencia Artificial pueden ser un apoyo, o pueden ser ignoradas, pero poco más.

La tercera guerra mundial podría darse cuando el equilibrio actual se rompa. La Inteligencia Artificial no tiene capacidad para romper el equilibrio actual, porque no es un arma, ni siquiera es algo nuevo.

Para saber más:

• The Guardian: Elon Musk says AI could lead to third world war

Noticia en medio generalista sobre las reflexiones de Elon Musk respecto a una tercera guerra mundial provocada por la Inteligencia Artificial.

• Wikipedia: Teoría de juegos

Página de la Wikipedia dedicada a la teoría de Juegos, con descripciones más generales de la idea básica vista aquí y con refinamientos como la idea de estrategia pura y estrategia mixta.

• Wikipedia: Equilibrio de Nash

El concepto de equilibrio en un juego es bastante general, hay varios criterios específicos para definir el equilibrio y el criterio de Nash es uno de los más usados. Esta página de la Wikipedia trata sobre el concepto de equilibrio de Nash.

• Wikipedia: Juegos de guerra

Conocida película de los años 80 en la que parece que un ordenador va a terminar desencadenando la tercera guerra mundial pero, al final, el mismo ordenador termina encorsetado en sus simulaciones por el concepto de equilibrio y decide que lo mejor es continuar en equilibrio.