La inteligencia artificial ya es capaz de ganar una negociación diplomática

Persuadir no es una tarea sencilla ni siquiera para los humanos, pero Meta asegura que ha desarrollado una inteligencia artificial capaz de negociar con otros y llegar a alianzas con ellos. Se llama Cicero y ha alcanzado las mismas habilidades que un humano en el juego de estrategia Diplomacy, en el que los jugadores tienen que convencer a los demás para ganar. 

La diplomacia y las negociaciones en situaciones de conflicto se han convertido en uno de los principales desafíos para la inteligencia artificial, que no solo tiene que desarrollar habilidades de razonamiento y comunicación, sino también entender las motivaciones de otros actores y qué les impulsa a actuar de cierta manera.

Investigadores de las universidades de Oxford y Warwick han desarrollado un modelo que utiliza el machine learning para analizar los diálogos de paz en Yemen y ayudar a los mediadores, y el año pasado Naciones Unidas creó TINA, un algoritmo que ayuda a los países en la negociación de acuerdos comerciales, dándoles información sobre los aranceles, los acuerdos vigentes y los flujos comerciales bilaterales, entre otros.

Más allá de las herramientas en sí, los investigadores están tratando de crear modelos que combinen el razonamiento con la empatía y el diálogo. Por ahora, dicen, no hay un límite claro de hasta dónde puede llegar la tecnología.

Ganar un juego de estrategia para aprender cómo mejorar las relaciones diplomáticas

Cicero partía de una pregunta: “¿Podemos construir agentes más eficaces y flexibles que puedan utilizar el lenguaje para negociar, persuadir y trabajar con las personas para lograr objetivos estratégicos de forma similar a como lo hacen los humanos?”. 

Los investigadores de Meta recuerdan que los algoritmos han ido superando a los humanos en los juegos. En 1997 Deep Blue derrotó a Garri Kaspárov al ajedrez, en 2016 AlphaGo batió a Lee Sedol en una partida de go, y en 2019 la máquina superó al humano en el póker. Pero, hasta ahora, ninguno incluía la persuasión del lenguaje como parte de la estrategia.

En el juego, Cicero hace de Austria, por ejemplo, para tratar de convencer a Italia de que le apoye en una jugada o que mueva su contingente a Venecia. La inteligencia artificial se ha entrenado en estas negociaciones de diplomacia con otros participantes humanos en la web webDiplomacy.net, en la que llegó a ganar el doble de puntos que la media de los usuarios. Después de hablar con los otros jugadores, modela cómo es probable que actúe cada uno de ellos y elabora un plan para cooperar y obtener un beneficio mutuo. 

“La diplomacia ha sido considerada durante décadas como un gran reto casi imposible en la IA porque requiere que los jugadores dominen el arte de entender las motivaciones y perspectivas de otras personas, hacer planes complejos y ajustar las estrategias, y luego utilizar el lenguaje natural para llegar a acuerdos con otras personas, y convencerlas de que formen alianzas”, explican los desarrolladores en un comunicado. 

Para ellos, el juego es solo una forma de medir el avance de la tecnología. La meta es que el algoritmo pueda cooperar con los humanos, entender sus necesidades o preocupaciones, y aportar soluciones en la vida real.

Inteligencia artificial para ayudar a mediar en las negociaciones de diplomacia del conflicto de Yemen

Pero en la vida real no siempre hay datos suficientes o no están disponibles, como en los diálogos de paz, en los que las negociaciones son secretas y las conversaciones se mantienen en privado, lo que hace difícil para los científicos de datos entrenar modelos específicos, explica Miguel Arana Catania, investigador de la Universidad de Cranfield, en Reino Unido. 

Junto a un equipo conformado por investigadores de Oxford y Warwick, entrenó un algoritmo que analizaba los audios de las negociaciones del conflicto en Yemen y ofrecía datos sobre cómo estaba cambiando el lenguaje en torno a ciertos temas, la evolución de las posturas de cada parte o si estaban cerca de lograr un consenso.

“Nosotros tuvimos la suerte de estar trabajando con los mediadores, que podíamos utilizar estos datos y darle un feedback a los negociadores para diseñar la negociación, pero es un caso raro”, señala Arana. 

Con un modelo de procesamiento del lenguaje natural trataban de analizar cómo iban cambiando las palabras que se usaban y los datos que subyacen al tono o al debate general para dar cifras que guiaran a los mediadores. “Queríamos identificar cuándo se acercaban las posturas en el diálogo: analizar qué tipo de palabras utilizaba cada parte y ver si se iban acercando en su significado o no. Eso nos da una pista de que puede que vayan a converger. Pero solo es una pista. Hay cosas muy sutiles que puede que el modelo no detecte” y por eso necesitan del mediador que las interprete. Arana insiste en que hay que evaluar los resultados de manera crítica y desmitificar que la inteligencia artificial puede resolverlo todo. 

Estos sistemas desarrollan tareas, pero no siempre está claro cómo lo hacen, sino que funcionan como una especie de cajas negras, como explica el investigador. “Esto es un problema, porque no siempre vamos a poder explicar cómo el modelo toma una decisión. Podemos encontrar patrones de cómo lo hace o cómo es probable que lo haga, pero son modelos en los que no siempre está claro por qué están teniendo éxito”.

La herramienta de Naciones Unidas para detectar tensiones y alarma social en Uganda

Además de en la diplomacia, Naciones Unidas también ha utilizado la inteligencia artificial para identificar cómo impactan los influencers, la desinformación y los trending topics en la radicalización de los jóvenes en Somalia. En otro experimento ha analizado las emisiones de 92 radios en Uganda para detectar alarmas tempranas sobre tensiones sociales y discursos violentos.

Martin Waehlisch, uno de los oficiales encargados del programa en Innovation Cells, de Naciones Unidas, explica en un artículo que los modelos computacionales y el aprendizaje automático pueden ayudar a identificar patrones recurrentes en conflictos y prever los momentos de fragilidad del Estado. 

Aunque no es una estrategia nueva, la diferencia es que ahora cuentan con grandes volúmenes de datos a través de internet y una mayor capacidad de los sistemas, que pueden procesar toda esa información más fácil y rápido.

Esto puede servir, por ejemplo, para que los modelos rastreen imágenes satelitales para identificar dónde se está explotando el agua subterránea y agotando los acuíferos, una de las causas que impulsa los conflictos y provoca desplazamientos.

Por ahora, no parece que haya un límite claro de cosas que la inteligencia artificial no pueda resolver, señala Arana.