Proyecto ALIEN o cómo estudiar la lengua secreta que usan las máquinas cuando se las deja a solas

Marco Baroni es uno de esos científicos que sospecha tanto de las máquinas como de los humanos. Sospecha tanto de sus cerebros hechos a base de neuronas artificiales como de los nuestros. Porque reconoce que no sabemos muy bien cómo lo hacen unas y otros para aprender. Cómo lo hacen para adquirir un idioma o incorporarlo a su catálogo. Pero el lenguaje surge, nos hace y moldea. ¿También a las máquinas? ¿En qué lengua secreta hablan las inteligencias artificiales?

Hay algo un tanto escalofriante en el desarrollo de las inteligencias artificiales. No terminamos de saber cómo construyen sus universos expresivos. Qué ocurre en esa caja negra de sus electrónicos minicerebros para que terminen pareciéndonos tan listas y para que hablen tan bien. Tanto como para que hayan inventado su propio idioma, que Baroni trata de entender en un proyecto que ha bautizado como Autonomous Linguistic Emergence in Neural Networks (Aparición Espontánea Autónoma de la Lengua en Redes Neuronales), Proyecto ALIEN, por sus siglas en inglés.

Uno se podría preguntar que, cuando nadie las mira, ¿en qué lengua secreta hablan las máquinas y qué se dicen? ¿O qué pasa cuando una inteligencia artificial se mete en ChatGPT y le pide algo? ¿Necesitan una lengua humana o hablan sus cosas, como si de telepatía se tratase? ¿De eso va el Proyecto ALIEN?

Las máquinas que empezaron a chatear en su propia lengua (no tan) secreta en Facebook

“Sí, exactamente –responde este doctor en Lingüística por la UCLA ante las citadas preguntas–. Esto quizás suena un poquito a ciencia-fantasía, pero lo que observamos en los últimos años es que si dejamos estas máquinas, a estas redes neuronales, hablan juntas en una lengua (‘secreta’) muy diferente a las nuestras”, explica Baroni en este capítulo del pódcast Tampoco es el fin del mundo.

Este ‘intérprete’ de la lengua secreta de las máquinas, que ahora es profesor en la Universitat Pompéu Fabra de Barcelona, trabajó tiempo atrás en Facebook, hoy Meta. En aquellos años, un equipo estaba entrenando a unas redes neuronales para que chateasen entre sí. Se llamaban Alice y Bob. Su misión era aprender a negociar, así que tenían que aprender a regatear e intercambiar productos. Al principio se las veía muy dispuestas y manejando con soltura el inglés, pero con el tiempo, comenzaron a usar palabras sin aparente sentido, aunque con exitoso resultado para sus negocios. Los científicos de Facebook se dieron cuenta de que, en realidad, habían terminado por inventarse un idioma que sólo ellas podían entender.

Aquello desató las alarmas, más entre el público que entre los equipos de ingeniería de la corporación. Respondía, literalmente, al argumento de la película Colossus, the Forbin Projet (Joseph Sargent, 1970), en que un ordenador estadounidense y otro soviético empiezan a hablar una lengua secreta inventada por las dos máquinas… y empiezan a lanzarse misiles.

Pero en 2017, con la Guerra Fría lejos, los propios ingenieros de Facebook llamaron a la calma. No desconectaron a esas máquinas porque —como secdijo— hubieran perdido su control, como en la película. Sencillamente, nadie les había dicho que tuvieran que negociar en inglés, necesariamente.

Con el tiempo, se ha visto que la emergencia de nuevas lenguas por máquinas no es tan inhabitual. “Ellas tratan de maximizar el beneficio –sigue Baroni–. Para ellas puede ser más sencillo hablar con palabras creadas, aunque sean muy complejas y largas, porque son más precisas, ellas necesitan precisión, y las lenguas humanas pueden ser muy imprecisas”.

Por qué las máquinas prefieren las palabras largas

Explica el lingüista que los idiomas humanos están llenos de palabras muy cortas, “es algo universal”. Palabras como el, pero, y, the, but, and… son cortas “porque son de las más frecuentes, seguimos el principio de conservación de la energía porque somos entidades biológicas”. Pero las máquinas no. Así que no tienen problema en inventar palabras larguísimas, si le parecen más precisas que las de nuestras vulgares y ambiguas lenguas humanas. Nadie les dijo que ahorrasen energía y recursos “pese a que gastan, de hecho, mucho”, sonríe Baroni.

Él y su colega Lake han venido a pedirles, justamente, que economicen. Y han conseguido entrenar a un modelo de lenguaje para que aprenda generalizando sistemáticamente. Es decir, no teniendo que aprender cada concepto nuevo de cero. Sino reciclando viejos aprendizajes con datos nuevos. Pudiendo hacer algún tipo de inferencia rudimentaria. “Piensa que GPT seguramente se ha entrenado ‘leyendo’ absolutamente toda la web. Esto es casi todo el conocimiento humano. El verdadero y también el falso”.

“Faltan perfiles humanistas en las grandes tecnológicas, aunque cada vez hay más”

Publicidad

Baroni no cree que implique que las IA piensen o tengan sentido común como los humanos, pero sí nos ayudará a entender cómo lo adquirimos.

Para un investigador en la emergencia del lenguaje en humanos, desentrañar la lengua secreta de las máquinas resulta muy útil. “Es un poco como en los estudios de etología, cuando se analiza la comunicación (y la inteligencia) animal”. Son estudios en la frontera. Porque estamos tratando de abordar nuevas definiciones de lo eminentemente humano. ¿Es –como muchas veces se dice– el lenguaje lo que nos hace esencialmente seres pensantes?

Si una IA como la de Dall-e genera palabras inventadas, incluso antes de pintar las imágenes que se le piden, ¿necesitamos también los humanos las palabras para pensar, incluso aunque no hablemos? “Esta es una pregunta científica fundamental y, honestamente, no sabemos la respuesta”. Aquí, “quizás las máquinas nos ayuden”.

Las redes neuronales artificiales nos están ayudando a acercarnos a nuevas respuestas. Incluso “a hacernos nuevas preguntas filosóficas”, dice el lingüista. En sus años como entrenador de inteligencias artificiales, cree que la pregunta más filosófica a la que se ha tenido que enfrentar tiene que ver “qué somos los seres humanos. Por ejemplo, se dice que ChatGPT es fantástico, pero no es consciente; y es verdad. Pero después yo me pregunto: ¿qué quiere decir que yo soy consciente? ¿O tú? Tú, ahora mismo, no eres consciente para mí, te veo como unos píxeles en una pantalla [hacemos la entrevista por videoconferencia], o sea, no es muy distinta mi interacción contigo respecto a la de ChatGPT”, reflexiona.

Ante estos planteamientos, sale al rescate la filosofía, cree. “Hacen falta perfiles humanísticos en las grandes compañías tecnológicas, pero cada vez hay más, quizás no tantos en mi época”, afirma Marco Baroni, que reconoce que estamos viviendo un momento impresionante con la explosión de las inteligencias artificiales generativas, como las de OpenAI, pero ni mucho menos aterrador. “Son muy útiles”. Aunque, por si acaso, “yo intento ser muy educado cuando hablo con ChatGPT, aunque sólo sea para entrenarla correctamente”, bromea Baroni.