Días de caos y drama en OpenAI: el despido de Altman por el consejo destapa desacuerdos ideológicos sobre la seguridad de la IA

Puedes ser el primer líder tecnológico que ha logrado que más de un millón de personas se suscriban a su producto en cinco días, y aún así que el consejo de OpenAI, tu compañía, te despida por sorpresa y vía videoconferencia. O más aún, que luego intenten dar marcha atrás, mientras 700 empleados dicen que se van contigo, y te encuentres pensando irte con tu principal inversor. Es lo que le está pasando a Sam Altman, el ya ex director ejecutivo de la compañía de ChatGPT, desde un fin de semana tumultuoso que será recordado en Silicon Valley, y que ha destapado dos visiones ideológicas enfrentadas en torno a la IA.

El jueves por la noche, Altman recibió un mensaje de texto de Ilya Sutskever, científico jefe de OpenAI y otro de sus fundadores, en el que le citaba a la fatídica videoconferencia del día siguiente. En ese Google Meet estaba todo el consejo de OpenAI, menos su presidente, Greg Brockman, otro de los fundadores, al que despidieron en otra reunión minutos más tarde, aunque sólo de su puesto como presidente del consejo y no como empleado. Sólo una persona en la compañía además de la junta estaba al tanto, y por una razón fundamental: Mira Murati, jefa tecnológica de OpenAI, era la mujer que el consejo había elegido para asumir temporalmente el puesto de Altman. 

El comunicado publicado por OpenAI en su web sorprendió por su dureza. Dicen que han perdido la confianza en él y que no ha sido consistentemente sincero en sus comunicaciones con el consejo, lo que obstaculiza su capacidad para ejercer sus responsabilidades. Nada se dice allí de lo que Altman habría ocultado al consejo de OpenAI, ni sobre las causas del despido de Brockman, quien presentó su renuncia como empleado unas horas más tarde. 

Los rumores y especulaciones se dispararon en Silicon Valley. El sábado, Microsoft, que se ha mantenido al margen, y sólo ha anunciado su apoyo tanto al acuerdo con OpenAI como a Altman, anunció un plan para ficharle junto con Brockman y otras personas del equipo para crear una división de investigación. El movimiento ganador de Satya Nadella le permitiría contratar uno de los equipos más exitosos en IA sin tener que comprar la compañía. OpenAI el mismo día nombró a Emmett Shear, cofundador de Twitch, nuevo CEO interino reemplazando a Murati. 

El lunes 700 de los 770 empleados de OpenAI firmaron una carta para el consejo de OpenAI en la que prometen dejar la compañía para irse a Microsoft si Altman no es recolocado en su puesto. Sutskever estaba entre los firmantes, tras arrepentirse públicamente de su participación en las acciones del consejo de OpenAI.

En momentos de publicar este artículo, la dirección de OpenAI se encuentra negociando con Altman, Shear y el consejo para estabilizar la situación, según un documento interno revisado por Bloomberg y firmado por la vicepresidenta de Asuntos Globales de OpenAI, Anna Makanju. 

El consejo de OpenAI vs. la startup y Sam Altman

Gran parte de la explicación a estos sucesos pueden encontrarse en la historia de OpenAI, que fue creada expresamente por varios líderes en la industria de la IA preocupados por la futura evolución de esta tecnología, sobre todo si podía terminar en lo que en la compañía consideran AGI (inteligencia artificial general). Esto sería, según ellos, una inteligencia artificial lo suficientemente avanzada como para superar a cualquier persona en “el trabajo económicamente más valioso”. 

En 2015 crearon OpenAI como un laboratorio sin fines de lucro que tenía como principal objetivo “beneficiar a la humanidad en su conjunto”, y sin rodeos escribieron en sus estatutos que “el principal deber fiduciario de OpenAI es para con la humanidad», no para con los inversores ni siquiera para con los empleados. 

☷
Sin voces críticas ni mujeres

Así es el nuevo consejo de OpenAI

Pero este plan no les duró mucho. Tras el desarrollo de GPT-2, sus directivos consideraron que esos 1.000 millones de dólares iniciales no les serían suficientes para competir contra Google y Meta y anunciaron una particular reestructuración para ir a un modelo de “beneficios máximos” (capped-profit) en el que ahora sí, tenían fines de lucro y podían conseguir inversión, como la que se aseguraron por parte de Microsoft, sólo dos meses después, y que alcanza a día de hoy los 13.000 millones de dólares. 

Mientras Altman se convirtió en un poster child, símbolo del líder innovador exitoso orientado hacia la productividad, la entidad OpenAI sin ánimo de lucro original permanece como una especie de supervisor para mantener la misión de aquella nueva empresa. A diferencia de los consejos de administración tradicionales, el de OpenAI está formado en su mayor parte por personas ajenas a la compañía. Tras la marcha de Brockman, los miembros restantes son Sutskever; el consejero delegado de Quora, Adam D’Angelo; Tasha McCauley, antigua consejera delegada de GeoSim Systems; y Helen Toner, directora de estrategia del Centro de Seguridad y Tecnologías Emergentes de Georgetown.

Grietas ideológicas en la pugna por la IA

Un año después, el experimento ha mostrado sus costuras. Tras ChatGPT, y la carrera por  los ingresos que impulsó su lanzamiento, las fisuras ideológicas entre esas dos partes se han abierto, según varios medios que hablaron con los empleados de OpenAI, entre ellos The New York Times, y The Atlantic. 

Mientras Altman no dejaba de anunciar nuevos productos, tras el lanzamiento de GPT-4 Sutskever formó un equipo dentro de la compañía para asegurar que las futuras versiones de ChatGPT no harán daño a la humanidad. Anteriormente, otros empleados de OpenAI han salido de la empresa tras desacuerdos sobre la seguridad de los productos, como Dario Amodei y otros que en 2021 fundaron Anthropic, un rival de OpenAI cuya misión es construir una IA más segura. 

Incluso Elon Musk, otro de los fundadores, cuando dejó el consejo de OpenAI en 2018 dijo estar preocupado por la forma en que la compañía priorizaba la seguridad. Así la pugna estaría entre Altman, empujando por lanzar productos rápidamente, y quienes en la junta creen que, dado el gran peligro que representa la AGI, estos lanzamientos deberían ralentizarse y ser evaluados rigurosamente antes de ponerlos en manos del público. 

Dos de sus integrantes pertenecen al movimiento del altruismo efectivo, una filosofía que sostiene que la IA superará a los humanos en inteligencia y que el destino de la humanidad dependerá de eso. 
Shear, el último CEO nombrado, también con vínculos con el altruismo efectivo, había apoyado anteriormente una “ralentización” de la IA para garantizar que sea segura.

Sin embargo, tras aceptar el puesto, publicó en X que el consejo de OpenAI no ha quitado a Altman por ningún desacuerdo específico sobre seguridad. “No estoy tan loco como para aceptar este puesto sin el apoyo del consejo de OpenAI para comercializar nuestros increíbles modelos”, apostilla. OpenAI no se ha referido a este tema ni ha dado más motivos de la ruptura.