Dentro de la declaración que mostró cómo OpenAI casi se autodestruyó

Ilya Sutskever asistió a casi 10 horas de testimonio grabado en video en la demanda Musk v. Altman el 1 de octubre de este año.

El cofundador que ayudó a construir ChatGPT y se hizo famoso por votar para despedir a Sam Altman en noviembre de 2023 finalmente prestó juramento y se vio obligado a responder. La transcripción de 365 páginas se publicó esta semana.

Lo que revela es un retrato de científicos brillantes que toman decisiones de gobernanza catastróficas, acusaciones no verificadas tratadas como hechos y divisiones ideológicas tan profundas que algunos miembros de la junta decidieron destruir OpenAI en lugar de dejar que continúe bajo el liderazgo de Altman.

EL Musk contra Altman La demanda se centra en la afirmación de Elon Musk de que OpenAI y su director ejecutivo, Altman, traicionaron la misión original de la compañía sin fines de lucro al convertir su investigación en una empresa con fines de lucro alineada con Microsoft, planteando preguntas de alto riesgo sobre quién controla los modelos avanzados de inteligencia artificial y si pueden desarrollarse de manera segura en interés público.

Para quienes siguen el drama de OpenAI, el documento es una lectura reveladora y condenatoria. Es un estudio de caso sobre cómo las cosas van mal cuando el genio técnico se encuentra con la incompetencia organizacional.

Aquí están las cinco revelaciones más importantes.

1. El expediente de 52 páginas que el público no ha visto

Sutskever escribió un extenso caso para la destitución de Altman, completo con capturas de pantalla y organizado en un informe de 52 páginas.

Sutskever testificó que declaró explícitamente en el memorando: «Sam muestra un patrón constante de mentira, socavando a sus ejecutivos y enfrentando a sus ejecutivos entre sí».

Envió el memorando a los directores independientes utilizando tecnología de correo electrónico en decadencia «porque me preocupaba que esos memorandos pudieran filtrarse de alguna manera». El informe completo no se produjo mediante descubrimiento.

«El contexto de este documento es que los miembros independientes de la junta me pidieron que lo preparara. Y lo hice. Y fui muy cuidadoso», testificó Sutskever, diciendo que partes del memorando existen en capturas de pantalla tomadas por la CTO de OpenAI, Mira Murati.

2. Una partida de ajedrez de mesa que dura un año

Cuando se le preguntó cuánto tiempo llevaba planeando despedir a Altman, Sutskever respondió: «Al menos un año».

Cuando se le preguntó qué dinámica esperaba, dijo: «Que la mayoría de la junta directiva obviamente no es amigable con Sam».

Un director ejecutivo que controla la composición de la junta directiva es funcionalmente intocable. El testimonio de Sutskever demuestra que lo entendió perfectamente y adaptó su estrategia en consecuencia.

Cuando las salidas de los miembros de la junta crearon esa oportunidad, él se movió. Estaba jugando a la política a largo plazo, a pesar de lo cercanos que Altman y Sutskever parecían públicamente.

3. El fin de semana de OpenAI casi ha desaparecido

El sábado 18 de noviembre de 2023, 48 horas después del despido de Altman, hubo discusiones activas sobre la fusión de OpenAI con Anthropic.

Según Sutskever, Helen Toner, ex miembro de la junta directiva de OpenAI, «apoyó mucho» esta dirección.

Si se hubiera producido la fusión, OpenAI habría dejado de existir como entidad independiente.

«No sé si Helen se puso en contacto con Anthropic o si Anthropic se puso en contacto con Helen», testificó Sutskever. «Pero propusieron fusionarse con OpenAI y asumir el liderazgo».

Sutskever dijo que estaba «muy descontento» y luego agregó que «realmente no quería que OpenAI se fusionara con Anthropic».

4. “Destruir OpenAI podría ser coherente con la misión”

Cuando los ejecutivos de OpenAI advirtieron que la empresa colapsaría sin Altman, Toner respondió que destruir OpenAI podría ser coherente con su misión de seguridad.

Éste es el corazón ideológico de la crisis. Toner representó una corriente de pensamiento sobre la seguridad de la IA que considera que el rápido desarrollo de la IA es existencialmente peligroso, potencialmente más peligroso que ningún desarrollo de IA.

«Los ejecutivos (esta fue una reunión con los miembros de la junta y el equipo ejecutivo) le dijeron a la junta que si Sam no regresa, OpenAI será destruido, y eso es inconsistente con la misión de OpenAI», testificó Sutskever. «Y Helen Toner dijo algo en el sentido de que era coherente, pero creo que lo dijo aún más directamente».

Si uno creía sinceramente que OpenAI conllevaba riesgos que superaban sus beneficios, entonces una revuelta pendiente de los empleados era irrelevante. La declaración ayuda a explicar por qué la junta se mantuvo firme incluso cuando más de 700 empleados amenazaron con irse.

5. Errores de cálculo: una fuente para todo, una junta directiva sin experiencia y una lealtad laboral de culto

Casi todo lo que aparece en el memorando de 52 páginas de Sutskever provino de una sola persona: Mira Murati.

No verificó las afirmaciones con Brad Lightcap, Greg Brockman u otros ejecutivos nombrados en las quejas. Confiaba plenamente en Murati y la verificación «no se le ocurrió».

«Creía plenamente la información que Mira me estaba dando», dijo Sutskever. «En retrospectiva, me doy cuenta de que no lo sabía. Pero luego pensé que lo sabía. Pero lo sabía a través de conocimiento de segunda mano».

Cuando se le preguntó sobre el proceso del consejo, Sutskever fue directo acerca de lo que salió mal.

«Una cosa que puedo decir es que el proceso fue apresurado», testificó. «Creo que se apresuró porque la junta directiva no tenía experiencia».

Sutskever también esperaba que los empleados de OpenAI fueran indiferentes a la destitución de Altman.

Cuando 700 de 770 empleados firmaron una carta exigiendo el regreso de Altman y amenazando con irse a Microsoft, se sorprendió genuinamente. Básicamente había calculado mal la lealtad de la fuerza laboral y el aislamiento de la junta directiva de la realidad organizacional.

«No esperaba que aplaudieran, pero tampoco esperaba que se sintieran con fuerza en cualquier sentido», dijo Sutskever.