Dentro de la deposición que mostró cómo OpenAI casi se destruyó a sí misma

En resumen

• Ilya Sutskever preparó un caso de 52 páginas contra Sam Altman basado casi en su totalidad en afirmaciones no verificadas de una fuente: la CTO Mira Murati
• OpenAI estuvo a pocos días de fusionarse con el competidor Anthropic durante la crisis, con la miembro de la junta Helen Toner argumentando que destruir la empresa podría ser “consistente con la misión”
• La junta fue “apresurada” y “inexperta,” según el propio Ilya, quien había estado planeando la destitución de Altman durante al menos un año mientras esperaba una dinámica favorable en la junta.

El Hub de Arte, Moda y Entretenimiento de Decrypt.

Descubre SCENE

<br>

Ilya Sutskever estuvo casi 10 horas dando testimonio en video en la demanda Musk contra Altman, el 1 de octubre de este año.

El cofundador que ayudó a construir ChatGPT y se volvió infame por votar para despedir a Sam Altman en noviembre de 2023 finalmente estuvo bajo juramento y obligado a responder. La transcripción de 365 páginas fue publicada esta semana.

Lo que revela es un retrato de brillantes científicos tomando decisiones de gobernanza catastróficas, alegaciones no verificadas tratadas como hechos, y divisiones ideológicas tan profundas que algunos miembros de la junta preferían destruir OpenAI en lugar de dejar que continuara bajo el liderazgo de Altman.

La demanda Musk v. Altman se centra en la afirmación de Elon Musk de que OpenAI y su CEO, Altman, traicionaron la misión original sin fines de lucro de la empresa al convertir su investigación en una empresa con fines de lucro alineada con Microsoft, lo que plantea preguntas de alto riesgo sobre quién controla los modelos avanzados de IA y si pueden desarrollarse de manera segura en interés público.

Para aquellos que siguen el drama de OpenAI, el documento es una lectura reveladora y condenatoria. Es un estudio de caso sobre cómo las cosas salen mal cuando el genio técnico se encuentra con la incompetencia organizacional.

Aquí están las cinco revelaciones más significativas.

1. El dosier de 52 páginas que el público no ha visto

Sutskever escribió un extenso caso para destituir a Altman, completo con capturas de pantalla, y organizado en un informe de 52 páginas.

Sutskever testificó que dijo explícitamente en el memorando: “Sam exhibe un patrón consistente de mentir, socavar a sus ejecutivos y enfrentar a sus ejecutivos entre sí.”

Envió el memorando a los directores independientes utilizando tecnología de correo electrónico que desaparece “porque estaba preocupado de que esos memorandos de alguna manera se filtraran.” El informe completo no ha sido producido a través del descubrimiento.

“El contexto de este documento es que los miembros independientes de la junta me pidieron que lo preparara. Y lo hice. Y fui bastante cuidadoso,” testificó Sutskever, diciendo que partes del memo existen en capturas de pantalla hechas por la CTO de OpenAI, Mira Murati.

2. Un juego de ajedrez de un año

Cuando se le preguntó cuánto tiempo había estado considerando despedir a Altman, Sutskever respondió: “Al menos un año.”

Al preguntarle qué dinámicas estaba esperando, dijo: “Que la mayoría de la junta no es obviously amigable con Sam.”

Un CEO que controla la composición de la junta es funcionalmente intocable. El testimonio de Sutskever muestra que entendió esto perfectamente y ajustó su estrategia en consecuencia.

Cuando las salidas de los miembros de la junta crearon esa vacante, él se movió. Estaba jugando a la política a largo plazo en la junta, a pesar de lo cercanos que parecían públicamente Altman y Sutskever.

3. El fin de semana OpenAI casi desapareció

El sábado 18 de noviembre de 2023—dentro de las 48 horas posteriores a la destitución de Altman—hubo discusiones activas sobre la fusión de OpenAI con Anthropic.

Helen Toner, una exmiembro de la junta de OpenAI, fue “la más comprensiva” de esta dirección, según Sutskever.

Si la fusión hubiera ocurrido, OpenAI habría dejado de existir como una entidad independiente.

“No sé si fue Helen quien se puso en contacto con Anthropic o si Anthropic se puso en contacto con Helen,” testificó Sutskever. “Pero se pusieron en contacto con una propuesta de fusionarse con OpenAI y asumir su liderazgo.”

Sutskever dijo que estaba “muy descontento por ello,” añadiendo más tarde que “realmente no quería que OpenAI se fusionara con Anthropic.”

4. “Destruir OpenAI podría ser coherente con la misión”

Cuando los ejecutivos de OpenAI advirtieron que la empresa colapsaría sin Altman, Toner respondió que destruir OpenAI podría ser coherente con su misión de seguridad.

Este es el corazón ideológico de la crisis. Toner representaba una corriente de pensamiento sobre la seguridad de la IA que considera el rápido desarrollo de la IA como peligrosamente existencial—potencialmente más peligroso que no desarrollar IA en absoluto.

“Los ejecutivos—fue una reunión con los miembros de la junta y el equipo ejecutivo—los ejecutivos le dijeron a la junta que, si Sam no regresa, entonces OpenAI será destruido, y eso es inconsistente con la misión de OpenAI,” testificó Sutskever. “Y Helen Toner dijo algo en el sentido de que es consistente, pero creo que lo dijo incluso de manera más directa que eso.”

Si realmente creías que OpenAI presentaba riesgos que superaban sus beneficios, entonces una inminente revuelta de empleados era irrelevante. La declaración ayuda a explicar por qué la junta se mantuvo firme incluso cuando más de 700 empleados amenazaron con irse.

5. Errores de cálculo: Una fuente para todo, una junta inexperta y lealtad del personal casi religiosa

Casi todo en el memo de 52 páginas de Sutskever provino de una persona: Mira Murati.

No verificó las afirmaciones con Brad Lightcap, Greg Brockman u otros ejecutivos mencionados en las quejas. Confió completamente en Murati, y la verificación “no se le ocurrió (a él).”

“Yo creía plenamente la información que Mira me estaba dando,” dijo Sutskever. “En retrospectiva, me doy cuenta de que no lo sabía. Pero en ese momento, pensé que lo sabía. Pero lo sabía a través del conocimiento de oídas.”

Cuando se le preguntó sobre el proceso de la junta, Sutskever fue directo sobre lo que salió mal.

“Una cosa que puedo decir es que el proceso fue apresurado,” testificó. “Creo que fue apresurado porque la junta era inexperta.”

Sutskever también esperaba que los empleados de OpenAI fueran indiferentes a la destitución de Altman.

Cuando 700 de 770 empleados firmaron una carta exigiendo el regreso de Altman y amenazando con irse a Microsoft, él se sorprendió genuinamente. Había subestimado fundamentalmente la lealtad de la fuerza laboral y el aislamiento de la junta de la realidad organizacional.

“No esperaba que aplaudieran, pero tampoco esperaba que se sintieran tan fuertemente de ninguna manera,” dijo Sutskever.