Di Dalam Deposition yang Menunjukkan Bagaimana OpenAI Hampir Menghancurkan Dirinya Sendiri

Secara singkat

• Ilya Sutskever menyiapkan kasus sepanjang 52 halaman melawan Sam Altman yang hampir sepenuhnya berdasarkan klaim yang tidak terverifikasi dari satu sumber—CTO Mira Murati
• OpenAI hampir saja bergabung dengan pesaingnya, Anthropic, dalam krisis tersebut, dengan anggota dewan Helen Toner berpendapat bahwa menghancurkan perusahaan bisa “sesuai dengan misi”
• Dewan dianggap “terburu-buru” dan “kurang pengalaman,” menurut Ilya sendiri, yang telah merencanakan pemecatan Altman selama setidaknya setahun sambil menunggu dinamika dewan yang menguntungkan.

Pusat Seni, Mode, dan Hiburan Decrypt.

Temukan SCENE

<br>

Ilya Sutskever duduk selama hampir 10 jam untuk kesaksian yang direkam video dalam gugatan Musk v. Altman, kembali pada 1 Oktober tahun ini.

Kekasih yang membantu membangun ChatGPT dan menjadi terkenal karena memberikan suara untuk memecat Sam Altman pada November 2023 akhirnya di bawah sumpah dan dipaksa untuk menjawab. Transkrip sepanjang 365 halaman dirilis minggu ini.

Apa yang terungkap adalah potret ilmuwan brilian yang membuat keputusan pemerintahan yang bencana, tuduhan yang tidak terverifikasi diperlakukan sebagai fakta, dan perpecahan ideologis yang sedemikian dalam sehingga beberapa anggota dewan lebih memilih menghancurkan OpenAI daripada membiarkannya terus di bawah kepemimpinan Altman.

Gugatan Musk v. Altman berfokus pada klaim Elon Musk bahwa OpenAI dan CEO-nya, Altman, mengkhianati misi nonprofit asli perusahaan dengan mengubah penelitiannya menjadi usaha profit yang sejalan dengan Microsoft—menimbulkan pertanyaan penting mengenai siapa yang mengendalikan model AI canggih dan apakah mereka dapat dikembangkan dengan aman demi kepentingan publik.

Bagi mereka yang mengikuti drama OpenAI, dokumen ini adalah bacaan yang membuka mata dan mengecewakan. Ini adalah studi kasus tentang bagaimana segalanya berjalan salah ketika kecerdasan teknis bertemu dengan ketidakmampuan organisasi.

Berikut adalah lima pengungkapan yang paling signifikan.

1. Dossier 52 halaman yang belum dilihat publik

Sutskever menulis sebuah kasus yang luas untuk mengeluarkan Altman, lengkap dengan tangkapan layar, dan disusun dalam sebuah dokumen sepanjang 52 halaman.

Sutskever bersaksi bahwa dia secara eksplisit mengatakan dalam memo: “Sam menunjukkan pola berbohong yang konsisten, merusak eksekutifnya, dan memecah belah eksekutifnya satu sama lain.”

Dia mengirim memo kepada direktur independen menggunakan teknologi email menghilang “karena saya khawatir bahwa memo tersebut akan bocor entah bagaimana.” Ringkasan lengkapnya belum diproduksi melalui penemuan.

“Konteks untuk dokumen ini adalah bahwa anggota dewan independen meminta saya untuk menyiapkannya. Dan saya melakukannya. Dan saya cukup hati-hati,” Sutskever bersaksi, mengatakan bahwa bagian-bagian dari memo tersebut ada dalam tangkapan layar yang dibuat oleh CTO OpenAI, Mira Murati.

2. Sebuah permainan catur papan selama setahun

Ketika ditanya sudah berapa lama dia mempertimbangkan untuk memecat Altman, Sutskever menjawab: “Setidaknya setahun.”

Ditanya apa dinamika yang dia tunggu, dia berkata: “Bahwa mayoritas dewan tidak jelas bersahabat dengan Sam.”

Seorang CEO yang mengendalikan komposisi dewan secara fungsional tidak tersentuh. Kesaksian Sutskever menunjukkan bahwa dia memahami hal ini dengan sempurna dan menyesuaikan strateginya sesuai.

Ketika pengunduran diri anggota dewan menciptakan kesempatan itu, dia bergerak. Dia sedang memainkan politik dewan jangka panjang, meskipun seberapa dekat Altman dan Sutskever terlihat di depan umum.

3. Akhir pekan OpenAI hampir menghilang

Pada hari Sabtu, 18 November 2023—dalam waktu 48 jam setelah pemecatan Altman—terdapat diskusi aktif tentang penggabungan OpenAI dengan Anthropic.

Helen Toner, mantan anggota dewan OpenAI, adalah “yang paling mendukung” arah ini, menurut Sutskever.

Jika merger tersebut terjadi, OpenAI akan berhenti ada sebagai entitas independen.

“Saya tidak tahu apakah Helen yang menghubungi Anthropic atau apakah Anthropic yang menghubungi Helen,” kesaksian Sutskever. “Tapi mereka menghubungi dengan proposal untuk digabungkan dengan OpenAI dan mengambil alih kepemimpinannya.”

Sutskever mengatakan bahwa dia “sangat tidak senang tentang itu,” menambahkan kemudian bahwa dia “sangat tidak ingin OpenAI bergabung dengan Anthropic.”

4. “Menghancurkan OpenAI bisa sejalan dengan misi”

Ketika para eksekutif OpenAI memperingatkan bahwa perusahaan akan runtuh tanpa Altman, Toner menjawab bahwa menghancurkan OpenAI bisa konsisten dengan misi keselamatannya.

Ini adalah inti ideologis dari krisis. Toner mewakili satu aliran pemikiran keamanan AI yang menganggap perkembangan AI yang cepat sebagai berbahaya secara eksistensial—berpotensi lebih berbahaya daripada tidak ada perkembangan AI sama sekali.

“Para eksekutif—itu adalah pertemuan dengan anggota dewan dan tim eksekutif—para eksekutif mengatakan kepada dewan bahwa, jika Sam tidak kembali, maka OpenAI akan hancur, dan itu tidak konsisten dengan misi OpenAI,” Sutskever bersaksi. “Dan Helen Toner mengatakan sesuatu yang sejalan, tetapi saya pikir dia mengatakannya bahkan lebih langsung dari itu.”

Jika Anda benar-benar percaya bahwa OpenAI menimbulkan risiko yang melebihi manfaatnya, maka revolusi karyawan yang tertunda menjadi tidak relevan. Pernyataan tersebut membantu menjelaskan mengapa dewan tetap teguh meskipun lebih dari 700 karyawan mengancam untuk pergi.

5. Kesalahan perhitungan: Satu sumber untuk segala sesuatu, dewan yang tidak berpengalaman dan loyalitas tenaga kerja yang seperti kultus

Hampir semua yang ada di memo 52 halaman Sutskever berasal dari satu orang: Mira Murati.

Dia tidak memverifikasi klaim dengan Brad Lightcap, Greg Brockman, atau eksekutif lain yang disebutkan dalam pengaduan. Dia sepenuhnya mempercayai Murati, dan verifikasi “tidak terlintas di (him).”

“Saya sepenuhnya percaya pada informasi yang diberikan Mira kepada saya,” kata Sutskever. “Sekarang saya menyadari bahwa saya tidak mengetahuinya. Tapi saat itu, saya pikir saya mengetahuinya. Tapi saya mengetahuinya melalui pengetahuan dari orang lain.”

Ketika ditanya tentang proses dewan, Sutskever dengan jelas menyatakan apa yang salah.

“Satu hal yang dapat saya katakan adalah bahwa prosesnya tergesa-gesa,” dia bersaksi. “Saya pikir itu tergesa-gesa karena dewan tidak berpengalaman.”

Sutskever juga mengharapkan karyawan OpenAI bersikap acuh tak acuh terhadap penghilangan Altman.

Ketika 700 dari 770 karyawan menandatangani surat yang menuntut kembalinya Altman dan mengancam akan pindah ke Microsoft, dia benar-benar terkejut. Dia telah secara fundamental salah menghitung loyalitas tenaga kerja dan isolasi dewan dari realitas organisasi.

“Saya tidak mengharapkan mereka bersorak, tetapi saya juga tidak mengharapkan mereka merasa kuat di salah satu sisi,” kata Sutskever.