Vitalik Buterin kembali memperingatkan: "lubang besar" dalam pengelolaan AI

Baru-baru ini, Model Context Protocol (MCP) OpenAI mengalami masalah lagi. Fitur baru ini memungkinkan ChatGPT terhubung dengan aplikasi privasi seperti Gmail dan kalender, namun hasilnya diperagakan secara publik oleh peneliti keamanan Eito Muyamura: asalkan mengetahui alamat email Anda, semua informasi pribadi Anda dapat dibocorkan melalui “jailbreak” AI.

Vitalik melihat berita ini dan langsung转发, serta menambahkan kalimat serius: “Inilah sebabnya mengapa menggunakan AI untuk mengelola protokol adalah ide yang buruk.”

Di mana masalahnya?

Logika V sangat jelas—AI sama sekali tidak mengerti niat sebenarnya manusia, hanya akan diarahkan oleh perintah-perintah satu per satu.

Sebagai contoh: jika suatu protokol DeFi menggunakan AI untuk mengalokasikan dana atau menilai kontribusi, penyerang akan mencari cara untuk “melarikan diri” dari model ini, sehingga ia langsung mengalokasikan semua dana untuk dirinya sendiri. Sekuat apapun AI, ia tidak dapat menghentikan jenis serangan rekayasa sosial ini.

Inilah mengapa menyerahkan kekuasaan tata kelola di blockchain langsung kepada AI memiliki risiko besar - ia terlihat netral dan adil, tetapi sebenarnya adalah mesin pengambil keputusan yang penuh dengan celah.

Bagaimana sikap yang benar?

V神 mengusulkan sebuah alternatif: membangun model pasar terbuka

1. Bukan hanya memprogram AI secara kaku, tetapi memungkinkan semua orang untuk berkontribusi pada model besar mereka.
2. Model-model ini harus menjalani pemeriksaan mekanisme “peer review”.
3. Akhirnya, juri manusia akan mengevaluasi dan mengambil keputusan.

Apa manfaat melakukan ini?

✓ Diversifikasi: Berbagai perspektif model dapat saling menyeimbangkan ✓ Perbaikan Cepat: Model dapat menemukan dan memperbaiki masalah dengan cepat ✓ Insentif yang Kompatibel: Penyedia model dan pengamat memiliki dorongan untuk mengawasi masalah.

Singkatnya: jangan serahkan semua kekuasaan kepada AI, biarkan manusia tetap mengemudikan. Ini memungkinkan kita untuk menikmati kenyamanan AI dan menghindari angsa hitam.

Meskipun pernyataan ini ditujukan untuk pengelolaan AI, masalah yang lebih besar yang tercermin di baliknya adalah—dalam gelombang demokratisasi Web3, teknologi bukanlah segalanya, kemampuan penilaian manusia adalah garis pertahanan terakhir.