Vitalik Buterin tekrar uyarıyor: AI yönetiminin "büyük bir tuzağı"

Son zamanlarda OpenAI'nin Model Context Protocol (MCP) tekrar sorun çıkardı. Bu yeni özellik, ChatGPT'nin Gmail, takvim gibi gizlilik uygulamalarına bağlanmasını sağlıyordu, ancak güvenlik araştırmacısı Eito Muyamura, herkesin önünde gösterdi: Sadece e-posta adresinizi bilmek yeterli, “jailbreak” AI ile tüm özel bilgilerinizi sızdırabiliyor.

Vitalik bu haberi doğrudan paylaştı ve üzerine ağır bir söz ekledi: “İşte bu yüzden protokolleri yönetmek için AI kullanmanın kötü bir fikir olduğunu düşünüyorum.”

Sorun nerede?

V'nin mantığı oldukça net — AI insanların gerçek niyetlerini hiç anlamaz, sadece verilen talimatlarla yönlendirilir.

Bir örnek vermek gerekirse: Eğer bir DeFi protokolü, fonları dağıtmak veya katkı seviyesini değerlendirmek için AI kullanıyorsa, saldırganlar bu modeli “hapisten kaçırmanın” bir yolunu bulacaklar ve fonların tamamını kendilerine doğrudan dağıtmasını sağlayacaklar. AI ne kadar akıllı olursa olsun, bu tür sosyal mühendislik saldırılarını engelleyemez.

İşte bu yüzden, zincir üzerindeki yönetişim yetkisini doğrudan AI'ye vermek büyük bir risk taşıyor - görünüşte tarafsız ve adil, aslında ise birçok açığı olan bir karar makinesi.

Doğru duruş nedir?

V Tanrı bir alternatif önerdi: Açık piyasa modeli oluşturmak

1. Bir AI'yi katı bir şekilde programlamak yerine, herkesin kendi büyük modele katkıda bulunabileceği bir ortam yaratmak.
2. Bu modeller “eşdeğer değerlendirme” mekanizmasına tabi tutulmalıdır.
3. Nihai olarak insan jüri tarafından değerlendirilip karar verilecektir.

Bunu yapmanın faydası nedir?

✓ Çeşitlilik: Farklı model bakış açıları birbirini dengeleyebilir. ✓ Hızlı Hata Düzeltme: Modelde bir sorun olduğunda hızlıca tespit edilip düzeltilebilir. ✓ Teşvik Uyumu: Model sağlayıcıları ve gözlemcilerin sorunları denetlemek için motivasyonu vardır.

Açıkça söylemek gerekirse: Tüm gücü AI'ye vermeyin, insanın her zaman dümen tutmasına izin verin. Bu, AI'nin sağladığı kolaylıklardan yararlanmayı sağlar ve kara kuğulardan kaçınır.

Bu sözler AI yönetimine yönelik olsa da, arkasında yatan daha büyük sorun şudur - Web3'ün demokratikleşme dalgasında, teknoloji her şey değildir, insanın yargı gücü son savunma hattıdır.