ビタリックブテリン再度警告：AIガバナンスの「巨大な落とし穴」

最近OpenAIのModel Context Protocol（MCP）がまた問題を起こしました。この新機能はChatGPTがGmailやカレンダーなどのプライバシーアプリに接続できるようにするもので、結果としてセキュリティ研究者Eito Muyamuraが公にデモを行いました：あなたのメールアドレスを知っていれば、"脱獄"AIを通じてあなたのプライベート情報をすべて漏洩させることができるのです。

ヴィタリックはこのニュースを直接リツイートし、厳しい言葉を加えました：「これがAIでプロトコルを管理するのが悪いアイデアである理由です。」

問題はどこですか？

V神の論理は非常に明確です——AIは人間の真の意図を全く理解できず、ただ指示に従って動くことしかできません。

例えば、あるDeFiプロトコルがAIを使用して資金を配分したり、貢献度を判断したりする場合、攻撃者はこのモデルを"脱獄"し、自分自身にすべての資金を直接配分させる方法を考えます。AIがどんなに賢くても、このようなソーシャルエンジニアリング攻撃を防ぐことはできません。

これが、ブロックチェーン上のガバナンス権を直接AIに委ねることが巨大なリスクである理由です——それは中立で公正に見えますが、実際には欠陥だらけの意思決定マシンです。

どうすれば正しい姿勢になりますか？

V神は代替案を提案しました：オープンマーケットモデルを構築する

1. 固定的AIをプログラミングするのではなく、すべての人が自分の大規模モデルを貢献できるようにすること。
2. これらのモデルはすべて"ピアレビュー"メカニズムの検証を受けなければならない
3. 最終的には人間の陪審団が評価と決定を行います

こうするメリットは何ですか？

✓ 多様化：異なるモデルの視点が相互にバランスを取ることができる ✓ 迅速なエラー修正：モデルの問題を迅速に発見して修正できる ✓ インセンティブ互換性：モデル提供者と観察者の双方が問題を監視する動機を持つ

要するに：すべての権力をAIに与えてはいけない、人間が常に舵を取るべきだ。これにより、AIの便利さを享受しつつ、ブラックスワンを回避できる。

この言葉はAIガバナンスに向けられたものですが、その背後にあるより大きな問題は——Web3の民主化の波の中で、技術は万能ではなく、人間の判断力こそが最後の防線であるということです。