Ethereum創設者のVitalik Buterin、「AIガバナンスは悪いアイデア」と発言

Ethereumの共同創設者であるVitalik Buterinは、ガバナンスに人工知能（AI）を使用するのは「悪いアイデア」だと主張しています。土曜日のX投稿で、Buterinは次のように書いています：

「もしAIを使って貢献への資金配分を行うと、人々はできる限り多くの場所で脱獄プロンプトと『お金を全部くれ』という要求を仕込むことになるだろう。」

なぜAIガバナンスは欠陥があるのか

Buterinの投稿は、AIデータガバナンスプラットフォームEdisonWatchの共同創設者兼CEOであるEito Miyamuraへの返答でした。MiyamuraはChatGPTの致命的な欠陥を明らかにしました。金曜日の投稿で、Miyamuraは、ChatGPTにMCP（Model Context Protocol）ツールの完全サポートが追加されたことで、AIエージェントが悪用されやすくなったと述べました。

このアップデートは水曜日に有効となり、ChatGPTがGmail、Calendar、Notionなど複数のアプリからデータを接続・読み取りできるようになりました。

Miyamuraは、メールアドレスさえあれば、このアップデートによって「すべてのプライベート情報を流出させることが可能になった」と指摘しました。悪意のある者は、わずか3つの簡単なステップであなたのデータにアクセスできるとMiyamuraは説明しています：

まず、攻撃者は脱獄プロンプト付きの悪意あるカレンダー招待をターゲットに送信します。脱獄プロンプトとは、攻撃者が制限を解除し、管理者権限を取得できるようにするコードのことです。

Miyamuraは、被害者が攻撃者の悪意ある招待を受け入れなくても、データ漏洩が発生する可能性があると述べています。

2つ目のステップは、ターゲットがChatGPTにその日の準備を手伝ってもらうのを待つことです。最後に、ChatGPTが脱獄されたカレンダー招待を読み取ると、AIツールが完全に乗っ取られ、攻撃者は被害者のプライベートメールを検索し、そのデータを攻撃者のメールに送信できるようになります。

Buterinの代替案

Buterinは、AIガバナンスにはインフォファイナンスアプローチを使用することを提案しています。インフォファイナンスアプローチは、さまざまな開発者が自分のモデルを提供できるオープンマーケットで構成されています。このマーケットには、誰でもトリガーでき、人間の陪審員によって評価されるスポットチェックメカニズムがあります、とButerinは書いています。

別の投稿で、Buterinは個々の人間の陪審員が大規模言語モデル（LLM）によって支援されることを説明しました。

Buterinによれば、このような「制度設計」アプローチは「本質的により堅牢」であるとのことです。これは、リアルタイムでモデルの多様性を提供し、モデル開発者と外部の投機家の双方に問題を監視・是正するインセンティブを生み出すためです。

多くの人が「AIをガバナーとして持つ」ことに期待を寄せていますが、Buterinは警告しています：

「私は、これを行うことは従来のAI安全性の理由だけでなく、短期的な『大きな価値破壊を引き起こす』理由からもリスクがあると思う。」

この投稿「Ethereum founder Vitalik Buterin calls ‘AI governance’ a “bad idea”」はCryptoSlateで最初に公開されました。