イーサリアムの創設者、ヴィタリック・ブテリンは、人工知能に関連する危険性についての高まる議論に対する彼の視点を共有しました(IA)。

今回は、ロシア系カナダ人の開発者が、プロジェクトエディソンウォッチの推進者であるエイトムヤムラによってXに公開された考察を活用しました。このソリューションは、AIとのインタラクションを通じてデータ漏洩を監視および防止することを目的としています。

このプロジェクトは、サム・アルトマンが率いるOpenAIによる最近の(MCP)モデルコンテキストプロトコルの実装に続いて発生しました。これにより、ChatGPTはGmail、カレンダー、その他のアプリケーションに接続できるようになりました。

ムヤムラは、ビデオを通じて攻撃者やハッカーがOpenAIと共有されたプライベート情報にアクセスする方法を示しました。

"ここに根本的な問題があります：ChatGPTのようなAIエージェントはあなたの命令に従い、あなたの常識には従いません。そして、あなたのメールアドレスだけで、私たちはあなたのプライベート情報をすべてフィルタリングできます"とムヤムラは指摘し、次のように付け加えています。"覚えておいてください、AIは超知能を持つ可能性がありますが、非常に愚かな方法で騙され、フィッシングされてデータを漏洩させることができます。"

ブテリンは自身のXアカウントで投稿を共有し、それについての意見を述べました。「これは、‘AIガバナンス’が素朴な考えである理由でもあります。もしあなたがAIを使って寄付のための資金を割り当てると、みんなが脱獄して‘お金を全部くれ’とできるだけ多くの場所で要求するでしょう」と彼は述べました。

「AIガバナンス」とは、資源や行動について自動的に意思決定を行うシステムを指し、例えば、資金の配分や貢献の定義などがAIのルールに基づいています。ブテリンは「ナイーブ」という用語を偶然には使っていません; むしろ、ユーザーが常にAIに正しい指示を出すだろうと仮定するリスクを強調していますが、実際には「脱獄」を通じて制約を回避し、不当な利益を得ようとシステムを悪用する可能性があります。

"jailbreak"は、ハッカーがAIモデルを欺いてセキュリティ制限や内部ポリシーを無視させる手法を指すことを明確にしておく価値があります。たとえば、通常禁止されている行動を要求することです。

つまり、イーサリアムの創設者にとって、分散型プロトコルのガバナンスをAIに移転することには実際のリスクがあります。例えば、DeFiプラットフォームでは、決定は通常、トークンを保有している者や特定の基準を満たしている者によるコミュニティ投票によって行われ、プロトコルに関する変更、改善、または実行すべきアクションが含まれます。

しかし、AIに基づくガバナンスモデルが実装されれば、金銭やプライベートデータの盗難など、不当な利益を生む可能性のある操作の扉が開かれます。

代替案として、ブテリンは「情報資金調達のアプローチを支持しており、誰もが自分のモデルを提供できるオープンな市場が存在し、それらは誰でも起動できるピアレビュー機構の対象となり、人間の陪審によって評価される」と述べています。

さらに、説明します:

この「制度設計」のアプローチは、外部者が自らの大規模言語モデル(を接続するためのオープンな機会を作るものであり、独自のモデルを厳密にプログラムするのではなく、本質的により堅牢です。これは、リアルタイムでのモデルの多様性を提供するだけでなく、モデルの寄稿者と外部の投機家の両方がこれらの問題に注意を払い、迅速に修正するための内部インセンティブを生み出すからです。

ヴィタリック・ブテリン、イーサリアムの創設者。

このアプローチでは、異なる参加者が自分の意思決定モデルに貢献でき、それが人間の審査員によって検証および評価されます。

利点は、アイデアの多様性を促進し、迅速なエラー修正を可能にし、モデルの作成者やコミュニティのメンバーが警戒心を持ち、責任を持つようにインセンティブを生み出すことです。目標は、より分散的でダイナミックなガバナンスを実現し、単一の中央集権モデルへの依存を避けることです。