ビタリックブテリンは、AIリスクを処理するために分散化された防御策が必要だと警告しています

イーサリアムの共同創設者ビタリックブテリンは、未チェックの人工知能（AI）プログラムの潜在的な危険性に懸念を示しています。

1月10日のXの投稿で、ブテリンは、適切に管理されていないAIが人類にリスクをもたらす自己複製型の知的実体を作り出す可能性があると警告しました。

彼は述べた：

「AIが間違っているのは、独立した自己複製のインテリジェントな生命の新しい形を作り出していることです。AIが正しく行われると、それは人間の心のためのメカスーツです。前者を後者なしで行うと、永続的な人間の力の奪取のリスクがあります。後者を行うと、繁栄する超知能的な人間の文明が生まれます。」

彼は、ユーザーインターフェイスを改善するために設計されたチャットボットなどの一部のAIシステムは有益である一方、他のAIシステムは重大なリスクをもたらす可能性があると説明した。具体的には、長期間自律的に機能するAIエージェントが、最終的には人間の制御を挑戦し、社会を無力化する可能性がある。

これらのリスクを軽減するために、Buterinは、人間の知能を補完するAIシステムに焦点を当て、それらを置き換えるのではなく、集団の能力を増幅させるツールに変えることを提案しました。

彼によると、このようなアプローチによって、AIが不要なリスクを回避しながら、人間の能力を向上させるための強力なツールに変わるでしょう。

d/Acc

彼の戦略の重要な部分は、分散化および民主的な差動防御加速（d/Acc）の概念に関与しています。このアプローチは、新興のAI関連脅威に対処するための分散化ツールの開発を重視しています。

ビタリックブテリンは最近のブログ投稿でこのアイデアについて詳しく説明し、d/Accを、急速なAIの進展によってもたらされる潜在的な危険から個人やコミュニティが自分たちを守るための枠組みとして設計されたものと表現しました。目標は、個人やコミュニティが自分たちを守るためのフレームワークとしてd/Accを分散化することです。

この戦略によって、防御能力がコミュニティの手に委ねられることで、技術力のより民主的な分布が可能になります。例えば、中央集権的なシステムに頼らずに、分散型システムが有害なAI活動を監視、対抗、あるいは無力化することができます。

ブテリンは、d/AccがAI技術が予測不能に進化するシナリオでセーフガードとして機能する可能性があると説明した。さらに、防衛の民主化によって、単一の実体が先進的なAIの可能性を支配したり搾取したりすることを防ぎ、よりバランスの取れた、弾力のある技術エコシステムを育むことができる。

イーサリアムの共同創設者は、この急速に進化する分野における開発者の倫理的責任を強調しました。彼は、d/Accのような分散型のアプローチが集団の安全性を高め、AIの開発において透明性と協力を促進すると主張しました。

ビタリックブテリンは書きました:

AIが何らかの壊滅的に有害な行動を実行する過程で（ハッキングによって）AIが支配する任意の機器の所有者または運営者に責任を負わせるという、非常にD / ACCに優しいアイデアの1つです。これにより、世界の（特にコンピューティングとバイオ）インフラストラクチャをできるだけ安全にするための困難な作業を行うための非常に広範なインセンティブが生まれます。

この記事で言及されました