ビタリック氏がAIの2派が折り合う妥協案を提案:極端な状況が起きた場合に事前合意で一時停止を発動する

robot
概要作成中
MEニュース消息。7月11日(UTC+8)、イーサリアム共同創業者のVitalik Buterinが投稿し、AIの超知能をめぐる論争について考察しました。彼は、AI業界には現在2つの陣営があると指摘しています。1つは、超知能は2040年までに必然的に到来し、早急に制御する必要があると考える派。もう1つは、AIはただの通常の技術であり、人類をコントロールするために「停止」を仕掛けるのだと考える派です。Vitalikは、自分がどちらが正しいのか確信できないとし、減速や停止には柔軟な姿勢を示す一方で、大手AI企業が「オープンソースは有害だ」と主張する論調には反対しており、それは本質的に権力の集中だと述べています。Vitalikは妥協案も提案しました。双方で事前に合意しておき、何らかの極端な状況(例:スーパー・パンデミック、大規模な失業など)が本当に起きた場合にはAIの停止を開始することで同意する。そうした状況が起きなかった場合は、もう一方の提案に従って進める、というものです。彼は、すべての対策案には欠陥があることを認めています。人類は「不完全なもの」と「さらに不完全なもの」の間で選ぶしかありませんが、形式検証、暗号技術、安全なハードウェアなどの防御的技術は、2つの世界のいずれにおいても推進する価値があるとしています。(出典:PANews)
原文表示
このページには第三者のコンテンツが含まれている場合があり、情報提供のみを目的としております(表明・保証をするものではありません)。Gateによる見解の支持や、金融・専門的な助言とみなされるべきものではありません。詳細については免責事項をご覧ください。
  • 報酬
  • コメント
  • リポスト
  • 共有
コメント
コメントを追加
コメントを追加
コメントなし
  • ピン留め