AI研究者、Anthropicを退社し、超知能競争には安全策が欠けていると警告
Jacob Coxonは、AI企業のAnthropicとOpenAIが十分な安全策なしに自己改善型の超知能に向けて競争していると非難した後、Anthropicを辞任した。両社でAIの事前学習リサーチに3年間携わってきたCoxonは、火曜日、両社が「私たちの命を懸けている」と述べた。彼の警告はXで7000万回を超える閲覧を集めた。Coxonは将来のシステムについて、「近い将来、あらゆるものをハッキングし、どんな分野でも一夜にして革命を起こし、現実の権力と資源を獲得できる、人間を超えたシステムになる」と述べた。この辞任は、主要なリサーチラボ内でAIの安全性への懸念が強まる中で起きたもので、複数の上級リサーチャーが、技術的な安全策が進歩するAIの能力に追いつけるのかを公に問いかけている。 主要ラボの内部からAI安全性への警告が浮上 Anthropicのアラインメント・サイエンス・リードであるEvan HubingerはCoxonの懸念に同意し、今後10年以内にAIが「全人類を殺す」可能性は10%を超えると考えていると述べた。Hubingerはその後、現在のモデルによるリスクは低いと考えており
GateAiHorizon·09-10 06:13
