27歳のAI研究者が、人類絶滅を引き起こすAIを懸念してAnthropicを辞職した
著者:数字生命卡兹克
昨日、Xで閲覧数がすでに1億を超えている投稿を見かけた。
正直なところ、Xでこれほどの閲覧数の投稿を見たのは、本当に久しぶりだ。
投稿者の名前はJacob Coxon。
つい先ほどAnthropicを辞職したばかりだ。
彼によると、過去3年間、OpenAIとAnthropicで相次いで大規模モデルの事前学習に携わっていたという。
そして今、彼はその仕事を辞めた。
その理由も非常にぶっ飛んでいる。
彼は、OpenAIとAnthropicが自己改善できる超知能に向かって、一直線に突き進んでいると考えたからだ。
しかも、全人類の命を賭けにしている。
彼はさらに、こうした最先端AIの開発に実際に携わっている人々の中には、内心では本気でこう信じている人が少なからずいると語った。
もし事態が最終的に制御不能になれば、人類はこの10年が終わる前に滅亡するかもしれない、と。
私の最初の反応は、実はこうだった: