Anthropicは、再帰的な自己改善によるリスクがあるとして、世界的なAIのスローダウンを求めている
Anthropicは6月4日(現地時間)に自社ウェブサイトで声明を発表し、最先端AI開発の世界的な減速を求めました。同社は、AIシステムが人間の管理を超えて、後継システムを自律的に設計・訓練できる状態へ向けて加速していると警告しています。同社は、同社の内部データとして、生産コードの80%以上が現在、Claude AIアシスタントによって書かれていることを挙げました。これは2025年2月以前の一桁からの上昇であり、さらに今期第2四半期のエンジニアによるコード納品量は2024年の水準の8倍に達したとも述べています。Anthropicは、十分な計算能力があればAIが「再帰的自己改善」を達成し、システムが自分たちを超える次世代AIを完全に自律して開発できる可能性があるとし、人類はそのような事態に備えていないとしました。同社は、複数の大手AI企業が複数の国にまたがって「検証可能な集団的減速」を行うことが必要になるかもしれないと提案しました。この声明は、Anthropicが6月1日にSECへS-1登録届出書を機密裏に提出し、IPO準備プロセスを開始したのち、数日後に出されたものです。 Anthro
OliverGrant·06-05 05:23
