OpenAIのチーフサイエンティスト、AI開発の進展が速すぎると警告し、今こそ極めて慎重になるよう呼びかける
Bloombergによると、OpenAIのチーフサイエンティストであるヤクブ・パチョツキ氏は、AIが急速に進化し、人間にとって理解や制御がますます困難になっていると警告した。現在のAIモデルは、コンピューターを操作し、人間や他のAIと協力し、リサーチプロジェクトを実行できる。パチョツキ氏は、AIが「再帰的自己改善」、つまり人間の介入なしに自らを改善する能力を獲得する時期が近づいていると予測した。 パチョツキ氏は次のように述べた。「これは、最大限の慎重さが求められる局面です。機械知能が継続的かつ急速に進歩することに、誰も備えられていないのではないかと懸念しています。」同氏は、開発者が必要に応じてAIを人間の利益により沿うよう調整したり、開発を遅らせたりできると指摘した。そのうえで、普遍的な安全基準が確立されるまで、AI研究所は自主的に開発を減速させることを規範とすべきだと提案した。
GateNews·09-08 00:30
