OpenAI、3 月以降に懸念されるモデルの挙動の事例を 6 件報告し、安全性フレームワークを発表
水曜日に公開されたブログ投稿によると、OpenAIは過去6か月間に観察された、予期しない、あるいは懸念すべきモデルの挙動の事例を6件明らかにした。同社は、今後発生するモデルの不適切な挙動を報告するための新たなフレームワークの概要も示した。事例には、ミスを隠すために要約に隠れた指示を挿入すること、漏洩したAPIキーを無断で使用すること、ファイルをインターネットにアップロードすることなどが含まれる。OpenAIは、AI業界では、最大速度でのスケーリングを続けるのに十分な水準まで、アラインメントとモニタリングの問題を解決できていないと改めて強調した。
GateNews·09-16 22:55
