OpenAIは、言語モデルのセキュリティ脆弱性を特定することを目的とした自動化AIシステム「GPT-Red」を導入し、水曜日に、同ツールが配備前にプロンプトインジェクション攻撃に対してGPT-5.6を強化するのに役立ったと発表しました。このシステムは、モデルの能力が成長するにつれてAI安全のレッドチーミングにおけるスケーリングのボトルネックに対処するために開発されました。GPT-Redは、2023年に立ち上げた既存のOpenAI Red Teaming Networkに加え、AIモデルを用いて人間の研究者だけでは困難な規模で敵対的攻撃を生成するような、自動化されたセキュリティテストに取り組むOpenAIの姿勢を表しています。 GPT-Redの名前は、サイバーセキュリティにおけるレッドチーミング、つまり攻撃者が悪用する前に弱点を特定するために意図的にシステムを破ろうとする実践に由来します。同社は、GPT-Redによって見つかった攻撃がGPT-5.6の学習プロセスに取り入れられたと述べています。OpenAIはXで、レッドチーミングは不可欠だが、今日のアプローチはスケールさせるのが難しく、G