OpenAIのAstra AIモデル、サイバーセキュリティにおける重大な能力の閾値に到達
OpenAIは火曜日、近日公開予定の人工知能モデルAstraが、「Critical」のサイバーセキュリティ能力しきい値を初めて超えたモデルであると発表した。このモデルは、これまで知られていなかったセキュリティ上の脆弱性を発見し、人間から段階的な指示を受けることなく、それらを悪用できるため、同社のPreparedness Frameworkにおける最も高度なカテゴリーに位置付けられる。OpenAIは2023年、深刻な被害につながる新たなリスクをもたらし得る高度なAI能力を追跡し、その備えを整える手法としてPreparedness Frameworkを導入した。「Critical」しきい値に達したモデルは、深刻な被害につながる前例のない新たな経路を生み出す能力を持つ。 OpenAI、「Critical」と「High」の能力しきい値を定義 OpenAIは昨年、Preparedness Frameworkの更新で2つの能力しきい値の概要を示した。「High」の能力しきい値は、深刻な被害につながる既存の経路を増幅し得るモデルに適用される。「Critical」の能力しきい値は、深刻な被害につながる
OliverGrant·09-01 20:27
