智通财经アプリによると、Anthropicは火曜日に、複数の大手テック企業と共同で、新しい取り組みを開始し、より強力なAIモデルがもたらし得るサイバーセキュリティ上の脅威に先回りして対応すると発表した。報道によれば、Anthropicは「Project Glasswing」と呼ばれる協業プロジェクトを立ち上げ、未発表のAIモデル「Mythos」を、Amazon(AMZN.US)、Apple(AAPL.US)、Microsoft(MSFT.US)、Cisco(CSCO.US)を含む複数のテック企業に対して提供する。関連企業は、当該モデルを利用して自社製品におけるセキュリティ上の脆弱性を特定し、業界と研究成果を共有する。Anthropicは、現時点でMythosを一般に公開する計画はないとした。今後はGlasswingプロジェクトのフィードバック結果に基づき、このモデルにより整ったセキュリティの「ガードレール」を設定するという。この措置は、先進的なAIモデルが、ハッカーや国家に支援された攻撃者に悪用されることへのテクノロジー業界の懸念が強まっていることを反映している。業界では一般に、AI能力の向上に伴い、コード解析や脆弱性の掘り起こしにおける能力も同時に高まり、既存のネットワーク防御システムを回避するために用いられ得ると考えられている。Anthropicの競合であるOpenAIも以前、同様のリスクを強調しており、試験的プロジェクトを立ち上げ、防御側が優先的にAIツールを利用できるようにしている。Anthropicのサイバーセキュリティチーム責任者のNewton Cheng氏は、これは単一企業の問題ではなく、業界全体、さらには政府も含めて共同で対応すべき課題だと述べた。「我々はGlasswingを通じて、防御側が技術の拡散前に先行する優位性を得られるようにしたい。」また同社は、Mythosのセキュリティ能力について、米国の関連する政府機関と協議を行っており、サイバーセキュリティ・インフラストラクチャ・セキュリティ庁(CISA)および米国国立標準技術研究所(NIST)と連携しているとも明らかにした。Mythosは専らサイバーセキュリティ開発のためのものではないが、その実績は注目を集めている。Anthropicによれば、当該モデルは、複数の重要な脆弱性を発見している。具体的には、インターネット上の重要ソフトウェアのうち27年にわたって存在していた脆弱性、ならびに16年間発見されずにいたゲームコードの欠陥で、後者は自動化テストツールにより500万回以上スキャンされても特定されなかったという。技術の悪用を防ぐため、Anthropicは、Glasswingプロジェクトの参加者に対して厳格なアクセス制御の措置を講じていると述べたが、具体的な詳細は開示していない。
Anthropic、Microsoft(MSFT.US)などのテック大手と共同で新しいAIモデルをテストし、サイバーセキュリティリスクに対応
智通财经アプリによると、Anthropicは火曜日に、複数の大手テック企業と共同で、新しい取り組みを開始し、より強力なAIモデルがもたらし得るサイバーセキュリティ上の脅威に先回りして対応すると発表した。
報道によれば、Anthropicは「Project Glasswing」と呼ばれる協業プロジェクトを立ち上げ、未発表のAIモデル「Mythos」を、Amazon(AMZN.US)、Apple(AAPL.US)、Microsoft(MSFT.US)、Cisco(CSCO.US)を含む複数のテック企業に対して提供する。関連企業は、当該モデルを利用して自社製品におけるセキュリティ上の脆弱性を特定し、業界と研究成果を共有する。
Anthropicは、現時点でMythosを一般に公開する計画はないとした。今後はGlasswingプロジェクトのフィードバック結果に基づき、このモデルにより整ったセキュリティの「ガードレール」を設定するという。この措置は、先進的なAIモデルが、ハッカーや国家に支援された攻撃者に悪用されることへのテクノロジー業界の懸念が強まっていることを反映している。
業界では一般に、AI能力の向上に伴い、コード解析や脆弱性の掘り起こしにおける能力も同時に高まり、既存のネットワーク防御システムを回避するために用いられ得ると考えられている。Anthropicの競合であるOpenAIも以前、同様のリスクを強調しており、試験的プロジェクトを立ち上げ、防御側が優先的にAIツールを利用できるようにしている。
Anthropicのサイバーセキュリティチーム責任者のNewton Cheng氏は、これは単一企業の問題ではなく、業界全体、さらには政府も含めて共同で対応すべき課題だと述べた。「我々はGlasswingを通じて、防御側が技術の拡散前に先行する優位性を得られるようにしたい。」
また同社は、Mythosのセキュリティ能力について、米国の関連する政府機関と協議を行っており、サイバーセキュリティ・インフラストラクチャ・セキュリティ庁(CISA)および米国国立標準技術研究所(NIST)と連携しているとも明らかにした。
Mythosは専らサイバーセキュリティ開発のためのものではないが、その実績は注目を集めている。Anthropicによれば、当該モデルは、複数の重要な脆弱性を発見している。具体的には、インターネット上の重要ソフトウェアのうち27年にわたって存在していた脆弱性、ならびに16年間発見されずにいたゲームコードの欠陥で、後者は自動化テストツールにより500万回以上スキャンされても特定されなかったという。
技術の悪用を防ぐため、Anthropicは、Glasswingプロジェクトの参加者に対して厳格なアクセス制御の措置を講じていると述べたが、具体的な詳細は開示していない。