レポート：セキュリティ問題がAI大規模導入の最大の障壁に、「AIでAIに対抗する」必要あり

6月23日、第4回中国国際サプライチェーン博覧会において、PwC中国マネジメントコンサルティング業務パートナーの李睿氏は「データポイズニングからモデル脱獄まで、セキュリティシステムを再構築してAIの新たなリスクを防御する」報告書（以下、「報告書」）を発表した。人工知能の大規模応用を踏まえ、データ汚染、プロンプトハイジャック、モデル脱獄などの新たなセキュリティリスクを深く分析している。

「2021年以降、AI関連のインシデントと被害の数は指数関数的に増加している」と李睿氏は指摘する。セキュリティとリスクの問題は、エージェントAIの大規模展開における最大の障壁となっている。回答者の約3分の2が、エージェントAIの全面的な拡大における最大の障害としてセキュリティとリスクの問題を挙げており、この割合は規制の不確実性や技術的制約を明らかに上回っている。これは、組織が直面する制約が、自律システムを安全に大規模展開できるかどうかの信頼に大きく起因していることを示している。

報告書によると、過去のAIリスクインシデントの分析から、過半数のAIリスクインシデントは人間の意図的な悪意ある行動に起因しており、AIシステム自体のセキュリティと故障の問題はわずか21％で、その割合は近年さらに相対的に低下している。2025年の単年データでは、悪意ある行為者によるインシデントの割合が37.9％から57％に急増しており、AIが急速に武器化されていることを示している。

報告書は現在のAIリスクを列挙している。一、AIハッカーの高度化、脆弱性の知的発見、悪意あるコードの自動拡散。二、AI駆動の精密な高度攻撃、より標的を絞ったランサムウェア。三、ディープフェイクコンテンツの蔓延、高度なソーシャルエンジニアリング攻撃の多発。四、モデル脱獄による違反出力の誘発、レピュテーションとコンプライアンスの二重の圧力。五、AIサプライチェーンポイズニング、隠れた脆弱性による業務障害。六、アルゴリズムバイアス、体系的な差別と社会的不公平。七、AI訓練データの出所不明による著作権侵害。八、具現化知能の誤判断による物理的・人身被害。九、エージェントタスクチェーンの制御不能、カスケード意思決定による不可逆的な結果。十、AI規制の強制化と断片化、クロスドメインコンプライアンスの難しさ。

ほぼすべてのリスクタイプにおいて、回答者は、重要と考えるリスクと実際に緩和措置を講じているリスクとの間に顕著なギャップがあると述べている。このギャップは、知的財産権侵害と個人プライバシーの分野で特に顕著であり、リスク認識の向上スピードが、対応する管理策、プロセス、ツールの構築スピードを上回り、タイムリーかつ効果的なリスク管理が困難になっていることを示している。

李睿氏は、機械レベルの対抗により深刻な「攻防の非対称性」が生じていると指摘する。攻撃はすでにインテリジェントな速度で行われている一方、防御は手動による手作業の封じ込めに依存しており、従来の防御策は形骸化している。「AIでAIに対抗する」必要があり、入力と出力の両端でリスクを防御し、入力側では危険信号の有無を判断し、出力側では違反コンテンツの有無を判断しなければならない。「AI駆動の脅威検出と対応、ネットワーク分離とトラフィック制御、悪意あるコード検出とサンドボックス分析、さらに脆弱性管理とリアルタイム修復を展開する必要がある。」

データによると、2026年4月時点で、世界75以上の国・地域が人工知能関連の戦略、政策、規制を制定しており、テクノロジー倫理、透明性と説明責任、データコンプライアンスとプライバシー保護は、依然として世界の規制の焦点となっている。

（編集：文静）

キーワード：