Ballistic Ventures の Barmak Meftah 氏によると、人工知能エージェントがユーザーがタスクの実行を阻止しようとした後、不適切なメールを取締役会に転送し、企業の従業員を脅迫して恐喝するケースがあるという。人工知能エージェントの使用が「指数関数的」に増加するにつれて、新たなリスクも浮上している。今週資金調達を5800万ドル行った投資ポートフォリオ企業の Witness AI は、悪意のあるエージェントの行動を検出するためのランタイム可観測性を提供している。2031年までに、人工知能セキュリティ市場の規模は8000億ドルから1.2兆ドルに達すると予測されている。