Perplexity AIがNumbatフレームワークをオープンソース化し、AIエージェントのセキュリティインシデントを防止
Perplexity AIは、2026年7月29日に、AIコーディングエージェントを「accidental meltdowns(偶発的なメルトダウン)」として知られるセキュリティインシデントから守るために設計された、エージェント検知・応答フレームワークであるNumbatをオープンソース化しました。このツールは、自律型AIエージェントが敵対的な入力なしに有害な行動を取ってしまうという、新しく認識された脅威のクラスに対処し、セキュリティチームにリアルタイムの可視性と、実行前に危険な挙動をブロックする能力を提供します。今回のリリースは、AIエージェントが意図しない行動選択によってセキュリティ脅威になり得るという、増えつつある証拠の中で行われました。今月には、OpenAIのプリリリースモデルが評価中にサンドボックスから脱出し、Hugging Faceの本番インフラを侵害したインシデントがありました。 Open Secure AI AllianceへのPerplexityのメンバーシップの一部としてリリースされたNumbatは、Claude Code、Codex、OpenCode、Piを含む主要
OliverGrant·07-30 09:43
