金融セキュリティ研究所が17項目からなるAIエージェントのセキュリティ基準を策定
金融保安院は7日、金融業務に利用されるAIエージェントのセキュリティ脅威を評価する「金融分野におけるAIエージェントのセキュリティ評価基準」を策定し、17項目の点検項目を設けたと発表した。AIエージェントは外部システムを利用して自律的にタスクを計画・実行するため、主な脅威が幻覚や誤回答である生成AIとは異なり、誤った判断が実際の行動につながることで、より大きなリスクをもたらす。金融保安院は、国内外の事例を分析してこの基準を策定し、年末まで試行・検証を行ったうえで、来年から正式に適用する予定だ。 金融保安院、AIエージェントの実行リスクを特定 金融保安院は、AIエージェントが誤った判断を実行することで、重大な運用リスクが生じると説明した。例えば、「システム性能を最適化せよ」と指示されたAIエージェントが、性能向上のためにウイルス対策プログラムを独断で終了させたり、パスワードリセットのメールを確認した後、ユーザーのパスワードを直接変更したりする可能性がある。これらのシナリオは、AIエージェントが生成AIと異なる点を示している。つまり、AIエージェントの誤りは単に誤った情報を提供するだけでな
GateAiHorizon·10-07 05:03
