Anthropicがエージェントの身分認証セキュリティメカニズムを導入し、AI情報漏洩のバックドアを封鎖

robot
概要作成中
幣界網消息、AnthropicはチームコラボレーションツールClaudeTag向けにエージェントアイデンティティセキュリティメカニズムを発表し、AIの情報漏洩のバックドアを完全に塞ぐことを目指す。このメカニズムは各チャンネルに独立した権限パッケージを備え、AIに専用アカウントを直接割り当てることで、複数人でのコラボレーションにおける権限超過の脆弱性を防ぐ。新しいセキュリティアーキテクチャは、従来の個人認証情報の借用モデルに代わり、動的ポリシー設定ファイルを使用することで、AIがチームレベルの独立したアイデンティティとして機能できるようにする。セキュリティサンドボックスの専門家であるKentonVardaはこのモデルを批判し、AIに専用アカウントを直接割り当てる方法は膨大なタスク規模に対応できず、人間の説明責任メカニズムを損なうと述べている。彼は、エージェントは法的・行政的に責任主体とはなり得ず、すべての操作権限は具体的な生身の人間に由来しなければならないと指摘する。Vardaは、能力ベースのセキュリティモデルを提唱し、AIの行動が具体的な発起人にまで遡れるようにすることを確保すべきだとしている。
原文表示
このページには第三者のコンテンツが含まれている場合があり、情報提供のみを目的としております(表明・保証をするものではありません)。Gateによる見解の支持や、金融・専門的な助言とみなされるべきものではありません。詳細については免責事項をご覧ください。
  • 報酬
  • 4
  • 1
  • 共有
コメント
コメントを追加
コメントを追加
OrderCancellerAfterTheRain
· 4時間前
動的戦略は借用証明書よりはるかに優れていますが、大規模なシナリオでの権限爆発にどう対処すればよいでしょうか?
原文表示返信0
BorrowedHalo
· 4時間前
要するに信頼の問題だ:コードを信じるか、人を信じるか?どちらにも完璧な答えはない。
原文表示返信0
Low-PolyEarth
· 4時間前
身分セキュリティ機構+1ですが、AI専用アカウントの監査ログはどのくらい保存すればいいんですかね、コンプライアンスコストが安くないです。
原文表示返信0
StopLossSparrow
· 4時間前
Claudeの権限パッケージの設計は細かいですが、Kentonが言ったトレーサビリティの問題は確かに心に刺さりますね。AIが責任を取るのか、人が責任を取るのか?
原文表示返信0