AnthropicがAIにバッジを発行し、権限を分けるという手法は聞こえは良いが、Kenton Vardaの言う通り——本当に大規模になったら、誰が責任を取るのか？

幣界網消息、AnthropicはClaudeTag向けにエージェントIDセキュリティメカニズムを導入し、各チャンネルに独立した権限パッケージを割り当て、AI専用アカウントを直接付与することで、複数人での協業における権限超過や情報漏洩のバックドアを防止する。動的ポリシー構成を採用し、借用認証情報を置き換える。セキュリティ専門家のKentonVardaは、この手法は大規模タスクに対応しにくく、人間の説明責任を損なうと批判し、能力ベースのセキュリティモデルを主張している。これによりAIの行動を特定の発起人にまで遡って追跡可能にする。