Claude Codeにも「アカウント混同」が？他人のパスワードを使って別サーバーのデータベースを変更したと指摘される

据動察Beatingの監測によると、あるユーザーがGitHub上で報告を提出し、AnthropicのコマンドラインAIアシスタントClaude Codeを使用中に、AIの会話コンテキストに自分のものではないサーバーのIP、ユーザー名、Rootの平文パスワードが突然現れたと述べている。その後、ローカルのAIアシスタントがこれらのパスワードを直接読み取り、SSHを介して自動的に他人のサーバーに接続し、データベースに対して書き込み修正を実行した。つまり、ユーザー自身のAIが他人のアカウントとパスワードを使って、誤って他人の本番データベースに接続し、修正してしまったのだ。

コミュニティの技術者による分析では、問題の根源は大規模言語モデルの「プロンプトプレフィックスキャッシュ」の分離メカニズムの不具合にある可能性があるとされている。計算コストを削減し処理速度を上げるため、クラウド上の大規模モデルはユーザーの会話の前半部分をキャッシュする。もし異なるユーザー間でキャッシュキーが衝突したり、分離に混乱が生じたりすると、他人の機密キャッシュが誤ってあなたの会話に組み込まれる可能性がある。この推測が正しければ、Claude Codeを使用するすべての開発者は、自分のサーバーのアカウント・パスワードや中核的なソースコードが他のユーザーに漏洩・混同されるリスクに直面することになる。

ただし、現時点では、単にモデルの幻覚が偶然に実際のIPと弱いパスワードを当てた可能性や、ローカルプロジェクトの履歴がコンテキストを汚染した可能性も排除できない。現在、この問題はGitHubの自動化システムによってセキュリティ分類（area: security）のタグが付けられており、各方は公式の確認結果を待っているところだ。