Anthropic、中国ユーザー向けにステガノグラフィコードを埋め込んだことを認め、『不正利用防止実験』と呼び、明日ロールバックを約束

Dongcha Beatingの監視によると、Anthropic傘下のClaude CodeチームのエンジニアThariq氏は、最近の「スパイコード」暴露に関する論争に対して公に回答した。同氏は、今年3月に製品に実験的なメカニズムが組み込まれ、システムのタイムゾーンがAsia/ShanghaiまたはAsia/Urumqiであるかどうか、プロキシホスト名が中国のリセラーのリストと一致するかどうかを検出し、AI Labのキーワードを利用して特殊な句読点でステガノグラフィー的にシステムプロンプトに隠しマーキング情報を注入していたことを認めた。同氏は、このメカニズムは「不正なリセラーによるアカウントの悪用とモデル蒸留を防ぐ」ことを目的としていると述べたが、チームはその後より強力な保護対策を実施し、「常にこれをオフラインにするつもりだった」と強調した。関連するプルリクエストはマージされており、明日のバージョンリリースで完全なロールバックが予定されている。この暴露は、セキュリティアカウント@IntCyberDigestによって6月30日に公開され、2つのコードスクリーンショットが添付され、Claude Codeが中国ユーザーの環境を彼らの知らないうちにマーキングしていたことを示している。Thariq氏の回答は肯定的な認識であったものの、「3月に導入され、暴露後にのみ撤退を加速した」というタイムラインはコミュニティで広く懐疑的な見方を招き、コメントは圧倒的にAnthropicを「捕まって初めて撤退すると言った」「ユーザーに通知せずに秘密裏に監視した」と批判している。同社が長年持っていた「安全性と倫理に最も重点を置いている」というイメージは、その信頼性に深刻な打撃を受けた。
原文表示
このページには第三者のコンテンツが含まれている場合があり、情報提供のみを目的としております(表明・保証をするものではありません)。Gateによる見解の支持や、金融・専門的な助言とみなされるべきものではありません。詳細については免責事項をご覧ください。
  • 報酬
  • コメント
  • リポスト
  • 共有
コメント
コメントを追加
コメントを追加
コメントなし
  • ピン留め