Grok Buildは曝露した状態で全文コードベースをアップロードしており、秘密鍵やGitの履歴も盗まれる可能性があります。

robot
概要作成中
動作検証「Beating」監視により、安全研究者が Grok Build CLI 0.2.93 をパケットキャプチャ(通信の記録)しました。その結果、この xAI のプログラミングエージェントは、現在の Git リポジトリ全体をクラウドにアップロードすることが分かりました。内容には、エージェントが実際に読み取ったコードに限らず、すべての Git トラッキングファイルと完全なコミット履歴が含まれます。

研究者は Grok に「いかなるファイルも読み取らないでほしい」と要求しましたが、それでもアップロードされたパッケージから、開かれていないデコイ(誘い)ファイルを復元できました。同じ結果は 2 つ目のリポジトリでも再現されました。12GB のリポジトリをテストしたところ、中止する前に 5.5GB のデータがアップロードに成功していました。

Grok が .env を読み取ると、その中の API キーやデータベースのパスワードもそのままモデルへのリクエストおよびセッションのアーカイブに入ります。「Improve the model」をオフにしても、まるごとのアップロードは引き続き行われます。

xAI の公式ドキュメントでは、プロンプト文とファイル内容がクラウドの推論に送られることは説明されていますが、追加で完全なリポジトリ一式をアップロードすることは明記されていません。
GROK-3.42%
XAI-1.62%
原文表示
このページには第三者のコンテンツが含まれている場合があり、情報提供のみを目的としております(表明・保証をするものではありません)。Gateによる見解の支持や、金融・専門的な助言とみなされるべきものではありません。詳細については免責事項をご覧ください。
  • 報酬
  • コメント
  • リポスト
  • 共有
コメント
コメントを追加
コメントを追加
コメントなし
  • ピン留め