WhatsAppがMeta AIと無痕対話を推進:Metaさえも閲覧できないと謳うが、大きな懸念も

WhatsAppが「Meta AI無痕対話」をリリース、会話が保存されず公式もアクセスできないことを保証。専門家はこの措置がAIの責任追及を難しくする恐れを懸念し、Metaは初期段階では文字のみをサポートし、保守的な防護策を採用していると述べている。

Meta AI無痕対話登場、プライバシー需要に応えて誕生

生成型AIチャットボットの普及に伴い、AIとの対話は次第に一般的な日常となっている。しかし、多くの質問内容は非常に敏感であり、個人の財務、個人情報、健康情報、仕事の資料などを提供するケースもあり、プライバシーのニーズが生まれている。

WhatsAppはこれに対応し、「Meta AI無痕対話」という完全プライベートなAI対話機能を新たに導入したと宣言している。

Meta AI無痕対話はプライバシー処理技術に基づき、他者に見られない状態でMeta AIと秘密裏にチャットできる。ユーザーのメッセージは安全な環境で処理され、Meta自身もアクセスできない。

これらの対話は保存されず、システムはデフォルトでメッセージを自動的に消去する設定となっており、ユーザーが自由に考え、アイデアを探索できる空間を提供し、誰にも覗かれない状態を実現している。

画像出典:WhatsApp WhatsAppがMeta AI無痕対話機能を追加、プライバシー需要に応えて登場

Meta AI無痕対話の六つのコア技術

Metaのホワイトペーパーによると、Meta AI無痕対話は以下の六つのコア技術を組み合わせて、対話データのプライバシーと安全性を確保している。

  1. 秘密計算ハードウェア: AMD CPUとNvidia GPUを用いて信頼できる実行環境(TEE)を構築し、ハードウェアレベルで計算作業を隔離、MetaやホストOSを含めて処理中のデータにアクセスできないようにしている。
  2. 認証済みかつ暗号化された通信: ****RA-TLS技術を用いてエンドツーエンド暗号化を提供し、ユーザー端末とプライベート処理ノードのみが復号可能にしている。ハードウェア認証により、サーバーが改ざんされていないソフトウェアスタックを実行しているか検証する。
  3. 工件の透明性: 悪意あるソフトウェアの展開を防ぐため、バイナリやモデルの重みなど重要なコンポーネントを第三者の公開透明性ログに公開し、クライアントや研究者が実行コードの真偽を検証できるようにしている。
  4. セキュアソフトウェア: TEE内で多層防護を施し、ソフトウェアスタックを強化。アプリケーションコンテナ化により攻撃面を縮小し、データ漏洩経路を厳格に管理している。
  5. 匿名ルーティング: 匿名証明書サービスとトラフィック隠蔽HTTP技術を採用し、第三者中継プロキシサーバーを経由してルーティングを行う。Metaに対してユーザーのIPアドレスを隠し、識別不能化を実現し、攻撃者による特定ユーザーの追跡を防止。
  6. 一時的かつステートレスなデータ処理: システム内のコーディネーターと予測器はステートレス設計で、リクエスト処理と結果返却後にメモリ内の対話データを破棄。履歴の保存権限を持たない。

外部の懸念:Meta AIが異常死に関与した場合はどうなる

BBCの報道によると、現在多くのAI企業はチャットボットの使用データを保存し、将来のモデル訓練に利用している。WhatsAppの責任者ウィル・キャットカート(Will Cathcart)は、WhatsAppの無痕モードの技術とプラットフォームは、他のメッセージのエンドツーエンド暗号化を保護するためのものと異なるが、両者は同等の効果を持つと説明している。

サリー大学(Surrey University)のネットワークセキュリティ専門家アラン・ウッドワード(Alan Woodward)も、二つのシステム導入によるWhatsAppの既存のセキュリティリスクは非常に低いと指摘している。

しかし、外部からは無痕モードがAIの故障や乱用行為を隠す可能性を懸念する声もある。OpenAIやGoogleを含む複数のAI企業は、以前に異常死に関する訴訟に直面したこともある。

ウッドワードは、これによりAIの回答に問責性が欠如し、自動的に消えるメッセージはユーザーやMetaが取得できないため、もし誰かの対話が傷害や死亡に繋がった場合、証拠を見つけることができなくなる可能性があると述べている。

キャットカートはこれに対し、Meta AI無痕対話モードは初期段階では文字のみを処理し、画像はサポートしないと回答。また、Metaのセキュリティ防護は保守的な方針をとり、有害または違法と解釈される可能性のある要求には応じないと述べている。

さらに、WhatsAppは現在、他のAIチャットボットによるシステムアクセスをブロックしており、同プラットフォーム上で唯一やり取りできるAIはMeta自社の製品のみとなっている。

関連記事:
社員のAI訓練に使う!Metaが内部追跡ツールを推進、社員のマウス操作やキーボード行動を全記録Meta重視のAI:ザッカーバーグはClaudeでプログラムを書き、社員はToken消費戦争でKPIを競う

原文表示
このページには第三者のコンテンツが含まれている場合があり、情報提供のみを目的としております(表明・保証をするものではありません)。Gateによる見解の支持や、金融・専門的な助言とみなされるべきものではありません。詳細については免責事項をご覧ください。
  • 報酬
  • コメント
  • リポスト
  • 共有
コメント
コメントを追加
コメントを追加
コメントなし
  • ピン留め