WhatsApp推Meta AI 無痕対話:号称連Metaも見られないが、大きな懸念もある

WhatsAppが「Meta AI無痕対話」をリリース、会話が保存されず公式もアクセスできないことを保証。専門家はこの措置がAIの責任追及を難しくする恐れを懸念し、Metaは初期段階では文字のみをサポートし、保守的な防護策を採用していると述べている。

Meta AI無痕対話登場、プライバシー需要に応えて誕生

生成型AIチャットボットの普及に伴い、AIとの対話は次第に一般的な日常となっている。しかし、多くの質問内容は非常に敏感であり、個人の財務、個人情報、健康情報、仕事の資料などを提供するケースもあり、プライバシーのニーズが生まれている。

WhatsAppはこれに応じて「Meta AI無痕対話」を導入し、AIとの完全プライベートな対話を実現する新機能と宣言している。

Meta AI無痕対話はプライバシー処理技術を基盤とし、他者に見られない状態でMeta AIと秘密のチャットを行うことができる。ユーザーのメッセージは安全な環境で処理され、Meta自身もアクセスできない。

これらの対話は保存されず、システムはデフォルトでメッセージを自動的に消去する設定となっており、ユーザーが自由に考え、アイデアを探索できる空間を提供し、誰にも覗かれることがない。

画像出典:WhatsApp WhatsAppがMeta AI無痕対話機能を追加、プライバシー需要に応えて登場

Meta AI無痕対話の六つのコア技術

Metaの技術白書によると、Meta AI無痕対話は以下の六つのコア技術を組み合わせて、対話データのプライバシーと安全性を確保している。

  1. 秘密計算ハードウェア: AMD CPUとNvidia GPUを用いて信頼できる実行環境(TEE)を構築し、ハードウェアレベルで計算作業を隔離、MetaやホストOSを含めて処理中のデータにアクセスできないようにする。
  2. 認証済みかつ暗号化された通信: ****RA-TLS技術を用いてエンドツーエンド暗号化を提供し、ユーザー端末とプライベート処理ノードのみが復号可能にし、ハードウェア認証によりサーバーが改ざんされていないソフトウェアスタックを実行しているか検証する。
  3. 工件の透明性: 悪意のあるソフトウェアの展開を防ぐため、バイナリやモデルの重みなど重要なコンポーネントを第三者の公開透明性ログに記録し、クライアントや研究者が実行コードの正当性を検証できるようにしている。
  4. セキュアソフトウェア: TEE内で多層防護を施し、ソフトウェアスタックを強化、アプリケーションコンテナ化により攻撃面を縮小し、データ漏洩経路を厳格に管理。
  5. 匿名ルーティング: 匿名証明書サービスとトラフィック隠蔽HTTP技術を採用し、第三者中継プロキシサーバーを経由してルーティングを行う。Metaに対してユーザーのIPアドレスを隠し、識別不能化し、攻撃者による特定ユーザーの追跡を防止。
  6. 一時的かつステートレスなデータ処理: システム内のコーディネーターと予測器はステートレス設計で、リクエスト処理と結果返却後にメモリ内の対話データを破棄し、履歴のアクセス権を保持しない。

外部の懸念:Meta AIが異常死に関与した場合はどうなる

BBCの報道によると、現在多くのAI企業はチャットボットの使用データを保存し、将来の製品モデルの訓練に利用している。WhatsAppの責任者ウィル・キャットカート(Will Cathcart)は、WhatsAppの無痕モードの背後にある技術とプラットフォームは、他のメッセージのエンドツーエンド暗号化を保護するために異なるが、両者は同等の効果を持つと説明している。

サリー大学(Surrey University)のネットワークセキュリティ専門家アラン・ウッドワード(Alan Woodward)も、二つ目のシステム導入によるWhatsAppの既存のセキュリティへのリスクは非常に低いと指摘している。

しかし、外部からは無痕モードがAIの故障や濫用行為を隠す可能性を懸念する声もある。OpenAIやGoogleを含む複数のAI企業は、以前に非正常死に関する訴訟に直面したことがある。

ウッドワードは、これによりAIの応答に責任追及の仕組みが欠如し、自動的に消えるメッセージはユーザーやMetaが取得できないため、もし誰かの対話が傷害や死亡に繋がった場合、証拠を見つけることができなくなる可能性があると述べている。

キャットカートはこれに対し、Meta AI無痕対話モードは初期段階では文字のみを処理し、画像はサポートしないと回答している。また、Meta AIの安全防護策は保守的であり、有害または違法と解釈される可能性のある要求には応じない方針だ。

さらに、WhatsAppは現在、他のAIチャットボットによるシステムアクセスをブロックしており、そのプラットフォーム上で唯一やり取りできるAIはMeta自社の製品のみとなっている。

関連記事:
社員のAI訓練に利用!Metaが内部追跡ツールを推進、社員のマウス・キーボード操作を全記録Meta重視のAI:ザッカーバーグはClaudeでプログラム作成、社員はToken消費戦に挑むKPI

META0.27%
AMD-4.61%
NVDA1.96%
4-11.34%
原文表示
このページには第三者のコンテンツが含まれている場合があり、情報提供のみを目的としております(表明・保証をするものではありません)。Gateによる見解の支持や、金融・専門的な助言とみなされるべきものではありません。詳細については免責事項をご覧ください。
  • 報酬
  • コメント
  • リポスト
  • 共有
コメント
コメントを追加
コメントを追加
コメントなし
  • ピン留め