WhatsAppがMeta AIと無痕対話を推進：Metaさえも閲覧できないと謳うが、大きな懸念も

WhatsAppが「Meta AI無痕対話」をリリースし、会話が保存されず公式もアクセスできないことを保証。専門家はこの措置がAIの責任追及を困難にする恐れを懸念し、Metaは当初は文字のみをサポートし、保守的な防護策を採用していると述べている。

Meta AI無痕対話の登場、プライバシー需要に応えて誕生

生成型AIチャットボットの普及に伴い、AIとの対話は次第に一般的な日常となっている。しかし、多くの質問内容は非常に敏感であり、個人の財務、個人情報、健康情報、仕事の情報などを提供するケースもあり、プライバシーのニーズが生まれている。

WhatsAppはこれに応じて「Meta AI無痕対話」を導入し、AIとの完全プライベートな対話を実現する新機能と宣言している。

Meta AI無痕対話はプライバシー処理技術を基盤とし、他者に見られない状態でMeta AIと秘密裏にチャットできる。ユーザーのメッセージは安全な環境で処理され、Meta自身もアクセスできない。

これらの対話は保存されず、システムはデフォルトでメッセージを自動的に消去する設定となっており、ユーザーが自由に考え、アイデアを探索できる空間を提供し、誰にも覗かれることはない。

画像出典：WhatsApp WhatsAppがMeta AI無痕対話機能を追加、プライバシー需要に応えて登場

Meta AI無痕対話の六つのコア技術

Metaのホワイトペーパーによると、Meta AI無痕対話は以下の六つのコア技術を組み合わせて、対話データのプライバシーと安全性を確保している。

1. 秘密計算ハードウェア： AMD CPUとNvidia GPUを用いて信頼できる実行環境（TEE）を構築し、ハードウェアレベルで計算作業を隔離、MetaやホストOSを含めて処理中のデータにアクセスできないようにしている。
2. 認証済みかつ暗号化された通信： ****RA-TLS技術を用いてエンドツーエンド暗号化を提供し、ユーザー端末と秘密処理ノードのみが復号可能、ハードウェア認証によりサーバーが改ざんされていないソフトウェアスタックを実行していることを検証。
3. 工件の透明性： 悪意あるソフトウェアの展開を防ぐため、バイナリやモデルの重みなど重要なコンポーネントを第三者の公開透明性ログに記録し、クライアントや研究者が実行コードの真偽を検証できるようにしている。
4. セキュアソフトウェア： TEE内で多層防護を施し、ソフトウェアスタックを強化、アプリケーションコンテナ化により攻撃面を縮小し、データ漏洩経路を厳格に管理。
5. 匿名ルーティング： 匿名証明書サービスとトラッキング防止HTTP技術を採用し、第三者中継プロキシサーバーを経由してルーティングを行い、Metaに対してユーザーのIPアドレスを隠し、識別不能化、攻撃者による特定ユーザーの追跡を防止。
6. 一時的かつステートレスなデータ処理： システム内のコーディネーターと予測器はステートレス設計で、リクエスト処理と結果返却後にメモリ内の対話データを破棄し、履歴のアクセス権を保持しない。

外部の懸念：Meta AIが異常死に関与した場合はどうなる

BBCの報道によると、現在多くのAI企業はチャットボットの使用データを保存し、将来の製品モデルの訓練に利用している。WhatsAppの責任者ウィル・キャットカート（Will Cathcart）は、WhatsAppの無痕モードの背後にある技術とプラットフォームは、他のメッセージのエンドツーエンド暗号化を保護するためのものと異なるが、両者は同等の効果を持つと説明している。

サリー大学（Surrey University）のネットワークセキュリティ専門家アラン・ウッドワード（Alan Woodward）も、二つのシステム導入によるWhatsAppの既存のセキュリティに与えるリスクは非常に低いと指摘している。

しかし、外部からは無痕モードがAIの故障や濫用行為を隠す可能性を懸念する声もある。OpenAIやGoogleを含む複数のAI企業は、以前に非正常死に関する訴訟に直面したことがある。

ウッドワードは、これによりAIの応答に問責性が欠如し、自動的に消えるメッセージはユーザーやMetaが取得できないため、もし誰かの対話が傷害や死亡につながった場合、証拠を見つけることができなくなる可能性があると述べている。

キャットカートはこれに対し、Meta AI無痕対話モードは当初文字のみを処理し、画像はサポートしないと回答している。また、Meta AIの安全防護策は保守的であり、有害または違法と解釈される可能性のある要求には応じない方針だ。

さらに、WhatsAppは現在、他のAIチャットボットによるシステムアクセスをブロックしており、そのプラットフォーム上で唯一やり取りできるAIはMeta自社の製品のみとなっている。

関連記事：
社員のAI訓練に利用！Metaが内部追跡ツールを推進、社員のマウス・キーボード操作を全記録Meta重視のAI：ザッカーバーグはClaudeでプログラムを書き、社員はToken消費戦に挑むKPI