WhatsApp pousse Meta AI conversation sans trace : prétend que même Meta ne peut pas voir, mais il y a un grand souci de confidentialité

WhatsApp lance « Meta AI Conversation Incognito », garantissant que les conversations ne sont pas stockées et que l’entreprise ne peut y accéder. Des experts craignent que cette démarche rende difficile la responsabilité en cas de défaillance de l’IA, Meta affirmant que, dans un premier temps, seule la messagerie textuelle sera supportée et que des mesures de précaution seront prises.

Meta AI Conversation Incognito apparaît, née du besoin de confidentialité des utilisateurs

Avec la popularisation rapide des chatbots génératifs IA, dialoguer avec l’IA devient progressivement une activité quotidienne pour le grand public. Mais de nombreuses questions posent des enjeux de confidentialité, comme la transmission de données financières, personnelles, de santé ou professionnelles sensibles, ce qui crée un besoin de protection de la vie privée.

WhatsApp a lancé « Meta AI Conversation Incognito » pour répondre à cette demande, affirmant qu’il s’agit d’une nouvelle fonctionnalité permettant des conversations totalement privées avec l’IA.

Meta AI Conversation Incognito repose sur une technologie de traitement confidentiel, permettant d’avoir des chats privés avec Meta AI sans que d’autres puissent voir. Les messages des utilisateurs sont traités dans un environnement sécurisé, auquel même Meta n’a pas accès.

Ces conversations ne seront pas stockées, et le système est configuré pour que les messages disparaissent automatiquement, offrant aux utilisateurs un espace pour réfléchir et explorer leurs idées sans être observés.

Source : WhatsApp WhatsApp lance la nouvelle fonctionnalité Meta AI Conversation Incognito, née du besoin de confidentialité des utilisateurs

Les six technologies clés de Meta AI Conversation Incognito

Selon le livre blanc technique de Meta, Meta AI Conversation Incognito combine principalement six technologies clés pour garantir la confidentialité et la sécurité des données de conversation :

1. Matériel de calcul confidentiel : Utilise des CPU AMD et des GPU Nvidia supportant le calcul confidentiel pour établir un environnement d’exécution fiable (TEE), assurant que les opérations de calcul sont isolées au niveau matériel, y compris Meta ou le système d’exploitation hôte, qui ne peuvent pas accéder aux données en cours de traitement.
2. Communication certifiée et chiffrée : Le système utilise la technologie RA-TLS pour fournir un chiffrement de bout en bout, garantissant que seul l’appareil de l’utilisateur et le nœud de traitement privé peuvent déchiffrer, et vérifie via une certification matérielle si la pile logicielle n’a pas été modifiée.
3. Transparence des composants : Pour prévenir le déploiement de logiciels malveillants, les composants importants comme les binaires et les poids des modèles sont publiés dans un journal de transparence accessible à des tiers, permettant aux clients et chercheurs de vérifier l’authenticité du code exécuté.
4. Logiciel sécurisé : Renforce la pile logicielle à l’intérieur du TEE par plusieurs couches de protection, en conteneurisant les applications pour limiter la surface d’attaque et contrôler strictement les voies de fuite de données.
5. Routage anonyme : Utilise un service de certificats anonymes et la technologie HTTP anonyme, routant via un serveur relais tiers, cachant l’adresse IP de l’utilisateur à Meta et anonymisant l’identité, pour empêcher les attaquants de cibler des utilisateurs spécifiques.
6. Traitement des données éphémère et sans état : Les orchestrateurs et prédicteurs du système sont conçus sans état, traitant la requête puis abandonnant la conversation en mémoire après avoir renvoyé le résultat, garantissant qu’aucun historique n’est conservé.

Inquiétudes extérieures : que faire si Meta AI est impliqué dans une mort non naturelle

Selon la BBC, la majorité des entreprises d’IA stockent actuellement les données des conversations des chatbots, utilisées pour entraîner les futurs modèles. Will Cathcart, responsable de WhatsApp, explique que la technologie et la plateforme derrière le mode incognito de WhatsApp diffèrent de celles utilisées pour protéger le chiffrement de bout en bout des autres messages, mais qu’elles ont une efficacité équivalente.

Alan Woodward, expert en cybersécurité à l’Université de Surrey, indique également que l’introduction d’un second système présente un faible risque pour la sécurité existante de WhatsApp.

Cependant, des inquiétudes persistent quant au fait que le mode incognito pourrait masquer des défaillances ou abus de l’IA. Plusieurs entreprises d’IA, dont OpenAI et Google, ont déjà été confrontées à des procès liés à des décès non naturels.

Woodward estime que cela pourrait conduire à un manque de responsabilité dans les réponses de l’IA, car les messages disparaissent automatiquement et ne peuvent pas être récupérés par l’utilisateur ou Meta, ce qui rendrait impossible de trouver des preuves en cas de blessures ou de décès causés par une conversation.

Cathcart répond que, dans un premier temps, le mode incognito de Meta AI ne traitera que du texte, sans support pour les images. De plus, la sécurité de Meta AI sera conservatrice, refusant de répondre à toute demande pouvant être perçue comme nuisible ou illégale.

Par ailleurs, WhatsApp a déjà bloqué l’accès à ses systèmes à d’autres chatbots IA, de sorte que, pour ses milliards d’utilisateurs, le seul IA avec lequel ils peuvent interagir sur la plateforme est le produit maison de Meta.

Lecture complémentaire :
Meta forme ses employés avec une IA interne ! Outil de suivi interne lancé, chaque clic de souris et frappe clavier enregistréMeta mise sur l’IA : Zuckerberg programme avec Claude, les employés lancent une guerre de tokens pour atteindre leurs KPI