WhatsApp pousse Meta AI conversation sans trace : prétend que même Meta ne peut pas voir, mais il y a un grand souci

WhatsApp lance « Meta AI Conversation Incognito », garantissant que les conversations ne sont pas stockées et que l’entreprise ne peut y accéder. Des experts craignent que cette démarche rende difficile la responsabilité en cas de problème avec l’IA, Meta affirmant que, dans un premier temps, seules les interactions textuelles seront supportées et que des mesures de précaution seront prises.

Meta AI Conversation Incognito apparaît, né de la demande de confidentialité des utilisateurs

Avec la popularisation rapide des chatbots génératifs IA, dialoguer avec l’IA devient progressivement une activité quotidienne pour le grand public. Cependant, de nombreuses questions contiennent des informations extrêmement sensibles, telles que des données financières, personnelles, de santé ou professionnelles, ce qui soulève également des préoccupations en matière de vie privée.

Pour répondre à cela, WhatsApp a lancé « Meta AI Conversation Incognito », affirmant qu’il s’agit d’une nouvelle fonctionnalité permettant des conversations totalement privées avec l’IA.

Meta AI Conversation Incognito repose sur une technologie de traitement confidentiel, permettant d’avoir des chats privés avec Meta AI sans que d’autres puissent voir. Les messages des utilisateurs sont traités dans un environnement sécurisé, même Meta lui-même n’y a pas accès.

Ces conversations ne seront pas stockées, et le système est configuré pour que les messages disparaissent automatiquement, offrant aux utilisateurs un espace pour réfléchir et explorer leurs idées librement, sans surveillance.

Source : WhatsApp WhatsApp lance la nouvelle fonctionnalité Meta AI Conversation Incognito, née de la demande de confidentialité des utilisateurs

Les six technologies clés de Meta AI Conversation Incognito

Selon le livre blanc technique de Meta, Meta AI Conversation Incognito combine principalement six technologies clés pour garantir la confidentialité et la sécurité des données de conversation :

1. Matériel de calcul confidentiel : Utilise des CPU AMD et des GPU Nvidia supportant le calcul confidentiel pour établir un environnement d’exécution fiable (TEE), assurant que les opérations de calcul sont isolées au niveau matériel, y compris Meta ou le système d’exploitation hôte, qui ne peuvent pas accéder aux données en cours de traitement.
2. Communication certifiée et chiffrée : Le système utilise la technologie RA-TLS pour fournir un chiffrement de bout en bout, garantissant que seul l’appareil de l’utilisateur et le nœud de traitement privé peuvent déchiffrer, et vérifie via une certification matérielle si la pile logicielle n’a pas été modifiée.
3. Transparence des composants : Pour empêcher le déploiement de logiciels malveillants, les composants importants tels que les binaires et les poids des modèles sont publiés dans un journal de transparence accessible à des tiers, permettant aux clients et chercheurs de vérifier l’authenticité du code exécuté.
4. Logiciel sécurisé : Renforce la pile logicielle à l’intérieur du TEE par plusieurs couches de protection, et conteneurise les applications pour limiter la surface d’attaque et contrôler strictement les fuites de données.
5. Routage anonyme : Utilise un service de certificats anonymes et la technologie HTTP anonyme, routant via un serveur relais tiers, cachant l’adresse IP de l’utilisateur à Meta et anonymisant l’identité, pour empêcher les attaquants de cibler des utilisateurs spécifiques.
6. Traitement des données éphémère et sans état : Les orchestrateurs et prédicteurs du système sont conçus sans état, traitant la requête puis abandonnant la conversation en mémoire après avoir renvoyé le résultat, garantissant qu’aucun historique n’est conservé.

Préoccupations extérieures : que faire si Meta AI est impliqué dans une mort non naturelle

Selon un rapport de la BBC, la majorité des entreprises d’IA stockent actuellement les données des conversations avec leurs chatbots, utilisées pour entraîner les futurs modèles de produits. Will Cathcart, responsable de WhatsApp, explique que la technologie et la plateforme derrière le mode incognito de WhatsApp diffèrent de celles utilisées pour protéger le chiffrement de bout en bout des autres messages, mais qu’elles ont une efficacité équivalente.

Alan Woodward, expert en cybersécurité à l’Université de Surrey, indique également que l’introduction d’un second système comporte peu de risques pour la sécurité existante de WhatsApp.

Cependant, des inquiétudes persistent quant au fait que le mode incognito pourrait masquer des défaillances ou abus de l’IA. Des entreprises d’IA telles qu’OpenAI et Google ont déjà été confrontées à des poursuites liées à des décès non naturels.

Woodward estime que cela pourrait conduire à un manque de responsabilité pour les réponses de l’IA, car les messages disparaissent automatiquement et ne peuvent pas être récupérés par l’utilisateur ou Meta, ce qui signifie que si une conversation mène à des blessures ou à la mort, aucune preuve ne pourra être trouvée.

Cathcart répond que, dans un premier temps, Meta AI Conversation Incognito ne traitera que du texte, sans support pour les images. De plus, le mécanisme de sécurité de Meta AI sera conservateur, refusant de répondre à toute demande pouvant être interprétée comme nuisible ou illégale.

Par ailleurs, WhatsApp a déjà bloqué l’accès à ses systèmes pour d’autres chatbots IA, de sorte que, sur la plateforme, seul le produit Meta officiel peut interagir avec les milliards d’utilisateurs.

Lecture complémentaire :
Meta déploie un outil de suivi interne pour entraîner l’IA avec ses employés, enregistrant chaque clic et frappe de clavier. Meta mise sur l’IA : Zuckerberg programme avec Claude, et les employés se lancent dans une guerre de consommation de tokens pour atteindre leurs KPI