WhatsApp pousse Meta AI conversation sans trace : prétend que même Meta ne peut pas voir, mais il y a un grand souci

WhatsApp lance « Meta AI Conversation Incognito », garantissant que les conversations ne sont pas stockées et que l’entreprise ne peut y accéder. Des experts craignent que cette démarche rende difficile la responsabilité en cas de problème avec l’IA, Meta affirmant que, dans un premier temps, seules les interactions textuelles seront supportées et que des mesures de précaution seront prises.

Meta AI Conversation Incognito apparaît en réponse aux besoins de confidentialité des utilisateurs

Avec la popularisation rapide des chatbots génératifs IA, dialoguer avec l’IA devient progressivement une activité quotidienne pour le grand public. Cependant, de nombreuses questions contiennent des informations extrêmement sensibles, telles que des données financières, personnelles, de santé ou professionnelles, ce qui soulève également des préoccupations en matière de vie privée.

WhatsApp a lancé « Meta AI Conversation Incognito » pour répondre à ces préoccupations, affirmant qu’il s’agit d’une nouvelle fonctionnalité permettant des conversations totalement privées avec l’IA.

Meta AI Conversation Incognito repose sur une technologie de traitement confidentiel, permettant d’avoir des chats privés avec Meta AI sans que d’autres ne puissent voir. Les messages des utilisateurs sont traités dans un environnement sécurisé, auquel même Meta n’a pas accès.

Ces conversations ne seront pas stockées, et le système est configuré pour que les messages disparaissent automatiquement, offrant aux utilisateurs un espace pour réfléchir et explorer leurs idées librement, sans surveillance.

Source : WhatsApp WhatsApp lance la nouvelle fonctionnalité Meta AI Conversation Incognito, née pour répondre aux besoins de confidentialité

Les six technologies clés de Meta AI Conversation Incognito

Selon le livre blanc technique de Meta, Meta AI Conversation Incognito combine principalement six technologies essentielles pour garantir la confidentialité et la sécurité des données de conversation :

1. Matériel de calcul confidentiel : Utilisation de CPU AMD supportant le calcul confidentiel et de GPU Nvidia pour établir un environnement d’exécution fiable (TEE), assurant que les opérations de calcul sont isolées au niveau matériel, y compris Meta ou le système d’exploitation hôte, qui ne peuvent pas accéder aux données en traitement.
2. Communication certifiée et chiffrée : Le système utilise la technologie RA-TLS pour fournir un chiffrement de bout en bout, garantissant que seul l’appareil de l’utilisateur et le nœud de traitement confidentiel peuvent déchiffrer, et vérifie via une authentification matérielle si la pile logicielle du serveur n’a pas été modifiée.
3. Transparence des composants : Pour prévenir le déploiement de logiciels malveillants, les composants importants tels que les fichiers binaires et les poids des modèles sont publiés dans un journal de transparence accessible à des tiers, permettant aux clients et chercheurs de vérifier l’authenticité du code exécuté.
4. Logiciel sécurisé : Renforcement de la pile logicielle à l’intérieur du TEE par plusieurs couches de protection, avec la containerisation des applications pour limiter la surface d’attaque et contrôler strictement les voies de fuite de données.
5. Routage anonyme : Utilisation de certificats anonymes et de techniques HTTP anonymisées, avec un serveur relais tiers pour le routage, cachant l’adresse IP de l’utilisateur à Meta et anonymisant l’identité, afin d’empêcher les attaquants de cibler des utilisateurs spécifiques.
6. Traitement des données éphémère et sans état : Les orchestrateurs et prédicteurs du système sont conçus sans état, traitant la requête puis supprimant immédiatement les données de conversation en mémoire après avoir renvoyé le résultat, garantissant qu’aucun historique n’est conservé.

Inquiétudes extérieures : que faire si Meta AI est impliqué dans une mort non naturelle

Selon la BBC, la majorité des entreprises d’IA stockent actuellement les données des conversations des chatbots, utilisées pour entraîner les futurs modèles de produits. Will Cathcart, responsable de WhatsApp, explique que la technologie et la plateforme derrière le mode incognito de WhatsApp diffèrent de celles utilisées pour protéger le chiffrement de bout en bout des autres messages, mais qu’elles ont une efficacité équivalente.

Alan Woodward, expert en cybersécurité à l’Université de Surrey, indique également que l’introduction d’un second système comporte peu de risques pour la sécurité existante de WhatsApp.

Cependant, des inquiétudes subsistent quant au fait que le mode incognito pourrait masquer des défaillances ou abus de l’IA. Plusieurs entreprises d’IA, dont OpenAI et Google, ont déjà été confrontées à des poursuites liées à des décès non naturels.

Woodward estime que cela pourrait conduire à un manque de responsabilité dans les réponses de l’IA, car les messages qui disparaissent automatiquement ne peuvent pas être récupérés par l’utilisateur ou Meta, ce qui signifie que si une conversation mène à des blessures ou à la mort, il sera impossible de trouver des preuves.

Cathcart répond que, dans un premier temps, Meta AI Conversation Incognito ne traitera que du texte, sans support pour les images. De plus, le mécanisme de sécurité de Meta AI sera prudent, refusant de répondre à toute demande pouvant être interprétée comme nuisible ou illégale.

Par ailleurs, WhatsApp a déjà bloqué l’accès d’autres chatbots IA à son système, de sorte que les milliards d’utilisateurs ne peuvent interagir qu’avec les produits Meta eux-mêmes sur cette plateforme.

Lecture complémentaire :
Former l’IA avec ses employés ! Meta déploie un outil de suivi interne, enregistrant chaque clic de souris et chaque frappe, tout en surveillant le comportement des employésMeta mise à fond sur l’IA : Zuckerberg programme avec Claude, les employés lancent une guerre de tokens pour atteindre leurs KPI