WhatsApp pousse Meta AI conversation sans trace : prétend que même Meta ne peut pas voir, mais il y a un grand souci

WhatsApp lance « Meta AI Conversation Incognito », garantissant que les conversations ne sont pas stockées et que l’entreprise ne peut y accéder. Des experts craignent que cette démarche rende difficile la responsabilité en cas de problème avec l’IA, Meta affirmant que, dans un premier temps, seules les interactions textuelles seront supportées et que des mesures de précaution seront prises.

Meta AI Conversation Incognito voit le jour, répondant aux besoins de confidentialité du public

Avec la popularisation rapide des chatbots génératifs IA, dialoguer avec l’IA devient progressivement une activité quotidienne pour le grand public. Cependant, de nombreuses questions posent des enjeux de confidentialité très sensibles, comme la communication d’informations financières, personnelles, de santé ou professionnelles, ce qui engendre également des préoccupations en matière de vie privée.

WhatsApp a lancé « Meta AI Conversation Incognito » pour répondre à ces préoccupations, affirmant qu’il s’agit d’une nouvelle fonctionnalité permettant des conversations totalement privées avec l’IA.

Meta AI Conversation Incognito repose sur une technologie de traitement confidentiel, permettant d’avoir des chats privés avec Meta AI sans que d’autres puissent voir. Les messages des utilisateurs sont traités dans un environnement sécurisé, auquel même Meta n’a pas accès.

Ces conversations ne seront pas stockées, et le système est configuré pour que les messages disparaissent automatiquement, offrant aux utilisateurs un espace pour réfléchir et explorer leurs idées sans être observés.

Source : WhatsApp WhatsApp lance la nouvelle fonctionnalité Meta AI Conversation Incognito, née pour répondre aux besoins de confidentialité

Les six technologies clés de Meta AI Conversation Incognito

Selon le livre blanc technique de Meta, Meta AI Conversation Incognito combine principalement six technologies clés pour garantir la confidentialité et la sécurité des données de conversation :

1. Matériel de calcul confidentiel : Utilisation de CPU AMD supportant le calcul confidentiel et de GPU Nvidia pour établir un environnement d’exécution fiable (TEE), assurant que les opérations de calcul sont isolées au niveau matériel, y compris Meta ou le système d’exploitation hôte, qui ne peuvent pas accéder aux données en cours de traitement.
2. Communication certifiée et chiffrée : Le système utilise la technologie RA-TLS pour fournir un chiffrement de bout en bout, garantissant que seul l’appareil de l’utilisateur et le nœud de traitement confidentiel peuvent déchiffrer, et vérifie via une certification matérielle si la pile logicielle n’a pas été modifiée.
3. Transparence des composants : Pour prévenir le déploiement de logiciels malveillants, les composants importants tels que les fichiers binaires et les poids des modèles sont publiés dans un journal de transparence accessible à des tiers, permettant aux clients et chercheurs de vérifier l’authenticité du code exécuté.
4. Logiciel sécurisé : Renforcement de la pile logicielle à l’intérieur du TEE par plusieurs couches de protection, avec la containerisation des applications pour limiter la surface d’attaque et contrôler strictement les voies de fuite de données.
5. Routage anonyme : Utilisation de certificats anonymes et de techniques HTTP anonymisées, avec un serveur relais tiers pour le routage, cachant l’adresse IP de l’utilisateur à Meta et anonymisant l’identité, afin d’empêcher les attaquants de cibler des utilisateurs spécifiques.
6. Traitement des données éphémère et sans état : Les orchestrateurs et prédicteurs du système sont conçus sans état, traitant la requête puis supprimant immédiatement la conversation en mémoire après avoir renvoyé le résultat, garantissant qu’aucun historique n’est conservé.

Les inquiétudes extérieures : que faire si Meta AI est impliqué dans une mort non naturelle

Selon la BBC, la majorité des entreprises d’IA stockent actuellement les données des conversations des chatbots, utilisées pour entraîner les futurs modèles de produits. Will Cathcart, responsable de WhatsApp, explique que la technologie et la plateforme derrière le mode incognito de WhatsApp diffèrent de celles utilisées pour protéger le chiffrement de bout en bout des autres messages, mais qu’elles ont une efficacité équivalente.

Alan Woodward, expert en cybersécurité à l’Université de Surrey, indique également que l’introduction d’un second système comporte peu de risques pour la sécurité existante de WhatsApp.

Cependant, des inquiétudes persistent quant au fait que le mode incognito pourrait masquer des défaillances ou abus de l’IA. Plusieurs entreprises d’IA, dont OpenAI et Google, ont déjà été confrontées à des poursuites liées à des décès non naturels.

Woodward estime que cela pourrait conduire à un manque de responsabilité dans les réponses de l’IA, car les messages disparaissent automatiquement et ne peuvent pas être récupérés par l’utilisateur ou Meta, ce qui signifie que si une conversation cause des blessures ou la mort, il sera impossible de trouver des preuves.

Cathcart répond que, dans un premier temps, Meta AI Conversation Incognito ne supportera que le texte, sans support pour les images. De plus, la sécurité de Meta AI sera conservatrice, refusant de répondre à toute demande pouvant être interprétée comme nuisible ou illégale.

Par ailleurs, WhatsApp a déjà bloqué l’accès à ses systèmes pour d’autres chatbots IA, de sorte que, pour ses milliards d’utilisateurs, le seul IA avec lequel ils peuvent interagir sur la plateforme est le produit maison de Meta.

Lecture complémentaire :
Former l’IA avec ses employés ! Meta déploie un outil de suivi interne, enregistrant chaque clic de souris et chaque frappe. Meta mise sur l’IA : Zuckerberg programme avec Claude, les employés lancent une guerre de consommation de tokens pour atteindre leurs KPI