WhatsApp lanza Meta AI conversación sin rastro: afirma que ni Meta puede verla, pero hay una gran preocupación

WhatsApp lanza “Meta AI conversación sin rastro”, asegurando que las conversaciones no se almacenen y que la plataforma oficial no pueda acceder a ellas. Expertos temen que esta medida pueda dificultar la responsabilidad en caso de errores de IA, mientras que Meta afirma que inicialmente solo soporta texto y adopta medidas conservadoras de protección.

Meta AI conversación sin rastro llega, nacida para responder a las necesidades de privacidad de los usuarios

Con la rápida popularización de los chatbots de IA generativa, conversar con IA se ha convertido gradualmente en una rutina diaria para el público. Pero muchas preguntas contienen información extremadamente sensible, como datos financieros, personales, de salud o laborales, generando así una demanda de privacidad.

Por ello, WhatsApp ha lanzado “Meta AI conversación sin rastro”, promoviendo esta función como una forma completamente privada de interactuar con IA.

Meta AI conversación sin rastro se basa en tecnología de manejo confidencial, permitiendo mantener conversaciones privadas con Meta AI sin que otros puedan verlas. Los mensajes de los usuarios se procesan en un entorno seguro, incluso Meta no puede acceder a ellos.

Estas conversaciones no se almacenan, y el sistema predetermina que los mensajes desaparezcan automáticamente, brindando a los usuarios un espacio para pensar y explorar ideas libremente, sin ser observados por nadie.

Fuente de la imagen: WhatsApp WhatsApp lanza la función de Meta AI conversación sin rastro, nacida para responder a las necesidades de privacidad de los usuarios

Las seis tecnologías clave de Meta AI conversación sin rastro

Según la introducción en el libro blanco técnico de Meta, Meta AI conversación sin rastro combina principalmente las siguientes seis tecnologías centrales, para garantizar la privacidad y seguridad de los datos de las conversaciones:

1. Hardware de computación confidencial: Utiliza CPUs AMD y GPUs Nvidia que soportan computación confidencial para crear un entorno de ejecución confiable (TEE), garantizando que las tareas de cálculo estén aisladas a nivel de hardware, incluyendo Meta o el sistema operativo host, sin poder acceder a los datos en proceso.
2. Comunicación autenticada y cifrada: El sistema emplea tecnología RA-TLS para ofrecer cifrado de extremo a extremo, asegurando que solo el dispositivo del usuario y los nodos de procesamiento confidencial puedan descifrar, y mediante certificación de hardware, verificar si el servidor ejecuta una pila de software no alterada.
3. Transparencia de componentes: Para prevenir la implementación de software malicioso, el sistema publica componentes importantes como archivos binarios y pesos de modelos en un registro de transparencia de terceros, permitiendo a clientes y investigadores verificar la autenticidad del código en ejecución.
4. Software seguro: Dentro del TEE, se refuerza la pila de software con múltiples capas de protección, y las aplicaciones se containerizan para limitar la superficie de ataque y controlar estrictamente las vías de fuga de datos.
5. Enrutamiento anónimo: El sistema emplea certificados anónimos y tecnología HTTP de ocultación, usando servidores proxy de terceros para enrutar, ocultando la IP del usuario a Meta y desidentificando, para evitar que atacantes puedan localizar a usuarios específicos.
6. Procesamiento de datos temporal y sin estado: Los coordinadores y predictores del sistema están diseñados sin estado, y tras procesar la solicitud y devolver el resultado, eliminan la conversación de la memoria, asegurando que no se conserve el historial.

Preocupaciones externas: ¿Qué pasa si Meta AI se ve involucrada en muertes no naturales?

Según reportes de la BBC, la mayoría de las empresas de IA almacenan los datos de uso de los chatbots y los utilizan para entrenar futuros modelos de producto. Will Cathcart, responsable de WhatsApp, explicó que la tecnología y plataforma detrás del modo sin rastro de WhatsApp difiere en protección de cifrado de extremo a extremo de otros mensajes, pero ambos tienen la misma eficacia.

Alan Woodward, experto en ciberseguridad de la Universidad de Surrey, también señaló que la introducción de un segundo sistema presenta un riesgo muy bajo para la seguridad existente de WhatsApp.

Sin embargo, existe preocupación de que el modo sin rastro pueda enmascarar fallos o abusos de IA. Varias empresas de IA, incluyendo OpenAI y Google, han enfrentado previamente demandas relacionadas con muertes no naturales.

Woodward opina que esto podría llevar a que las respuestas de IA carezcan de mecanismos de responsabilidad, ya que los mensajes que desaparecen automáticamente no pueden ser accedidos por usuarios ni por Meta, lo que significa que si una conversación causa daño o muerte, no se podrán encontrar evidencias.

Cathcart respondió que, en las primeras etapas, Meta AI conversación sin rastro solo manejará texto, sin soporte para imágenes. Además, los mecanismos de protección de Meta serán conservadores, rechazando solicitudes que puedan interpretarse como dañinas o ilegales.

Por otro lado, WhatsApp ya ha bloqueado el acceso de otros chatbots de IA a su sistema, por lo que los miles de millones de usuarios en esa plataforma solo podrán interactuar con productos de Meta.