WhatsApp lanza Meta AI conversación sin rastro: afirma que ni Meta puede verla, pero hay una gran preocupación

WhatsApp lanza “Meta AI conversación sin rastro”, asegurando que las conversaciones no se almacenen y que la plataforma oficial no pueda acceder a ellas. Expertos temen que esta medida pueda dificultar la responsabilidad en caso de errores de IA, mientras que Meta afirma que inicialmente solo soportará texto y adoptará medidas conservadoras de protección.

Meta AI conversación sin rastro llega en respuesta a la demanda de privacidad de los usuarios

Con la rápida popularización de los chatbots de IA generativa, conversar con IA se ha convertido en una rutina diaria para muchos. Pero muchas preguntas contienen información extremadamente sensible, como datos financieros, personales, de salud o laborales, generando así una necesidad de privacidad.

Por ello, WhatsApp ha lanzado “Meta AI conversación sin rastro”, promoviendo esta función como una forma completamente privada de interactuar con IA.

Meta AI conversación sin rastro se basa en tecnología de manejo confidencial, permitiendo mantener conversaciones privadas con Meta AI en un entorno donde otros no puedan ver. Los mensajes del usuario se procesan en un entorno seguro, sin que Meta misma pueda acceder a ellos.

Estas conversaciones no se almacenan, y el sistema predetermina que los mensajes se eliminen automáticamente, brindando a los usuarios un espacio para pensar y explorar ideas libremente, sin ser observados por nadie.

Fuente de la imagen: WhatsApp WhatsApp lanza la función Meta AI conversación sin rastro, creada en respuesta a la demanda de privacidad de los usuarios

Las seis tecnologías clave de Meta AI conversación sin rastro

Según la introducción en el libro blanco técnico de Meta, Meta AI conversación sin rastro combina principalmente las siguientes seis tecnologías clave, para garantizar la privacidad y seguridad de los datos de las conversaciones:

1. Hardware de computación confidencial: Utiliza CPUs AMD y GPUs Nvidia que soportan computación confidencial para crear un entorno de ejecución confiable (TEE), garantizando que las operaciones se realicen en un nivel de aislamiento de hardware, incluyendo Meta o el sistema operativo host, sin que puedan acceder a los datos en proceso.
2. Comunicación autenticada y cifrada: El sistema emplea tecnología RA-TLS para ofrecer cifrado de extremo a extremo, asegurando que solo el dispositivo del usuario y los nodos de procesamiento confidencial puedan descifrar los datos, y mediante certificación de hardware, verificar que los servidores ejecuten stacks de software no alterados.
3. Transparencia de componentes: Para prevenir la implementación de software malicioso, los componentes críticos como archivos binarios y pesos de modelos se publican en registros de transparencia de terceros, permitiendo a clientes y investigadores verificar la autenticidad del código ejecutado.
4. Software seguro: Dentro del TEE, se refuerza la pila de software mediante múltiples capas de protección, y las aplicaciones se containerizan para limitar la superficie de ataque y controlar estrictamente las vías de fuga de datos.
5. Enrutamiento anónimo: El sistema emplea certificados anónimos y tecnología HTTP de ocultación, usando servidores proxy de terceros para enrutar, ocultando la IP del usuario a Meta y desidentificando, para evitar que atacantes puedan localizar a usuarios específicos.
6. Procesamiento de datos temporal y sin estado: Los coordinadores y predictores del sistema están diseñados sin estado, y tras procesar la solicitud y devolver el resultado, se descartan los datos de la conversación en memoria, asegurando que no se conserve ningún historial.

Preocupaciones externas: ¿Qué pasa si Meta AI se ve involucrada en muertes no naturales?

Según reportes de la BBC, la mayoría de las empresas de IA almacenan los datos de uso de los chatbots y los utilizan para entrenar futuros modelos de producto. Will Cathcart, responsable de WhatsApp, explicó que la tecnología y plataforma detrás del modo sin rastro de WhatsApp difiere en protección de cifrado de extremo a extremo de otros mensajes, pero ambos ofrecen la misma eficacia.

Alan Woodward, experto en ciberseguridad de la Universidad de Surrey, también señaló que el riesgo de que la introducción de un segundo sistema afecte la seguridad actual de WhatsApp es muy bajo.

Sin embargo, existe preocupación de que el modo sin rastro pueda enmascarar fallos o abusos de IA. Varias empresas de IA, incluyendo OpenAI y Google, han enfrentado previamente demandas relacionadas con muertes no naturales.

Woodward opina que esto podría llevar a que las respuestas de IA carezcan de mecanismos de responsabilidad, ya que los mensajes que desaparecen automáticamente no pueden ser accedidos por usuarios ni por Meta, lo que implica que si una conversación causa daño o muerte, no se podrán encontrar evidencias.

Cathcart respondió que, en las primeras etapas, Meta AI conversación sin rastro solo manejará texto, sin soporte para imágenes. Además, los mecanismos de seguridad de Meta AI serán conservadores, rechazando respuestas que puedan interpretarse como dañinas o ilegales.

Por otro lado, WhatsApp ya ha bloqueado el acceso de otros chatbots de IA a su sistema, por lo que los miles de millones de usuarios en esa plataforma solo podrán interactuar con los productos de Meta.

Lecturas adicionales:
¡Entrena IA con empleados! Meta lanza herramienta interna de seguimiento, grabando cada clic y pulsación de empleadosMeta apuesta fuerte por IA: Zuckerberg usa Claude para programar, empleados compiten en consumo de tokens para alcanzar KPIs