WhatsApp lança Meta AI conversa sem rastros: afirma que nem mesmo a Meta consegue ver, mas há uma grande preocupação

WhatsApp lança “Meta AI Conversa Sem Rastros”, garantindo que as conversas não sejam armazenadas e que os oficiais não possam acessá-las. Especialistas temem que essa medida possa tornar difícil responsabilizar a IA por acidentes, enquanto a Meta afirma que inicialmente apenas suporta texto e adota uma abordagem conservadora de proteção.

Meta AI Conversa Sem Rastros surge para atender às demandas de privacidade do público

À medida que os chatbots de IA generativa se tornam rapidamente populares, conversar com IA tem se tornado uma rotina para o público. Mas muitas perguntas envolvem informações extremamente sensíveis, como dados financeiros, pessoais, de saúde ou de trabalho, criando assim uma necessidade de privacidade.

Para isso, a WhatsApp lançou o “Meta AI Conversa Sem Rastros”, promovendo como uma nova funcionalidade para conversas totalmente privadas com IA.

O Meta AI Conversa Sem Rastros é baseado em tecnologia de processamento confidencial, permitindo que os usuários tenham conversas privadas com a Meta AI sem que outras pessoas possam ver. As mensagens dos usuários são processadas em um ambiente seguro, e nem mesmo a Meta tem acesso a elas.

Essas conversas não serão armazenadas, e o sistema vem configurado para que as mensagens desapareçam automaticamente, oferecendo aos usuários um espaço para pensar livremente e explorar ideias, sem serem observados por ninguém.

Fonte da imagem: WhatsApp WhatsApp lança nova funcionalidade Meta AI Conversa Sem Rastros, criada para atender às demandas de privacidade do público

Seis tecnologias centrais do Meta AI Conversa Sem Rastros

De acordo com o white paper técnico da Meta, o Meta AI Conversa Sem Rastros combina principalmente seis tecnologias essenciais, garantindo a privacidade e segurança dos dados de conversa:

1. Hardware de computação confidencial: Utiliza CPUs AMD com suporte a computação confidencial e GPUs Nvidia para criar ambientes de execução confiáveis (TEE), garantindo que as operações de cálculo sejam isoladas a nível de hardware, incluindo a Meta ou o sistema operacional principal, que não podem acessar os dados em processamento.
2. Comunicação autenticada e criptografada: O sistema usa tecnologia RA-TLS para fornecer criptografia de ponta a ponta, garantindo que apenas o dispositivo do usuário e o nó de processamento confidencial possam decifrar as mensagens, além de verificar por autenticação de hardware se o software no servidor não foi adulterado.
3. Transparência de componentes: Para evitar a implantação de softwares maliciosos, os componentes essenciais, como binários e pesos de modelos, são publicados em logs de transparência acessíveis a terceiros, permitindo que clientes e pesquisadores verifiquem a autenticidade do código executado.
4. Software seguro: Dentro do TEE, o sistema reforça a pilha de software com múltiplas camadas de proteção e containeriza aplicações, limitando a superfície de ataque e controlando rigorosamente os caminhos de vazamento de dados.
5. Roteamento anônimo: O sistema usa certificados anônimos e tecnologia HTTP de anonimização, roteando por meio de servidores proxy de terceiros, escondendo o endereço IP do usuário do Meta e desidentificando os dados, para impedir que atacantes localizem informações específicas de usuários.
6. Processamento de dados temporário e sem estado: Os coordenadores e preditores do sistema são projetados sem estado, descartando as conversas da memória após processar as solicitações e retornar os resultados, garantindo que não haja acesso ao histórico.

Preocupações externas: e se a Meta AI estiver envolvida em mortes não naturais

Segundo a BBC, atualmente a maioria das empresas de IA armazena os dados de uso dos chatbots e os utiliza para treinar futuros modelos de produto. Will Cathcart, responsável pelo WhatsApp, explicou que a tecnologia e a plataforma por trás do modo sem rastros do WhatsApp diferem do end-to-end encryption usado para proteger outras mensagens, mas ambos oferecem o mesmo nível de segurança.

Alan Woodward, especialista em segurança cibernética da Surrey University, também afirmou que a introdução de um segundo sistema apresenta baixo risco para a segurança atual do WhatsApp.

No entanto, há preocupações de que o modo sem rastros possa esconder falhas ou abusos da IA. Empresas de IA como OpenAI e Google, por exemplo, já enfrentaram processos relacionados a mortes não naturais.

Woodward acredita que isso pode levar a respostas da IA sem mecanismos de responsabilização, já que mensagens que desaparecem automaticamente não podem ser acessadas por usuários ou pela Meta, o que significa que, se uma conversa causar dano ou morte, não será possível encontrar evidências.

Cathcart respondeu que, inicialmente, o modo sem rastros do Meta AI lidará apenas com texto, sem suporte a imagens. Além disso, os mecanismos de segurança da Meta AI serão conservadores, rejeitando solicitações que possam ser interpretadas como prejudiciais ou ilegais.

Por fim, o WhatsApp já bloqueou o acesso de outros chatbots de IA ao seu sistema, de modo que os bilhões de usuários na plataforma só podem interagir com os produtos próprios da Meta.

Leitura adicional:
Treinando IA com funcionários! Meta lança ferramenta de rastreamento interno, registrando cada clique e tecla dos funcionáriosMeta aposta forte em IA: Zuckerberg usa Claude para programar, enquanto funcionários travam batalha de tokens para alcançar KPIs