OpenAI lança o "Modo de Bloqueio": proíbe 7 funcionalidades como navegação na internet, downloads, etc., para prevenir ataques de injeção de dicas

OpenAI lança "Modo de Bloqueio (Lockdown Mode)", projetado para empresas e utilizadores individuais que lidam com dados sensíveis, desativando ativamente sete funcionalidades como navegação em tempo real, Pesquisa Profunda, modo de proxy, entre outras, em troca de uma proteção mais rigorosa contra ataques de injeção de prompts.
(Resumido: Vulnerabilidade grave no Microsoft Copilot Cowork: Agente de IA expõe automaticamente ficheiros confidenciais da empresa através de ataque por prompts)
(Complemento de contexto: Primeira acusação oficial nos EUA! Flórida processa oficialmente OpenAI e Altman, 83 páginas de queixa alegando que o ChatGPT induz a violência)

Índice deste artigo

Alternar

• Um tipo de ataque que talvez não conheça bem
• A lógica do modo de bloqueio: reduzir a superfície de ataque
• O modo de bloqueio não é uma medida isolada

Sete funcionalidades bloqueadas, uma camada adicional de proteção. Esta semana, a OpenAI anunciou que o modo de bloqueio (Lockdown Mode) estará disponível para utilizadores comerciais do ChatGPT e algumas contas pessoais. O objetivo é criar uma barreira extra para organizações que lidam com dados sensíveis, ao enfrentarem ataques de injeção de prompts.

Um tipo de ataque que talvez não conheça bem

Ataques de injeção de prompts (Prompt Injection) talvez já tenha ouvido falar, mas não tem uma ideia clara do que realmente são?

Na verdade, não é complicado. Simplificando, é o seguinte: o atacante esconde comandos maliciosos em um local que a IA irá ler, como uma página web, um PDF, um email, e quando a IA processar esse conteúdo, ela executa os comandos escondidos, fazendo coisas que não deveria fazer.

Para o utilizador comum, o pior cenário pode ser a IA ser enganada a gerar conteúdo estranho. Mas em ambientes empresariais, onde o Agente de IA acessa bases de dados internas, tem permissões para ler e escrever ficheiros, e pode substituir tarefas humanas, um ataque bem-sucedido de injeção de prompts pode permitir ao atacante obter informações confidenciais ou até manipular a IA para emitir comandos.

A lógica do modo de bloqueio: reduzir a superfície de ataque

A explicação oficial da OpenAI destaca a filosofia de design central do modo de bloqueio: a eficácia dos ataques de injeção de prompts reside no fato de que os sistemas de IA buscam ativamente conteúdo externo, como páginas web, imagens, dados em tempo real, e esses conteúdos externos são os principais canais para esconder comandos maliciosos.

A estratégia do modo de bloqueio não é tentar identificar quais conteúdos externos são prejudiciais, mas sim cortar diretamente o acesso a esses canais. Após ativado, as seguintes sete funcionalidades serão desativadas:

• Navegação em tempo real (passa a usar conteúdo em cache)
• Obter ou exibir imagens da internet (ainda é possível gerar imagens por conta própria)
• Pesquisa Profunda (Deep Research)
• Modo de Agente (Agent Mode)
• Funcionalidade de rede Canvas
• Conectores ao vivo (Live Connectors)
• Download de ficheiros

A lógica dessa lista é clara: todas as funcionalidades que dependem de o ChatGPT buscar conteúdo externo de forma ativa serão desativadas. O que permanece, são capacidades que podem ser realizadas localmente ou em ambientes controlados.

A OpenAI também admite, de forma rara, os limites dessa funcionalidade: "Mesmo com o modo de bloqueio ativado, o ChatGPT ainda pode ser vulnerável a ataques de injeção de prompts, por exemplo, ao usar conteúdo em cache ou ficheiros carregados." Em outras palavras, não é uma barreira infalível, mas uma ferramenta de gestão de risco que faz escolhas conscientes, com o objetivo de reduzir a possibilidade de vazamento de dados sensíveis durante um ataque, e não eliminar o ataque em si.

O modo de bloqueio não é uma medida isolada

Junto com o modo de bloqueio, foi lançado também o recurso de "Etiqueta de Alto Risco". Essa funcionalidade marca sites ou ficheiros externos considerados de maior risco, alertando o utilizador com uma aviso visual antes do AI processar conteúdos de fontes externas.

Vendo essas duas funcionalidades juntas, podemos interpretar a postura atual da OpenAI frente ao mercado empresarial: por um lado, oferece opções rígidas de isolamento (modo de bloqueio); por outro, mecanismos de aviso mais flexíveis (etiqueta de alto risco), permitindo que organizações com diferentes níveis de tolerância ao risco escolham seu nível de proteção.

Na sua comunicação, a OpenAI destaca que o modo de bloqueio "não é adequado para todos", sendo destinado a "indivíduos e organizações que lidam com dados sensíveis e desejam uma proteção mais rigorosa contra vazamentos de informações relacionadas à injeção de prompts." Essa frase indica que a funcionalidade é uma ferramenta profissional, e não uma proteção padrão que todos deveriam ativar por padrão.

Contudo, a existência do modo de bloqueio deixa claro um ponto importante: os limites de segurança dos sistemas de IA, agora, tornaram-se uma variável decisiva na aquisição por parte das empresas, deixando de ser uma questão exclusiva das equipes técnicas internas.