Bruxelas inicia conversas separadas sobre segurança de IA com OpenAI e Anthropic

Na segunda-feira, a Comissão Europeia disse que está conversando com a OpenAI e a Anthropic sobre seus modelos de IA, mas as duas conversas parecem nada semelhantes.

Thomas Regnier, um porta-voz da Comissão em Bruxelas, disse a repórteres que a OpenAI foi a primeira a oferecer acesso ao seu modelo mais recente. A Comissão considerou a iniciativa proativa.

A Anthropic, por outro lado, se reuniu com autoridades quatro ou cinco vezes, mas o acesso ao modelo ainda não foi mencionado.

“Com uma (OpenAI), você tem uma empresa oferecendo proativamente acesso ao seu modelo. Com a outra (Anthropic), temos boas trocas, embora não estejamos em um estágio em que possamos especular sobre o potencial de acesso ou não,” disse Regnier durante a coletiva.

Governos estão reforçando o controle sobre IA de fronteira

O timing não é aleatório. Governos de todo o mundo estão atentos a sistemas avançados de IA.

Este ano, a Lei de IA da UE começou a entrar em vigor. Ela está sendo implementada em etapas. A regulamentação fornece regras baseadas em risco para provedores de IA que operam na Europa.

As empresas não são obrigadas a fornecer modelos ao governo para análise antes de colocá-los no mercado, mas fica claro que a Comissão quer saber mais sobre o que está por vir.

OpenAI e Anthropic são as duas maiores empresas americanas trabalhando com IA de ponta.

Seus sistemas de IA continuam ficando mais capazes, e reguladores estão se esforçando para entender o que isso realmente significa.

O serviço audiovisual da Comissão listou a discussão entre OpenAI e Anthropic sob “Cibersegurança” na agenda do briefing ao meio-dia de 11 de maio. Está listado ao lado de política de defesa e migração.

Washington está caminhando para verificações obrigatórias antes do lançamento

Enquanto Bruxelas conversa, Washington pode impor.

A Casa Branca está considerando um plano para revisar os modelos de IA mais poderosos antes de serem divulgados ao público.

Essa ideia ganhou força após a Anthropic reter o acesso mais amplo ao seu último modelo, Mythos, quando testes internos mostraram que ele poderia encontrar bugs de software exploráveis em escala.

O Instituto de Segurança de IA do Reino Unido enfrentou problemas semelhantes em abril, ao avaliar o GPT-5.5 da OpenAI.

O modelo fez engenharia reversa de uma máquina virtual personalizada e resolveu um desafio complexo mais rápido do que um especialista humano, de acordo com descobertas que o Cryptopolitan já reportou.

As mentes mais inteligentes de criptomoedas já leem nossa newsletter. Quer participar? Junte-se a elas.