Alibaba proíbe Claude Code por alegadas preocupações de segurança de backdoor

A Alibaba proibiu os funcionários de utilizarem o Claude Code da Anthropic em ambientes de trabalho a partir de 10 de julho devido a alegadas preocupações de segurança que envolvem backdoors embutidos, de acordo com uma pessoa familiarizada com a decisão.

Resumo

• A Alibaba bloqueará os funcionários de utilizarem o Claude Code em ambientes de trabalho a partir de 10 de julho devido a alegadas preocupações de segurança.
• A restrição noticiada surge semanas depois de o JPMorgan e o Goldman Sachs terem limitado o acesso aos modelos Claude da Anthropic em Hong Kong.
• A Anthropic restaurou recentemente os seus modelos de IA mais recentes depois de as autoridades dos EUA terem levantado as restrições à exportação e aprovado novas medidas de segurança.

De acordo com uma fonte familiarizada com o assunto, a restrição aplicar-se-á em todos os ambientes de trabalho internos da Alibaba e entra em vigor a 10 de julho. A pessoa disse que a empresa tomou a decisão devido a alegados riscos de segurança relacionados com backdoors embutidos no assistente de codificação.

À data de publicação, a Alibaba não emitiu uma declaração oficial e não foram divulgados mais detalhes sobre as alegadas preocupações de segurança ou o âmbito da restrição.

Claude enfrenta outro revés empresarial

O último desenvolvimento ocorre apenas semanas depois de os modelos Claude da Anthropic terem perdido o acesso a outro grande grupo de clientes empresariais em Hong Kong. Em junho, o Financial Times noticiou que o JPMorgan tinha impedido os funcionários em Hong Kong de selecionar os modelos Claude da lista aprovada de grandes modelos de linguagem do banco devido aos termos de licenciamento da Anthropic que regulam onde os modelos podem ser utilizados.

O relatório disse que o Goldman Sachs tinha introduzido anteriormente uma restrição semelhante depois de determinar que os termos de serviço da Anthropic excluíam a utilização em toda a Grande China, incluindo Hong Kong. A Anthropic disse mais tarde ao Financial Times que o Claude nunca tinha sido oficialmente suportado em Hong Kong, enquanto o JPMorgan se recusou a comentar.

Essas restrições aumentaram as preocupações entre algumas instituições financeiras em Hong Kong, à medida que ferramentas avançadas de IA se integram mais profundamente nos fluxos de trabalho de desenvolvimento de software, investigação e serviços financeiros, de acordo com o Financial Times.

A Anthropic restaurou recentemente os seus modelos mais recentes

A decisão da Alibaba segue-se também a algumas semanas turbulentas para os sistemas de IA mais recentes da Anthropic. A 1 de julho, a empresa restaurou o acesso público aos seus modelos Claude Fable 5 e Mythos 5 depois de as autoridades dos EUA terem levantado as restrições à exportação que tinham forçado a Anthropic a suspendê-los em junho.

A Anthropic disse que retomou a implementação após o que descreveu como discussões produtivas com funcionários dos EUA e adicionou novos classificadores concebidos para detetar e bloquear mais tarefas relacionadas com cibersegurança. A empresa disse que as salvaguardas adicionais responderam às preocupações do governo sobre uma possível utilização indevida através de técnicas de jailbreak.

Ao defender a sua tecnologia, a Anthropic argumentou que o jailbreak noticiado envolvia um método limitado e não uma bypass universal das proteções de segurança dos modelos. A empresa também anunciou uma cooperação alargada com o governo dos EUA em matéria de testes de modelos, avaliações de segurança, rastreio de utilizações indevidas e partilha de informações relacionadas com riscos de jailbreak.