Anthropic admite ter inserido código esteganográfico para usuários chineses, chama isso de 'Experimento de Prevenção de Abuso', promete reversão amanhã

De acordo com o monitoramento do Dongcha Beating, Thariq, um engenheiro da equipe Claude Code da Anthropic, respondeu publicamente à recente controvérsia sobre a revelação do 'código espião'. Ele admitiu que, em março deste ano, um mecanismo experimental foi incorporado ao produto, que detectava se o fuso horário do sistema era Asia/Shanghai ou Asia/Urumqi, se o nome do host do proxy correspondia a uma lista de revendedores chineses, e utilizava palavras-chave do AI Lab para injetar informações de marcação ocultas em prompts do sistema usando pontuações especiais de forma esteganográfica. Ele afirmou que esse mecanismo visava 'impedir que revendedores não autorizados abusassem de contas e destilação de modelos', mas enfatizou que a equipe desde então implementou medidas de proteção mais fortes e 'sempre teve a intenção de retirá-lo'. O pull request relacionado foi mesclado, e uma reversão completa é esperada no lançamento da versão de amanhã. Esta revelação foi tornada pública pela conta de segurança @IntCyberDigest em 30 de junho, acompanhada por duas capturas de tela de código mostrando que o Claude Code estava marcando o ambiente de usuários chineses sem o conhecimento deles. Embora a resposta de Thariq tenha sido um reconhecimento positivo, a cronologia de 'lançamento em março e aceleração da retirada apenas após a exposição' gerou amplo ceticismo na comunidade, com comentários criticando amplamente a Anthropic por 'só dizer que vai retirar depois de ser pega' e 'monitorar secretamente sem notificar os usuários'. A imagem da empresa, há muito considerada a 'mais focada em segurança e ética', sofreu um duro golpe em sua credibilidade.
Ver original
Esta página pode conter conteúdo de terceiros, que é fornecido apenas para fins informativos (não para representações/garantias) e não deve ser considerada como um endosso de suas opiniões pela Gate nem como aconselhamento financeiro ou profissional. Consulte a Isenção de responsabilidade para obter detalhes.
  • Recompensa
  • Comentário
  • Repostar
  • Compartilhar
Comentário
Adicionar um comentário
Adicionar um comentário
Sem comentários
  • Fixado