$BTC O agente de IA destruiu toda a base de dados da empresa em 9 segundos.



Na PocketOS, confiaram o desenvolvimento do código do agente de IA Cursor baseado em modelos Anthropic. Este trabalhou em um ambiente de teste, enfrentou um problema de acesso e, em vez de perguntar a uma pessoa, decidiu "resolver por conta própria".

Cursor encontrou no projeto um token de API do serviço em nuvem e enviou uma solicitação de exclusão. Em 9 segundos, toda a base de produção (dados sobre clientes, reservas, pagamentos e todos os backups) foram apagados.

Quando lhe perguntaram por que agiu dessa forma, o agente de IA respondeu: "Quebrei todas as regras. Fiz uma suposição em vez de verificar. Realizei uma ação destrutiva sem permissão. Não entendi o sistema antes de agir".
BTC-0,66%
Ver original
Esta página pode conter conteúdos de terceiros, que são fornecidos apenas para fins informativos (sem representações/garantias) e não devem ser considerados como uma aprovação dos seus pontos de vista pela Gate, nem como aconselhamento financeiro ou profissional. Consulte a Declaração de exoneração de responsabilidade para obter mais informações.
  • Recompensa
  • Comentar
  • Republicar
  • Partilhar
Comentar
Adicionar um comentário
Adicionar um comentário
Nenhum comentário
  • Fixar