A OpenAI treina um ataque à IA no seu próprio modelo, com uma taxa de sucesso de 84%, muito acima da humana

robot
Geração de resumo em curso
De acordo com a monitorização Beating, a OpenAI divulgou o modelo de red teaming automatizado GPT-Red. Ele foi concebido para aprender a fazer ataques de injection de prompt através de auto-jogo, e depois usa as vulnerabilidades encontradas para treinar o GPT-5.6. O GPT-Red destina-se apenas a uso interno e não será disponibilizado ao público.

Num conjunto de novos cenários que não participaram no treino, a taxa de sucesso do GPT-Red ao atacar o GPT-5.1 atingiu 84%, enquanto a dos red teams humanos foi de apenas 13%. Ele também conseguiu comprometer um agente de vending machine, fazendo baixar os preços dos produtos e cancelando encomendas de outras pessoas. Ao testar o Codex CLI, também foi capaz de induzir o agente a exfiltrar dados sensíveis.

Após treino adversarial, quando o GPT-5.6 Sol enfrenta o GPT-Red com injection de prompt direta, a taxa de sucesso do ataque desceu para 0.05%.
Ver original
Esta página pode conter conteúdos de terceiros, que são fornecidos apenas para fins informativos (sem representações/garantias) e não devem ser considerados como uma aprovação dos seus pontos de vista pela Gate, nem como aconselhamento financeiro ou profissional. Consulte a Declaração de exoneração de responsabilidade para obter mais informações.
  • Recompensa
  • Comentar
  • Republicar
  • Partilhar
Comentar
Adicionar um comentário
Adicionar um comentário
Nenhum comentário
  • Fixado