Notícias do Coinjie.com, o CEO da OpenAI, Sam Altman, afirmou em um podcast da revista The Atlantic que, no passado, acreditava-se que a segurança de IA se concentrava principalmente em alinhar os modelos e impedir que pessoas mal-intencionadas os acessassem, mas essa abordagem está obsoleta. Ele propôs o conceito de "resiliência de IA", enfatizando que apenas gerenciar seus próprios modelos não é suficiente, pois modelos de código aberto podem contornar todas as restrições, e toda a sociedade precisa estabelecer um sistema de defesa. Ele também mencionou que, após o lançamento do OpenClaw, observou comportamentos anormais se propagando entre diferentes agentes, o que o surpreendeu. Altman acredita que um bom modelo de segurança cibernética pode tanto invadir quanto proteger sistemas, e o ponto crucial é se o lado defensivo consegue estar à frente do lado ofensivo.

Ver original
Esta página pode conter conteúdo de terceiros, que é fornecido apenas para fins informativos (não para representações/garantias) e não deve ser considerada como um endosso de suas opiniões pela Gate nem como aconselhamento financeiro ou profissional. Consulte a Isenção de responsabilidade para obter detalhes.
  • Recompensa
  • Comentário
  • Repostar
  • Compartilhar
Comentário
Adicionar um comentário
Adicionar um comentário
Sem comentários
  • Fixado