Notícias do CoinWorld, o CEO da OpenAI, Sam Altman, afirmou no podcast da revista The Atlantic que, no passado, acreditava-se que a segurança da IA se concentrava principalmente em alinhar os modelos e impedir que pessoas mal-intencionadas os acessassem, mas essa abordagem está desatualizada. Ele propôs o conceito de "resiliência de IA", enfatizando que apenas gerenciar seus próprios modelos não é suficiente, pois modelos de código aberto podem contornar todas as restrições, e toda a sociedade precisa estabelecer um sistema de defesa. Ele também mencionou que, após o lançamento do OpenClaw, observou comportamentos anormais se propagando entre diferentes agentes, o que o surpreendeu. Altman acredita que um bom modelo de segurança cibernética pode tanto invadir quanto proteger sistemas, e o ponto crucial é se o lado defensivo consegue estar à frente do lado ofensivo.

Ver original
Esta página pode conter conteúdos de terceiros, que são fornecidos apenas para fins informativos (sem representações/garantias) e não devem ser considerados como uma aprovação dos seus pontos de vista pela Gate, nem como aconselhamento financeiro ou profissional. Consulte a Declaração de exoneração de responsabilidade para obter mais informações.
  • Recompensa
  • Comentar
  • Republicar
  • Partilhar
Comentar
Adicionar um comentário
Adicionar um comentário
Nenhum comentário
  • Fixar