Vitalik propõe um acordo de compromisso entre dois grupos de IA: combinar previamente o acionamento de uma pausa caso surjam circunstâncias extremas

robot
Geração de resumo em curso
Notícia da Golden Finance: a 11 de julho, o cofundador da Ethereum, Vitalik Buterin, publicou um texto a discutir a controvérsia em torno da superinteligência da IA. Ele afirmou que, atualmente, a área de IA tem duas correntes: uma delas acredita que a superinteligência é inevitável antes de 2040 e que é necessário controlá-la o mais depressa possível; a outra defende que a IA é apenas uma tecnologia comum e que o objetivo de “pausar” é controlar a humanidade. Vitalik disse que não tem certeza de qual lado está certo, e mostrou-se aberto à ideia de abrandar ou pausar, mas opõe-se ao discurso promovido por grandes empresas de IA de que “a open source é prejudicial”, afirmando que isso é, na essência, uma concentração de poder.
Vitalik propôs um plano de compromisso: ambas as partes podem acordar antecipadamente que, se alguns cenários extremos (como uma grande pandemia devastadora, desemprego em massa, etc.) realmente acontecerem, concordarão em iniciar uma pausa da IA; se essas situações não ocorrerem, segue-se o plano da outra parte. Ele reconheceu que todas as soluções têm limitações e que a humanidade só pode escolher entre “imperfeições” e “imperfeições ainda maiores”, mas que tecnologias defensivas como validação formal, criptografia, hardware de segurança, etc., são dignas de desenvolvimento em ambos os mundos.
Ver original
Esta página pode conter conteúdos de terceiros, que são fornecidos apenas para fins informativos (sem representações/garantias) e não devem ser considerados como uma aprovação dos seus pontos de vista pela Gate, nem como aconselhamento financeiro ou profissional. Consulte a Declaração de exoneração de responsabilidade para obter mais informações.
  • Recompensa
  • Comentar
  • Republicar
  • Partilhar
Comentar
Adicionar um comentário
Adicionar um comentário
Nenhum comentário
  • Fixado