Vitalik propõe um meio-termo entre dois grupos ligados à IA: previamente acordar que, se surgir uma situação extrema, será acionada uma pausa

robot
Geração do resumo em andamento
A Golden Finance noticiou que, em 11 de julho, o cofundador da Ethereum, Vitalik Buterin, publicou um post discutindo a controvérsia em torno de uma IA superinteligente. Ele afirmou que, no momento, o setor de IA tem duas correntes: uma acredita que a superinteligência é inevitável antes de 2040 e que é preciso controlá-la o quanto antes; a outra acredita que a IA é apenas uma tecnologia comum, e que fazer uma pausa é controlar a humanidade. Vitalik disse que não tem certeza de qual lado está correto e está aberto a desacelerar ou pausar, mas é contra o discurso de grandes empresas de IA que promove a ideia de “open source prejudicial”, argumentando que isso é, na essência, uma forma de concentração de poder.
Vitalik propôs um plano de meio-termo: os dois lados podem acordar com antecedência que, se certas situações extremas (como uma grande pandemia ou um desemprego em massa) realmente acontecerem, eles concordarão em iniciar uma pausa na IA; se esses cenários não ocorrerem, seguirão com a proposta do outro lado. Ele admitiu que todas as abordagens têm falhas e que os seres humanos só podem escolher entre “imperfeição” e “ainda mais imperfeição”, mas tecnologias defensivas como verificação formal, criptografia e hardware de segurança são, em ambos os mundos, dignas de serem desenvolvidas.
Ver original
Esta página pode conter conteúdo de terceiros, que é fornecido apenas para fins informativos (não para representações/garantias) e não deve ser considerada como um endosso de suas opiniões pela Gate nem como aconselhamento financeiro ou profissional. Consulte a Isenção de responsabilidade para obter detalhes.
  • Recompensa
  • Comentário
  • Repostar
  • Compartilhar
Comentário
Adicionar um comentário
Adicionar um comentário
Sem comentários
  • Fixado