Vitalik propõe um acordo de compromisso entre dois grupos rivais de IA: estipular previamente que, se ocorrerem situações extremas, seja iniciado um processo de pausa.

Notícia da ME, 11 de julho (UTC+8): o cofundador da Ethereum Vitalik Buterin publicou um post para discutir a controvérsia sobre uma superinteligência de IA. Ele afirmou que hoje existem duas correntes na área de IA: uma acredita que a superinteligência inevitavelmente chegará antes de 2040, então é preciso controlá-la o quanto antes; a outra acredita que a IA é apenas uma tecnologia comum, e que parar a tecnologia é uma forma de controlar os seres humanos. Vitalik disse que não tem certeza de qual lado está certo e está aberto à ideia de desacelerar ou pausar, mas é contra o argumento de que grandes empresas de IA estejam promovendo a tese de “código aberto é prejudicial”, pois acredita que isso, na essência, leva à concentração de poder.

Vitalik propôs um plano de meio-termo: ambos os lados podem concordar com antecedência que, se certos cenários extremos (como uma grande pandemia ou desemprego em massa) realmente ocorrerem, eles concordarão em iniciar uma pausa na IA; se esses cenários não acontecerem, o projeto segue a proposta do outro lado. Ele admite que todas as estratégias de resposta têm falhas e que os seres humanos só podem escolher entre “imperfeito” e “ainda mais imperfeito”, mas que tecnologias defensivas, como verificação formal, criptografia e hardware de segurança, são dignas de avanço nos dois mundos. (Fonte: PANews)