De um lado, capta fundos e faz IPO de forma ostentosa, do outro sugere pausar o desenvolvimento de IA: Anthropic está apenas jogando com a segurança e relações públicas

robot
Geração do resumo em andamento
De acordo com o monitoramento Beating, no relatório "Quando a IA constrói a si mesma", a Anthropic propõe estabelecer um "mecanismo de pausa colaborativa verificável" com base no tratado de controle de armas nucleares "Tratado de Forças Nucleares de Alcance Intermediário".
O relatório afirma claramente que é contra uma pausa unilateral no desenvolvimento, e enfatiza que somente sob uma condição global verificável, os laboratórios de ponta poderiam desacelerar simultaneamente.
Mas a pausa colaborativa não é viável tecnicamente.
O controle nuclear pode ser feito com satélites monitorando os silos de mísseis, mas as placas gráficas são pequenas, fáceis de esconder e podem ser distribuídas em cálculos.
Para verificar se outros estão treinando secretamente, a única maneira seria invadir todos os chips GPU, redes elétricas e data centers globalmente.
A vigilância total não só é politicamente inviável, como também equivale a defender um regime de poder absoluto de computação.
Diante do fato de que a verificação técnica não pode ser implementada, a proposta de pausa colaborativa parece mais um "adesivo de isenção de responsabilidade de segurança".
Na véspera do lançamento do relatório, a Anthropic acabou de concluir uma rodada de financiamento de 65 bilhões de dólares, avaliada em quase um trilhão, e submeteu pedido de abertura de capital.
A Anthropic define a condição de pausa como uma verificação nuclear global impossível de ser realizada, abrindo caminho para seu treinamento ilimitado, ao mesmo tempo em que transfere a responsabilidade de não parar para um mecanismo regulatório ainda não estabelecido.
Ver original
Esta página pode conter conteúdo de terceiros, que é fornecido apenas para fins informativos (não para representações/garantias) e não deve ser considerada como um endosso de suas opiniões pela Gate nem como aconselhamento financeiro ou profissional. Consulte a Isenção de responsabilidade para obter detalhes.
  • Recompensa
  • Comentário
  • Repostar
  • Compartilhar
Comentário
Adicionar um comentário
Adicionar um comentário
Sem comentários
  • Fixado