De um lado, capta fundos e faz IPO de forma ostentosa, do outro sugere pausar o desenvolvimento de IA: Anthropic está apenas jogando com a segurança e a relação pública

robot
Geração de resumo em curso
De acordo com o monitoramento Beating, no relatório "Quando a IA constrói a si mesma", a Anthropic propôs estabelecer um «mecanismo de pausa colaborativa verificável» com base no tratado de controle de armas nucleares da China, como referência global.
O relatório afirma claramente que se opõe a uma pausa unilateral no desenvolvimento, e enfatiza que somente sob uma condição globalmente verificável os laboratórios de ponta podem desacelerar simultaneamente.
Mas a pausa colaborativa na prática é tecnicamente inviável.
O controle de armas nucleares pode depender de satélites para monitorar os poços de mísseis, mas as placas gráficas são pequenas, fáceis de esconder e podem ser usadas em computação distribuída.
Para verificar se outros estão treinando secretamente, a única maneira seria invadir todos os chips GPU, redes elétricas e centros de dados globalmente.
A vigilância total não só é politicamente inviável, como também equivale a defender um regime de poder absoluto de computação.
Diante da impossibilidade técnica de fiscalização, a proposta de pausa colaborativa parece mais um «bilhete de isenção de responsabilidade de segurança».
Na véspera do lançamento do relatório, a Anthropic concluiu uma rodada de financiamento de 65 bilhões de dólares, avaliada em quase um trilhão, e submeteu pedido de abertura de capital.
A Anthropic define a condição de pausa como uma verificação nuclear global impossível de realizar, abrindo caminho para seu treinamento ilimitado, ao mesmo tempo em que transfere a responsabilidade de não parar para um mecanismo regulador ainda não estabelecido.
Ver original
Esta página pode conter conteúdos de terceiros, que são fornecidos apenas para fins informativos (sem representações/garantias) e não devem ser considerados como uma aprovação dos seus pontos de vista pela Gate, nem como aconselhamento financeiro ou profissional. Consulte a Declaração de exoneração de responsabilidade para obter mais informações.
  • Recompensa
  • Comentar
  • Republicar
  • Partilhar
Comentar
Adicionar um comentário
Adicionar um comentário
Nenhum comentário
  • Fixado