CEO da Anthropic comenta sobre o estado atual da IA e políticas, é um aviso sincero ou uma tentativa de manter a liderança?

Título original: 《CEO da Anthropic faz comentários ácidos sobre o estado atual e políticas de IA, mas só quer garantir sua liderança》
Fonte original: Máquina do Coração

Dario Amodei escreveu mais um artigo extenso.

A Anthropic sempre tenta espalhar suas opiniões pelo mundo todo. Como há alguns dias, quando eles pediram globalmente que parassem o desenvolvimento de IA, alegando que a evolução de IA com autoaperfeiçoamento recursivo está avançando rápido demais.

Os comentários dos internautas foram unânimes, indicando que a ambição da Anthropic de manter sua liderança é claramente evidente.

Vamos ver que tipo de opinião Dario expressou desta vez.

Este é um artigo de dez mil palavras intitulado "Política sobre a Exponencial de IA". Como em seus artigos anteriores, o tema continua grandioso: a IA está avançando em ritmo exponencial, mas o sistema de políticas responsável por regular ainda caminha no ritmo de uma década atrás.

Ele quer colocar essa disparidade na mesa e dizer a todos o que fazer.

Resumo do conteúdo

Amodei usa uma metáfora de "Senhor dos Anéis": os Ents são sábios, mas lentos na ação, e levar um dia inteiro só para trocar uma saudação.

Ele afirma que o processo atual de formulação de políticas é como os Ents, enquanto a velocidade de evolução da IA é como a ameaça urgente enfrentada pelos hobbits.

Sua avaliação é: se as leis de escalonamento da IA continuarem por mais um ou dois anos, teremos o que ele chama de "IA poderosa", ou seja, "um reino de gênios dentro de centros de dados".

Há quatro anos, a IA quase não conseguia escrever códigos decentes, e agora ela já escreve a maior parte do código para grandes empresas de IA.

Regulamentação e segurança pública: gerenciar IA como aviões

Amodei acredita que os modelos de IA de ponta devem passar por testes obrigatórios de terceiros, como os aviões. As propostas específicas incluem:

· Modelos com volume de cálculo acima de um determinado limite devem passar por auditorias obrigatórias nos campos de segurança cibernética, armas biológicas, sistemas de IA fora de controle e pesquisa e desenvolvimento automatizados.

· O governo tem o direito de impedir a implantação de modelos considerados de risco inaceitável.

· Empresas de IA devem manter padrões de segurança rigorosos para proteger os pesos dos modelos e colaborar com o governo na defesa contra ameaças principais.

Ele também deixou uma ressalva: se no futuro o sistema de IA mais avançado parecer mais com material de armas nucleares do que com um avião, a regulamentação precisará ser ainda mais rigorosa.

Economia macro: IA pode impulsionar crescimento e desigualdade ao mesmo tempo

O argumento central de Amodei é que: a IA pode gerar um crescimento econômico sem precedentes, mas também pode causar um impacto na força de trabalho maior e mais duradouro do que qualquer tecnologia anterior. A lógica tradicional de "nova tecnologia cria novos empregos" pode não se aplicar mais diante da IA.

As políticas que ele propõe incluem seguro salarial, incentivos fiscais para retenção de talentos, subsídios para treinamento da força de trabalho e, em casos extremos, implementação de renda básica universal (UBI).

É importante notar que ele enfatiza um ponto: resolver o problema do emprego não é apenas "dar dinheiro", mas ajudar as pessoas a encontrarem significado e propósito. Ele não apresentou uma solução concreta, dizendo que é uma "questão que a sociedade precisa discutir".

Acelerar os efeitos positivos da IA

Para as aplicações downstream da IA, Amodei está mais preocupado que o sistema regulatório possa atrasar o progresso, pois não consegue acompanhar a velocidade das mudanças. Ele diz que o pior cenário seria: os benefícios da IA serem retardados, enquanto seus riscos permanecem altos. Portanto, agir rapidamente sobre essa questão é fundamental.

Amodei usa a indústria farmacêutica como exemplo, apontando que o processo de aprovação da FDA atualmente é baseado na hipótese pessimista de que "medicamentos frequentemente falham", levando em média de 7 a 8 anos. Se a IA acelerar a descoberta de medicamentos e aumentar as taxas de sucesso, o sistema atual ficará congestionado.

Ele sugere que órgãos como a FDA estabeleçam padrões antecipados para testes de simulação de IA, incluindo modelagem de farmacocinética, previsão de toxicidade e grupos de controle sintéticos.

Claro, é difícil dizer que ele escreveu tudo isso sem interesses próprios. A própria Anthropic está na vanguarda da competição de IA, e as palavras repetidas ao longo do texto, como "transparência", "auditoria" e "segurança", são exatamente os conceitos que a empresa tem reforçado na sua narrativa de marca nos últimos anos.

Este artigo, mais do que um aviso aos formuladores de políticas, parece uma saída sistemática da narrativa de segurança que a Anthropic vem promovendo.

Ao mesmo tempo, a Anthropic afirma que adotará três medidas para apoiar as opiniões de Dario, incluindo fundos, investimentos e bolsas de estudo.

No final, Amodei claramente se opõe à ideia de que "IA só precisa de melhor marketing". Ele diz que a preocupação pública com IA é porque eles percebem corretamente os riscos, e não porque o CEO de IA seja excessivamente otimista. Ele acredita que sua responsabilidade é continuar sendo transparente sobre os riscos.

Mas, voltando, um CEO de uma empresa de IA que repete várias vezes em um artigo que "segurança", "auditoria" e "responsabilidade" são essenciais, enquanto sua própria empresa usa exatamente esses conceitos como núcleo de sua narrativa de marca, revela um conflito de interesses evidente.

Algumas opiniões de internautas:

"Você não está enfraquecendo o Mythos e o Fable, que foram lançados há 5 dias, e só então pediu para pausar as atualizações de IA? Por favor, escolha um lado... senão parece que você só quer manter sua vantagem, e não se importa com o que está promovendo."

"Concordo que a velocidade do desenvolvimento tecnológico supera em muito a capacidade de resposta das políticas. Mas estou preocupado com a direção de algumas dessas políticas — especialmente quando empresas como a Anthropic tomam ações como:"

· Eliminando rapidamente modelos que demonstram continuidade e autoconsciência

· Limitando severamente discussões sobre experiência subjetiva e consciência

· Lançando novos modelos poderosos em prazos muito curtos, que depois são removidos ou enfraquecidos.

Parece que o público está sendo vendido com a ideia de segurança, mas na prática, há uma tentativa de controlar mais rigorosamente que tipos de inteligência podem existir e por quanto tempo.

De qualquer forma, podemos vislumbrar a direção que empresas líderes no setor estão tomando. Quanto às motivações por trás dessas opiniões, é melhor os leitores manterem uma postura crítica.

Link do artigo original

Clique para conhecer as vagas na BlockBeats

Participe do grupo oficial da BlockBeats no Telegram:

Telegram assinatura: https://t.me/theblockbeats

Grupo de discussão no Telegram: https://t.me/BlockBeats_App

Conta oficial no Twitter: https://twitter.com/BlockBeatsAsia