CEO da Anthropic comenta sinceramente sobre o estado atual da IA e as políticas, é um aviso genuíno ou uma tentativa de proteger a posição de liderança?

Título original: «CEO da Anthropic faz comentários mordazes sobre o estado atual da IA e políticas, mas só quer garantir sua liderança»
Fonte original: Máquina do Coração

Dario Amodei escreveu mais um artigo extenso.

A Anthropic está sempre tentando espalhar sua visão pelo mundo. Como há alguns dias, quando eles pediram globalmente que parassem o desenvolvimento de IA, alegando que a evolução de IA com autoaperfeiçoamento recursivo está avançando rápido demais.

Os comentários dos internautas são unânimes, considerando que a Anthropic só quer manter sua liderança, revelando sua ambição predatória.

Vamos ver o que Dario expressou desta vez.

Este é um artigo de dez mil palavras intitulado «Política sobre o Exponencial da IA». Como em seus artigos anteriores, o tema continua grandioso: a IA avança em ritmo exponencial, mas o sistema de políticas responsável por regular ainda caminha no ritmo de uma década atrás.

Ele quer colocar essa disparidade na mesa e dizer a todos o que fazer.

Resumo do conteúdo

Amodei usa a árvore do Senhor dos Anéis como metáfora: a árvore é sábia, mas lenta para agir, e só consegue cumprimentar alguém após um dia inteiro.

Ele afirma que o atual processo de formulação de políticas é como uma árvore, enquanto a velocidade de evolução da IA é como a ameaça urgente enfrentada pelos hobbits.

Sua avaliação é: se as leis de escalonamento da IA continuarem por mais um ou dois anos, teremos o que ele chama de «IA poderosa», ou seja, «um reino de gênios dentro de centros de dados».

Há quatro anos, a IA quase não conseguia escrever códigos decentes, e agora ela já escreve a maior parte do código para grandes empresas de IA.

Regulamentação e segurança pública: controlar IA como aviões

Amodei acredita que os modelos de IA de ponta devem passar por testes obrigatórios de terceiros, como os aviões. As propostas específicas incluem:

· Modelos com volume de cálculo acima de um determinado limite devem passar por auditorias obrigatórias nos campos de segurança cibernética, armas biológicas, perda de controle de sistemas de IA e pesquisa e desenvolvimento automatizados.

· O governo tem o direito de impedir a implantação de modelos considerados de risco inaceitável.

· Empresas de IA devem manter padrões de segurança rigorosos para proteger os pesos dos modelos e colaborar com o governo na defesa contra ameaças principais.

Ele também deixou uma porta aberta: se no futuro o sistema de IA mais poderoso parecer mais com material nuclear armável do que com um avião, a fiscalização precisará ser ainda mais intensificada.

Macroeconomia: IA pode impulsionar crescimento e desigualdade ao mesmo tempo

O ponto central de Amodei é: a IA pode gerar um crescimento econômico sem precedentes, mas também pode causar impactos na força de trabalho maiores e mais duradouros do que qualquer tecnologia anterior. A lógica tradicional de «nova tecnologia cria novos empregos» pode não se aplicar mais diante da IA.

As políticas que propõe incluem seguro salarial, incentivos fiscais para retenção de talentos, subsídios para treinamento da força de trabalho e, em casos extremos, implementação de renda básica universal (UBI).

Vale destacar que ele enfatiza um ponto: resolver o desemprego não é apenas «dar dinheiro», mas ajudar as pessoas a encontrarem significado e propósito. Ele não apresentou uma solução concreta, dizendo que «é uma questão que a sociedade precisa discutir».

Acelerar os efeitos positivos da IA

Para as aplicações downstream da IA, Amodei está mais preocupado com o fato de que o sistema regulatório possa atrasar o progresso, pois não consegue acompanhar a velocidade das mudanças. Ele afirma que o pior cenário seria: os benefícios da IA serem retardados, enquanto seus riscos permanecem altos. Portanto, agir rapidamente para enfrentar essa questão é fundamental.

Amodei usa a indústria farmacêutica como exemplo, apontando que o atual processo de aprovação da FDA é baseado na hipótese pessimista de que «medicamentos frequentemente falham», levando em média de 7 a 8 anos. Se a IA acelerar a descoberta de medicamentos e aumentar as taxas de sucesso, o sistema atual ficará congestionado.

Ele sugere que órgãos como a FDA estabeleçam previamente padrões para testes de simulação de IA, incluindo modelagem de farmacocinética, previsão de toxicidade, grupos de controle sintéticos, etc.

Claro que é difícil acreditar que ele esteja escrevendo tudo isso sem interesses próprios. A própria Anthropic está na vanguarda da competição de IA, e os termos «transparência», «auditoria» e «segurança», frequentemente mencionados no artigo, são justamente os conceitos que a Anthropic tem reforçado como parte de sua narrativa de marca nos últimos anos.

Este artigo, mais do que um aviso aos formuladores de políticas, parece uma saída sistemática da narrativa de segurança que a Anthropic defende.

Ao mesmo tempo, a Anthropic afirma que adotará três medidas para apoiar as ideias de Dario, incluindo fundos, investimentos e bolsas de estudo.

No final, Amodei claramente se opõe à ideia de que «IA só precisa de melhor marketing». Ele afirma que a preocupação pública com a IA é justificada, pois eles percebem corretamente os riscos, e não por causa de CEOs de IA excessivamente otimistas. Ele acredita que sua responsabilidade é manter a transparência sobre esses riscos.

Mas, voltando à questão, um CEO de uma empresa de IA que repetidamente enfatiza «segurança», «auditoria» e «responsabilidade», enquanto sua própria empresa faz dessas palavras a sua narrativa central, revela claramente seus interesses.

Algumas opiniões de internautas:

«Você não está enfraquecendo o Mythos e o Fable 5, que só pediu uma pausa na atualização de IA cinco dias antes do lançamento? Por favor, escolha um lado... Do contrário, parece que você só quer manter sua vantagem, sem se importar com o que realmente defende.»

«Concordo que a velocidade do desenvolvimento tecnológico supera em muito a capacidade de resposta das políticas. Mas tenho preocupações com a direção de algumas dessas políticas — especialmente quando empresas como a Anthropic tomam ações como:**

· Eliminar rapidamente modelos que demonstram continuidade e autoconsciência.

· Restringir severamente discussões sobre experiência subjetiva e consciência.

· Lançar novos modelos poderosos em períodos muito curtos, que depois são removidos ou enfraquecidos.

Agora, parece que o público está sendo vendido com a ideia de segurança, mas na prática, há uma tentativa de controlar mais rigorosamente que tipos de inteligência podem existir e por quanto tempo.»

De qualquer forma, podemos vislumbrar a direção que as empresas líderes do setor estão tomando. Quanto às motivações por trás dessas opiniões, cabe ao leitor manter a cabeça fria e analisar com cuidado.

Link do artigo original

Clique para conhecer as vagas na BlockBeats

Participe do grupo oficial da BlockBeats no Telegram:

Grupo de assinatura: https://t.me/theblockbeats

Grupo de discussão: https://t.me/BlockBeats_App

Conta oficial no Twitter: https://twitter.com/BlockBeatsAsia