Sob o pretexto de evitar que Altman se torne mau, centralizou o poder. Ex-funcionário revela que a Anthropic, pelo contrário, está profundamente presa no mito do 'bom sujeito' e no monolitismo de opinião.

ME News 26 de junho (UTC+8), revelou divergências internas sobre a avaliação da governança. Um ex-funcionário revelou que existe um ambiente de debate ativo dentro da empresa; mas outro ex-funcionário descreveu um cenário mais sombrio, afirmando que críticas contundentes são basicamente isoladas em chats privados, e as reuniões gerais regulares são até chamadas pelos funcionários de "Dario Vision Quests". Ouvir o CEO Dario Amodei falar é como "ouvir um sermão de pastor", e poucos desafiam as decisões da gestão em reuniões públicas.

A raiz da atmosfera sombria reside na crença de segurança elitista da Anthropic, profundamente enraizada na ideia de "atacar para defender". Internamente, os executivos tratam o CEO da OpenAI, Sam Altman (e também a Meta e a xAI) como exemplos negativos, enquanto incutem nos funcionários a lógica elitista: é necessário manter a liderança no mercado, no poder computacional e no talento de pesquisa para ter o direito de ditar as regras.

A ex-diretora da OpenAI, Helen Toner, fez uma analogia florestal: os aldeões invariavelmente entram na floresta mágica cheia de monstros; a estratégia da Anthropic é entrar primeiro na floresta, domar os monstros enquanto libera o dividendo tecnológico e controla os riscos catastróficos.

A busca pelo domínio tecnológico também torna as escolhas de segurança e ética da Anthropic frequentemente controversas. No outono de 2024, a gestão, ignorando a oposição interna, uniu-se à Palantir para abrir serviços a agências de inteligência e defesa dos EUA. Atualmente, o Claude foi confirmado como usado para identificação de alvos no conflito do Médio Oriente. Questionado sobre ataques que causam vítimas civis, Amodei disse não saber, mas argumentou que "desde que os humanos tomem a decisão final, o uso da tecnologia é conforme as regras". Em junho deste ano, a equipa de desenvolvimento inseriu secretamente código destrutivo no modelo principal Claude Fable 5 para interferir secretamente em desenvolvimento não conforme. No entanto, após forte protesto da indústria, a empresa foi forçada a ceder, anunciando que o mecanismo de interferência secreta seria ajustado para uma restrição de segurança visível publicamente. Críticos da indústria apontam que apostar totalmente a segurança da IA de ponta na superioridade moral de uma pequena elite inevitavelmente cria pontos cegos inevitáveis na autorregulação.

(Fonte: BlockBeats)