Se não fosse a «hipocrisia» da OpenAI, não haveria a Anthropic, a empresa de IA mais forte do mundo, após uma rivalidade privada de até 10 anos.

Título original：《A inimizade de uma década a moldar o futuro da IA》

Autor original：Keach Hagey

O repórter do Wall Street Journal Keach Hagey publicou uma longa reportagem de investigação, revelando pela primeira vez de forma sistemática uma aversão pessoal que se arrasta há uma década entre os fundadores da Anthropic e da OpenAI. Para tal, baseou-se numa vasta série de entrevistas com atuais e antigos empregados e pessoas próximas de dirigentes das duas empresas. A moldar o panorama global da IA não está apenas a disputa de linhas tecnológicas; há também uma ferida privada que nunca cicatrizou.

Nos últimos meses, as formulações internas de Dario Amodei têm sido muito mais incisivas do que as que utiliza em público. Ele comparou as disputas legais entre Sam Altman e Elon Musk a uma «disputa entre Hitler e Estaline», dizendo que o CEO da OpenAI, Greg Brockman, fez uma doação de 25 milhões de dólares ao super PAC pró-Trump, chamando-lhe «malvado» (evil); além disso, comparou a OpenAI e outros concorrentes a «empresas de tabaco que vendem produtos sabendo que fazem mal».

Depois de a disputa no Pentágono escalar, ele voltou a referir-se à OpenAI no Slack como «mentirosa» (mendacious), escrevendo: «Estes factos revelam um padrão de comportamento que tenho visto repetidamente em Sam Altman».

Dentro da Anthropic, esta estratégia de marca é descrita como criar um «substituto saudável» (healthy alternative) para os concorrentes. Um anúncio durante o Super Bowl, sem identificar abertamente a OpenAI, mas insinuando uma forma de como a empresa embutiu publicidade no seu chatbot, foi um produto dessa estratégia tornada pública.

O ponto de partida da história é uma sala de estar numa casa alugada em Delano Street, em São Francisco, em 2016. Dario e a sua irmã, Daniela Amodei, viviam ali; o cofundador da OpenAI, Brockman, aparecia com frequência devido à sua proximidade privada com Daniela. Um dia, Brockman, Dario e Daniela — juntamente com o então noivo de Daniela, o filantropo do eficaz altruísmo Holden Karnofsky — ficaram juntos a discutir o caminho correto para o desenvolvimento de IA. Brockman defendia que se deveria informar todos os americanos sobre o que estava a acontecer na fronteira da IA; Dario e Karnofsky, por sua vez, acreditavam que informações sensíveis deviam ser primeiro comunicadas ao governo, e não transmitidas ao público. Esta divergência viria mais tarde a transformar-se num marco que separa as linhas filosóficas das duas empresas.

Depois de se sentir impressionado pelo talento da OpenAI, Dario juntou-se à empresa em meados de 2016 e ficou noites a treinar com Brockman agentes de IA para jogar videojogos. Mas, após quatro anos a trabalhar em conjunto, as contradições foram-se intensificando, sobretudo em torno do poder e do sentimento de pertença. Em 2017, quando o principal financiador da OpenAI na altura, Musk, exigiu que fossem listadas as contribuições de cada empregado e com base nisso fossem efetuadas demissões, entre a equipa de cerca de 60 pessoas, 10% a 20% foram despedidas uma a uma; Dario considerou isso cruel. Entre os despedidos, uma pessoa viria mais tarde a tornar-se cofundador da Anthropic.

No mesmo ano, o conselheiro de ética que Dario contratou apresentou a ideia de a OpenAI servir como entidade de coordenação entre uma empresa de IA e o governo. Brockman interpretou daí a ideia de «vender a AGI a potências nucleares no Conselho de Segurança das Nações Unidas»; Dario considerou isso quase como traição e chegou a considerar demitir-se.

Depois de Musk sair em 2018, Altman assumiu a liderança. Ele e Dario chegaram a um consenso: os funcionários não tinham confiança na liderança de Brockman e no principal cientista Ilya Sutskever. Dario ficou, mas com a condição de que ambos deixassem de ser seus superiores; pouco depois, descobriu que Altman tinha prometido a ambos, ao mesmo tempo, que eles teriam o direito de o despedirem — e as duas promessas entravam em conflito entre si.

Com o arranque do desenvolvimento da série GPT, eclodiu o conflito mais intenso entre os dirigentes sobre quem poderia participar nos projetos de modelos de linguagem. O Dario, então diretor de investigação, não permitiu que Brockman se metesse; Daniela, que liderava o projeto em conjunto com Alec Radford, ameaçou-o ao pedir a demissão do cargo de responsável. A vontade pessoal de Radford acabou por ser arrastada para a guerra de agentes entre dirigentes.

A experiência de Dario ganhou ainda mais peso com o sucesso do GPT-2 e do GPT-3, mas ele sentiu que Altman estava a minimizar as suas contribuições. Quando Brockman apareceu num podcast a falar sobre os estatutos da OpenAI, Dario ficou furioso porque, apesar de ter contribuído mais para os estatutos, não foi convidado. Ao saber que Brockman e Altman iam encontrar-se com o ex-presidente Obama, também ficou igualmente descontente por ter sido excluído.

As contradições atingiram o ponto máximo durante um confronto numa sala de reuniões. Altman chamou os irmãos Amodei para a sala e acusou-os de terem incitado colegas a enviarem ao conselho de administração feedback negativo sobre si. Os dois negaram. Altman disse que a mensagem tinha vindo de outro dirigente; Daniela, na hora, chamou esse dirigente para o confronto. A pessoa afirmou que não tinha conhecimento nenhum.

Altman acabou por negar que tivesse dito aquelas palavras, e ambos os lados entraram numa discussão acesa. No início de 2020, Altman exigiu que os dirigentes escrevessem entre si avaliações por revisão por pares. Brockman redigiu um feedback com linguagem dura, acusando Daniela de abusar do poder e de excluir os dissidentes através de processos burocráticos. Altman tinha previamente avaliado «tough but fair». Daniela refutou, ponto por ponto; a discussão escalou até Brockman, por uma vez, ter chegado a propor retirar a avaliação.

No fim de 2020, a equipa centrada em Dario decidiu sair: Daniela liderou as negociações com os advogados para tratar do pedido de saída. Altman foi pessoalmente à casa de Dario para o tentar demover. Dario apresentou como única condição aceitar apenas um reporte direto ao conselho de administração e deixou claro que não conseguia trabalhar com Brockman. Antes de sair, escreveu um longo memorando, no qual dividiu a empresa de IA em «tipo de mercado» e «tipo de interesse público», defendendo que a proporção ideal seria 75% de interesse público e 25% de mercado. Poucas semanas depois, Dario, Daniela e cerca de uma dúzia de empregados deixaram a OpenAI e fundaram a Anthropic.

Cinco anos depois, hoje, a avaliação de ambas as empresas ultrapassa os 300 mil milhões de dólares, e estão em corrida para serem as primeiras a fazer IPO. Em fevereiro deste ano, durante a fotografia de grupo no encerramento do AI Summit em Nova Deli, o primeiro-ministro Modi e os líderes tecnológicos presentes levantaram ambas as mãos. Amodei e Altman optaram por não participar e apenas tocaram de forma constrangida os cotovelos.

Link original

Clique para saber mais sobre a Lívnea BlockBeats nas vagas

Seja bem-vindo a juntar-se à comunidade oficial da Lívnea BlockBeats:

Grupo de subscrição no Telegram: https://t.me/theblockbeats

Grupo de discussão no Telegram: https://t.me/BlockBeats_App

Conta oficial no Twitter: https://twitter.com/BlockBeatsAsia