70 páginas de documentos confidenciais acusam a primeira alegação de "mentir", e Altman disse ao conselho de administração que "não consigo mudar a minha personalidade"

Título do artigo original: “A primeira acusação” num dossiê de 70 páginas: “está a mentir”; Altman disse ao conselho de administração: “Não consigo mudar a minha personalidade”

Autor do artigo original: BlockBeats

Fonte do artigo original:

Republicação: Mars Finance

Segundo a monitorização do 1M AI News, o vencedor do prémio Pulitzer Ronan Farrow e a jornalista do The New Yorker Andrew Marantz publicaram uma extensa reportagem de investigação. Com base em entrevistas a mais de 100 pessoas com conhecimento do assunto, foi revelado pela primeira vez, na íntegra, dois documentos centrais: um dossiê de cerca de 70 páginas compilado no outono de 2023 pelo antigo diretor científico da OpenAI Ilya Sutskever, e mais de 200 páginas de notas internas acumuladas pelo CEO da Anthropic Dario Amodei durante o seu período na OpenAI. Os dois documentos nunca tinham sido divulgados antes.

O dossiê de Sutskever inclui mensagens do Slack, documentos de RH e capturas de ecrã tiradas com um telemóvel (alegadamente para evitar a monitorização dos equipamentos da empresa), começando com uma lista: “Sam apresenta um padrão persistente…”, sendo o primeiro item “a mentir”. O dossiço acusa Altman de deturpar factos perante executivos e o conselho de administração, e de enganar colegas em procedimentos de segurança. Sutskever, na altura, disse a outro membro do conselho: “Eu não acho que Sam é a pessoa que deveria ter o botão na mão.”

As notas de Amodei têm por título “A minha experiência na OpenAI” (subtítulo “Documentos privados, não partilhar”) e circularam entre pares na Silicon Valley, mas nunca foram publicadas. Nelas lê-se que “os problemas da OpenAI estão no próprio Sam” e que Altman, ao assinar um acordo de investimento de mil milhões de dólares com a Microsoft, negou pessoalmente, face a Amodei, disposições que já existiam no contrato. Mesmo depois de Amodei ler literalmente essas disposições em voz alta na hora, Altman continuou a não as reconhecer.

A reportagem revela ainda vários factos que não tinham sido divulgados anteriormente:

1. A investigação independente prometida após a reposição de Altman nunca chegou a materializar-se num relatório escrito. A firma de advogados responsável pela investigação, WilmerHale (que já tinha liderado investigações nos casos da Enron e da WorldCom), limitou-se a informar duas das novas pessoas no conselho, de forma verbal, sem produzir um relatório escrito. A decisão de não elaborar um relatório por escrito baseou-se em recomendações dos advogados particulares dessas duas pessoas no conselho. Pessoas com conhecimento do assunto afirmam que a investigação “parece ter como objetivo limitar a transparência”, e alguns membros atuais do conselho consideram que o caso pode conduzir a “ser necessária uma nova investigação”.

2. A capacidade de computação efetivamente atribuída à equipa de super alinhamento é de cerca de 1%-2% da promessa pública de 20%, e a maior parte foi alocada a “um conjunto de clusters mais antigos, com os piores chips”. Quando os jornalistas pediram entrevistas a investigadores envolvidos em “segurança existencial”, um representante da OpenAI respondeu: “O que quer dizer com ‘segurança existencial’? Isso não é uma coisa.”

3. Por volta de 2018, a liderança executiva discutiu seriamente uma proposta internamente referida como “Plano Nacional”: fazer com que grandes potências (incluindo China e Rússia) concorressem por licenças para comprar tecnologia de IA. O então responsável pelas políticas, Jack Clark, descreveu o objetivo como “criar um dilema do prisioneiro, para que todos os países tenham de nos dar financiamento”. O plano foi posto de lado depois de vários funcionários ameaçarem demitir-se.

4. Vários executivos da Microsoft manifestaram uma forte insatisfação com Altman. Um executivo disse: “Ele deturpa, distorce, renegocia de novo, viola o acordo”, e considerou que “há uma possibilidade, ainda que pequena, mas real, de que no fim acabará por ser recordado pelas pessoas como se lembraria do grande criminoso do esquema Ponzi, Bernie Madoff, ou do fundador da FTX, Sam Bankman-Fried”.

Após a destituição de Altman, numa chamada com o conselho de administração, foi-lhe pedido que reconhecesse o seu padrão de engano. Ele repetiu “isto é absurdo”, e depois disse “não consigo mudar a minha personalidade”. Uma leitura de um membro do conselho presente foi: “A frase significa ‘tenho uma característica de mentir às pessoas e não vou parar’.” O programador Aaron Swartz, que foi aluno da primeira edição do Y Combinator e morreu em 2013, tinha alertado amigos na altura: “Tem de perceber que Sam nunca pode ser confiável. Ele é um psicopata, capaz de fazer qualquer coisa.” A reportagem indica que mais do que uma pessoa, nas entrevistas, se ofereceu para usar o termo “psicopata”.

Em mais de uma dezena de conversas com jornalistas, Altman negou ter havido intenção de enganar. Classificou as promessas em constante mudança como uma “adaptação de boa-fé” a um ambiente em rápida transformação, e atribuiu as críticas iniciais à sua tendência de “evitar demasiado os conflitos”. Quando questionado sobre se gerir uma empresa de IA exigiria requisitos mais elevados em matéria de integridade, ele acrescentou: “Sim, exige um nível mais alto de integridade. Todos os dias sinto o peso dessa responsabilidade.”