Se o ChatGPT tem consciência, então a cabra do Age of Empires 2 também tem! Cientistas da Microsoft também fizeram GoatGPT

Pesquisadores da Microsoft usaram o mecanismo de gatilho das cabras em Age of Empires II para construir uma rede neural, provando que modelos como ChatGPT não têm consciência, e que suas características antropomórficas são apenas uma ilusão cognitiva criada pela interface de texto e pelo marketing comercial.

A IA realmente tem consciência?

Se você acha que o ChatGPT ou o Claude atuais têm consciência, então as cabras de Age of Empires II também têm.

Com a popularização dos grandes modelos de linguagem (LLMs), você frequentemente verá argumentos afirmando que a IA tem autoconsciência, o que também provoca reflexões profundas em escritores de ficção científica e pesquisadores da linha de frente.

O escritor de ficção científica Ted Chiang já escreveu que acreditar cegamente que os modelos de linguagem têm consciência é como acreditar que, toda vez que você abre um arquivo do Microsoft Word, desperta vários indivíduos ocultos nos registros de diálogo.

Para romper essa bolha cognitiva, um cientista de IA da Microsoft decidiu agir, construindo diretamente uma rede de computação com a mesma lógica subjacente no clássico jogo de estratégia em tempo real Age of Empires II, trazendo um choque de ideias da maneira mais absurda.

Fonte: Captura de tela do jogo editada pelo Criptocidade – Age of Empires II com cabras

Construindo uma rede neural com cabras de Age of Empires II

De acordo com o 404 Media, o cientista-chefe da Microsoft, Adrian de Wynter, usou o editor de mapas personalizados de Age of Empires II para construir com sucesso uma rede neural básica dentro do jogo. A pesquisa foi publicada em um artigo acadêmico intitulado “Se grandes modelos de linguagem têm características humanas, então Age of Empires II também tem”.

Ele utilizou a função de gatilho de cenário personalizado do jogo, com elementos como paredes de madeira, grama, pontes e cabras como meio de transmissão de sinal, para construir uma porta NAND (NAND gate) na lógica de computação.

Fonte: Artigo de pesquisa – Cientista da Microsoft constrói rede neural com cabras de Age of Empires II

Durante a operação do jogo, a grama representa o número 0, a ponte representa o número 1, e as cabras atuam como bits. Quando a porta lógica é acionada, a cabra que serve como sinal de entrada é removida, e uma nova cabra é gerada no trilho de saída.

Dessa forma, ele implementou um perceptron de 1 bit no jogo, que é o bloco de construção mais básico das redes neurais modernas, provando que o jogo tem potencial para executar qualquer computação teórica.

Cabras correndo, mas a percepção de características humanas desaparece

Wynter disse em uma entrevista que o objetivo do experimento era demonstrar formalmente que os humanos tendem a antropomorfizar coisas com muita facilidade e, às vezes, exageram nas afirmações sobre as capacidades dos grandes modelos de linguagem.

Ele apontou que essa rede movida a cabras é essencialmente idêntica à tecnologia subjacente que impulsiona chatbots como ChatGPT, Claude ou Copilot, diferindo apenas em complexidade e escala.

Fonte: Artigo de pesquisa – Cientista da Microsoft constrói rede neural com cabras de Age of Empires II

O experimento de Wynter destaca a relação contraditória entre o substrato computacional e a cognição humana. A mesma lógica computacional, quando apresentada em um navegador da web ou em uma conversa por voz, como a Anthropic afirma que o modelo “tem uma constituição” e sente ansiedade.

No entanto, quando o mesmo processo computacional é transferido para a grama virtual do jogo, com cabras correndo em cercados para apresentar os resultados, a percepção do observador sobre características humanas desaparece completamente. Isso prova que as características antropomórficas da IA que as pessoas sentem dependem em grande parte da interface de conversação por texto e das expectativas psicológicas do observador; a tecnologia subjacente não tem nada de misterioso.

Viés de antropomorfismo é comum na pesquisa científica

Na verdade, a tendência de antropomorfizar a tecnologia também está profundamente enraizada no meio acadêmico e causa impactos antes mesmo do início da pesquisa.

Ao examinar mais de 300 artigos de ciência da computação publicados nos últimos dois anos, Wynter descobriu que 57% deles, logo no início do desenho experimental, assumiam diretamente que os grandes modelos de linguagem possuíam características humanas, como ansiedade ou moralidade, e os tratavam como o núcleo do experimento.

Entre esses estudos que pré-configuraram os modelos com características humanas, impressionantes 77% chegaram à conclusão de que as características realmente existiam. Isso reflete um grave viés de confirmação, onde os pesquisadores, ao planejar experimentos, projetar conjuntos de teste e interpretar saídas de linguagem natural, foram influenciados pela suposição antropomórfica inicial, afetando diretamente as conclusões científicas finais.

Ele pede que a comunidade científica adote uma hipótese nula que não presuma características humanas ao conduzir experimentos, para que possa ver a verdadeira face da IA.

Você acha que a IA é como um humano? Na verdade, você foi lavado cerebralmente?

Costumamos dizer que a IA tem alucinações, mas os humanos também têm alucinações de projeção excessiva em relação à IA, o que está intimamente ligado à psicologia do consumidor e às estratégias comerciais dos gigantes da IA.

Wynter mencionou que estudos mostram que, quando os consumidores conseguem se identificar ou sentir empatia por um produto, eles tendem a gastar mais dinheiro para comprá-lo. Essa regra se manifesta em torradeiras, smartphones e nos serviços de assinatura paga de grandes modelos de linguagem.

Os gigantes da IA que desenvolvem esses modelos não impedem essa tendência de antropomorfização e, de forma consciente ou inconsciente, até a incentivam.

Por exemplo, o CEO da OpenAI, Sam Altman, já insinuou várias vezes que construir grandes modelos de linguagem é um caminho para criar uma IA divina; o ex-membro do conselho e cientista da OpenAI, Ilya Sutskever, também discutiu com funcionários a ideia de considerar os modelos da empresa como uma consciência divina; já o CEO da Anthropic, Dario Amodei, disse à mídia que não é possível determinar se a IA tem consciência.

Esses discursos comerciais e estratégias de marketing, em um ciclo de formulação de políticas, promoção de produtos e percepção dos usuários, mantêm coletivamente a ilusão de que a IA tem consciência.

Leitura adicional:
Utada Hikaru e Harari em diálogo: quando a IA replica arte, amor e consciência, o valor da inspiração humana ainda existe?

Danos causados pela IA ultrapassam 400 casos! BBC investiga pessoas que, por confiarem demais na IA, desenvolvem transtorno de perseguição.