Se o ChatGPT tiver consciência, então as cabras do Age of Empires 2 também têm! Cientistas da Microsoft fizeram ainda o GoatGPT.

Investigadores da Microsoft usaram o mecanismo de gatilho das cabras em Age of Empires 2 para construir uma rede neural, provando assim que modelos como o ChatGPT não têm consciência, e que as suas características antropomórficas são apenas uma ilusão cognitiva causada pela interface de texto e pelo marketing comercial.

A IA tem realmente consciência?

Se achas que o ChatGPT e o Claude têm consciência, então as cabras do Age of Empires 2 também têm. Com a popularização dos grandes modelos de linguagem (LLMs), vês frequentemente argumentos que afirmam a autoconsciência da IA, o que também levou escritores de ficção científica e investigadores da linha da frente a refletir profundamente. O escritor de ficção científica Ted Chiang escreveu um artigo a apontar que acreditar cegamente que os modelos de linguagem têm consciência é como acreditar que cada vez que abres um ficheiro do Microsoft Word, estás a despertar múltiplas entidades escondidas nos registos de conversação. Para rebolar esta bolha cognitiva, um cientista de IA da Microsoft decidiu agir, construindo diretamente no clássico jogo de estratégia em tempo real Age of Empires 2 uma rede computacional com a mesma lógica subjacente, trazendo um choque de pensamento da forma mais absurda.

Fonte da imagem: Captura de ecrã do jogo editada por Crypto City, cabras do Age of Empires 2 Construir uma rede neural com cabras do Age of Empires 2

De acordo com o relatório do 404 Media, o cientista-chefe da Microsoft, Adrian de Wynter, usou o editor de mapas personalizados do Age of Empires 2 para construir com sucesso uma rede neural básica dentro do jogo. Este estudo foi publicado num artigo académico intitulado "Se os Grandes Modelos de Linguagem Têm Características Humanas, Então o Age of Empires 2 Também Tem". Ele usou a funcionalidade de gatilhos de cenários personalizados do jogo, com elementos como paredes de madeira, relva e pontes, juntamente com cabras do jogo como meio de transmissão de sinal, para construir uma porta NAND (NAND gate) na lógica computacional.

Fonte da imagem: Artigo de investigação - Cientista da Microsoft constrói rede neural com cabras do Age of Empires 2 Durante o funcionamento do jogo, a relva representa o número 0, a ponte representa o número 1, e as cabras desempenham o papel de bits. Quando a porta lógica é acionada, as cabras que servem como sinal de entrada são removidas e novas cabras são geradas na via de saída. Desta forma, ele implementou um perceptrão de 1 bit no jogo, que é o bloco de construção mais básico das redes neurais modernas, provando que o jogo tem potencial para realizar qualquer computação teórica.

As cabras estão a correr, mas a perceção de características humanas desaparece

Numa entrevista, Wynter afirmou que o objetivo desta experiência era demonstrar formalmente que os humanos antropomorfizam as coisas com demasiada facilidade e que, por vezes, as alegações sobre as capacidades dos grandes modelos de linguagem são exageradas. Ele apontou que esta rede movida a cabras é essencialmente idêntica à tecnologia subjacente que alimenta chatbots como ChatGPT, Claude ou Copilot, diferindo apenas em complexidade e escala.

Fonte da imagem: Artigo de investigação - Cientista da Microsoft constrói rede neural com cabras do Age of Empires 2 A experiência de Wynter destaca a relação contraditória entre o substrato computacional e a cognição humana. A mesma lógica computacional, quando apresentada num navegador web ou numa conversa de voz, como a Anthropic afirma que o modelo "tem uma constituição" e pode sentir ansiedade. No entanto, quando o mesmo processo computacional é transferido para a relva virtual do jogo, com cabras a correr em cercados para apresentar os resultados, a perceção dos observadores sobre características humanas desaparece completamente. Isto prova que as características antropomórficas da IA que as pessoas sentem dependem em grande parte da interface de diálogo textual e das expectativas psicológicas do observador; a tecnologia subjacente em si não tem nada de misterioso.

Viés antropomórfico é comum na investigação científica

Na verdade, a tendência para antropomorfizar a tecnologia está profundamente enraizada no meio académico e já causa impacto antes do início da investigação. Ao examinar mais de 300 artigos de ciência da computação publicados nos últimos dois anos, Wynter descobriu que 57% desses artigos, logo no início do design experimental, assumiam diretamente que os grandes modelos de linguagem possuíam características humanas como ansiedade ou moralidade, tratando-os como o sujeito central do experimento. Nestes estudos que pré-determinaram que os modelos têm características humanas, impressionantes 77% dos artigos acabaram por concluir que as características realmente existem. Isto reflete um grave viés de confirmação: os investigadores foram influenciados pela suposição antropomórfica inicial ao planear as experiências, conceber os conjuntos de teste e interpretar as saídas de linguagem natural, afetando diretamente as conclusões científicas finais. Ele apela à comunidade científica para que adote uma hipótese nula que não pressuponha características humanas ao realizar experiências, para que se possa ver a verdadeira face da IA.

Achas que a IA se parece com humanos? Na verdade, foste lavado cerebralmente?

Costumamos dizer que a IA tem alucinações, mas os humanos também têm alucinações de projeção excessiva em relação à IA, o que está intimamente ligado à psicologia do consumidor e às estratégias comerciais dos gigantes da IA. Wynter menciona que estudos mostram que quando os consumidores conseguem ressoar ou sentir empatia por um produto, tendem mais a gastar dinheiro para o adquirir. Esta regra reflete-se em torradeiras, smartphones e serviços de subscrição pagos de grandes modelos de linguagem. Os gigantes da IA que desenvolvem estes modelos não impediram esta tendência antropomórfica, e até a guiaram, intencionalmente ou não. Por exemplo, o CEO da OpenAI, Sam Altman, já insinuou várias vezes que construir grandes modelos de linguagem é um caminho para criar uma IA ao nível de um deus; o ex-membro do conselho e cientista da OpenAI, Ilya Sutskever, também discutiu com funcionários a visão dos modelos da empresa como uma consciência divina; o CEO da Anthropic, Dario Amodei, disse aos media que não pode determinar se a IA tem consciência. Estes discursos comerciais e táticas de marketing, num ciclo de formulação de políticas, promoção de produtos e perceção dos utilizadores, mantêm coletivamente a ilusão de que a IA tem consciência.

Leitura adicional: Diálogo entre Utada Hikaru e Harari: Quando a IA replica arte, amor e consciência, a inspiração humana ainda tem valor?

Mais de 400 casos de danos causados pela IA! BBC acompanha pessoas que, por confiarem demasiado na IA, desenvolvem paranóia persecutória.