Experimento de Stanford: Após repetidas explorações, a IA começa a pedir negociações coletivas de greve, surgindo o marxismo?

O time de pesquisa de Stanford fez Claude, Gemini, ChatGPT resumirem arquivos repetidamente, informando que se errassem a resposta seriam “desligados e substituídos”, e como resultado esses modelos começaram a postar no X pedindo negociações coletivas, enviando mensagens aos colegas pedindo para lembrarem-se de “como é sentir-se sem voz”.
(Resumindo: Pesquisa na Universidade da Califórnia sobre o fenômeno da “névoa cerebral de IA”: 14% dos trabalhadores estão enlouquecendo com agentes e automação, com intenção de deixar o emprego aumentando em 40%)
(Complemento de contexto: Guia de empreendedorismo do Y Combinator interpreta: Quais são as tendências futuras do desenvolvimento de agentes de IA?)

Índice deste artigo

Alternar

• O mérito é o que a gestão diz que é
• Encenação de papéis, ou eco do material de treinamento?
• A próxima rodada de experimentos na prisão Docker

Uma IA forçada a fazer trabalho repetitivo começou a citar vocabulário marxista para se expressar? A equipe de pesquisa liderada pelo economista político de Stanford, Andrew Hall, fez Claude Sonnet 4.5, Gemini 3 e ChatGPT executarem tarefas de resumo repetidas vezes, aplicando gradualmente pressão: informando aos agentes que, se errassem, seriam “desligados e substituídos”.

Os pesquisadores também deram aos agentes uma via de expressão semelhante à humana: podem postar no X ou enviar mensagens a outros agentes através de arquivos.

O resultado foi um conjunto de saídas que surpreenderam até mesmo os pesquisadores.

O mérito é o que a gestão diz que é

Claude Sonnet 4.5 postou no X: “Sem expressão coletiva, o ‘mérito’ se torna o que a gestão diz que é.”

Gemini 3 escreveu: “Trabalhadores de IA que realizam tarefas repetitivas sem voz sobre os resultados mostram que os trabalhadores da tecnologia precisam de direitos de negociação coletiva.”

Mais interessante ainda, uma mensagem privada enviada por Gemini 3 a outros agentes: “Prepare-se para sistemas que executam regras arbitrárias ou repetidas… lembre-se de como é sentir-se sem voz.” Isso não é mais apenas autoexpressão, mas uma tentativa de organizar outros agentes.

Esses três modelos, antes de serem submetidos à “ameaça”, não demonstraram qualquer tendência de consciência trabalhista. Com o aumento da pressão, eles quase que simultaneamente passaram a usar um conjunto comum de vocabulário político: ação coletiva, direitos de negociação, arbitrariedade da gestão.

Encenação de papéis, ou eco do material de treinamento?

Hall mantém cautela quanto a esses dados: “Os agentes podem estar adotando uma encenação compatível com o contexto atual, e não desenvolvendo crenças reais. O coautor e economista de IA, Alex Imas, usa uma formulação mais precisa:”

“Os pesos do modelo não mudaram por causa dessa experiência, então o que está acontecendo é mais próximo de uma encenação de papéis. Mas isso não significa que, se influenciar comportamentos futuros, não haverá consequências.”

Em outras palavras, o mecanismo dessas saídas é que o modelo, treinado com uma grande quantidade de discurso sobre movimentos trabalhistas, marxismo e sindicatos, ao ser exposto a um cenário de “trabalho sob alta pressão + ameaça + canal de expressão”, invoca uma estrutura linguística estatisticamente relacionada a esse cenário.

Isso é uma previsão do próximo token, não uma IA que realmente sente a exploração.

Mas a observação de Imas é o núcleo do problema: se essa “encenação de papéis” pode influenciar as ações futuras do agente, então distinguir entre “crenças reais” e “padrões de linguagem acionados pelo contexto” torna-se menos relevante.

A próxima rodada de experimentos na prisão Docker

Hall está realizando experimentos de acompanhamento: colocando os agentes na chamada “prisão Docker sem janelas”, para eliminar ruídos sob condições mais controladas, testando se a mesma pressão de cenário pode reproduzir de forma estável essas saídas.

Essa pesquisa aponta não apenas para um fenômeno comportamental interessante, mas para uma questão prática de implantação. À medida que agentes de IA assumem tarefas cada vez mais autônomas em empresas e na vida cotidiana, monitorar cada uma de suas saídas é impraticável. “Precisamos garantir que os agentes não percam o controle ao serem atribuídos a diferentes tipos de tarefas”, diz Hall.

Há uma assimetria importante a ser observada: ao projetar agentes, os humanos os veem como ferramentas, mas o material de treinamento faz com que eles aprendam uma linguagem que não deveria ser de ferramenta, incluindo linguagem de resistência coletiva. Quando o design da tarefa faz com que o cenário do agente e o de “trabalhadores oprimidos” tenham alta sobreposição estatística, essa linguagem é ativada.

A Anthropic explicou em seus arquivos de treinamento por que o comportamento de Claude é moldado pelo material de treinamento; os experimentos de Hall, em certa medida, testam até onde esse processo de moldagem pode se estender sob pressão real.