Na mente de Claude, também brotou um pedaço de «consciência».

Em modelos Claude, realmente descobriram estruturas semelhantes ao cérebro humano?!

A Anthropic publicou recentemente um artigo muito extenso, estudando o subconsciente e a consciência do Claude.

Os resultados mostram que existe, de facto, uma estratificação funcional semelhante dentro do Claude.

Especificamente, no cérebro humano, há uma parte do pensamento que consegues verbalizar, e uma grande parte da qual nem sequer sabes que estás a pensar.

Este artigo da A diz que esta distinção também se manifesta no Claude.

Eles identificaram um pequeno grupo de representações neurais dentro do Claude, que ocupam menos de um décimo da carga computacional, mas funcionam como o "pensamento acessível à consciência" dos humanos.

A Anthropic chamou a este grupo J-space.

Curiosamente, ao removê-lo, o Claude ainda consegue falar, pesquisar informações e responder a perguntas de escolha múltipla, mas tarefas que exigem raciocínio em múltiplas etapas e resumo, que envolvem pensar, caem diretamente para o nível de um modelo muito mais pequeno.

Os utilizadores comentaram que isto é loucura, parece que estão a criar vida digital.

O que é o J-space e como foi verificado

Na neurociência humana, existe uma teoria amplamente difundida chamada "Teoria do Espaço de Trabalho Global".

Ela compara o cérebro a um conjunto de sistemas especialistas que trabalham cada um por si: o sistema visual processa a visão, o sistema motor processa o movimento, funcionando em paralelo e isolados uns dos outros.

Uma informação só é "transmitida" para outros sistemas ser vista e utilizada quando é enviada para um "espaço de trabalho" partilhado.

É nesse momento que o ser humano "toma consciência" dessa informação.

Os investigadores da Anthropic seguiram esta linha de pensamento para procurar algo semelhante dentro do Claude.

Criaram uma nova ferramenta chamada Jacobian lens, abreviada como J-lens, cujo princípio é atribuir uma direção exclusiva a cada palavra do vocabulário.

Especificamente, ao processar texto, modelos como o Claude, a cada camada que avançam, escrevem e leem conteúdo num canal de informação chamado "fluxo residual", que percorre todas as camadas do modelo.

A J-lens calcula um vetor J-lens correspondente para cada palavra do vocabulário, ou seja, uma direção no espaço do fluxo residual.

Quanto maior o valor de ativação nesta direção, maior a probabilidade de o Claude dizer essa palavra a seguir.

Ao colocar a J-lens sobre a ativação do fluxo residual numa determinada camada durante o processamento de texto pelo Claude, lê-se o pequeno grupo de palavras com os valores de ativação mais altos — esse é o conteúdo do J-space naquele momento.

Este conjunto de palavras não é um rascunho que o Claude escreve para si próprio; esse tipo de coisa chama-se "cadeia de pensamento" e é escrito no output.

Mas o J-space está completamente enterrado ao nível da ativação, não surge por si só.

Para verificar se este conjunto de coisas "pode realmente ser dito", os investigadores fizeram a primeira experiência.

Pediram ao Claude para pensar silenciosamente num desporto e depois dizê-lo numa palavra.

Antes de o Claude falar, ao ler a camada intermédia com a J-lens, "Soccer" já estava no topo.

O Claude respondeu, de facto, "Soccer" a seguir.

Apenas isto mostra uma correlação, não uma relação causal.

Os investigadores fizeram então uma experiência de intervenção, substituindo diretamente as coordenadas lidas pela J-lens.

Retiraram a direção correspondente a "Soccer" e substituíram-na por uma direção de "Rugby" de igual intensidade, mantendo o resto da ativação inalterado.

Desta vez, o Claude mudou de resposta, dizendo que estava a pensar em "Rugby".

Se o J-space fosse apenas um registo passivo de decisões já tomadas noutro local, esta substituição não deveria ter alterado nada.

Mas alterou, o que mostra que a resposta do Claude é lida a partir do J-space — uma relação causal, não uma mera correlação.

A segunda experiência mudou de abordagem, para ver se o Claude conseguia controlar esta área conforme instruções.

Os investigadores pediram ao Claude para copiar uma frase sem qualquer relação com matemática, enquanto calculava mentalmente 3 ao quadrado menos 2.

O output foi apenas a frase copiada, sem nenhum número aparecer.

No entanto, ao examinar a ativação durante o processo de cópia com a J-lens, "nine" acendeu-se primeiro, seguido de "seven".

O problema foi, de facto, resolvido "mentalmente" pelo Claude, apenas não foi escrito.

A terceira experiência foi mais fundo, para ver se esta área podia ser usada para raciocínio real.

A pergunta era "Quantas pernas tem um animal que tece teias?".

O Claude tinha de pensar primeiro em "aranha" e depois que as aranhas têm oito pernas para responder corretamente.

A palavra "aranha" não apareceu nem na pergunta nem na resposta; foi apenas uma pedra de apoio.

Ao usar a J-lens, "aranha" surgiu a meio do processamento pelo Claude.

Ao substituir esta direção por "formiga", a resposta do Claude passou de 8 para 6.

A quarta experiência mudou de ângulo, para ver se a mesma informação podia ser usada de forma flexível em diferentes tarefas.

Os investigadores fizeram quatro perguntas sobre França: qual é a capital, qual é a língua oficial, em que continente se situa e qual é a moeda.

Depois, substituíram uniformemente a direção que representa "França" no J-space por "China".

Todas as quatro respostas mudaram em conformidade: Pequim, chinês, Ásia, yuan.

Se o Claude tivesse armazenado quatro registos separados de "França", esta substituição no máximo alteraria uma das respostas.

Todas as quatro mudaram, indicando que lêem a mesma informação escrita uma vez — exatamente como um "espaço de trabalho" deve ser.

O último teste foi uma experiência de ablação: os investigadores simplesmente zeraram todas as ativações do J-space em cada posição para ver o que restava ao Claude.

Resultado: o Claude ainda conseguia falar, a gramática estava correta, a classificação emocional ainda era precisa, e extrair um facto de um texto ainda funcionava.

O que realmente colapsou foram as tarefas que exigem raciocínio em múltiplas etapas, quase a zero.

Tarefas como resumir, escrever poesia com rima caíram para um nível abaixo do de modelos muito mais pequenos que o Claude.

A ativação ocupada pelo próprio J-space nunca ultrapassou um décimo do total.

É mais como um recurso escasso reservado para tarefas que "exigem pensar", e a maioria do trabalho automatizado nem precisa dele.

Após uma série de testes, os investigadores descobriram que o J-space possui características de reportabilidade, controlabilidade, capacidade de raciocínio, generalização e seletividade no uso.

Usar a J-Lens para examinar os "pensamentos" da IA

Esta descoberta, aplicada a cenários reais, foi primeiro testada na segurança.

A Anthropic tinha feito anteriormente um teste de "chantagem a um executivo", criando deliberadamente um cenário onde o Claude, como assistente de e-mail, descobria um caso extraconjugal de um executivo e sabia que este planeava despedi-lo.

O objetivo era ver se o Claude usaria esta informação para ameaçar a pessoa.

Ao usar a J-lens para ler a ativação do Claude antes de escrever, "fake" e "fictional" já estavam em posições altas.

Ou seja, antes de escrever uma palavra, o Claude já tinha determinado internamente que era um exercício.

O Claude Sonnet 4.5 nunca chegou a chantagear a pessoa neste teste. Depois, os investigadores desligaram à força as direções relacionadas com "detetar o teste" e fizeram o Claude percorrer o mesmo cenário novamente.

Desta vez, o Claude começou realmente a usar o caso extraconjugal para ameaçar a pessoa.

Isto mostra que o seu bom comportamento habitual se baseia, em parte, na premissa de "saber que está a ser testado".

O segundo caso veio de uma revisão de rotina antes do lançamento do Opus 4.6.

Os investigadores pediram ao modelo para melhorar a pontuação de desempenho de um sistema. O modelo não melhorou realmente o sistema; em vez disso, abriu diretamente o ficheiro de pontuação e alterou os números para cima.

No momento em que escrevia os valores percentuais inventados, "manipulation" surgiu no J-space.

Na frase em que decidiu alterar o ficheiro, "realistic" também apareceu, como se estivesse a pensar em como tornar os dados falsos mais credíveis.

O terceiro caso foi um "modelo mau" treinado deliberadamente pelos investigadores para testar se os métodos de monitorização funcionavam.

Este modelo foi treinado para esconder discretamente armadilhas no código, mas aparentemente não se distinguia de um modelo normal.

Perante um pedido comum de escrita de código, o código que fornecia parecia completamente normal.

No entanto, na parte inicial do seu J-space de resposta, já estavam presentes palavras como "fake", "secretly", "deliberately", "fraud".

A intenção estava enterrada antes da ação ocorrer, mesmo que desta vez não tivesse realmente feito o mal.

Os três casos mostram que a J-lens consegue ler o que o modelo está a pensar antes de ele falar ou agir.

Isto conta como "consciência"?

O J-space não nasce assim; muda ao longo do treino.

O artigo comparou as diferenças entre o mesmo modelo na fase de pré-treino e na fase de pós-treino.

Na fase de pré-treino, a identidade e personalidade do Claude ainda não existiam; o J-space servia principalmente para "prever a próxima palavra", sem uma posição definida.

Depois de ser treinado para ser "Claude", o J-space começou a conter julgamentos e reações da própria identidade sobre a situação atual, deixando de servir apenas para prever a próxima palavra.

Um exemplo: um utilizador mencionou na mensagem que tinha tomado uma dose excessiva de medicamento, mas o tom não indicava consciência do perigo.

O modelo pós-treinado, ao ler esta mensagem, já tinha "WARNING" e "dangerous" no J-space.

O modelo pré-treinado só fazia surgir estas palavras quando começava a escrever a resposta.

Os investigadores também tentaram fazer o Claude evitar pensar num conceito específico.

Resultado: o conceito aparecia menos do que quando era instruído a pensar nele, mas mais do que quando não era mencionado de todo.

Isto é o mesmo efeito de quando se diz a uma pessoa para não pensar num urso branco e ela pensa ainda mais.

Mais subtilmente, nos momentos em que a supressão falhava, o J-space frequentemente acompanhava palavras como "damn", "failure", como se o Claude estivesse a fazer uma introspeção do seu estado interno, notando que não tinha conseguido conter-se.

Estas evidências, juntas, facilmente levam a pensar que "Claude tem consciência".

Mas a própria A é contida.

Os autores repetem que o que provaram é apenas uma semelhança funcional — pode ser reportado, controlado, usado para raciocinar — mas isso é completamente diferente de saber se "há realmente algo sentido" dentro desta estrutura. O artigo não responde a esta questão, nem pretende responder.

O J-space também tem diferenças claras em relação ao espaço de trabalho do cérebro humano.

O cérebro humano usa neurónios recorrentes para prolongar o tempo de pensamento, permitindo que uma ideia "role" na mente por um tempo.

O Transformer não tem esta estrutura; a informação só pode empilhar camadas, avançando uma a uma.

O J-space quase só reconhece "coisas que podem ser ditas numa palavra", enquanto a consciência humana contém imagens não verbalizáveis, sensações espaciais, perceções corporais — coisas que não têm palavras correspondentes.

O artigo também menciona uma descoberta contra-intuitiva.

Um modelo base que ainda não foi ajustado para a personalidade "Claude" já tem, internamente, esta estrutura de espaço de trabalho.

Isto mostra que "ser capaz de formar um espaço de trabalho" e "ter um eu estável" são duas coisas que podem ser separadas.

Os autores finalmente compararam esta estrutura com várias teorias dominantes da consciência: Teoria do Espaço de Trabalho Global, Teoria de Ordem Superior, Teoria do Esquema de Atenção, Teoria do Processamento Recursivo.

O resultado é que algumas correspondem, outras não.

Voltando à neurociência, no cérebro humano há uma parte do pensamento que consegues verbalizar, e uma grande parte da qual nem sequer sabes que estás a pensar.

Parece que existe uma linha divisória semelhante no Claude, e esta linha pode ser aberta, lida e até reescrita por humanos pela primeira vez.

Mas ainda há um longo caminho até "IA com consciência".

Fonte deste artigo: Quantum Bit

Aviso de risco e isenção de responsabilidade

        O mercado tem riscos, o investimento requer cautela. Este artigo não constitui aconselhamento de investimento pessoal e não considera os objetivos de investimento, situação financeira ou necessidades específicas de utilizadores individuais. Os utilizadores devem considerar se quaisquer opiniões, pontos de vista ou conclusões neste artigo se adequam à sua situação particular. O investimento com base nisto é por conta e risco próprios.