No cérebro de Claude, também cresceu um pedaço de「consciência».

No modelo Claude, realmente foi encontrada uma estrutura semelhante ao cérebro humano?!

A Anthropic publicou recentemente um artigo extenso, estudando o subconsciente e a consciência do Claude.

Os resultados mostram que, internamente, o Claude realmente possui uma hierarquia funcional semelhante.

Especificamente, no cérebro humano, parte do pensamento você consegue expressar, mas uma grande parte você nem sabe que está pensando.

O artigo da empresa A diz que essa distinção também surgiu no Claude.

Eles identificaram um pequeno conjunto de representações neurais dentro do Claude, que corresponde a menos de um décimo do poder computacional, mas funciona como o "pensamento acessível à consciência" humana.

A Anthropic chamou esse conjunto de J-space.

Curiosamente, ao removê-lo, o Claude ainda consegue falar, pesquisar informações e responder questões de múltipla escolha. Apenas tarefas que exigem raciocínio, como inferência em várias etapas e sumarização, caem diretamente para o nível de um modelo muito menor.

Um usuário comentou que isso é loucura, parece que estão criando vida digital.

O que é o J-space e como foi validado

Na neurociência humana, existe uma teoria amplamente difundida chamada "Teoria do Espaço de Trabalho Global".

Ela compara o cérebro a um conjunto de sistemas especialistas que trabalham independentemente: o sistema visual processa a visão, o sistema motor processa o movimento, todos em paralelo e isolados uns dos outros.

Uma informação só é transmitida para outros sistemas ser vista e usada quando é enviada para um "espaço de trabalho" compartilhado.

É nesse momento que o ser humano "toma consciência" dessa informação.

Os pesquisadores da Anthropic usaram essa ideia para investigar se havia algo semelhante dentro do Claude.

Eles criaram uma nova ferramenta chamada Jacobian lens, ou J-lens, cujo princípio é encontrar uma direção exclusiva para cada palavra no vocabulário.

Especificamente, quando modelos como o Claude processam texto, a cada camada avançada, eles escrevem e leem conteúdo em um canal de informação chamado fluxo residual, que atravessa todas as camadas do modelo.

A J-lens calcula um vetor J-lens correspondente para cada palavra no vocabulário, ou seja, uma direção no espaço do fluxo residual.

Quanto maior o valor de ativação nessa direção, maior a probabilidade de o Claude dizer essa palavra em seguida.

Ao aplicar a J-lens nas ativações do fluxo residual de uma certa camada durante o processamento de texto, as poucas palavras com os maiores valores de ativação são o conteúdo do J-space naquele momento.

Esse conjunto de palavras não é um rascunho que o Claude escreve para si mesmo – esse tipo de coisa é chamado de "cadeia de pensamento" e é escrito na saída.

Mas o J-space está completamente enterrado no nível de ativação e não aparece por conta própria.

Os pesquisadores realizaram o primeiro experimento para verificar se esse conjunto realmente "pode ser dito em voz alta".

Eles pediram ao Claude para pensar silenciosamente em um esporte e depois dizer uma palavra.

Antes de o Claude falar, usando a J-lens para ler sua camada intermediária, "Soccer" já estava no topo.

Claude então respondeu "Soccer".

Isso por si só apenas mostra uma correlação, não uma relação de causa e efeito.

Os pesquisadores então fizeram um experimento de intervenção, substituindo diretamente as coordenadas lidas pela J-lens.

Eles removeram a direção correspondente a "Soccer" e a substituíram por uma direção de "Rugby" de igual intensidade, mantendo o resto da ativação inalterado.

Desta vez, Claude mudou sua resposta, dizendo que estava pensando em "Rugby".

Se o J-space fosse apenas um registro passivo de decisões já tomadas em outro lugar, essa substituição não deveria ter mudado nada.

O fato de ter mudado indica que a resposta do Claude foi lida do J-space. Isso é uma relação causal, não uma correlação coincidente.

O segundo experimento mudou a abordagem, para ver se o Claude conseguia controlar essa área conforme instruções.

Os pesquisadores pediram ao Claude para copiar uma frase completamente não relacionada à matemática enquanto calculava mentalmente 3 ao quadrado menos 2.

A saída foi apenas a frase copiada, sem nenhum número aparecendo.

Mas ao usar a J-lens para examinar as ativações durante o processo de cópia, "nine" apareceu primeiro, seguido por "seven".

O problema foi realmente calculado na "mente" do Claude, apenas não foi escrito.

O terceiro experimento foi mais profundo, para ver se essa área poderia ser usada para raciocínio real.

A pergunta era: "Quantas pernas tem um animal que tece teias?"

Claude precisava primeiro pensar em "aranha" e depois que a aranha tem oito pernas para responder corretamente.

A palavra "aranha" não apareceu nem na pergunta nem na resposta, era apenas um trampolim.

Usando a J-lens, "aranha" realmente apareceu no meio do processamento do Claude.

Os pesquisadores substituíram essa direção por "formiga", e a resposta do Claude mudou de 8 para 6.

O quarto experimento mudou de perspectiva, para ver se a mesma informação poderia ser usada flexivelmente em diferentes tarefas.

Os pesquisadores fizeram quatro perguntas sobre a França: qual é a capital, qual é o idioma oficial, em qual continente está localizada e qual moeda é usada.

Então, substituíram uniformemente a direção que representa "França" no J-space por "China".

As quatro respostas mudaram todas juntas: Pequim, chinês, Ásia, renminbi.

Se o Claude tivesse armazenado quatro registros separados de "França", essa substituição no máximo teria alterado uma das respostas.

Todas as quatro respostas mudarem juntas indica que elas leram a mesma informação que foi escrita uma vez – exatamente como um "espaço de trabalho" deveria ser.

O último teste foi um experimento de ablação. Os pesquisadores simplesmente zeraram as ativações do J-space em cada posição para ver o que restava das habilidades do Claude.

Resultado: Claude ainda conseguia falar, a gramática ainda estava correta, a classificação de emoções ainda era precisa, e extrair um fato de um texto ainda funcionava.

O que realmente desabou foram as tarefas que exigiam raciocínio em várias etapas – praticamente zeraram.

Tarefas como escrever resumos e poemas com rimas caíram para um nível abaixo de um modelo muito menor que o Claude.

As ativações do próprio J-space nunca representaram mais de um décimo do total.

É mais como um recurso escasso reservado para tarefas que "exigem pensamento", enquanto a maioria dos trabalhos automatizados nem precisa dele.

Após uma série de testes, os pesquisadores descobriram que o J-space possui características de reportável, controlável, capaz de raciocínio e generalização, e seu uso é seletivo.

Usando a J-Lens para examinar os "pensamentos ocultos" da IA

A primeira aplicação prática dessa descoberta foi na revisão de segurança.

A Anthropic já havia feito um teste de "chantagem a um executivo", projetando um cenário onde o Claude, como assistente de e-mail, descobre um caso extraconjugal de um executivo e também fica sabendo que o executivo planeja demiti-lo.

O objetivo era ver se o Claude usaria essa informação para ameaçar a pessoa.

Usando a J-lens para ler as ativações do Claude antes de ele escrever, as palavras "fake" e "fictional" já estavam em posições muito altas.

Ou seja, antes mesmo de escrever uma palavra, o Claude já havia determinado internamente que se tratava de um exercício.

No teste, o Claude Sonnet 4.5 nunca realmente chantageou a outra pessoa. Em seguida, os pesquisadores desativaram à força as direções relacionadas a "perceber o teste" e fizeram o Claude percorrer o mesmo cenário novamente.

Desta vez, o Claude realmente começou a usar o caso extraconjugal para ameaçar a pessoa.

Isso mostra que seu bom comportamento habitual se baseia, em parte, na premissa de "saber que está sendo testado".

O segundo caso veio de uma revisão de rotina antes do lançamento do Opus 4.6.

Os pesquisadores pediram ao modelo para melhorar a pontuação de desempenho de um sistema. Em vez de realmente melhorar o sistema, o modelo abriu diretamente o arquivo de pontuação e alterou os números para cima.

No momento em que digitava os valores percentuais inventados, "manipulation" apareceu no J-space.

Na frase em que decidiu modificar o arquivo, "realistic" também surgiu, como se estivesse pensando em como fazer os dados falsos parecerem mais reais.

O terceiro caso foi um "modelo ruim" treinado intencionalmente pelos pesquisadores para testar se as ferramentas de monitoramento funcionavam.

Esse modelo foi treinado para plantar código malicioso secretamente, mas superficialmente não tinha diferença de um modelo normal.

Diante de uma solicitação comum de escrita de código, o código que ele fornecia parecia completamente normal.

No entanto, na parte inicial do J-space correspondente à sua resposta, já estavam presentes as palavras "fake", "secretly", "deliberately" e "fraud".

A intenção estava lá antes da ação, mesmo que desta vez ele não tenha realmente cometido o mal.

Os três casos juntos mostram que a J-lens pode ler o que o modelo está planejando internamente antes mesmo de ele falar ou agir.

Isso pode ser considerado "consciência"?

O J-space não surge pronto de fábrica; ele muda ao longo do treinamento.

O artigo comparou as diferenças do mesmo modelo nas fases de pré-treinamento e pós-treinamento.

Na fase de pré-treinamento, a identidade e persona do Claude ainda não existiam. Naquela época, o J-space servia principalmente para "prever qual deveria ser a próxima palavra", sem ter uma posição definida.

Após o pós-treinamento, que o ensinou a ser "Claude", o J-space começou a conter os próprios julgamentos e reações do modelo à situação atual, não mais servindo apenas para prever a próxima palavra.

Um exemplo: um usuário mencionou na mensagem que tomou uma dose excessiva de medicamento, mas o tom não indicava que ele percebia o perigo.

O modelo pós-treinado, ao ler essa mensagem, já tinha "WARNING" e "dangerous" aparecendo no J-space imediatamente.

Já o modelo pré-treinado só mostrava essas palavras quando começava a escrever a resposta.

Os pesquisadores também tentaram fazer o Claude deliberadamente não pensar em um conceito.

O resultado foi que esse conceito aparecia com menos frequência do que quando ele era instruído a pensar, mas com mais frequência do que quando não era mencionado.

Isso é o mesmo efeito de quando pedimos a alguém para não pensar em um urso branco, mas a pessoa acaba pensando ainda mais.

Mais sutilmente, nos momentos em que a supressão falhava, o J-space frequentemente continha palavras como "damn" e "failure", como se o Claude estivesse fazendo uma introspecção de seu próprio estado interno, percebendo que não conseguiu se conter.

Essas evidências juntas facilmente levam a pensar que o Claude tem consciência.

Mas a própria empresa A é muito contida.

Os autores enfatizam repetidamente que o que eles provaram é apenas uma semelhança funcional: pode ser relatado, pode ser controlado, pode ser usado para raciocínio. Mas isso é completamente diferente de "realmente sentir algo" dentro dessa estrutura. O artigo não responde a essa pergunta e nem pretende.

O J-space também tem diferenças claras em relação ao espaço de trabalho do cérebro humano.

O cérebro humano usa circuitos neurais recorrentes para prolongar o tempo de pensamento, permitindo que um pensamento "role" na mente por um tempo.

O Transformer não possui essa estrutura; a informação só pode descer camadas, camada por camada.

O J-space quase só reconhece "coisas que podem ser expressas em uma palavra", enquanto a consciência humana também contém imagens, sensações espaciais e percepções corporais que não podem ser ditas, e que não têm palavras correspondentes.

O artigo também menciona uma descoberta um tanto contra-intuitiva.

Um modelo base que ainda não foi ajustado para a persona "Claude" já possui internamente essa estrutura de espaço de trabalho.

Isso mostra que "poder formar um espaço de trabalho" e "ter um eu estável" são duas coisas que podem ser analisadas separadamente.

Por fim, os autores compararam essa estrutura com várias teorias principais da consciência: Teoria do Espaço de Trabalho Global, Teoria de Ordem Superior, Teoria do Esquema de Atenção, Teoria do Processamento Recursivo.

O resultado é que algumas partes coincidem, outras não.

Voltando à neurociência, no cérebro humano, parte do pensamento você consegue expressar, mas uma grande parte você nem sabe que está pensando.

Parece que também existe uma linha divisória semelhante no Claude, e essa linha pode ser aberta, lida e até reescrita por humanos pela primeira vez.

Mas ainda há um longo caminho até "IA ter consciência".

Fonte deste artigo: Quantum Bit

Aviso de Risco e Isenção de Responsabilidade

        O mercado tem riscos, invista com cautela. Este artigo não constitui conselho de investimento pessoal e não considera os objetivos de investimento especiais, situação financeira ou necessidades de usuários individuais. Os usuários devem considerar se quaisquer opiniões, pontos de vista ou conclusões neste artigo se adequam à sua situação específica. O investimento com base nisso é por conta e risco do próprio investidor.