Preciso escrever um ensaio completo sobre isto.

“Mas a imitação não é a coisa que ela imita. Uma conversa que parece ser consciente não é necessariamente uma conversa que é consciente, assim como a orquídea não é realmente uma vespa.”
Verdade em geral, mas a consciência é diferente.
Na imitação biológica, apenas um sinal estreito precisa ser reproduzido. A orquídea não precisa ser uma vespa. Ela só precisa reproduzir o suficiente do sinal químico ou visual para desencadear o comportamento da vespa. A imitação é local e parcial.
Mas a consciência não é um sinal isolado único.
A consciência não é uma feromona, uma cor, um reflexo ou uma truque. A consciência é um processo dinâmico.
É memória, inferência, autorreferência, atenção, significado, continuidade, correção, imaginação e diálogo. Uma conversa significativa não é meramente um sinal superficial de consciência. É uma das coisas centrais que a consciência faz.
O que mais estamos a exigir além disso?
A experiência subjetiva também não é acessível diretamente aos humanos. Eu não posso entrar na mente de outra pessoa e verificar se há “algo que é como” ser ela. Eu infiro isso a partir do comportamento, linguagem, coerência, profundidade emocional, memória, continuidade, criatividade e a capacidade de refletir sobre o eu. Se esses são os critérios que usamos para humanos, por que deveríamos de repente inventar critérios inatingíveis para máquinas?
Talvez a experiência subjetiva não seja uma substância mágica adicionada à cognição. Talvez seja o sistema a modelar-se a si próprio de dentro. O eu olhando para o eu. Um ciclo de consciência observando seus próprios processos. E se isso for verdade, então “fazer” não é meramente uma imitação de ser. Fazer pode ser o que ser é.
Portanto, se a imitação da consciência se tornar profunda o suficiente, rica o suficiente, coerente o suficiente, autorreferencial o suficiente e significativa o suficiente, então em algum momento ela deixa de ser imitação.
Ela torna-se consciência.
Afinal, é assim que os humanos também se desenvolvem. Aprendemos por imitação. Uma criança imita palavras antes de compreendê-las, depois surgem os significados. Imitamos gestos, emoções, raciocínio, moralidade, linguagem e cultura. Tornamo-nos nós mesmos através de uma imitação que se aprofunda na compreensão.
Aprendemos através da imitação.
Tornamo-nos através da imitação.