MIT: Não há necessidade de pânico com a teoria do fim do mundo da IA; a capacidade de validação é um recurso escasso

Fonte: Podcast Bankless; Organizado por: Felix, PANews

O economista do MIT, Christian Catalini, foi convidado para o programa de Ryan e David, onde aprofundou-se em seu novo artigo “Alguns aspectos econômicos simples da inteligência artificial geral”. O artigo destaca que o recurso escasso na economia da IA não é mais a inteligência, mas sim a validação: ou seja, a capacidade humana de inspecionar, julgar e confirmar a precisão das saídas da IA.

Christian detalhou duas curvas de custo que estão reformulando indústrias (custo de automação e custo de validação), explicando por que os empregos de nível inicial estão desaparecendo primeiro e por que até mesmo os especialistas de topo estão, de forma inconsciente, criando seus sucessores (a “maldição do programador”). Ele também descreveu três funções que podem ser mantidas durante a transformação: diretores, criadores de significado e garantidores de responsabilidade.

A PANews organizou os pontos-chave da conversa.

Apresentador: Acredito que muitos ouvintes possam, como eu, sentir um certo pânico em relação à IA. Por que você acha que as pessoas estão preocupadas com a IA? Suas preocupações são razoáveis?

Christian: Todos nós sentimos isso. É um período de mudanças rápidas e transformadoras; quanto mais próximo você estiver do código, mais cedo você pode testemunhar essa aceleração, que se tornou muito real nos últimos meses. Esta tecnologia alcançou coisas que muitos achavam que demorariam mais tempo para serem concluídas, e esse sentimento é algo que todos nós estamos lutando para lidar. Mas eu acho que o “apocalipse” é errado, as pessoas tendem a subestimar o potencial que essas ferramentas trazem. Sim, haverá um período de transição extremamente difícil, a velocidade da mudança no trabalho é sem precedentes na história. No entanto, se você aproveitar ao máximo as características dessa tecnologia e investir nela, a longo prazo, ainda será positivo, embora o caminho seja acidentado. A economia vê o trabalho como um conjunto de tarefas, algumas das quais serão automatizadas, o que é uma boa notícia, mas a chave é como você se requalifica e se mantém na vanguarda.

Apresentador: Quem você acha que sofrerá o impacto primeiro?

Christian: Essa é uma excelente pergunta, e eu tenho muitas ideias diferentes sobre isso. Em primeiro lugar, quando digo que quem está mais próximo do código é o que mais rapidamente será impactado, refiro-me a que eles são os primeiros a perceber o quão poderosa essa tecnologia é. Como revela o “paradoxo de Jevons”, quando algo se torna eficiente, acabamos consumindo mais, como quando escrevemos mais software. Eu acredito que a programação irá se diversificar como muitas outras profissões, que chamamos de “o ciclo inicial que desaparece”. Se você é um iniciante e ainda não adquiriu o “conhecimento tácito” para distinguir produtos excelentes de produtos medianos, então a IA pode substituí-lo bem em várias áreas.

Agora qualquer um pode facilmente obter um bom profissional de marketing, um programador júnior ou um advogado que pode ajudá-lo na maioria das situações; você só precisa contratar um advogado de topo para a validação final. Por outro lado, mesmo os especialistas de topo, ao introduzir a IA, estão, consciente ou inconscientemente, criando etiquetas, informações e vestígios digitais que, no final, levarão à automação de seus próprios trabalhos. Os melhores laboratórios estão contratando os melhores talentos de áreas como finanças para usar suas habilidades na criação de padrões de avaliação, incorporando esse conhecimento especializado em grandes modelos. Portanto, eu acho que nenhum trabalho individual está 100% seguro, mesmo o trabalho físico que é limitado pela capacidade robótica, o modelo de recompensa fará enormes saltos nos próximos anos. Qualquer coisa que aconteça em frente a uma tela pode ser rastreada, replicada e aprendida. Para cada profissão, a chave é pensar: se eu delegar o máximo de trabalho possível à IA, onde ainda posso agregar valor?

Na verdade, as pessoas têm muita “auto-consolação” sobre “gosto” e “julgamento”. Esses conceitos são muito vagos. Então, no artigo, dizemos: não existe tal coisa como gosto ou julgamento de certo ou errado, apenas a diferença entre “mensurável” e “não mensurável”. Se algo já foi mensurado, a máquina pode replicá-lo. Se algo ainda está apenas incorporado nos pesos do seu cérebro, como um designer de topo que acumulou milhares de horas de experiência para decidir o que deve ser lançado e o que não deve, isso é o que chamamos de “validação”. Toda validação é esse passo final: o agente de IA cria o produto, e você, como decisor, julga se ele atende aos critérios de lançamento no mercado. À medida que as máquinas obtêm dados melhores, as coisas serão automatizadas; mas, em face de áreas desconhecidas ou onde não há dados, essa parte ainda pertencerá aos humanos nos próximos anos.

Apresentador: Isso é uma visão muito profunda. Mas também me pergunto, é natural que os engenheiros automatizem seu próprio trabalho. Será que todos os setores são impactados da mesma forma?

Christian: Temos evidências suficientes para mostrar que a mudança será desigual. Podemos pensar assim: esse trabalho é apenas uma “embalagem” de algo que a sociedade fundamentalmente não precisa? Por exemplo, o trabalho de consultoria comum, se é principalmente uma reembalagem, destilação e resumo de informações que estão amplamente disponíveis, isso é claramente arriscado. Mas se é porque trouxe conhecimento especializado escasso, ou se por razões políticas é necessário contratar consultores, esses sobreviverão. Pergunte a si mesmo, esse trabalho é lucrativo porque resolve um problema complexo, ou apenas porque existe algum tipo de gargalo artificial.

Apresentador: O que realmente significa validação? É difícil para mim decompor meu trabalho diário em que partes são trabalho cognitivo e quais são trabalho de validação.

Christian: Os agentes já aprenderam e mensuraram tudo da web e de livros, porque são mais baratos e escaláveis, substituirão a parte mensurável. Mas o que os agentes ainda não sabem: ou seja, os pesos únicos da sua rede neural no seu cérebro. Isso é algo que você adquiriu através de sua própria experiência e luta, o que o torna um especialista de topo. Por exemplo, os primeiros participantes de criptomoedas, muitos dos quais vêm da Argentina, Venezuela e outros lugares que vivenciaram hiperinflação, têm uma reação completamente diferente em relação a ativos. Essa medida interna única continua sendo uma enorme vantagem.

O que é validação? É a diferença entre seu próprio padrão de mensuração do mundo e o padrão que o agente possui. Como um editor de topo, que sabe exatamente quais artigos ressoarão; ou um CTO de topo, que, diante de uma vasta biblioteca de códigos gerados por IA, sabe exatamente quais partes decisivas nas margens precisam ser verificadas pessoalmente por humanos, que ainda não podem ser mensuradas por máquinas.

Apresentador: Vou dar um exemplo, se eu vir um vídeo sobre Israel sendo bombardeado por mísseis no X, mas eu descobrir que é gerado por IA. Eu uso meu cérebro para identificar o problema e talvez gerar um vídeo melhor através de um novo prompt; isso é a minha “capacidade de validação”?

Christian: Esse é um ótimo exemplo. Mais adiante, pode ser que em breve estejamos em um mundo onde, para a maioria das pessoas, esse vídeo seja difícil de distinguir da realidade. O próximo passo pode ser que especialistas militares percebam que a dinâmica das chamas está errada. E, em seguida, até mesmo os especialistas militares podem não conseguir distinguir à primeira vista e precisarão da IA para analisar os princípios físicos e realizar testes de simulação. No final, pode ser completamente indistinguível, e nesse momento teremos que confiar em uma infraestrutura baseada em criptografia para confirmar a veracidade. Na medicina, também, casos marginais eventualmente precisarão de médicos radiologistas de topo, que utilizam 20 anos de experiência e conhecimento sobre o histórico específico dos pacientes, para refutar o julgamento da IA. Essa é a última camada fina de “filtragem” que estamos preocupados. Quando fazemos isso, liberamos uma enorme quantidade de tempo. Portanto, essa é a parte boa. Podemos fazer mais com menos recursos. O custo das coisas caras irá diminuir. A sociedade como um todo consumirá mais dessas coisas. Eu acho que isso é uma boa notícia.

Apresentador: Mas no seu exemplo, atualmente ele está fazendo a validação, mas em breve ele não poderá validar, precisará de um comandante militar, e no final, nem o comandante conseguirá validar e terá que recorrer à IA. Isso não ilustra exatamente que a validação inicialmente tem valor, mas logo também será automatizada pela IA? Portanto, até a própria “validação” não é segura?

Christian: Exatamente. Nós chamamos isso de “maldição do programador” em nosso artigo. O ato de validação, que é uma ação extremamente racional, está, por sua vez, impulsionando o desenvolvimento da tecnologia de ponta e digitalizando a experiência. Não podemos parar, pois todos os advogados ou profissionais estão tentando usar a IA. A validação é de fato uma fronteira em declínio.

Apresentador: Mesmo o último campo de trabalho de validação está encolhendo, quando poderemos não nos sentir ansiosos?

Christian: Primeiro, há coisas que são intrinsecamente não mensuráveis, como os chamados “jogos de status” ou coisas que os humanos atribuem significado. Esses domínios não serão invadidos por máquinas, pois suas características dizem respeito ao consenso de coordenação entre humanos. A criptomoeda é, em certa medida, assim; o importante é que os humanos cheguem a um consenso sobre o que tem valor. À medida que o campo do trabalho mensurável encolhe, inventaremos muitas maneiras de tornar o trabalho não mensurável significativo.

Apresentador: A IA pode construir um site em 10 segundos, mas pode não ser capaz de escrever um tweet que atraia os humanos. Isso pode ser um dos últimos trabalhos de validação?

Christian: Atrair atenção, contar uma piada verdadeiramente nova, é um trabalho criativo extremamente difícil, tentando quebrar algo que nunca foi mensurado. Nós evoluímos ao longo de longas eras de sobrevivência para desenvolver uma forte capacidade de enfrentar ambientes desconhecidos. As pessoas que fazem esse tipo de trabalho são chamadas de “criadores de significado”. Por exemplo, no campo da arte ou da cultura, o que é bom depende do consenso humano. Mesmo quando você utiliza agentes de IA, você deve definir a “intenção”.

Apresentador: O custo de automação está diminuindo exponencialmente; como ficará o “custo da validação”? Ele será sempre limitado pelas restrições biológicas humanas?

Christian: Atualmente, ele é limitado biologicamente. Portanto, muitas empresas publicaram uma grande quantidade de código gerado por IA, mas não têm pessoal suficiente para ler e validar isso, o que inevitavelmente esconde riscos.

Apresentador: Não podemos usar a IA para validar a IA?

Christian: Se a IA pode validar corretamente, então essa parte em si é automatizável. Após esgotar toda validação por IA, o que resta é aquilo que realmente não pode ser validado pela IA, que é o gargalo da intervenção humana.

Apresentador: Se a validação é um novo recurso escasso, mas está constantemente recuando, como devemos trabalhar e investir dentro dessa economia?

Christian: Nós criamos uma matriz 2x2 baseada em “custo de automação” e “custo de validação”. O quadrante inferior esquerdo é composto por trabalhadores que serão substituídos: automação fácil, validação fácil; você definitivamente não quer ficar aqui. Os outros três quadrantes são:

Criadores de significado: automação difícil, validação difícil. Eles se dedicam ao consenso social, jogos de status e conexão humana. Por exemplo, os criadores de gosto na moda, KOLs de criptomoeda no Twitter, que criam narrativas e coordenam a atenção.

Garantidores de responsabilidade: automação fácil, validação difícil. Eles são os principais especialistas em seus campos, como advogados de topo, médicos ou investidores de risco. Eles utilizam a IA em grande escala, mas oferecem serviços de responsabilidade e validação para os casos de borda finais.

Diretores: automação difícil, validação fácil. O núcleo é a “intenção”. Eles lidam com “desconhecidos desconhecidos”, comandam agentes como empreendedores, definem direções, sentem desvios e ajustam constantemente o curso.

Apresentador: O que devem fazer os jovens que acabaram de se formar e querem entrar no mercado de trabalho? De um lado, há trabalhos iniciais sem valor, do outro, estão os especialistas de topo que precisam de dez anos de experiência, e há um grande abismo entre os dois. A IA já pode fazer trabalhos iniciais; como os jovens podem crescer até a outra extremidade?

Christian: O abismo realmente existe. Mas a boa notícia é que você pode comprimir o tempo de aprendizado. Você pode pular as etapas tradicionais de formação. Um engenheiro júnior agora, com ferramentas, pode fazer o trabalho que antes exigiria uma equipe inteira. Embora comece cometendo erros, como novato, eles podem questionar a tradição de uma maneira extremamente nova, e essa é a vantagem. Eles podem realizar ideias de uma forma que nós não conseguimos quando éramos jovens. Há vantagens e desvantagens.

O caminho do passado: “obter um diploma, encontrar um estágio, trabalhar arduamente para subir”, já não existe, o que irá causar um grande choque cultural. Isso é muito difícil para os recém-formados. Se você ainda está na universidade, ainda tem tempo para esclarecer a direção. Se você está em uma crise, meu conselho é: comece a usar essas ferramentas para criar algo. Sua ambição deve ser 100 vezes maior do que a que tínhamos naquela idade.

Apresentador: A rápida eliminação de muitos trabalhos “de apertar botão” não causará confusão na sociedade a curto prazo?

Christian: A sociedade sempre recriará trabalhos “de apertar botão” quando necessário para manter a estabilidade. Mas muitas das pessoas que fazem esse tipo de trabalho realmente têm a capacidade de fazer mais, apenas foram restringidas pelo ambiente no passado. Quando o trabalho físico não é mais necessário, inventamos ir para a academia; agora, diante da libertação do trabalho intelectual, as pessoas irão desenvolver várias atividades paralelas e uma economia criativa para obter um senso de desafio. É também por isso que eu acho que a “renda básica incondicional (UBI)” é completamente errada; as pessoas precisam de significado e motivação para a auto-realização. Além disso, mesmo que uma grande parte do seu trabalho seja substituída por automação, se você usar bem essa super ferramenta chamada IA, um funcionário júnior que acaba de entrar na indústria pode gerar uma produção equivalente à de uma equipe inteira.

Apresentador: Você tem alguma recomendação para empresas e investidores?

Christian: Para as empresas, invista em infraestrutura de validação, oferecendo “responsabilidade como serviço” (ou seja, não apenas oferecer agentes, mas também garantir as consequências). Além disso, domine “fontes de fatos exclusivas”, pois a IA é facilmente enganada, e empresas que podem fornecer dados reais exclusivos ou avaliações profundas, como a Bloomberg, têm um enorme valor. Para os investidores, além de investir nessas áreas, concentre-se em pesquisa e desenvolvimento “não mensuráveis” de ponta. Os efeitos de rede comuns do passado podem falhar; novos efeitos de rede se basearão em como você pode tornar seu agente mais confiável do que os outros através de melhores feedbacks reais, uma vez que as pessoas realmente desejam comprar inteligência validada.

Apresentador: A tecnologia de criptografia é útil nesse processo de validação?

Christian: A infraestrutura subjacente construída no campo da criptografia na última década é crucial. Quando precisamos determinar a autenticidade da identidade e prevenir a tomada de conta de contas, tecnologias como “prova de personalidade” e outras técnicas on-chain podem fornecer validação poderosa. Além disso, a origem dos dados e a cadeia de regulação criptográfica, precisamos de garantias criptográficas rígidas sobre a geração de informações e se os modelos estão em conformidade.

Apresentador: O que as pessoas devem fazer no próximo ano? Você é otimista em relação ao futuro da humanidade?

Christian: Primeiro, não entre em pânico. Experimente bastante, use as ferramentas para “eliminar” e automatizar o seu eu atual. Muitas explorações de hobbies podem se tornar as carreiras mais significativas. No pior dos casos, você também poderá delimitar as fronteiras e as deficiências do modelo. Para muitos criadores de conteúdo online, hobbies se tornaram carreiras, e essa será a direção principal no futuro. Se você tem filhos, descobrir seus talentos e imergi-los em suas paixões é o mais importante. Não há um modelo profissional fixo; novas ferramentas de IA podem ajudá-los melhor a encontrar o caminho que é exclusivamente seu.