Karpathy最新Agent观点：大厂并没有掌握智能体核心技术，个人开发者正称霸前沿

Andrej Karpathy compartilhou suas opiniões mais recentes sobre Agentes internos, apontando diretamente o maior erro atual no campo da IA: as pessoas estão forçando os Agentes a trabalhar, ignorando completamente que primeiro devem dominar completamente o modelo subjacente de grande porte. AK disse uma conclusão contraintuitiva: atualmente, na vanguarda dos Agentes não estão as grandes empresas, mas sim desenvolvedores independentes e empreendedores. O vídeo está anexado no final.

Já em 2016, a OpenAI caiu nessa armadilha e pagou por isso um preço de cinco anos inteiros.

A lógica central que Karpathy quer transmitir: primeiro passo é parar imediatamente com a fantasia de que os agentes podem fazer tudo, e primeiro entender o modelo subjacente. Segundo passo é reconhecer a realidade da indústria: fazer demonstrações é extremamente simples, mas construir um produto leva dez anos. A direção autônoma já confirmou isso: se pular a fase da fundação, tudo o que for construído desmoronará instantaneamente. Terceiro passo é entender que o agente em si não é um produto; o grande modelo fundamental é o verdadeiro núcleo. Desde que a base seja bem construída, os agentes surgirão naturalmente.

Revisitando a experiência na OpenAI em 2016, Karpathy, Tim Shi e Jim Fan participaram juntos de um projeto chamado World of Bits. A intenção inicial era fazer com que os agentes de aprendizado por reforço saíssem de testes como jogar videogame, parassem de jogar Montezuma's Revenge e tentassem usar computadores, teclados e mouses.

Eles esperavam que os agentes pudessem executar algumas tarefas diárias realmente úteis, como reservar passagens aéreas ou pedir comida em sites extremamente simples. Na época, eles faziam a IA clicar loucamente em botões do mouse e teclado, tentando, na sorte, entrar em um mundo inteligente mais avançado. O resultado foi óbvio: o projeto fracassou completamente.

A tecnologia da época não estava preparada; a única ferramenta que a equipe tinha era o aprendizado por reforço. A abordagem mais correta naquele momento teria sido esquecer completamente os agentes de IA e concentrar todos os esforços na construção de modelos de linguagem.

Cinco anos depois, após uma breve incursão no campo da direção autônoma, Karpathy descobriu que os agentes de IA haviam se tornado novamente o ponto quente absoluto da indústria, mas toda a cadeia de ferramentas já havia mudado drasticamente. A maneira como as pessoas resolvem esses problemas hoje foi completamente reconstruída; os desenvolvedores de agentes provavelmente nem precisam usar nenhuma técnica de aprendizado por reforço. Essa evolução ultrapassou as expectativas de todos na época.

Agora, todos estão entusiasticamente perseguindo os agentes, porque é fácil imaginar que a inteligência artificial geral acabará se apresentando na forma de algum agente de IA. É provável que no futuro haja enxames de agentes, formando até mesmo grandes organizações ou civilizações de entidades digitais. Isso realmente parece empolgante.

Diante desse entusiasmo, Karpathy escolhe jogar um balde de água fria. Há uma grande classe de problemas que são fáceis de imaginar e fáceis de fazer demonstrações legais, mas extremamente difíceis de transformar em produtos reais.

A direção autônoma é um exemplo típico. Imaginar um carro dirigindo automaticamente ao redor do quarteirão e fazer uma demonstração é muito fácil; transformá-lo em um produto real leva dez anos. A área de realidade virtual também é assim. Os agentes se encaixam perfeitamente nessa característica: imaginar e fazer demonstrações é simples, mas para realmente fazê-los funcionar, os desenvolvedores devem se preparar para uma jornada de dez anos.

Para encontrar novas ideias, Karpathy sugere que todos busquem inspiração novamente na neurociência. No início do aprendizado profundo, isso era feito assim. Agora, ao desenvolver agentes, podemos mais uma vez aprender com o funcionamento do cérebro.

Uma entidade digital completa precisa possuir todas as ferramentas cognitivas que os humanos têm. Além do modelo de linguagem como parte da solução, é necessário um assistente interno para planejar e refletir sobre as ações com antecedência.

A estrutura do cérebro fornece um modelo de referência perfeito. O equivalente do hipocampo em um agente de IA é registrar traços de memória, usando técnicas de incorporação vetorial para indexação e recuperação. Sabemos aproximadamente como construir o córtex visual e auditivo de uma entidade digital. O papel do tálamo também merece reflexão. O tálamo é responsável por integrar todas as informações, podendo ser considerado a sede da consciência. Quando várias entidades digitais competem pelo controle e pelo microfone para decidir a próxima ação, o tálamo lida com esse conflito complexo. Karpathy também recomendou especialmente o livro "O Cérebro e o Comportamento" de David Eagleman, acreditando que a neurociência contém excelentes inspirações para projetar indivíduos digitais.

Finalmente, Karpathy compartilhou uma situação da indústria extremamente disruptiva.

Atualmente, as pessoas na vanguarda da capacidade de agentes de IA são, sem dúvida, os desenvolvedores independentes e empreendedores que estão construindo agentes agora. Grandes laboratórios de modelos de linguagem como OpenAI ou DeepMind atualmente não estão na vanguarda na corrida dos agentes.

A OpenAI é muito boa em treinar grandes modelos de linguagem Transformer. Se agora for publicado um artigo propondo um novo método de treinamento de Transformer, provavelmente a OpenAI já tentou isso dois anos e meio atrás e sabe claramente a causa raiz do sucesso ou fracasso. As grandes empresas têm barreiras técnicas absolutas nessa área.

Quando um artigo sobre um novo tipo de agente é publicado, a situação é completamente diferente. As equipes das grandes empresas também se sentem surpreendidas, porque não estavam pesquisando secretamente esse ramo específico por cinco anos. Isso significa que os gigantes nessa corrida precisam competir no mesmo nível com todos os empreendedores de base e hackers.

Para os desenvolvedores comuns que estão desenvolvendo agentes agora, vocês estão na vanguarda dessa tecnologia transformadora.

Fonte do artigo: AI Cambriano

Aviso de risco e isenção de responsabilidade

        O mercado tem riscos, investir requer cautela. Este artigo não constitui aconselhamento de investimento pessoal e não leva em consideração objetivos de investimento, situação financeira ou necessidades específicas de usuários individuais. Os usuários devem considerar se quaisquer opiniões, pontos de vista ou conclusões neste artigo são adequados à sua situação específica. Investir com base nisso é por sua própria conta e risco.