Fundador da DeepMind em entrevista exclusiva: Arquitetura de AGI, estado atual do Agente e as próximas descobertas científicas na próxima década

Título original do vídeo: Demis Hassabis: Agentes, AGI & A Próxima Grande Descoberta Científica

Fonte original do vídeo: Y Combinator
Tradução original: Deep潮 TechFlow

Introdução do editor

CEO do DeepMind do Google, vencedor do Nobel de Química Demis Hassabis, participou do Y Combinator, falando sobre quais avanços-chave ainda são necessários para alcançar a AGI, dando conselhos aos empreendedores sobre como manter a liderança, e onde a próxima grande descoberta científica pode acontecer.

A avaliação mais prática para empreendedores de deep tech é que, se você iniciar hoje um projeto de deep tech com prazo de dez anos, deve incluir a chegada da AGI no seu planejamento. Além disso, ele revelou que a Isomorphic Labs (empresa de farmacêutica de IA que se separou do DeepMind) está prestes a fazer um grande anúncio.

Citações essenciais

Rota e cronograma da AGI

· "Esses componentes tecnológicos existentes quase certamente farão parte da arquitetura final da AGI."

· "Aprendizado contínuo, raciocínio de longo prazo, alguns aspectos da memória ainda não estão resolvidos; a AGI precisa de tudo isso."

· "Se sua linha do tempo para a AGI for por volta de 2030, como a minha, e você começou um projeto de deep tech hoje, deve considerar que a AGI pode surgir no meio do caminho."

Memória e janela de contexto

· "A janela de contexto é aproximadamente equivalente à memória de trabalho. A memória de trabalho humana tem em média sete dígitos, enquanto temos janelas de contexto de milhões ou até dezenas de milhões de tokens. Mas o problema é que colocamos tudo lá dentro, incluindo informações irrelevantes ou erradas, e essa abordagem é bastante grosseira atualmente."

· "Se quisermos processar fluxos de vídeo em tempo real e armazenar todos os tokens, um milhão de tokens é suficiente para cerca de 20 minutos."

Defeitos do raciocínio

· "Gosto de usar o Gemini para jogar xadrez. Às vezes ele percebe que uma jogada é ruim, mas não consegue encontrar uma alternativa melhor, então dá uma volta e faz a jogada ruim mesmo assim. Um sistema de raciocínio preciso não deveria fazer isso."

· "Por um lado, consegue resolver questões de nível medalha de ouro na IMO; por outro, ao reformular a pergunta, comete erros de matemática básica de escola primária. Parece que ainda falta algo na introspecção do seu próprio processo de pensamento."

Agente e criatividade

· "Para alcançar a AGI, você precisa de um sistema que possa resolver problemas de forma proativa. Agent é o caminho, e acho que estamos apenas começando."

· "Ainda não vi ninguém usando vibe coding para criar um jogo AAA que domine as paradas de aplicativos. Com o esforço atual, isso deve ser possível, mas ainda não aconteceu. Isso indica que falta alguma ferramenta ou processo."

Destilação e modelos pequenos

· "Nossa hipótese é que, um modelo Pro de ponta, lançado há meio ano a um ano, pode ter sua capacidade comprimida em um modelo muito pequeno, capaz de rodar em dispositivos de borda. Ainda não atingimos o limite teórico de densidade de informação."

Descobertas científicas e o 'Teste Einstein'

· "Às vezes chamo de 'Teste Einstein', ou seja, é possível treinar um sistema com o conhecimento de 1901 e fazer com que ele deduza de forma independente os resultados de Einstein de 1905, incluindo a relatividade restrita. Se conseguir, esses sistemas estão próximos de inventar algo totalmente novo."

· "Resolver um problema do Millennium Prize já é uma conquista incrível. Mas mais difícil ainda é propor um novo conjunto de problemas do Millennium Prize, considerados profundos e dignos de uma vida de estudo pelos melhores matemáticos."

Conselhos para empreendedores de deep tech

· "Perseguir problemas difíceis e problemas simples é, na essência, semelhante, apenas a forma de dificuldade é diferente. A vida é curta; é melhor focar naquelas coisas que, se você não fizer, ninguém fará."

Caminho para a realização da AGI

Gary Tan: Você pensa na AGI há quase mais tempo que todo mundo. Com o paradigma atual, quanto da arquitetura final da AGI você acha que já temos? O que ainda falta fundamentalmente?

Demis Hassabis: Grande escala de pré-treinamento, RLHF, cadeia de raciocínio, tenho certeza de que farão parte da arquitetura final da AGI. Essas tecnologias já mostraram muito até hoje. Não consigo imaginar que, em dois anos, descobriremos que esse caminho é errado; para mim, isso não faz sentido. Mas, além do que já temos, talvez falte uma ou duas coisas. Aprendizado contínuo, raciocínio de longo prazo, alguns aspectos da memória ainda não estão resolvidos.

A AGI precisa de tudo isso. Talvez, com as tecnologias atuais e algumas inovações graduais, seja possível expandir até lá, mas também pode faltar uma ou duas chaves principais. Não acho que sejam mais de uma ou duas. Minha avaliação é que a probabilidade de existirem esses pontos críticos ainda não resolvidos é de uns 50/50. Então, na DeepMind, estamos avançando em duas frentes.

Gary Tan: Tenho lidado com muitos sistemas de agentes, e o que mais me impressiona é que, na base, eles usam o mesmo peso repetidamente. Então, o conceito de aprendizado contínuo é muito interessante, porque atualmente estamos basicamente colando as coisas com fita, como os ciclos de sonho noturno, por exemplo.

Demis Hassabis: Exato, esses ciclos de sonho são bem legais. Já pensamos nisso na integração da memória situacional. Meu doutorado foi sobre como o hipocampo integra novos conhecimentos de forma elegante ao que já sabemos. O cérebro faz isso muito bem.

Durante o sono, especialmente no sono REM, o cérebro revisita experiências importantes para aprender com elas. Nosso primeiro programa de Atari, o DQN (DeepMind, 2013, a primeira rede Q profunda usando reforço para alcançar nível humano em jogos de Atari), conseguiu dominar esses jogos graças a uma técnica chamada experiência de replay.

Aprendemos isso da neurociência: repetir o caminho de sucesso várias vezes. Isso foi em 2013, na AI parece coisa antiga, mas foi fundamental na época.

Concordo com você, hoje estamos basicamente colando as coisas com fita. Colocamos tudo na janela de contexto. Isso não parece ideal. Mesmo que façamos uma máquina, não um cérebro biológico, teoricamente poderíamos ter janelas de contexto de milhões ou dezenas de milhões de tokens, e memórias perfeitas, mas o custo de busca e recuperação ainda existe. Em decisões que precisam ser tomadas no momento, encontrar informações realmente relevantes não é simples, mesmo que tudo esteja armazenado. Então, vejo espaço enorme para inovação na área de memória.

Gary Tan: Honestamente, uma janela de contexto de um milhão de tokens já é maior do que eu esperava, e dá para fazer muita coisa.

Demis Hassabis: Para a maioria dos cenários, sim, é suficiente. Mas pense: a janela de contexto é aproximadamente equivalente à memória de trabalho. A memória de trabalho humana tem, em média, sete dígitos, enquanto temos janelas de contexto de milhões ou dezenas de milhões de tokens. O problema é que colocamos tudo lá, incluindo informações irrelevantes ou erradas, e essa abordagem é bastante grosseira. E, se você quiser processar fluxo de vídeo em tempo real, simplesmente armazenar tudo, um milhão de tokens, só dá para cerca de 20 minutos. Mas, se você quiser que o sistema entenda sua vida de um ou dois meses, ainda está longe de ser suficiente.

Gary Tan: DeepMind sempre investiu pesado em reforço e busca, essa filosofia está profundamente embutida na construção do Gemini? O reforço ainda é subestimado?

Demis Hassabis: Talvez sim, de fato, às vezes é subestimado. Nosso foco em reforço vem desde o primeiro dia do DeepMind. Todo trabalho com Atari e AlphaGo, na essência, é reforço com agentes capazes de alcançar objetivos, tomar decisões, planejar. Começamos com jogos porque eram controláveis, e depois evoluímos para jogos mais complexos, como AlphaStar, após AlphaGo, praticamente exploramos todos os jogos possíveis.

A questão agora é: podemos generalizar esses modelos para criar modelos de mundo ou linguagem, além de jogos? Já estamos trabalhando nisso há alguns anos. Hoje, o modo de pensar e raciocinar dos modelos líderes é uma espécie de retorno às ideias que AlphaGo iniciou.

Acredito que muito do que fizemos na época é altamente relevante para o que fazemos hoje. Estamos revisitando essas ideias antigas, usando maior escala, de forma mais geral, incluindo métodos como busca em árvore de Monte Carlo e outras técnicas de reforço. Os conceitos de AlphaGo e AlphaZero estão muito relacionados aos modelos de base atuais, e acho que grande parte do progresso nos próximos anos virá daí.

Destilação e modelos pequenos

Gary Tan: Agora, para sermos mais inteligentes, precisamos de modelos maiores, mas a destilação também evolui, e modelos menores podem ficar bastante rápidos. Seus modelos Flash são muito bons, atingem cerca de 95% do desempenho dos modelos de ponta, mas custam só um décimo. É isso mesmo?

Demis Hassabis: Acho que essa é uma das nossas maiores vantagens. Primeiro, você precisa criar o maior modelo possível para alcançar capacidades de ponta. Uma das nossas maiores forças é que conseguimos rapidamente destilar e comprimir essas capacidades em modelos cada vez menores. A destilação foi uma invenção nossa, e ainda somos líderes mundiais nisso. Além disso, temos forte motivação de negócios para fazer isso. Somos uma das maiores plataformas de aplicação de IA do mundo.

Com o AI Overviews, AI Mode, e o Gemini, todos os produtos do Google, incluindo Maps, YouTube, etc., estão integrando o Gemini ou tecnologias relacionadas. Isso envolve bilhões de usuários e dezenas de produtos com bilhões de usuários. Eles precisam de alta velocidade, eficiência, baixo custo e baixa latência. Isso nos motiva a otimizar ao máximo os modelos Flash e Flash-Lite, para que sejam extremamente eficientes, e espero que isso também beneficie os usuários em suas tarefas.

Gary Tan: Tenho curiosidade até que ponto esses pequenos modelos podem ser inteligentes. A destilação tem limite? Modelos de 50B ou 400B podem ser tão inteligentes quanto os maiores modelos atuais?

Demis Hassabis: Não acho que atingimos o limite teórico de informação ainda, pelo menos ninguém sabe se isso existe. Talvez um dia encontremos um teto de densidade de informação, mas atualmente nossa hipótese é que, após o lançamento de um modelo Pro de ponta, em meio ano a um ano, sua capacidade pode ser comprimida em um modelo muito pequeno, capaz de rodar em dispositivos de borda.

Vocês podem ver isso no modelo Gemma, por exemplo, o Gemma 4 tem desempenho muito forte na mesma escala. Isso tudo usando muitas técnicas de destilação e otimização de eficiência de modelos pequenos. Então, realmente, não vejo limites teóricos, estamos longe disso.

Gary Tan: Uma coisa absurda é que a quantidade de trabalho que engenheiros conseguem fazer hoje é de 500 a 1000 vezes maior do que há seis meses. Aqui na sala, alguns estão fazendo o trabalho de um engenheiro do Google dos anos 2000, mil vezes mais. Steve Yegge já comentou isso.

Demis Hassabis: Acho isso empolgante. Modelos pequenos têm muitas aplicações. Um deles é o custo baixo e a velocidade, que trazem benefícios. Em codificação ou outras tarefas, você consegue iterar mais rápido, especialmente ao colaborar com sistemas. Sistemas rápidos, mesmo que não sejam de ponta, com 90-95% do desempenho, já são suficientes, e a velocidade de iteração compensa muito mais do que esses 5% de diferença.

Outro grande benefício é rodar esses modelos em dispositivos de borda, não só por eficiência, mas por privacidade e segurança. Pense em dispositivos que lidam com informações altamente pessoais, ou robôs domésticos. Você preferiria que seu robô de casa rodasse um modelo eficiente localmente, deixando tarefas mais complexas para a nuvem? Processar áudio e vídeo localmente, manter os dados na ponta, isso pode ser o estado final ideal.

Memória e raciocínio

Gary Tan: Voltando à memória e ao contexto. Os modelos atualmente são sem estado. Se eles tiverem aprendizado contínuo, como será a experiência do desenvolvedor? Como você orientaria esses modelos?

Demis Hassabis: Essa é uma questão muito interessante. A falta de aprendizado contínuo é uma grande limitação atual dos agentes. Os agentes atuais são úteis em partes específicas de uma tarefa, você pode combiná-los para fazer coisas legais, mas eles não se adaptam bem ao ambiente específico em que estão. É por isso que ainda não podem simplesmente "deixar e esquecer"; eles precisam aprender o seu cenário particular. Para alcançar inteligência geral completa, esse problema precisa ser resolvido.

Gary Tan: E quanto ao raciocínio? Como estão as coisas? Os sistemas atuais têm cadeias de raciocínio fortes, mas ainda cometem erros que um estudante inteligente não cometeria. O que precisa ser mudado? Quais progressos você espera?

Demis Hassabis: Ainda há muito espaço para inovação na forma de pensar. O que fazemos hoje é bastante rudimentar, bastante bruto. Há muitas melhorias possíveis, como monitorar o processo de raciocínio, intervir durante o pensamento. Acho que, tanto nossos sistemas quanto os concorrentes, às vezes pensam demais, entram em ciclos.

Gosto de usar o Gemini para jogar xadrez como exemplo. Todos os modelos de base avançados são ruins em xadrez, o que é interessante.

Observar seus trajetos de raciocínio é valioso, porque xadrez é um domínio bem compreendido. Posso rapidamente perceber se eles estão se desviando, se o raciocínio é válido. O que vejo é que às vezes eles consideram uma jogada ruim, percebem que é ruim, mas não encontram uma alternativa melhor, então fazem a jogada ruim mesmo assim. Um sistema de raciocínio preciso não deveria fazer isso.

Essa grande lacuna ainda existe, mas consertar isso pode exigir uma ou duas mudanças. Por isso, você vê o que chamam de "inteligência em ziguezague" — que consegue resolver problemas de nível medalha de ouro na IMO, mas ao reformular a questão, comete erros de matemática básica. Ainda parece faltar algo na introspecção do próprio raciocínio.

Capacidade real do agente

Gary Tan: Agentes são um tema amplo. Algumas pessoas dizem que é só hype. Eu acho que estamos apenas começando. Na sua visão, qual é a avaliação real do DeepMind sobre a capacidade de agentes, e qual a diferença em relação à propaganda?

Demis Hassabis: Concordo, estamos só no começo. Para alcançar a AGI, você precisa de um sistema que possa resolver problemas de forma proativa. Isso sempre foi claro para nós. Agent é o caminho, e acho que estamos apenas começando.

Estamos explorando como fazer os agentes colaborarem melhor com o trabalho. Fizemos muitas experiências pessoais, e acho que muitos aqui também. Como integrar o Agent ao fluxo de trabalho, para que ele não seja só um complemento, mas realmente faça algo fundamental? Ainda estamos na fase de experimentação. Talvez nos últimos dois ou três meses tenhamos começado a encontrar cenários realmente valiosos. A tecnologia está no ponto em que deixa de ser um brinquedo de demonstração e passa a gerar valor real em termos de tempo e eficiência.

Vejo muitas pessoas iniciando dezenas de agentes e deixando-os rodar por horas, mas ainda não tenho certeza se o resultado justifica o esforço.

Ainda não vimos alguém usando vibe coding para criar um jogo AAA que domine as paradas. Eu mesmo já criei alguns protótipos, e muitos aqui também. Consigo fazer um protótipo de "Theme Park" em meia hora, enquanto aos 17 anos levei seis meses para fazer o mesmo.

Tenho a sensação de que, se alguém dedicar um verão inteiro, pode criar algo realmente incrível. Mas ainda assim, é preciso artesanato, criatividade humana, bom gosto. Você precisa incorporar esses elementos em qualquer produto que construa. Na verdade, nenhum jovem ainda lançou um jogo de sucesso de mais de um milhão de cópias, mas, com as ferramentas atuais, isso deveria ser possível. Ainda falta alguma coisa, talvez nos processos ou nas ferramentas. Espero ver esses resultados nos próximos 6 a 12 meses.

Gary Tan: Em que medida tudo isso será totalmente automatizado? Acho que não será de cara, será um caminho gradual, onde primeiro se aumenta a eficiência em mil vezes, e depois aparecem pessoas usando essas ferramentas para criar aplicativos e jogos de sucesso, e só depois a automação completa.

Demis Hassabis: Exatamente, isso é o que você deve esperar primeiro.

Gary Tan: Também há quem já esteja fazendo isso, mas relutam em admitir o quanto o Agent ajudou.

Demis Hassabis: Pode ser. Mas quero falar sobre criatividade. Sempre uso o AlphaGo como exemplo, especialmente a jogada 37 da segunda partida. Para mim, esse momento foi um marco, e só depois disso comecei projetos como o AlphaFold. Voltamos de Seul no dia seguinte e começamos a trabalhar no AlphaFold, há dez anos. Fui a Coreia para comemorar o décimo aniversário do AlphaGo.

Mas sair do movimento 37 não é suficiente. É impressionante, útil, mas será que esse sistema consegue inventar o próprio jogo de Go? Se você der uma descrição de alto nível, como "um jogo que um garoto consegue aprender em cinco minutos, mas que leva uma vida para dominar, com estética elegante, e que pode ser jogado em uma tarde", o sistema consegue retornar com o Go? Os sistemas atuais não conseguem fazer isso. Por quê?

Gary Tan: Talvez alguém na sala consiga.

Demis Hassabis: Se alguém conseguir, então a resposta não é que o sistema está faltando alguma coisa, mas que a nossa forma de usar o sistema está errada. Talvez essa seja a resposta certa. Talvez os sistemas atuais já tenham essa capacidade, só precisam de um criador genial para impulsioná-los, dar alma ao projeto, e esse criador precisa estar altamente integrado às ferramentas. Se você passar o dia e a noite usando essas ferramentas, com criatividade profunda, talvez consiga criar algo além da imaginação.

Open source e modelos multimodais

Gary Tan: Mudando de assunto, sobre open source. Recentemente, o lançamento do Gemma permitiu que modelos muito poderosos rodem localmente. Como você vê isso? IA vai se tornar algo que o usuário controla, e não só na nuvem? Isso mudará quem pode construir produtos com esses modelos?

Demis Hassabis: Somos apoiadores firmes de open source e ciência aberta. O AlphaFold foi totalmente disponibilizado de graça. Nosso trabalho científico continua sendo publicado em periódicos de ponta. Quanto ao Gemma, queremos criar modelos líderes de mercado na mesma escala. Já tivemos cerca de 40 milhões de downloads em duas semanas e meia.

Acho importante que exista uma forte presença de tecnologias ocidentais no open source. Os modelos chineses são excelentes e lideram na área, mas acreditamos que o Gemma é altamente competitivo na mesma escala.

Temos um problema de recursos: ninguém tem capacidade de computação sobrando para treinar dois modelos de ponta ao mesmo tempo. Nossa decisão atual é: modelos de borda para Android, óculos, robôs, etc., preferencialmente abertos, porque uma vez implantados nos dispositivos, eles ficam expostos, então é melhor abrir tudo de uma vez. Adotamos uma estratégia unificada de código aberto, que faz sentido na estratégia geral.

Gary Tan: Antes de você falar, mostrei uma demonstração do meu sistema operacional de IA, onde posso interagir com o Gemini por voz. Ainda estou nervoso, mas funcionou. O Gemini foi construído desde o começo como multimodal. Já usei muitos modelos, mas a interação por voz com ferramentas, com compreensão de contexto, é incomparável.

Demis Hassabis: Exato. Uma vantagem do Gemini que ainda não foi totalmente reconhecida é que desde o início foi construído de forma multimodal. Isso torna o começo mais difícil do que só fazer texto, mas acreditamos que, a longo prazo, trará grandes benefícios, e já estamos começando a colher esses frutos.

Por exemplo, no campo de modelos de mundo, construímos o Genie (modelo de ambiente de interação generativa da DeepMind) sobre o Gemini. No campo de robótica, o Gemini Robotics será baseado em modelos multimodais, e nossa vantagem nessa área se tornará uma barreira de entrada. Também estamos usando cada vez mais o Gemini no Waymo (empresa de direção autônoma do Alphabet).

Imagine um assistente digital que te acompanha no mundo real, talvez no seu celular ou óculos, que precisa entender o ambiente físico ao seu redor. Nosso sistema é muito forte nisso. Continuaremos investindo nessa direção, e acredito que nossa liderança nessas questões será grande.

Gary Tan: O custo do raciocínio está caindo rapidamente. Quando o raciocínio se tornar quase gratuito, o que será possível? Sua equipe vai mudar seu foco de otimização?

Demis Hassabis: Não tenho certeza se o raciocínio será realmente gratuito, pois há a paradoxa de Jevons (quando eficiência aumenta, o consumo total também aumenta). Acho que, no final, todo mundo usará toda a capacidade computacional disponível.

Podemos imaginar grupos de milhões de agentes colaborando, ou uma equipe de agentes pensando em várias direções ao mesmo tempo e integrando os resultados. Estamos experimentando essas abordagens, e tudo isso consumirá recursos de raciocínio.

Na área de energia, se resolvermos problemas como fusão nuclear controlada, supercondutividade em temperatura ambiente, ou baterias de alta eficiência, acredito que, por meio de avanços em materiais, poderemos chegar a custos de energia quase zero. Mas, na fabricação de chips, ainda há gargalos físicos, pelo menos nas próximas décadas. Portanto, o limite de capacidade de raciocínio continuará existindo, e será preciso usar esses recursos de forma eficiente.

Próxima Descoberta Científica

Gary Tan: Felizmente, modelos menores estão ficando mais inteligentes. Muitos fundadores de biotecnologia e ciências da vida na sala. O AlphaFold 3 já superou proteínas e agora se estende a moléculas biológicas mais amplas. Quanto falta para modelar sistemas celulares completos? Isso é uma questão de nível de dificuldade totalmente diferente?

Demis Hassabis: O progresso da Isomorphic Labs tem sido excelente. O AlphaFold é apenas uma etapa no fluxo de descoberta de medicamentos. Estamos trabalhando em pesquisa bioquímica relacionada, como projetar compostos com propriedades corretas, e em breve teremos anúncios importantes.

Nosso objetivo final é criar uma célula virtual completa, um simulador de célula funcional, onde você possa aplicar perturbações, e que gere resultados próximos aos experimentais, com aplicações práticas. Você poderá pular muitas etapas de busca, gerar dados sintéticos em grande quantidade para treinar outros modelos, e fazer previsões sobre o comportamento de células reais.

Acredito que levará cerca de dez anos para criar uma célula virtual completa. Estamos começando pelo núcleo celular, que é relativamente autossuficiente. O segredo é encontrar uma fatia de complexidade adequada, que seja auto-contida, e que possamos razoavelmente aproximar suas entradas e saídas, focando nesse subsistema. O núcleo celular é um bom ponto de partida.

Outro problema é a escassez de dados. Conversei com top cientistas de microscopia eletrônica e outras técnicas de imagem. Se pudermos fazer imagens de células vivas sem matá-las, isso seria revolucionário, pois transformaria o problema em uma questão de visão, que já sabemos como resolver.

Porém, até agora, não há tecnologia capaz de fazer imagens de células vivas em resolução nanométrica sem destruí-las. Conseguimos imagens estáticas de alta resolução, o que já é muito avançado, mas ainda não é suficiente para um sistema de visão completo.

Existem duas abordagens: uma é hardware e coleta de dados, a outra é construir simuladores mais avançados para modelar esses sistemas dinâmicos.

Gary Tan: Você não só pensa em biologia. Materiais, descoberta de medicamentos, clima, matemática — se tivesse que ordenar, quais áreas serão mais transformadas nos próximos cinco anos?

Demis Hassabis: Cada uma dessas áreas é empolgante, e é por isso que minha paixão por ciência e AI é tão grande. Sempre acreditei que a IA será a ferramenta definitiva da ciência, impulsionando descobertas, avanços médicos e nossa compreensão do universo.

Nossa missão, inicialmente, foi de duas etapas: primeiro, resolver a inteligência, criar a AGI; segundo, usar essa inteligência para resolver todas as outras questões. Depois, ajustamos a formulação, porque alguém perguntou se realmente pretendíamos resolver tudo.

E a resposta é sim. Essa é a nossa intenção. Agora, as pessoas começam a entender o que isso significa. Especificamente, quero dizer que queremos resolver o que chamo de "problemas de raiz" na ciência, aqueles que, uma vez resolvidos, desbloqueiam novas áreas de descoberta. O AlphaFold é um protótipo do que queremos fazer.

Mais de três milhões de pesquisadores no mundo usam o AlphaFold. Ouvi de executivos de farmacêuticas que, no futuro, quase todos os medicamentos passarão por etapas de descoberta usando o AlphaFold. Nos orgulhamos disso, é o impacto que esperamos da IA. Mas isso é só o começo.

Não consigo imaginar uma área científica ou de engenharia que a IA não possa ajudar. Essas áreas que você mencionou estão na fase "AlphaFold 1", com resultados promissores, mas ainda sem o grande desafio. Nos próximos dois anos, veremos avanços em materiais, matemática, e além.

Gary Tan: Parece uma espécie de Prometeu, dando à humanidade uma capacidade totalmente nova.

Demis Hassabis: Exatamente. Mas, como na história de Prometeu, devemos ser cautelosos com o uso dessa capacidade, onde ela será aplicada, e com o risco de uso indevido das mesmas ferramentas.

Experiências de sucesso

Gary Tan: Muitos aqui tentam fundar empresas que usam IA na ciência. Na sua opinião, qual a diferença entre startups de ponta e aquelas que só colocam APIs de modelos básicos, se autodenominando "IA para Ciência"?

Demis Hassabis: Estou pensando no que faria se estivesse na sua posição, assistindo a um programa do Y Combinator. Uma coisa é prever a direção da IA, o que já é difícil. Mas acredito que há uma grande oportunidade em combinar IA com outro campo de deep tech. Essa interseção, seja de materiais, medicina ou outras ciências difíceis, especialmente envolvendo o mundo atômico, não terá atalhos nos próximos anos. Essas áreas não serão dominadas por uma atualização de modelo de base. Se você quer uma direção defensiva, essa é a minha recomendação.

Sempre gostei de deep tech. Coisas duradouras e valiosas não são fáceis. Desde 2010, quando começamos, a IA era deep tech — investidores diziam "isso não vai dar certo", a academia achava que era uma direção fracassada dos anos 90.

Mas, se você acredita na sua ideia — por que ela será diferente desta vez? Qual sua combinação única de background? Idealmente, você é especialista em aprendizado de máquina e aplicações, ou consegue montar uma equipe fundadora assim. Nesse caso, há um potencial enorme de impacto e valor a ser criado.

Gary Tan: Essa informação é valiosa. Uma coisa que funciona parece óbvia, mas antes de acontecer, todo mundo duvida.

Demis Hassabis: Claro, por isso é importante fazer o que você realmente ama. Para mim, é IA. Desde pequeno, decidi que essa seria minha contribuição mais impactante. E isso se confirmou, embora talvez tenha sido cedo demais, uns 50 anos antes do esperado.

E também é o que acho mais divertido. Mesmo hoje, se estivéssemos em um pequeno porão, com IA ainda por ser criada, eu continuaria tentando. Talvez voltasse para a academia, mas continuaria de alguma forma.

Gary Tan: AlphaFold é um exemplo de uma aposta certa, que deu certo. O que faz uma área científica propícia a uma revolução como a do AlphaFold? Existem padrões, como uma função objetivo específica?

Demis Hassabis: Preciso escrever isso algum dia. Uma lição que aprendi com AlphaGo, AlphaFold e outros projetos é que eles funcionam melhor quando:

Primeiro, o problema tem um espaço de busca combinatória enorme, quanto maior, melhor — a ponto de nenhuma busca exaustiva ou algoritmo especial resolver. Os espaços de jogadas do Go e as conformações de proteínas ultrapassam o número de átomos do universo. Segundo, é importante definir claramente a função objetivo, como minimizar energia livre de proteínas ou ganhar no xadrez, para que o sistema possa fazer otimização por gradiente. Ter um grande volume de dados ou um simulador que gere dados sintéticos também ajuda.

Se esses três fatores estiverem presentes, as técnicas atuais podem avançar bastante, encontrando a "agulha no palheiro". Na descoberta de medicamentos, é a mesma lógica: há uma molécula que pode tratar uma doença sem efeitos colaterais, e o que falta é uma forma eficiente de encontrá-la, dentro das leis físicas. AlphaFold mostrou que esses sistemas podem explorar vastos espaços de busca para encontrar essas agulhas.

Gary Tan: Quero elevar o nível. Estamos falando que os humanos usam esses métodos para criar AlphaFold, mas há também um nível meta: usar IA para explorar hipóteses possíveis. Quanto estamos de sistemas de IA capazes de fazer raciocínio científico de verdade (não só reconhecimento de padrões de dados)?

Demis Hassabis: Acho que estamos bem próximos. Estamos desenvolvendo sistemas generalistas. Temos um chamado AI co-scientist, e algoritmos como o AlphaEvolve, que vão além do Gemini. Todos os laboratórios de ponta estão explorando essa direção.

Porém, até agora, não vi uma descoberta científica realmente importante feita por esses sistemas. Acho que está chegando. Pode estar relacionada à criatividade, a uma quebra de limites conhecidos. Nesse nível, não é mais só reconhecimento de padrão, porque não há padrão para reconhecer. É mais uma espécie de raciocínio por analogia, que esses sistemas ainda não possuem, ou que ainda não estamos usando corretamente.

Uma métrica que uso na ciência é: o sistema consegue propor uma hipótese realmente interessante, e não só testar uma hipótese existente? Porque testar uma hipótese já é uma grande conquista — como provar a hipótese de Riemann ou resolver um problema do Millennium. Mas o que realmente quero é que eles proponham novas perguntas do Millennium, que os matemáticos mais brilhantes considerem profundas e dignas de uma vida de estudo. Isso é um nível mais difícil, e ainda não sabemos como fazer. Mas não acho que seja magia. Acredito que esses sistemas podem fazer isso, talvez só precisem de mais um ou dois ajustes.

Um teste que proponho é o "Teste Einstein": treinar um sistema com o conhecimento de 1901 e ver se ele consegue deduzir, de forma autônoma, as descobertas de Einstein de 1905, incluindo a relatividade restrita. Acho que devemos realmente fazer esse teste, repetir várias vezes, até conseguir. Quando isso acontecer, esses sistemas estarão próximos de inventar algo totalmente novo.

Dicas para empreendedores

Gary Tan: Uma última questão. Muitos aqui querem criar empresas de deep tech como vocês. Vocês são uma das maiores organizações de pesquisa em IA. Com sua experiência na linha de frente da pesquisa de AGI, qual coisa que você sabe agora, mas gostaria de ter sabido aos 25 anos?

Demis Hassabis: Já conversamos um pouco sobre isso. Você vai perceber que perseguir problemas difíceis e problemas simples é, na essência, semelhante, só que a dificuldade se manifesta de formas diferentes. A vida é curta; é melhor focar naquelas coisas que, se você não fizer, ninguém fará. Use esse critério.

Outro ponto é que, nos próximos anos, a combinação de diferentes áreas será mais comum. A IA vai facilitar a interdisciplinaridade.

Por fim, depende da sua linha do tempo para a AGI. A minha é por volta de 2030. Se você começar um projeto de deep tech hoje, geralmente é uma jornada de dez anos. Então, deve incluir no planejamento a possibilidade de surgir uma AGI no meio do caminho. O que isso significa? Não necessariamente algo ruim, mas você precisa pensar nisso. Seu projeto pode se beneficiar de uma AGI? Como ela interagirá com seu projeto?

Voltando ao exemplo do AlphaFold e de sistemas gerais de IA, posso imaginar que sistemas como Gemini, Claude ou similares usarão sistemas especializados como o AlphaFold como ferramentas, integrando-os ao seu fluxo de trabalho. Não acho que faremos tudo em um único sistema gigante.