O 'Plano Bunker' de Hassabis: Novo livro revela o colapso dos ideais de segurança da DeepMind

De acordo com a monitorização da 1M AI News, o The Atlantic publicou um excerto do novo livro do historiador da tecnologia e historiador financeiro Sebastian Mallaby, ‘The Infinity Machine’, que dá conta da evolução dos conceitos de segurança da IA desde o cofundador do Google DeepMind Demis Hassabis, desde a aquisição do Google em 2014, com base em entrevistas em curso de 2023 a 2026. Inicialmente, Hassabis imaginou uma única equipa científica a construir com segurança a superinteligência em nome de toda a humanidade e chegou mesmo a planear retirar os principais investigadores para um bunker secreto em momentos críticos, à semelhança do Projeto Manhattan. Um investigador que se juntou pouco depois recordou que Hassabis lhe pediu, durante as fases finais da entrevista, que se preparasse mentalmente para ‘voar para um local secreto no Marrocos a qualquer momento’. Quando o Google adquiriu o DeepMind em 2014, Hassabis estabeleceu condições raras: a criação de um comité independente externo de supervisão, uma proibição de aplicações militares e o facto de o Google não ter controlo total sobre a implementação da tecnologia. O Google aceitou esses termos. No ano seguinte, ele reuniu-se de forma secreta na sede da Elon Musk em Hawthorne, Califórnia, numa tentativa de unificar potenciais concorrentes, o que saiu pela culatra: Musk juntou-se posteriormente a Sam Altman para fundar a OpenAI. Hassabis iniciou então uma operação secreta com o nome de código ‘Project Mario’, tentando recuperar a autonomia de governação face ao Google, formando uma equipa jurídica, assegurando um compromisso de financiamento de 1 mil milhões de dólares do fundador do LinkedIn Reid Hoffman e ponderando a cisão do DeepMind do Google. Esta luta durou três anos e acabou por falhar, levando a que o cofundador Mustafa Suleyman fosse forçado a sair da empresa em 2019. Após o lançamento do ChatGPT no final de 2022, Hassabis abandonou completamente a abordagem nobre de prosseguir apenas ciência benéfica. Disse a Mallaby, ‘Isto é uma guerra’, e depois lançou-se na competição com a Gemini e o ChatGPT. Centenas de milhares de milhões de dólares têm fluído para a corrida armamentista de IA, sem que nem a regulamentação nacional nem as estruturas de governação das empresas consigam travar a competição. A filosofia de segurança de Hassabis sofreu uma mudança fundamental: ‘A segurança não reside em estruturas de governação; mesmo que exista um comité de governação, é altamente improvável que tome a decisão certa em momentos críticos.’ A sua nova estratégia é garantir que tem um lugar à mesa das decisões, para que possa participar na determinação das soluções quando surgem questões de segurança. Entretanto, o Google tem estado a promover activamente a IA para o sistema de defesa dos EUA, marcando uma inversão clara face à proibição militar que Hassabis tinha definido durante a aquisição.