Então há uma história louca sobre como um dos maiores cofres de políticas de IA do mundo começou com uma moeda de cachorro e um armário no Canadá. Vitalik Buterin acabou de explicar como tudo aconteceu, e honestamente, tornou-se muito mais complicado do que anyone esperava.

Em 2021, os criadores do Shiba Inu fizeram um movimento que foi puro génio de marketing — eles despejaram uma quantidade enorme de tokens SHIB na carteira de Vitalik sem pedir. A jogada era óbvia: colocar 'Vitalik possui metade da nossa oferta' nos materiais de marketing e aproveitar o hype. Exceto que os tokens realmente aumentaram de valor para mais de $1 bilhão. Vitalik quis sair antes que a bolha estourasse, o que levou a um momento absurdo em que ele teve que ligar para a madrasta no Canadá e pedir que ela fosse ao seu armário, lesse um número de 78 dígitos de um papel, e o somasse a outro número de 78 dígitos de sua mochila. É assim que se liquida uma fortuna de shiba inu quando você não está fisicamente lá.

Ele conseguiu vender o que pôde por ETH e doou $50 milhão para a GiveWell. Mas ainda tinha montanhas de SHIB, então dividiu o resto. Metade foi para a CryptoRelief para infraestrutura médica na Índia e sua própria pesquisa. A outra metade — aproximadamente $500 milhão após a liquidação — foi para o Future of Life Institute, uma organização focada em riscos existenciais de IA, biotecnologia e armas nucleares.

Aqui é que fica interessante. A FLI originalmente apresentou ao Buterin um roteiro cobrindo categorias principais de risco e 'iniciativas pró-paz e pró-epistemologia.' Ele achava que eles poderiam sacar talvez entre $10 a $25 milhões, dado como a liquidez do SHIB era escassa. Em vez disso, eles fizeram uma saída de $500 milhão. Uma moeda meme que ninguém levava a sério acabou criando um momento filantrópico de bilhões de dólares.

Mas então a FLI mudou de direção de forma radical. Segundo Buterin, eles passaram a focar em 'ação cultural e política como método principal' — uma mudança bastante grande em relação à abordagem original. Sua preocupação é real: ação política coordenada em grande escala com enormes fundos tende a dar errado. Pode levar a resultados não intencionais, gerar reações adversas e acabar resolvendo problemas de formas autoritárias e frágeis.

Ele apontou a estratégia de biossegurança da FLI como exemplo. A abordagem principal deles tem sido incorporar limites nos modelos de IA para que eles se recusem a criar saídas perigosas. Maserin vê isso como frágil porque jailbreaks e ajustes finos tornam essas restrições fáceis de contornar. Seguindo essa lógica até o fim, você chega a 'banir IA de código aberto' ou 'apoiar uma boa empresa de IA e não deixar ninguém mais competir.' Abordagens assim fracassam espetacularmente — fazem o resto do mundo seu inimigo.

Há também um problema estrutural com estratégias baseadas em regulação. Quando governos restringem tecnologias perigosas, organizações de segurança nacional ficam isentas, e essas mesmas organizações muitas vezes representam o risco elas mesmas. É uma contradição embutida.

Dito isso, Buterin reconheceu que alguns trabalhos recentes da FLI têm sido sólidos. Ele ficou encorajado com a declaração deles de uma IA 'pró-humana' que aparentemente une conservadores, progressistas, libertários e países da América, Europa e China. Eles também estão pesquisando formas de evitar a concentração de poder em IA, o que é importante.

Mas a questão central permanece: uma doação que Buterin nunca planejou fazer, de tokens que ele nunca quis manter, acabou financiando uma organização que seguiu uma direção que ele não assinou. Agora eles estão usando centenas de milhões de dólares de maneiras que o deixam desconfortável. Ele levantou essas preocupações com a FLI várias vezes em privado antes de tornar tudo público. A bonança do shiba inu virou algo muito mais complexo do que anyone antecipou.