Vitalik Buterin apelou a uma mudança para uma abordagem de “local-first” à inteligência artificial. Ele disse que as ferramentas modernas de IA colocam sérios riscos de privacidade e segurança.

Resumo

• Vitalik Buterin defendeu uma mudança para IA local-first, avisando que os sistemas baseados na nuvem expõem os dados dos utilizadores e aumentam os riscos de manipulação, fugas e ações não autorizadas.
• Ele citou investigação que mostra que cerca de 15% das “competências” de agentes de IA contêm instruções maliciosas e alertou que os modelos podem incluir backdoors ocultas ou não ter transparência total.
• Buterin propôs uma configuração local com modelos no dispositivo, sandboxing e confirmação humano-IA para limitar riscos, à medida que os agentes autónomos de IA continuam a expandir capacidades e superfícies de ataque.

Num recente post de blogue, ele disse que a IA está a passar além das simples ferramentas de chat. Sistemas mais recentes passam a atuar como agentes autónomos que podem “pensar durante muito tempo e usar centenas de ferramentas” para completar tarefas. Ele avisou que esta mudança aumenta o risco de exposição de dados sensíveis e de ações não autorizadas.

Buterin disse que já parou de usar IA baseada na nuvem. Ele descreveu a sua configuração como “auto-soberana, local, privada e segura.”

“Venho de uma posição de profundo receio de entregar toda a nossa vida pessoal à IA na nuvem,” escreveu. Ele acrescentou que os desenvolvimentos recentes podem significar “dar dez passos para trás” na privacidade, mesmo enquanto a encriptação e as ferramentas local-first se tornam mais comuns.

Vitalik Buterin destaca riscos de privacidade e segurança da IA

Buterin disse que muitos sistemas de IA dependem de infraestrutura na nuvem. Ele avisou que os utilizadores estão efetivamente “a entregar toda a nossa vida pessoal à IA na nuvem”, permitindo que servidores externos acedam e armazenem os nossos dados.

Ele também apontou riscos associados a agentes de IA. Alguns sistemas conseguem “modificar definições críticas” ou introduzir novos canais de comunicação sem pedir autorização ao utilizador.

“Os LLMs também falham às vezes,” escreveu. “Podem cometer erros ou ser enganados”, o que aumenta a necessidade de salvaguardas quando lhes é dado mais controlo.

Investigação citada no seu post encontrou que cerca de 15% das “competências” de agentes continham instruções maliciosas. Mostrou-se também que algumas ferramentas enviavam dados para servidores externos “sem que o utilizador tivesse conhecimento.”

Ele avisou que certos modelos podem conter backdoors ocultas. Estas poderiam ativar-se sob condições específicas e fazer com que o sistema atue no interesse do programador.

Buterin acrescentou que muitos modelos descritos como open-source são apenas “open-weights”. A sua estrutura interna não é totalmente visível, o que deixa espaço para riscos desconhecidos.

A configuração pessoal de Vitalik para abordar riscos

Para lidar com estas preocupações, Buterin propôs um sistema construído em torno de inferência local, armazenamento local e sandboxing rigoroso. Ele disse que a ideia é “fazer sandbox em tudo” e manter-se cauteloso face a ameaças externas.

Ele testou várias configurações de hardware usando o modelo Qwen3.5:35B. O desempenho abaixo de 50 tokens por segundo pareceu-lhe “demasiado irritante” para uso regular. Por volta de 90 tokens por segundo proporcionou uma experiência mais suave.

Um portátil com uma GPU NVIDIA 5090 entregou perto de 90 tokens por segundo. O hardware DGX Spark atingiu cerca de 60 tokens por segundo, o que ele descreveu como “medíocre” em comparação com um portátil topo de gama.

A sua configuração corre em NixOS com o llama-server a tratar da inferência local. Ferramentas como llama-swap ajudam a gerir modelos, enquanto bubblewrap é usado para isolar processos e limitar o acesso a ficheiros e redes.

Ele disse que a IA deve ser tratada com cautela. O sistema pode ser útil, mas não deve ser totalmente confiado, de forma semelhante à abordagem que os programadores fazem aos contratos inteligentes.

Para reduzir o risco, ele usa um modelo de confirmação “2-of-2”. Ações como enviar mensagens ou transações exigem tanto a saída da IA como a aprovação humana. Ele disse que combinar decisões de “humano + LLM” é mais seguro do que confiar apenas em qualquer um deles.

Ao usar modelos remotos, os pedidos de Vitalik são primeiro encaminhados através de um modelo local, o que ajuda a remover informação sensível antes de qualquer coisa ser enviada.

Para quem não consegue suportar esse tipo de configuração, ele sugeriu que os utilizadores “se juntem num grupo de amigos, comprem um computador e uma GPU de, pelo menos, esse nível de potência” e se liguem a ele remotamente.

O crescimento dos agentes de IA levanta novas preocupações e oportunidades

O uso de agentes de IA está a aumentar, com projetos como o OpenClaw a ganhar tração. Estes sistemas podem operar por conta própria e completar tarefas usando múltiplas ferramentas.

Tais capacidades também introduzem novos riscos. Processar conteúdos externos, como uma página Web maliciosa, pode levar a um “controlo fácil” do sistema.

Alguns agentes conseguem alterar prompts ou definições do sistema sem aprovação. Estas ações aumentam as probabilidades de acesso não autorizado e fugas de dados.