Do fundo do canal - ForkLog: criptomoedas, IA, singularidade, futuro

# Chegando do fundo do código

Guia para executar modelos de IA abertos do repositório profundo do GitHub

No desenvolvimento de IA surgiu um vetor em que descentralização e código aberto permitem sair do âmbito das soluções comerciais populares. LLMs locais possibilitam trabalhar com dados de forma privada, configurar o sistema de maneira flexível para suas tarefas e controlar a própria ambiente de uso. Ao mesmo tempo, a execução de tais modelos requer compreensão de ferramentas básicas — desde repositórios e pesos de modelos até ambientes em nuvem e características técnicas.

No novo material do ForkLog, contaremos como começar a explorar modelos de IA autônomos sem custos, quais recursos usar para iniciantes e o que oferecem os desenvolvedores de soluções de código aberto.

Primeira introdução

Para desenvolvedores de modelos de IA abertos, existem duas plataformas principais — GitHub e Hugging Face. A primeira é tradicionalmente usada para publicar código-fonte, documentação e scripts de instalação, enquanto a segunda se tornou um hub global para pesos de modelos, conjuntos de dados e soluções ML prontas. No Hugging Face, são publicados centenas de milhares de redes neurais treinadas, desde modelos linguísticos compactos para smartphones, geradores alternativos de conteúdo multimídia, até algoritmos especializados para cientistas e entusiastas.

A escolha do modelo necessário é auxiliada por métricas de atividade da comunidade. No GitHub, elas são representadas pelo número de estrelas, frequência de atualizações (commits) e velocidade na resolução de problemas (issues).

Também é importante verificar a origem do produto e a autenticidade do repositório. Builds populares de código aberto frequentemente se tornam iscas para cibercriminosos, que distribuem código malicioso sob a aparência de ferramentas de IA conhecidas.

O próximo passo na exploração de modelos de IA locais é testar sua funcionalidade na prática. Para usuários sem hardware potente, existem plataformas em nuvem gratuitas ou semi-gratuitas.

A solução mais popular é o Google Colab — ambiente em nuvem que fornece acesso a processadores gráficos (GPU) diretamente do navegador. A assinatura gratuita permite trabalhar em sistema com acelerador Nvidia Tesla T4 por cerca de duas a quatro horas, dependendo da carga. Como alternativas, estão o Kaggle Notebooks e o Hugging Face Spaces. Este último permite interagir com modelos via interfaces web prontas, como Gradio ou Streamlit.

Também ao trabalhar com soluções federadas, é importante considerar o aspecto jurídico. Muitos projetos populares estão disponíveis sob licenças clássicas, como MIT ou Apache 2.0, permitindo seu uso inclusive comercial com restrições mínimas.

Por outro lado, há abordagens específicas. A Meta distribui seus modelos de ponta sob a licença própria Llama 3.1 Community License, que exige permissão especial se a audiência mensal do serviço ultrapassar 700 milhões de usuários.

Licenças copyleft rigorosas, como a GNU General Public License, também existem, obrigando a abrir o código de todos os produtos derivados.

Meu equivalente pessoal ao ChatGPT

De uma vasta quantidade de LLMs de uso geral autônomos (semelhantes ao ChatGPT ou Gemini), a escolha do modelo adequado é auxiliada por rankings independentes baseados em testes cegos e métricas de desempenho como Open LLM Leaderboard e Chatbot Arena.

Painel de controle de LLMs abertos. Fonte: llm-stats. O padrão ouro do segmento é a família de modelos Llama, desenvolvida pela Meta, e o Qwen da Alibaba. Esses modelos funcionam bem com contextos longos, lidam com consultas multi-etapas e são adequados para tarefas de codificação e programação. Graças ao framework aberto Ollama, sua instalação é feita com um único comando.

Durante um teste realizado para escrever este material, foi possível rodar o qwen3.5:2b em um notebook sem GPU dedicada, com processador Core i7, 8 GB de RAM e SSD, fechando aplicativos pesados como mensageiros e navegadores.

Fonte: Ollama. “2b” significa 2 bilhões de parâmetros. Quanto maior o valor, mais conexões complexas a rede neural consegue captar. Por exemplo, o modelo 2b aprenderá gramática básica e comandos simples, enquanto o 122b memorizaria fatos de física quântica, detalhes de documentos jurídicos e aprenderia a planejar tarefas para dez passos à frente.

Cada parâmetro ocupa espaço físico no disco rígido e, principalmente, na memória RAM. O modelo 2b utilizou cerca de 4-5 GB de RAM e foi o máximo possível para rodar nesse tipo de máquina. Ainda assim, a resposta ao simples comando “olá!” levou quase três minutos para ser gerada.

Captura de tela: ForkLog. Classificação aproximada dos modelos:

• 0.5b-2b. Rápidos, podem rodar em notebooks antigos e smartphones. Ideais para tarefas simples (roteirização de comandos, resumos básicos, autocompletar linhas curtas de código). Tendem a alucinar em consultas complexas;
• 3b-4b. Equilíbrio entre velocidade e qualidade. Bons para dispositivos móveis, casas inteligentes e tarefas de automação. Por exemplo, pedir ao chatbot para apagar a luz, ligar o ar-condicionado ou abrir o portão;
• 7b-9b. Requerem cerca de 6–8 GB de RAM livre. Modelos potentes com compreensão de contexto e lógica profunda, adequados para programação e textos extensos.

Em recente estudo sobre codificação em Web3, Vladimir Slyper descobriu que, em um MacBook Air com 16 GB de RAM, funcionam qwen2.5-coder:7b, qwen3:8b, llama3.2:3b, deepseek-r1:8b. Modelos mais robustos exigem investimento em PC potente com placas de vídeo high-end ou instalação em servidores alugados.

Processamento privado de dados, impressão 3D e proteção do usuário

As opções de interação com modelos de IA abertos dependem do nível de preparo do usuário e do hardware disponível. Existem projetos empacotados em instaladores fáceis (.EXE) ou aplicativos móveis “prontos para uso”. Outros são repositórios abandonados no GitHub, onde a instalação vira uma batalha de horas contra conflitos de bibliotecas desatualizadas.

Modelos de IA aplicados hoje não servem apenas para gerar textos. Uma análise superficial do ecossistema revela dezenas de ferramentas especializadas para tarefas específicas:

Trabalho com vídeo e 3D:

• CogVideoX. Modelo aberto da Zhipu AI para geração de vídeos a partir de descrições textuais. Permite criar vídeos curtos realistas, possui pesos abertos e pode ser implantado em ambientes como Jupyter ou Colab, desde que haja memória de vídeo suficiente;
• DepthCrafter. Ferramenta para extrair informações de profundidade de campo de vídeos. Útil para profissionais de VFX e modelagem 3D. Permite criar mapas de profundidade de alta precisão para cada quadro de cenas dinâmicas;
• TRELLIS (Morfx 3D). Sistema avançado de geração de ativos 3D. Permite criar modelos tridimensionais de alta qualidade a partir de imagens ou descrições textuais, otimizando-os para uso em motores de jogos.

Captura de tela: Morfx 3D, convertendo foto de trem em objeto para impressão 3D. Fonte: ForkLog.Som e reconhecimento:

• CosyVoice. Modelo multilíngue de síntese de fala com suporte a clonagem de voz. Gera áudio realista, preservando entonações e emoções do orador original;
• Whisper-WebGPU. Implementação do reconhecimento de fala da OpenAI, adaptada para rodar no navegador usando API WebGPU. Isso garante que a transcrição seja feita localmente, preservando total privacidade, sem enviar arquivos de áudio para servidores externos;
• BirdNET-Analyzer. Rede neural do Instituto de Tecnologia de Cornell para identificação de espécies de aves pelo canto. Diferente do app Merlin Bird ID, que depende bastante de processamento na nuvem, o BirdNET-Analyzer oferece controle total do processo localmente e pode processar gigabytes de gravações de campo em massa.

Fonte: BirdNET.Programação e proteção do usuário:

• Screenshot-to-Code. Ferramenta que converte captura de tela de página web ou app móvel em código HTML, Tailwind ou React limpo. Apesar de muitas vezes usar APIs pagas (Claude, GPT-4), sua arquitetura permite integrar modelos multimodais de código aberto;
• MinerU/Magic-PDF. Projeto para extrair dados estruturados de PDFs com precisão. Reconhece textos, fórmulas matemáticas e tabelas, convertendo layouts complexos em Markdown;
• Fawkes. Faz alterações invisíveis a olho nu em imagens, dificultando que sistemas de reconhecimento facial identifiquem a pessoa. Pode ser carregado localmente via arquivo .EXE e usado para avatares em redes sociais;
• Nightshade. “Envenena” pixels de imagens para confundir algoritmos de treinamento de IA, caso façam isso sem permissão. Por exemplo, ao solicitar “cachorro”, o modelo gera uma imagem de gato.

Retrato do presidente dos EUA, Donald Trump, antes do uso do Fawkes. Fonte: Biblioteca do Congresso dos EUA. Após processamento pelos algoritmos Fawkes. Captura de tela: ForkLog.

Combate às bibliotecas e primeiro sucesso

Após instalar modelos de IA com interfaces de usuário/experiência de usuário compreensíveis, era preciso verificar quão fácil seria implantar um repositório pesado na nuvem, de graça.

FLUX.1 da startup Black Forest Labs — um dos modelos avançados de geração de imagens, concorrente do Midjourney corporativo e Nano Banana. Com hardware adequado, o software pode rodar de forma autônoma, sem conexão à internet, e contornar censura.

No teste, foi usada a versão gratuita mais leve, FLUX.1 Schnell. Para facilitar a interação com soluções abertas, os desenvolvedores criam frameworks específicos como Ollama. Para geração de imagens, interfaces gráficas como ComfyUI e Forge são populares.

Durante tentativas de instalar a implementação cagliostro-forge-colab do Forge, foi necessário gastar uma sessão inteira de acesso ao GPU do Google Colab. O problema era uma clássica incompatibilidade de versões de Python, ambiente em nuvem e o próprio modelo. Em quatro horas de tentativa de codificação com a versão gratuita do Gemini 3 Flash, não foi possível obter sucesso.

No final, foi preciso abandonar a instalação do framework e seguir direto para o deploy do FLUX.1, mas já na próxima sessão gratuita, em outro dia.

Na prática, o Google Colab gratuito é mais conveniente aos finais de semana: nesse período, a plataforma costuma oferecer acesso mais prolongado.

O modelo ocupou cerca de 34 GB de espaço no SSD em nuvem. Mas todos os processos relacionados à instalação, no final, consumiram aproximadamente 86 GB.

Recursos utilizados na máquina em nuvem Google Colab. Captura de tela: ForkLog. Na primeira tentativa, a memória de vídeo do Nvidia Tesla T4 não foi suficiente. A configuração não adaptada atingiu os limites do GPU, até que, após uma série de experimentos simples, o Gemini 3 Flash ajudou a fazer ajustes, usando carregamento por etapas e limpeza de memória. Assim, dos 16 GB de VRAM disponíveis, cerca de 3 GB foram usados durante a geração.

Captura de tela: ForkLog. O processo de criação de uma imagem levou cerca de sete minutos. Considerando que era uma versão gratuita do modelo aberto, o resultado foi bastante satisfatório.

Imagem gerada com FLUX.1 Schnell. Fonte: ForkLog. Ao tentar gerar várias vezes uma imagem do vocalista Marilyn Manson em estilo vitoriano com o auxílio do FLUX.1 Schnell, provavelmente a IA não reconheceu a referência específica e produziu apenas um padrão visual genérico.

Imagem do artista gerada por comando “desenhe Marilyn Manson em estilo vitoriano” usando FLUX.1 Schnell. Fonte: ForkLog.## Complexos e incríveis

Redes neurais abertas há muito tempo são usadas não só para gerar textos e imagens, mas também para tarefas mais específicas e inusitadas. Um exemplo marcante de aplicação não convencional da arquitetura de IA foi o modelo GameNGen, capaz de recriar em tempo real o gameplay do clássico shooter DOOM.

Fonte: GameNGen/Github. O GameNGen não simula o jogo no sentido tradicional, mas gera vídeos sequenciais: a rede prevê como deve ser o próximo quadro após uma ação do usuário (como movimento ou disparo). Por isso, inimigos, objetos e mudanças na cena não são “calculados” pelo motor, mas reproduzidos visualmente como o resultado mais provável.

Entre sistemas autônomos, destaca-se o projeto Voyager — um agente de IA para Minecraft. Ele explora o mundo do jogo, coleta recursos e aprende continuamente por si só.

A comunidade científica também adapta ativamente IA de código aberto às suas necessidades, por exemplo, usando algoritmos para decifrar histórias antigas. Assim, pesquisadores de Tel Aviv e Munique treinaram o modelo Akkademia para traduzir diretamente a escrita cuneiforme acádica para o inglês. Ele permite processar milhares de tábuas de argila danificadas, acelerando o trabalho arqueológico em dezenas de vezes.

Outro projeto interessante é o MinD-Vis. Essa sistema analisa dados de ressonância magnética funcional (fMRI) e tenta reconstruir imagens que o sujeito observa durante o escaneamento. Ou seja, gera uma interpretação do que foi visto, com base em padrões de atividade cerebral.

Iniciativas como essas demonstram que a inteligência artificial se tornou uma ferramenta universal de compreensão e modelagem da realidade. A transição de APIs corporativos fechados para código aberto cria uma nova paradigma de desenvolvimento tecnológico. Hoje, qualquer pesquisador, desenvolvedor ou entusiasta pode montar uma infraestrutura que, há alguns anos, exigiria investimentos de milhões em fazendas de servidores.

O desenvolvimento do ecossistema acompanha inevitavelmente a melhora na experiência do usuário: scripts complexos dão lugar a interfaces intuitivas e ambientes de implantação automatizados. Ferramentas como Ollama e Forge mostram que privacidade, ausência de censura e alta performance podem coexistir harmonicamente em uma única solução de software. O futuro da indústria de IA hoje depende bastante de quão forte, escalável e independente permanecerá o ecossistema aberto.