Do fundo vibraram - ForkLog

img-ddd2e1cfd0523174-4995440145895408# Vibecodando a partir do zero

Guia para executar modelos de IA abertos do GitHubs profundos

No desenvolvimento da IA, surgiu um vetor no qual a descentralização e o código aberto permitem ir além das soluções comerciais populares. LLMs locais permitem trabalhar com dados de forma privada, ajustar o sistema de forma flexível para suas tarefas e controlar o ambiente de uso. Ao mesmo tempo, executar esses modelos requer entender ferramentas básicas — desde repositórios e pesos de modelos até ambientes de nuvem e especificações técnicas.

No novo artigo do ForkLog, vamos contar como começar a conhecer modelos de IA autônomos sem custos, quais recursos usar para iniciantes e o que os desenvolvedores de soluções de código aberto oferecem.

Primeiro contato

Para desenvolvedores de modelos de IA abertos, existem duas plataformas principais — GitHub e Hugging Face. A primeira é tradicionalmente usada para publicar código-fonte, documentação e scripts de instalação; a segunda se tornou um hub global para pesos de modelos, conjuntos de dados e soluções de ML prontas. No Hugging Face, são publicadas centenas de milhares de redes neurais treinadas, desde modelos de linguagem minúsculos para smartphones, geradores alternativos de mídia, até algoritmos especializados para cientistas e entusiastas.

Escolher o modelo necessário é ajudado por métricas de atividade da comunidade. No GitHub, elas são representadas pelo número de estrelas (stars), regularidade de atualizações (commits) e velocidade de resolução de problemas (issues).

Separadamente, é importante verificar a origem do produto e a autenticidade do repositório. Compilações populares de código aberto frequentemente se tornam iscas para cibercriminosos que distribuem código malicioso disfarçado de ferramentas de IA conhecidas.

O próximo estágio de familiarização com modelos de IA locais é testar suas funcionalidades na prática. Para usuários sem hardware potente, existem plataformas de nuvem gratuitas e condicionalmente gratuitas.

A solução mais popular — Google Colab — é um ambiente de nuvem que fornece acesso a unidades de processamento gráfico (GPU) diretamente do navegador. A assinatura gratuita permite trabalhar em um sistema com acelerador Nvidia Tesla T4 em média de duas a quatro horas, dependendo da carga. Alternativas incluem Kaggle Notebooks e Hugging Face Spaces. Este último permite interagir com modelos por meio de interfaces web prontas, como Gradio ou Streamlit.

Também, ao trabalhar com soluções federadas, é necessário considerar o aspecto legal. Muitos projetos populares estão disponíveis sob licenças clássicas, como MIT ou Apache 2.0, permitindo seu uso inclusive para fins comerciais com restrições mínimas.

No entanto, existem abordagens específicas. A Meta distribui seus modelos emblemáticos sob sua própria licença Llama 3.1 Community License, que exige permissão especial se a audiência mensal do serviço ultrapassar 700 milhões de usuários.

Licenças copyleft rigorosas, como a GNU General Public License, também são encontradas, obrigando a abrir o código de todos os produtos derivados.

Meu análogo pessoal do ChatGPT

Da enorme quantidade de LLMs autônomas de uso geral (análogos do ChatGPT ou Gemini), escolher o modelo necessário é ajudado por classificações independentes baseadas em testes cegos e métricas de desempenho, como Open LLM Leaderboard e Chatbot Arena.

Painel de LLMs abertas. Fonte: llm-stats.O padrão ouro do segmento é considerado a família de modelos Llama da desenvolvedora Meta e Qwen da Alibaba. Esses modelos funcionam bem com contexto longo, lidam com solicitações de múltiplas etapas e são adequados para tarefas de vibecoding e programação. Graças ao framework aberto Ollama, sua instalação se resume a um único comando.

Durante o teste realizado para escrever este material, o modelo qwen3.5:2b conseguiu ser executado em um notebook sem placa de vídeo dedicada, baseado em Core i7 com 8 GB de RAM e SSD, fechando aplicativos pesados: mensageiros e navegadores.

Fonte: Ollama.«2b» significa 2 bilhões de parâmetros. Quanto maior o valor, mais complexas são as conexões que a rede neural pode captar. Por exemplo, um modelo 2b aprenderá gramática básica e comandos simples, enquanto um modelo 122b memorizará fatos de física quântica, nuances de documentos jurídicos e aprenderá a planejar tarefas com dez passos de antecedência.

Cada parâmetro ocupa espaço físico no disco rígido e, principalmente, na memória RAM. O modelo 2b usou cerca de 4-5 GB de RAM e foi o máximo para execução nessa máquina. Ao mesmo tempo, a resposta para a solicitação mais simples "olá!" o modelo gerou por quase três minutos.

Captura de tela: ForkLog.Gradação aproximada de modelos:

  • 0.5b-2b. Rápidos, podem funcionar em notebooks antigos e smartphones. Ideais para tarefas simples (roteamento de comandos, resumo básico, autocompletar linhas curtas de código). Propensos a alucinações em solicitações complexas;
  • 3b-4b. Equilíbrio entre velocidade e qualidade. Bons para dispositivos móveis, casa inteligente e tarefas de automação. Por exemplo, o chatbot pode ser solicitado a diminuir a luz do cômodo, ligar o ar-condicionado ou levantar a cancela;
  • 7b-9b. Exigem cerca de 6–8 GB de RAM livre. Modelos potentes com compreensão de contexto e lógica profunda, adequados para programação e trabalho com textos grandes.

Em sua pesquisa recente sobre vibecoding em Web3, Vladimir Sleper descobriu que para uma máquina nível MacBook Air com 16 GB de RAM, os modelos adequados são qwen2.5-coder:7b, qwen3:8b, llama3.2:3b, deepseek-r1:8b. Modelos mais potentes exigem investimento em um PC potente com placas de vídeo high-end ou instalação em servidores alugados.

Processamento privado de dados, impressão 3D e proteção do usuário

As opções de interação com modelos de IA abertos dependem do nível de preparação do usuário e do hardware. Existem projetos empacotados em instaladores convenientes (arquivos com extensão .EXE) ou aplicativos móveis que funcionam "prontos para uso". Outros são repositórios GitHub abandonados, onde a instalação se transforma em uma luta de várias horas com conflitos de bibliotecas desatualizadas.

Modelos de IA aplicados hoje são usados não apenas para geração de texto. Mesmo uma análise superficial do ecossistema permite identificar dezenas de ferramentas especializadas para tarefas específicas.

Trabalho com vídeo e 3D:

  • CogVideoX. Modelo aberto da Zhipu AI para geração de vídeo a partir de descrição textual. Permite criar clipes realistas curtos, possui pesos abertos e pode ser implantado em ambientes como Jupyter ou Colab, desde que haja quantidade suficiente de memória de vídeo;
  • DepthCrafter. Ferramenta para extrair informações de profundidade de campo de vídeos. Útil para especialistas em VFX e modelagem 3D. Permite criar mapas de profundidade de alta precisão para cada quadro de uma cena dinâmica;
  • TRELLIS (Morfx 3D). Sistema avançado de geração de ativos 3D. O projeto permite criar modelos tridimensionais de alta qualidade a partir de imagens ou solicitações de texto, otimizando-os para uso em engines de jogos.

Transformação da foto de um trem em objeto para processamento e impressão 3D usando a versão web do modelo Morfx 3D. Captura de tela: ForkLog.Som e reconhecimento:

  • CosyVoice. Modelo multilíngue de síntese de fala com suporte a clonagem de voz. Permite gerar áudio realista, preservando entonações e coloração emocional do falante original;
  • Whisper-WebGPU. Implementação do modelo de reconhecimento de fala da OpenAI, reescrito para funcionar diretamente no navegador usando a API WebGPU. Isso significa que a transcrição de áudio ocorre localmente, garantindo total privacidade sem transferir arquivos de áudio para servidores externos;
  • BirdNET-Analyzer. Rede neural da Universidade Cornell para identificação de espécies de aves pelo seu canto. Diferente do popular aplicativo Merlin Bird ID, que depende amplamente de processamento em nuvem para algumas funções, o BirdNET-Analyzer oferece controle total sobre o processo de análise localmente e pode ser usado para processamento em massa de gigabytes de gravações de campo.

Fonte: BirdNET.Programação e proteção do usuário:

  • Screenshot-to-Code. Utilitário para converter uma captura de tela de uma página web ou aplicativo móvel em código HTML, Tailwind ou React limpo. Embora frequentemente o projeto funcione em conjunto com APIs pagas (Claude, GPT-4), a arquitetura permite conectar modelos multimodais abertos;
  • MinerU/Magic-PDF. Projeto para extração precisa de dados estruturados de documentos PDF. O modelo reconhece texto, fórmulas matemáticas e tabelas, convertendo layouts complexos para o formato Markdown;
  • Fawkes. Insere alterações invisíveis ao olho humano em imagens, atrapalhando sistemas de reconhecimento facial a identificar a pessoa. É carregado localmente no PC através de um arquivo com extensão .EXE e pode ser usado para avatares em redes sociais;
  • Nightshade. "Envenena" os pixels da imagem para confundir algoritmos de treinamento de IA de empresas, caso o façam sem permissão. Por exemplo, para a solicitação "cachorro", o modelo gerará uma imagem de gato.

Retrato do presidente dos EUA, Donald Trump, antes do uso do Fawkes. Fonte: Biblioteca do Congresso dos EUA. Após processamento pelos algoritmos do Fawkes. Captura de tela: ForkLog.

Luta com bibliotecas e primeiro sucesso

Após instalar modelos de IA com UI/UX compreensíveis, era necessário descobrir o quão fácil seria implantar um repositório pesado na nuvem, e de graça.

FLUX.1 da startup Black Forest Labs é um dos modelos mais avançados de geração de imagens, competindo com os corporativos Midjourney e Nano Banana. Com o hardware necessário, o software pode funcionar autonomamente sem acesso à internet e permite contornar a censura.

No teste, foi utilizada a versão gratuita mais leve, FLUX.1 Schnell. Para facilitar a interação com soluções abertas, os desenvolvedores criam frameworks específicos como Ollama. Para geração de imagens, são populares as interfaces gráficas ComfyUI e Forge.

Durante as tentativas de instalar a implementação do Forge — cagliostro-forge-colab — foi necessário gastar uma sessão inteira de acesso à GPU do Google Colab. O problema foi o clássico erro de iniciante: incompatibilidade de versões do Python, do ambiente de nuvem e do próprio modelo. Em quatro horas de vibecoding com a versão gratuita do Gemini 3 Flash, não foi possível obter sucesso.

No final, foi necessário abandonar a instalação do framework e passar diretamente para a implantação do FLUX.1, mas já na próxima sessão gratuita em outro dia.

Na prática, o Google Colab gratuito é mais conveniente de usar nos finais de semana: nesse período, a plataforma frequentemente oferece acesso mais prolongado.

O modelo ocupou cerca de 34 GB de espaço em disco do SSD da nuvem. Mas todos os processos associados à instalação usaram cerca de 86 GB no total.

Recursos utilizados da máquina em nuvem do Google Colab. Captura de tela: ForkLog.Na primeira etapa, o modelo FLUX.1 Schnell não teve memória de vídeo suficiente do acelerador Nvidia Tesla T4. A configuração não adaptada esbarrava nos limites da GPU, até que, após uma série de experimentos simples com código, o Gemini 3 Flash ajudou a fazer correções, usando carregamento por etapas e limpeza de memória. Como resultado, dos 16 GB disponíveis de memória de vídeo, durante a geração foram usados cerca de 3 GB.

Captura de tela: ForkLog.O processo de criação de uma imagem levava cerca de sete minutos. Considerando que é a versão gratuita de um modelo aberto, o resultado surpreendeu agradavelmente.

Imagem gerada com FLUX.1 Schnell. Fonte: ForkLog Ao tentar gerar várias vezes a imagem do cantor de rock Marilyn Manson em estilo vitoriano com um acompanhante, o FLUX.1 Schnell provavelmente não reconheceu a referência a uma pessoa específica e reproduziu apenas um padrão visual genérico.

Imagem gerada do artista conforme solicitação "desenhe Marilyn Manson em estilo vitoriano" usando FLUX.1 Schnell. Fonte: ForkLog.## Complexos e incríveis

Redes neurais abertas são usadas há muito tempo não apenas para gerar textos e imagens, mas também para tarefas mais específicas e incomuns. Um exemplo vívido de aplicação não padrão da arquitetura de IA foi o modelo GameNGen, capaz de recriar a jogabilidade do clássico jogo de tiro DOOM em tempo real.

Fonte: GameNGen/Github O GameNGen não simula o jogo no sentido usual, mas gera vídeo sequencialmente: o modelo prevê como o próximo quadro deve ficar após a ação do usuário (por exemplo, movimento ou tiro). Por causa disso, inimigos, objetos e mudanças de cena não são "calculados" pelo motor, mas reproduzidos visualmente como o resultado mais provável.

Entre os sistemas autônomos, destaca-se o projeto Voyager — um agente de IA para Minecraft. Ele explora de forma independente o mundo do jogo, coleta recursos e se autoaprende continuamente.

A comunidade científica também está adaptando ativamente a IA aberta para suas necessidades, por exemplo, usando algoritmos para decifrar a história. Assim, pesquisadores das Universidades de Tel Aviv e Munique treinaram o modelo Akkademia para traduzir diretamente a antiga escrita cuneiforme acádia para o inglês. Ele permite processar milhares de tabletes de argila danificados, acelerando o trabalho dos arqueólogos dezenas de vezes.

Não menos interessante é o projeto MinD-Vis. Este sistema analisa dados de fMRI e tenta reconstruir imagens que o sujeito observa no momento da varredura. Ou seja, gera uma interpretação do que a pessoa viu com base em padrões de atividade cerebral.

Iniciativas como essas provam que a inteligência artificial se transformou em uma ferramenta universal de conhecimento e modelagem da realidade. A transição da iniciativa de APIs corporativas fechadas para código aberto forma uma paradigma completamente novo de desenvolvimento tecnológico. Hoje, qualquer pesquisador, desenvolvedor ou entusiasta tem a oportunidade de implantar uma infraestrutura que, há alguns anos, exigia investimentos de milhões em fazendas de servidores.

O desenvolvimento do ecossistema é inevitavelmente acompanhado pela melhoria da experiência do usuário: scripts complexos dão lugar a interfaces intuitivas e ambientes de implantação automatizados. O uso de ferramentas como Ollama e Forge demonstra que privacidade, ausência de censura e alto desempenho podem coexistir harmoniosamente em uma mesma solução de software. O futuro da indústria de IA hoje depende em grande parte de quão forte, escalável e independente o ecossistema aberto permanecerá.

Ver original
Esta página pode conter conteúdo de terceiros, que é fornecido apenas para fins informativos (não para representações/garantias) e não deve ser considerada como um endosso de suas opiniões pela Gate nem como aconselhamento financeiro ou profissional. Consulte a Isenção de responsabilidade para obter detalhes.
  • Recompensa
  • Comentário
  • Repostar
  • Compartilhar
Comentário
Adicionar um comentário
Adicionar um comentário
Sem comentários
  • Fixado