Desde el fondo vibecodearon - ForkLog

# Desde el fondo vibecodeamos

Guía para ejecutar modelos de IA abiertos desde el GitHub profundo

En el desarrollo de la IA ha surgido un vector en el que la descentralización y el código abierto permiten ir más allá de las soluciones comerciales populares. Los LLM locales permiten trabajar con datos de forma privada, configurar el sistema de manera flexible según las propias tareas y controlar el entorno de uso de forma independiente. Al mismo tiempo, ejecutar estos modelos requiere comprender las herramientas básicas, desde repositorios y pesos de modelos hasta entornos en la nube y características técnicas.

En el nuevo material de ForkLog, contaremos cómo comenzar a familiarizarse con modelos de IA autónomos sin costo, qué recursos deben usar los principiantes y qué ofrecen los desarrolladores de soluciones OS.

Primer contacto

Para los desarrolladores de modelos de IA abiertos existen dos plataformas principales: GitHub y Hugging Face. La primera se usa tradicionalmente para publicar código fuente, documentación y scripts de instalación; la segunda se ha convertido en un centro global para pesos de modelos, conjuntos de datos y soluciones ML listas. En Hugging Face se publican cientos de miles de redes neuronales entrenadas, desde modelos de lenguaje diminutos para teléfonos inteligentes, generadores alternativos de contenido multimedia hasta algoritmos especializados para científicos y entusiastas.

Las métricas de actividad de la comunidad ayudan a elegir el modelo necesario. En GitHub están representadas por la cantidad de estrellas (stars), la regularidad de las actualizaciones (commits) y la velocidad de resolución de problemas (issues).

Por separado, es importante verificar el origen del producto y la autenticidad del repositorio. Las compilaciones OS populares se convierten regularmente en un señuelo para ciberdelincuentes que distribuyen código malicioso bajo la apariencia de herramientas de IA conocidas.

La siguiente etapa de familiarización con los modelos de IA locales es probar su funcionalidad en la práctica. Para los usuarios sin hardware potente, existen plataformas en la nube gratuitas y condicionalmente gratuitas.

La solución más popular, Google Colab, es un entorno en la nube que proporciona acceso a unidades de procesamiento gráfico (GPU) directamente desde el navegador. La suscripción gratuita permite trabajar en un sistema con el acelerador Nvidia Tesla T4 durante un promedio de dos a cuatro horas, dependiendo de la carga. Alternativas son Kaggle Notebooks y Hugging Face Spaces. Esta última permite interactuar con los modelos a través de interfaces web listas como Gradio o Streamlit.

También, al trabajar con soluciones federadas, se debe considerar el aspecto legal. Muchos proyectos populares están disponibles bajo licencias clásicas, como MIT o Apache 2.0, lo que permite usarlos incluso con fines comerciales con restricciones mínimas.

Sin embargo, existen enfoques específicos. Meta distribuye sus modelos insignia bajo su propia licencia Llama 3.1 Community License, que requiere obtener un permiso especial si la audiencia mensual del servicio supera los 700 millones de usuarios.

También se encuentran licencias copyleft estrictas como GNU General Public License, que obligan a abrir el código de todos los productos derivados.

Mi análogo personal de ChatGPT

De la enorme cantidad de LLM autónomos de propósito general (análogos de ChatGPT o Gemini), para elegir el modelo necesario ayudan clasificaciones independientes basadas en pruebas ciegas y métricas de rendimiento como Open LLM Leaderboard y Chatbot Arena.

Panel de LLM abiertos. Fuente: llm-stats.El estándar de oro del segmento se considera la familia de modelos Llama del desarrollador Meta y Qwen de Alibaba. Estos modelos funcionan bien con contexto largo, manejan consultas de varios pasos y son adecuados para tareas de vibecoding y programación. Gracias al framework abierto Ollama, su instalación se reduce a un solo comando.

Durante la prueba realizada para escribir este material, el modelo qwen3.5:2b logró ejecutarse en una laptop sin tarjeta gráfica discreta, con un Core i7, 8 GB de RAM y SSD, cerrando aplicaciones pesadas como mensajeros y navegadores.

Fuente: Ollama.«2b» significa 2 mil millones de parámetros. Cuanto mayor sea el valor, más complejas son las conexiones que la red neuronal puede captar. Por ejemplo, un modelo de 2b aprenderá gramática básica y comandos simples, mientras que uno de 122b recordará hechos de física cuántica, sutilezas de documentos legales y aprenderá a planificar tareas diez pasos adelante.

Cada parámetro ocupa espacio físico en el disco duro y, lo más importante, en la memoria RAM. El modelo de 2b usó alrededor de 4-5 GB de RAM y fue el máximo para ejecutarse en dicha máquina. Al mismo tiempo, la respuesta a la consulta más simple «¡hola!» el modelo la generó durante casi tres minutos.

Captura de pantalla: ForkLog.Gradación aproximada de modelos:

• 0.5b-2b. Rápidos, pueden funcionar en laptops antiguas y teléfonos inteligentes. Ideales para tareas simples (enrutamiento de comandos, resumen básico, autocompletado de líneas cortas de código). Propensos a alucinaciones en consultas complejas;
• 3b-4b. Equilibrio entre velocidad y calidad. Buenos para dispositivos móviles, hogar inteligente y tareas de automatización. Por ejemplo, se puede pedir al chatbot que baje la luz de la habitación, encienda el aire acondicionado o levante la barrera;
• 7b-9b. Requieren aproximadamente 6-8 GB de RAM libre. Modelos potentes con comprensión del contexto y lógica profunda, adecuados para programación y trabajo con textos extensos.

En su reciente estudio sobre vibecoding en Web3, Vladimir Slíper descubrió que para una máquina del nivel de MacBook Air con 16 GB de RAM son adecuados qwen2.5-coder:7b, qwen3:8b, llama3.2:3b, deepseek-r1:8b. Los modelos más potentes requieren inversión en una PC potente con tarjetas gráficas de alta gama o instalación en servidores alquilados.

Procesamiento privado de datos, impresión 3D y protección del usuario

Las opciones de interacción con los modelos de IA abiertos dependen del nivel de preparación del usuario y del hardware. Existen proyectos empaquetados en instaladores convenientes (archivos con extensión .EXE) o aplicaciones móviles que funcionan «listos para usar». Otros son repositorios de GitHub abandonados, donde la instalación se convierte en una lucha de varias horas con conflictos de bibliotecas obsoletas.

Los modelos de IA aplicados hoy se utilizan no solo para generar texto. Incluso un análisis superficial del ecosistema permite identificar decenas de herramientas especializadas para tareas concretas.

Trabajo con video y 3D:

• CogVideoX. Modelo abierto de Zhipu AI para generar video a partir de una descripción textual. Permite crear clips cortos realistas, tiene pesos abiertos y puede desplegarse en entornos como Jupyter o Colab si se dispone de suficiente memoria de video;
• DepthCrafter. Herramienta para extraer información de profundidad de campo de videos. Útil para especialistas en VFX y modelado 3D. Permite crear mapas de profundidad de alta precisión para cada fotograma de una escena dinámica;
• TRELLIS (Morfx 3D). Sistema avanzado de generación de activos 3D. El proyecto permite crear modelos tridimensionales de alta calidad a partir de imágenes o consultas de texto, optimizándolos para su uso en motores de juegos.

Conversión de una foto de un tren en un objeto para procesamiento e impresión 3D mediante la versión web del modelo Morfx 3D. Captura de pantalla: ForkLog.Sonido y reconocimiento:

• CosyVoice. Modelo de síntesis de voz multilingüe con soporte para clonación de voz. Permite generar audio realista, conservando las entonaciones y la coloración emocional del hablante original;
• Whisper-WebGPU. Implementación del modelo de reconocimiento de voz de OpenAI, reescrito para funcionar directamente en el navegador utilizando la API de WebGPU. Esto significa que la transcripción de audio ocurre localmente, garantizando la privacidad total sin transferir archivos de audio a servidores externos;
• BirdNET-Analyzer. Red neuronal de la Universidad de Cornell para identificar especies de aves por su canto. A diferencia de la popular aplicación Merlin Bird ID, que depende en gran medida del procesamiento en la nube para algunas funciones, BirdNET-Analyzer proporciona control total sobre el proceso de análisis localmente y puede usarse para procesamiento masivo de gigabytes de grabaciones de campo.

Fuente: BirdNET.Programación y protección del usuario:

• Screenshot-to-Code. Utilidad para convertir una captura de pantalla de una página web o aplicación móvil en código HTML, Tailwind o React limpio. Aunque a menudo el proyecto funciona en combinación con APIs de pago (Claude, GPT-4), la arquitectura permite conectar modelos multimodales abiertos;
• MinerU/Magic-PDF. Proyecto para la extracción precisa de datos estructurados de documentos PDF. El modelo reconoce texto, fórmulas matemáticas y tablas, transformando el diseño complejo en formato Markdown;
• Fawkes. Introduce cambios invisibles al ojo en las imágenes, dificultando que los sistemas de reconocimiento facial identifiquen a una persona. Se carga localmente en la PC a través de un archivo con extensión .EXE y puede usarse para avatares en redes sociales;
• Nightshade. «Envenena» los píxeles de una imagen para confundir los algoritmos de entrenamiento de las empresas de IA si lo hacen sin permiso. Por ejemplo, ante la consulta «perro», el modelo generará una imagen de un gato.

Retrato del presidente de EE. UU., Donald Trump, antes de usar Fawkes. Fuente: Biblioteca del Congreso de EE. UU. Después del procesamiento con los algoritmos de Fawkes. Captura de pantalla: ForkLog.

Lucha con las bibliotecas y primer éxito

Después de instalar modelos de IA con UI/UX claros, era necesario averiguar qué tan fácil sería desplegar un repositorio pesado en la nube, y además de forma gratuita.

FLUX.1 de la startup Black Forest Labs es uno de los modelos de generación de imágenes más avanzados, compitiendo con los corporativos Midjourney y Nano Banana. Si se dispone del hardware necesario, el software puede funcionar de forma autónoma sin acceso a Internet y permite eludir la censura.

En la prueba se usó la versión gratuita más ligera, FLUX.1 Schnell. Para facilitar la interacción con soluciones abiertas, los desarrolladores crean frameworks específicos como Ollama. Para la generación de imágenes son populares las interfaces gráficas ComfyUI y Forge.

Durante los intentos de instalar la implementación de Forge, cagliostro-forge-colab, se tuvo que gastar una sesión completa de acceso a GPU de Google Colab. El problema resultó ser el error clásico de principiante: la incompatibilidad de las versiones de Python, el entorno en la nube y el propio modelo. En cuatro horas de vibecoding con la versión gratuita de Gemini 3 Flash, no se logró el éxito.

Finalmente, hubo que abandonar la instalación del framework y pasar directamente al despliegue de FLUX.1, pero ya en la siguiente sesión gratuita en otro día.

En la práctica, Google Colab gratuito es más conveniente usarlo los fines de semana: en ese momento la plataforma suele proporcionar acceso más prolongado.

El modelo ocupó aproximadamente 34 GB de espacio en disco del SSD en la nube. Pero todos los procesos asociados a la instalación finalmente usaron alrededor de 86 GB.

Recursos utilizados de la máquina en la nube de Google Colab. Captura de pantalla: ForkLog.En la primera etapa, el modelo FLUX.1 Schnell no tuvo suficiente memoria de video del acelerador Nvidia Tesla T4. La configuración no adaptada chocaba con los límites de la GPU, hasta que, tras una serie de experimentos simples con el código, Gemini 3 Flash ayudó a realizar correcciones utilizando carga por etapas y limpieza de memoria. Como resultado, de los 16 GB disponibles de memoria de video, durante la generación se usaron alrededor de 3 GB.

Captura de pantalla: ForkLog.El proceso de creación de una imagen tomó unos siete minutos. Teniendo en cuenta que es la versión gratuita de un modelo abierto, el resultado sorprendió gratamente.

Imagen generada con FLUX.1 Schnell. Fuente: ForkLog.Al intentar generar varias veces la imagen del cantante de rock Marilyn Manson en estilo victoriano con un acompañante, FLUX.1 Schnell probablemente no reconoció la referencia a una persona específica y reprodujo solo un patrón visual generalizado.

Imagen generada del artista con la consulta «dibuja a Marilyn Manson en estilo victoriano» usando FLUX.1 Schnell. Fuente: ForkLog.## Complejos e increíbles

Las redes neuronales abiertas se utilizan desde hace tiempo no solo para generar textos e imágenes, sino también para tareas más específicas e inusuales. Un claro ejemplo de aplicación no estándar de la arquitectura de IA fue el modelo GameNGen, capaz de recrear la jugabilidad del shooter clásico DOOM en tiempo real.

Fuente: GameNGen/Github GameNGen no simula el juego en el sentido habitual, sino que genera video secuencialmente: el modelo predice cómo debería verse el siguiente fotograma después de la acción del usuario (por ejemplo, movimiento o disparo). Debido a esto, los enemigos, objetos y cambios de escena no se «calculan» mediante el motor, sino que se reproducen visualmente como el resultado más probable.

Entre los sistemas autónomos destaca el proyecto Voyager, un agente de IA para Minecraft. Explora el mundo del juego de forma independiente, extrae recursos y se autoe-entrena continuamente.

La comunidad científica también adapta activamente la IA abierta para sus necesidades, por ejemplo, utilizando algoritmos para descifrar la historia. Así, investigadores de las Universidades de Tel Aviv y Múnich entrenaron el modelo Akkademia para traducir directamente la escritura cuneiforme acadia antigua al inglés. Permite procesar miles de tablillas de arcilla dañadas, acelerando el trabajo de los arqueólogos decenas de veces.

No menos interesante es el proyecto MinD-Vis. Este sistema analiza datos de resonancia magnética funcional e intenta reconstruir las imágenes que el sujeto observa durante el escaneo. Es decir, genera una interpretación de lo visto por la persona basándose en patrones de actividad cerebral.

Iniciativas como estas demuestran que la inteligencia artificial se ha convertido en una herramienta universal para el conocimiento y la modelización de la realidad. La transición de la iniciativa de APIs corporativas cerradas al código abierto está formando un paradigma completamente nuevo en el desarrollo tecnológico. Hoy, cualquier investigador, desarrollador o entusiasta tiene la capacidad de desplegar una infraestructura que hace unos años requería inversiones multimillonarias en granjas de servidores.

El desarrollo del ecosistema inevitablemente va acompañado de una mejora en la experiencia del usuario: los scripts complejos están siendo reemplazados por interfaces intuitivas y entornos de despliegue automatizados. El uso de herramientas como Ollama y Forge demuestra que la privacidad, la ausencia de censura y el alto rendimiento pueden coexistir armoniosamente en una misma solución de software. El futuro de la industria de la IA depende hoy en gran medida de lo fuerte, escalable e independiente que siga siendo el ecosistema abierto.