Du fond, ils ont vibe-codé - ForkLog

img-ddd2e1cfd0523174-4995440145895408# Du fond du webcoding

Guide de lancement de modèles d'IA open source depuis le GitHub profond

Dans le développement de l'IA, un vecteur a émergé où la décentralisation et le code source ouvert permettent de dépasser les solutions commerciales populaires. Les LLM locales permettent de travailler avec des données de manière privée, de configurer le système de manière flexible selon ses besoins et de contrôler soi-même l'environnement d'utilisation. Cependant, le lancement de tels modèles nécessite une compréhension des outils de base — des dépôts et des poids de modèles aux environnements cloud et aux spécifications techniques.

Dans le nouvel article de ForkLog, nous expliquerons comment commencer à découvrir les modèles d'IA autonomes sans frais, quelles ressources utiliser pour les débutants et ce que proposent les développeurs de solutions OS.

Première rencontre

Pour les développeurs de modèles d'IA ouverts, il existe deux plateformes principales : GitHub et Hugging Face. La première est traditionnellement utilisée pour publier le code source, la documentation et les scripts d'installation ; la seconde est devenue un hub mondial pour les poids de modèles, les ensembles de données et les solutions ML prêtes à l'emploi. Sur Hugging Face, des centaines de milliers de réseaux de neurones entraînés sont publiés, allant de minuscules modèles de langage pour smartphone, des générateurs alternatifs de contenu multimédia aux algorithmes spécialisés pour les scientifiques et les passionnés.

Des métriques d'activité de la communauté aident à choisir le modèle nécessaire. Sur GitHub, elles se présentent sous forme de nombre d'étoiles (stars), de régularité des mises à jour (commits) et de rapidité de résolution des problèmes (issues).

Il est particulièrement important de vérifier la provenance du produit et l'authenticité du dépôt. Les compilations OS populaires deviennent régulièrement un appât pour les cybercriminels qui distribuent du code malveillant sous couvert d'outils d'IA connus.

L'étape suivante de la découverte des modèles d'IA locaux consiste à tester leur fonctionnement en pratique. Pour les utilisateurs sans matériel puissant, il existe des plateformes cloud gratuites et gratuitement conditionnelles.

La solution la plus populaire — Google Colab — est un environnement cloud qui donne accès aux processeurs graphiques (GPU) directement depuis le navigateur. L'abonnement gratuit permet de travailler sur un système avec un accélérateur Nvidia Tesla T4 en moyenne de deux à quatre heures selon la charge. Les alternatives sont Kaggle Notebooks et Hugging Face Spaces. Cette dernière permet d'interagir avec les modèles via des interfaces web prêtes à l'emploi comme Gradio ou Streamlit.

Il faut également prendre en compte l'aspect juridique lors du travail avec des solutions fédératives. De nombreux projets populaires sont disponibles sous des licences classiques, comme MIT ou Apache 2.0, ce qui permet de les utiliser, y compris à des fins commerciales, avec un minimum de restrictions.

Cependant, il existe aussi des approches spécifiques. Meta distribue ses modèles phares sous sa propre licence Llama 3.1 Community License, qui nécessite une autorisation spéciale si l'audience mensuelle du service dépasse 700 millions d'utilisateurs.

Des licences copyleft strictes comme GNU General Public License se rencontrent également, obligeant à ouvrir le code de tous les produits dérivés.

Mon analogue personnel de ChatGPT

Parmi le grand nombre de LLM autonomes d'usage général (analogues de ChatGPT ou Gemini), des classements indépendants basés sur des tests aveugles et des métriques de performance comme Open LLM Leaderboard et Chatbot Arena aident à choisir le modèle nécessaire.

Tableau de bord des LLM ouverts. Source : llm-stats. L'étalon-or du segment est considéré comme la famille de modèles Llama du développeur Meta et Qwen d'Alibaba. Ces modèles fonctionnent bien avec un contexte long, gèrent les requêtes en plusieurs étapes et conviennent aux tâches de webcoding et de programmation. Grâce au framework ouvert Ollama, leur installation se résume à une seule commande.

Lors du test réalisé pour la rédaction de cet article, le modèle qwen3.5:2b a pu être lancé sur un ordinateur portable sans carte graphique dédiée, basé sur un Core i7 avec 8 Go de RAM et un SSD, après avoir fermé les applications lourdes : messageries et navigateurs.

Source : Ollama. « 2b » signifie 2 milliards de paramètres. Plus la valeur est élevée, plus le réseau neuronal peut capturer des connexions complexes. Par exemple, un modèle 2b apprendra la grammaire de base et les commandes simples, tandis qu'un modèle 122b mémorisera des faits de physique quantique, les subtilités de documents juridiques et apprendra à planifier des tâches sur dix étapes à l'avance.

Chaque paramètre prend de l'espace physique sur le disque dur et, surtout, dans la RAM. Le 2b utilisait environ 4 à 5 Go de RAM et était le maximum pour un lancement sur une telle machine. Pendant ce temps, la réponse à la requête la plus simple « salut ! » prenait près de trois minutes au modèle.

Capture d'écran : ForkLog. Gradation indicative des modèles :

  • 0.5b-2b. Rapides, peuvent fonctionner sur de vieux ordinateurs portables et smartphones. Idéaux pour des tâches simples (routage de commandes, résumé basique, autocomplétion de courtes lignes de code). Sujets aux hallucinations sur des requêtes complexes ;
  • 3b-4b. Équilibre entre vitesse et qualité. Bons pour les appareils mobiles, la maison intelligente et les tâches d'automatisation. Par exemple, on peut demander au chatbot de diminuer la lumière dans la pièce, d'allumer le climatiseur ou de lever la barrière ;
  • 7b-9b. Nécessitent environ 6 à 8 Go de RAM libre. Modèles puissants avec compréhension du contexte et logique profonde, adaptés à la programmation et au travail avec de grands textes.

Dans sa récente étude sur le webcoding dans Web3, Vladimir Slíper a découvert que pour une machine de niveau MacBook Air 16 Go de RAM, les modèles qwen2.5-coder:7b, qwen3:8b, llama3.2:3b, deepseek-r1:8b conviennent. Les modèles plus puissants nécessitent un investissement dans un PC puissant avec des cartes graphiques haut de gamme ou une installation sur des serveurs loués.

Traitement privé des données, impression 3D et protection de l'utilisateur

Les options d'interaction avec les modèles d'IA ouverts dépendent du niveau de préparation de l'utilisateur et du matériel. Il existe des projets emballés dans des installateurs pratiques (fichiers avec l'extension .EXE) ou des applications mobiles fonctionnant « prêtes à l'emploi ». D'autres sont des dépôts GitHub abandonnés, où l'installation se transforme en des heures de lutte avec des conflits de bibliothèques obsolètes.

Les modèles d'IA appliqués sont aujourd'hui utilisés bien au-delà de la simple génération de texte. Même une analyse superficielle de l'écosystème permet d'identifier des dizaines d'outils spécialisés pour des tâches spécifiques

Travail avec la vidéo et la 3D :

  • CogVideoX. Modèle ouvert de Zhipu AI pour la génération de vidéos à partir d'une description textuelle. Permet de créer des clips réalistes courts, possède des poids ouverts et peut être déployé dans des environnements comme Jupyter ou Colab avec une quantité suffisante de mémoire vidéo ;
  • DepthCrafter. Outil pour extraire des informations de profondeur de champ à partir de vidéos. Utile pour les spécialistes VFX et de modélisation 3D. Il permet de créer des cartes de profondeur de haute précision pour chaque image d'une scène dynamique ;
  • TRELLIS (Morfx 3D). Système avancé de génération d'actifs 3D. Le projet permet de créer des modèles tridimensionnels de haute qualité à partir d'images ou de requêtes textuelles, en les optimisant pour une utilisation dans les moteurs de jeux.

Transformation d'une photo de train en objet pour traitement et impression 3D à l'aide de la version web du modèle Morfx 3D. Capture d'écran : ForkLog. Son et reconnaissance :

  • CosyVoice. Modèle de synthèse vocale multilingue avec support du clonage de voix. Permet de générer une bande sonore réaliste en conservant les intonations et la coloration émotionnelle du locuteur d'origine ;
  • Whisper-WebGPU. Implémentation du modèle de reconnaissance vocale d'OpenAI, réécrit pour fonctionner directement dans le navigateur en utilisant l'API WebGPU. Cela signifie que la transcription audio se fait localement, garantissant une confidentialité totale sans transfert de fichiers audio vers des serveurs tiers ;
  • BirdNET-Analyzer. Réseau neuronal de l'Université Cornell pour identifier les espèces d'oiseaux par leur chant. Contrairement à l'application populaire Merlin Bird ID, qui s'appuie largement sur le traitement cloud pour certaines fonctions, BirdNET-Analyzer donne un contrôle total sur le processus d'analyse localement et peut être utilisé pour le traitement en masse de gigaoctets d'enregistrements de terrain.

Source : BirdNET. Programmation et protection de l'utilisateur :

  • Screenshot-to-Code. Utilitaire pour convertir une capture d'écran d'une page web ou d'une application mobile en code HTML, Tailwind ou React propre. Bien que le projet fonctionne souvent en liaison avec des API payantes (Claude, GPT-4), l'architecture permet de connecter des modèles multimodaux ouverts ;
  • MinerU/Magic-PDF. Projet pour l'extraction précise de données structurées à partir de documents PDF. Le modèle reconnaît le texte, les formules mathématiques et les tableaux, en convertissant une mise en page complexe au format Markdown ;
  • Fawkes. Apporte des modifications invisibles à l'œil nu aux images, empêchant les systèmes de reconnaissance faciale d'identifier une personne. Se charge localement sur le PC via un fichier avec l'extension .EXE et peut être utilisé pour les avatars sur les réseaux sociaux ;
  • Nightshade. « Empoisonne » les pixels de l'image pour brouiller les algorithmes d'apprentissage des entreprises d'IA si elles le font sans autorisation. Par exemple, sur la requête « chien », le modèle générera une image de chat.

Portrait du président américain Donald Trump avant utilisation de Fawkes. Source : Bibliothèque du Congrès des États-Unis. Après traitement par les algorithmes de Fawkes. Capture d'écran : ForkLog.

Lutte contre les bibliothèques et premier succès

Après l'installation de modèles d'IA avec des UI/UX compréhensibles, il fallait déterminer à quel point il serait facile de déployer un dépôt lourd dans le cloud, et gratuitement.

FLUX.1 de la start-up Black Forest Labs est l'un des modèles de génération d'images les plus avancés, en concurrence avec les Midjourney et Nano Banana d'entreprise. Avec le matériel nécessaire, le logiciel peut fonctionner de manière autonome sans accès à Internet et permet de contourner la censure.

Dans le test, la version gratuite la plus légère de FLUX.1 Schnell a été utilisée. Pour faciliter l'interaction avec les solutions ouvertes, les développeurs créent des frameworks ciblés comme Ollama. Pour la génération d'images, les interfaces graphiques ComfyUI et Forge sont populaires.

Lors des tentatives d'installation de l'implémentation Forge — cagliostro-forge-colab — une session entière d'accès GPU depuis Google Colab a dû être consacrée. Le problème était une erreur classique de débutant : l'incompatibilité des versions de Python, de l'environnement cloud et du modèle lui-même. En quatre heures de webcoding avec la version gratuite de Gemini 3 Flash, aucun succès n'a été obtenu.

Finalement, il a fallu abandonner l'installation du framework et passer directement au déploiement de FLUX.1, mais lors de la session gratuite suivante, un autre jour

En pratique, Google Colab gratuit est plus pratique à utiliser le week-end : à ce moment-là, la plateforme offre souvent un accès plus long

Le modèle occupait environ 34 Go d'espace disque sur le SSD cloud. Mais tous les processus d'installation ont finalement utilisé environ 86 Go.

Ressources utilisées de la machine cloud Google Colab. Capture d'écran : ForkLog. Dans un premier temps, la mémoire vidéo de l'accélérateur Nvidia Tesla T4 n'était pas suffisante pour le modèle FLUX.1 Schnell. La configuration non adaptée butait sur les limites du GPU, jusqu'à ce qu'après une série d'expériences simples avec le code de Gemini 3 Flash, des modifications aient été apportées en utilisant un chargement progressif et un nettoyage de la mémoire. En conséquence, sur les 16 Go de mémoire vidéo disponibles, environ 3 Go étaient utilisés pendant la génération.

Capture d'écran : ForkLog. Le processus de création d'une image prenait environ sept minutes. Compte tenu qu'il s'agit de la version gratuite d'un modèle ouvert, le résultat a agréablement surpris.

Image générée avec FLUX.1 Schnell. Source : ForkLog. Lors de plusieurs tentatives pour générer l'image du chanteur de rock Marilyn Manson dans un style victorien avec un compagnon, FLUX.1 Schnell n'a probablement pas reconnu la référence à une personne spécifique et n'a reproduit qu'un motif visuel généralisé.

Image générée de l'interprète sur la requête « dessine Marilyn Manson dans un style victorien » avec FLUX.1 Schnell. Source : ForkLog.

Complexes et incroyables

Les réseaux de neurones ouverts sont depuis longtemps utilisés non seulement pour la génération de textes et d'images, mais aussi pour des tâches plus étroites et inhabituelles. Un exemple frappant d'application non standard de l'architecture IA est le modèle GameNGen, capable de recréer le gameplay du jeu de tir classique DOOM en temps réel.

Source : GameNGen/Github. GameNGen ne simule pas un jeu au sens habituel, mais génère séquentiellement une vidéo : le modèle prédit à quoi devrait ressembler l'image suivante après une action de l'utilisateur (par exemple, un mouvement ou un tir). De ce fait, les ennemis, les objets et les changements de scène ne sont pas « calculés » par le moteur, mais visuellement reproduits comme le résultat le plus probable.

Parmi les systèmes autonomes, se distingue le projet Voyager — un agent IA pour Minecraft. Il explore de manière autonome le monde du jeu, extrait des ressources et apprend en continu.

La communauté scientifique adapte également activement l'IA ouverte à ses besoins, par exemple en utilisant des algorithmes pour déchiffrer l'histoire. Ainsi, des chercheurs des universités de Tel-Aviv et de Munich ont entraîné le modèle Akkademia à traduire directement l'ancien cunéiforme akkadien en anglais. Il permet de traiter des milliers de tablettes d'argile endommagées, accélérant le travail des archéologues des dizaines de fois.

Non moins intéressant est le projet MinD-Vis. Ce système analyse les données d'IRM fonctionnelle et tente de reconstruire les images que le sujet observe au moment du scan. C'est-à-dire qu'il génère une interprétation de ce que l'humain a vu sur la base des schémas d'activité cérébrale.

De telles initiatives prouvent que l'intelligence artificielle est devenue un outil universel de connaissance et de modélisation de la réalité. Le passage de l'initiative des API d'entreprise fermées au code source ouvert forme un paradigme de développement technologique complètement nouveau. Aujourd'hui, tout chercheur, développeur ou passionné a la possibilité de déployer une infrastructure qui, il y a encore quelques années, nécessitait des investissements de plusieurs millions dans des fermes de serveurs.

Le développement de l'écosystème s'accompagne inévitablement d'une amélioration de l'expérience utilisateur : les scripts complexes cèdent la place à des interfaces intuitives et à des environnements de déploiement automatisés. L'utilisation d'outils comme Ollama et Forge démontre que la confidentialité, l'absence de censure et la haute performance peuvent coexister harmonieusement au sein d'une même solution logicielle. L'avenir de l'industrie de l'IA dépend aujourd'hui en grande partie de la force, de l'évolutivité et de l'indépendance de l'écosystème ouvert.

Voir l'original
Cette page peut inclure du contenu de tiers fourni à des fins d'information uniquement. Gate ne garantit ni l'exactitude ni la validité de ces contenus, n’endosse pas les opinions exprimées, et ne fournit aucun conseil financier ou professionnel à travers ces informations. Voir la section Avertissement pour plus de détails.
  • Récompense
  • Commentaire
  • Reposter
  • Partager
Commentaire
Ajouter un commentaire
Ajouter un commentaire
Aucun commentaire
  • Épinglé