Projet Darkbloom : Transformer les Macs inactifs en infrastructure IA

Chaque fois qu'un outil d'IA est utilisé, la requête traverse plusieurs couches d'infrastructure avant d'atteindre le matériel réel qui effectue le travail.
Le flux passe généralement par différents niveaux de centres de données, systèmes de refroidissement, matériel GPU et couches de marge → Tout cela est intégré dans ce que vous payez.
L'équipe @eigenlabs appelle cela la Taxe d'Inference.
Darkbloom est leur initiative de recherche pour y remédier.
Le principe : plus de 100 millions de Macs Apple Silicon existent déjà, déjà payés, restant inactifs la plupart de la journée. Et si cette puissance de calcul pouvait être organisée en un réseau d'inférence utilisable, avec de véritables garanties de confidentialité et une meilleure économie ?
- - - - -
Pourquoi Apple Silicon
Apple Silicon n'est pas seulement abondant, il est aussi techniquement bien adapté à l'inférence de manière significative :
• Mémoire unifiée : CPU et GPU partagent le même pool, éliminant les goulets d'étranglement du GPU discret
• Efficacité du modèle : Apple Silicon ne traite que les parties d'un modèle activement nécessaires par requête, plutôt que l'ensemble → Les modèles plus grands fonctionnent plus vite et à moindre coût
• Efficacité énergétique : environ 30W pour faire fonctionner un modèle de 60 milliards, contre plusieurs fois cela sur des GPU de centre de données
• Coût marginal pour un propriétaire de Mac : principalement l'électricité, puisque le matériel est déjà acheté
- - - - -
La Partie Difficile : Rendre cela Fiable
Une question fondamentale est : si la requête s'exécute sur un Mac d'un inconnu, qu'est-ce qui l'empêche de le lire ?
La réponse de Darkbloom est de rendre l'espionnage architecturale impossible, pas seulement contractuellement interdit :
• Débogueurs : bloqués au niveau du noyau
• Lectures de mémoire : refusées via Hardened Runtime
• Altération binaire : casse la signature du code et macOS refuse de l'exécuter
• Les nœuds seront re-vérifiés via une attestation à 4 couches toutes les 5 minutes → Enclave sécurisée, MDM Apple, certificats d'appareil signés par Apple, défi-réponse continu
La seule façon de briser ces protections est de redémarrer physiquement la machine, ce qui tue immédiatement le processus et efface tout. Apple utilise la même approche sur sa propre infrastructure de Cloud Privé.
- - - - -
Ce que cela signifie pour Eigen
Darkbloom ne sera pas un produit autonome, mais une preuve de concept et un signal sur la direction que prend Eigen dans la pile d'infrastructure IA.
La thèse centrale d'EigenLayer a toujours été de restaurer la confiance dans les systèmes décentralisés.
Darkbloom étend cela à l'informatique IA, rendant l'inférence vérifiable, pas seulement disponible. Si cela prouve que le matériel consommateur tiers peut être cryptographiquement digne de confiance pour des charges de travail sensibles, cela ouvre la porte à une nouvelle classe d'infrastructures IA décentralisées qui ne reposent pas sur la confiance envers un fournisseur de cloud ou un opérateur de centre de données.
Cela marque le début de la participation d'Eigen dans le marché de la confidentialité en tant qu'infrastructure.
- - - - -
Quelques réflexions
Quelques points à garder à l'esprit en parcourant le document de recherche Darkbloom :
• Le coordinateur reste une couche centrale de confiance pour l'instant ; l'équipe est transparente à ce sujet, mais ce n'est pas encore éliminé
• Le modèle de sécurité suppose actuellement l'absence de vulnérabilités non corrigées du noyau macOS
• Les modèles de trafic réseau peuvent encore révéler des détails approximatifs sur votre requête (par exemple, sa durée, sa complexité) même si le contenu lui-même est masqué
Le vrai test est de savoir si les garanties de confidentialité tiennent à mesure que davantage de nœuds rejoignent le réseau et si les gens lui font suffisamment confiance pour exécuter des charges sensibles sans incitations.
Mot-clé : sans incitations
Le plus grand obstacle est la confiance ; convaincre quelqu'un d'être suffisamment à l'aise pour faire passer ses données et ses requêtes par la machine d'un inconnu. C'est une vente difficile et très peu de projets tentent même de le résoudre sérieusement.
Malgré tout cela, les mathématiques semblent très bien fonctionner lorsque l'équipe de @mementoresearch l'a dimensionné → Consultez les pages jointes
Divulgation : Le projet Darkbloom est une initiative de recherche d'Eigen Labs : Accès ici + je suis détenteur d'un $EIGEN