Proyecto Darkbloom: Convertir Macs inactivos en infraestructura de IA

Cada vez que se usa una herramienta de IA, la solicitud viaja a través de múltiples capas de infraestructura antes de llegar al hardware real que realiza el trabajo.
El flujo generalmente atraviesa diferentes capas de centros de datos, sistemas de enfriamiento, hardware GPU y capas de margen → Todo esto está incluido en lo que estás pagando.
El equipo de @eigenlabs llama a esto el Impuesto de Inferencia.
Darkbloom es su iniciativa de investigación para abordarlo.
La premisa: existen más de 100 millones de Macs con Apple Silicon, ya pagados, que permanecen inactivos la mayor parte del día. ¿Y si ese cómputo pudiera organizarse en una red de inferencia usable, con garantías reales de privacidad y mejores economías?
- - - - -
Por qué Apple Silicon
Apple Silicon no solo es abundante, sino que también está técnicamente bien preparado para la inferencia en formas que importan:
• Memoria unificada: CPU y GPU comparten el mismo pool, eliminando cuellos de botella en GPU discreta
• Eficiencia del modelo: Apple Silicon solo procesa las partes de un modelo que se necesitan activamente por solicitud, en lugar de todo el modelo → Modelos más grandes funcionan más rápido y más barato
• Eficiencia energética: ~30W para ejecutar un modelo de 60B, frente a múltiples veces eso en GPUs de centros de datos
• Costo marginal para un propietario de Mac: Principalmente electricidad, ya que el hardware ya está comprado
- - - - -
La Parte Difícil: Hacerlo Confiable
Una pregunta básica es: si la solicitud se ejecuta en un Mac de un desconocido, ¿qué los detiene de leerla?
La respuesta de Darkbloom es hacer que el espionaje sea arquitectónicamente imposible, no solo contractualmente prohibido:
• Depuradores: Bloqueados a nivel del núcleo
• Lecturas de memoria: Negadas mediante Runtime Endurecido
• Manipulación binaria: Rompe la firma del código y luego macOS se niega a ejecutarlo
• Los nodos serán re-verificados mediante una atestación de 4 capas cada 5 minutos → Enclave Seguro, MDM de Apple, certificados de dispositivo firmados por Apple, desafío-respuesta continuo
La única forma de romper estas protecciones es reiniciar físicamente la máquina, lo que inmediatamente termina el proceso y borra todo. Apple usa el mismo enfoque en su infraestructura de Computación en la Nube Privada.
- - - - -
Qué significa esto para Eigen
Darkbloom no actuará como un producto independiente, sino como una prueba de concepto y señal sobre hacia dónde se dirige Eigen en la pila de infraestructura de IA.
La tesis central de EigenLayer siempre ha sido restaurar la confianza en sistemas descentralizados.
Darkbloom extiende eso a la computación de IA, haciendo que la inferencia sea verificable, no solo disponible. Si demuestra que hardware de terceros puede ser confiable criptográficamente para cargas de trabajo sensibles, abre la puerta a una nueva clase de infraestructura de IA descentralizada que no depende de confiar en un proveedor de la nube o en un operador de centros de datos.
Esto marca el comienzo de que Eigen juegue en el mercado de privacidad como infraestructura.
- - - - -
Algunas Reflexiones
Algunas cosas que vale la pena tener en cuenta mientras revisamos el documento de investigación de Darkbloom:
• El coordinador sigue siendo una capa central confiable por ahora; el equipo es transparente al respecto, pero aún no se ha eliminado
• El modelo de seguridad actualmente asume que no hay vulnerabilidades sin parchear en el núcleo de macOS
• Los patrones de tráfico de red aún pueden revelar detalles aproximados sobre tu solicitud (por ejemplo, cuánto duró, qué tan compleja) incluso si el contenido en sí está oculto
La verdadera prueba es si las garantías de privacidad se mantienen a medida que más nodos se unen a la red y si las personas realmente confían lo suficiente como para ejecutar cargas de trabajo sensibles sin incentivos.
Palabra clave: sin incentivos
El mayor obstáculo es la confianza; lograr que alguien se sienta lo suficientemente cómodo para ejecutar sus datos y solicitudes en la máquina de un desconocido. Es una venta difícil y muy pocos proyectos incluso intentan resolverlo en serio.
A pesar de todo eso, las matemáticas parecen funcionar bastante bien cuando el equipo de @mementoresearch lo dimensionó → Consulta las páginas adjuntas
Divulgación: Proyecto Darkbloom es una iniciativa de investigación de Eigen Labs: Accede aquí + soy un poseedor de $EIGEN