Proyek Darkbloom: Mengubah Mac yang Menganggur Menjadi Infrastruktur AI

Setiap kali alat AI digunakan, permintaan melewati beberapa lapisan infrastruktur sebelum mencapai perangkat keras yang melakukan pekerjaan tersebut.
Alur biasanya melintasi berbagai lapisan pusat data, sistem pendingin, perangkat keras GPU, dan lapisan margin → Semua tertanam dalam apa yang Anda bayar.
Tim @eigenlabs menyebut ini sebagai Pajak Inferensi.
Darkbloom adalah inisiatif penelitian mereka untuk mengatasinya.
Premisnya: Lebih dari 100 juta Mac Apple Silicon sudah ada, sudah dibayar, dan sebagian besar tidak digunakan sepanjang hari. Bagaimana jika komputasi itu dapat diorganisasi menjadi jaringan inferensi yang dapat digunakan, dengan jaminan privasi nyata dan ekonomi yang lebih baik?
- - - - -
Mengapa Apple Silicon
Apple Silicon tidak hanya melimpah, tetapi juga secara teknis cocok untuk inferensi dalam cara yang penting:
• Memori terpadu: CPU dan GPU berbagi kolam yang sama, menghilangkan hambatan GPU diskret
• Efisiensi model: Apple Silicon hanya memproses bagian dari model yang aktif diperlukan per permintaan, bukan seluruhnya → Model yang lebih besar berjalan lebih cepat dan lebih murah
• Efisiensi daya: ~30W untuk menjalankan model 60B, dibandingkan dengan beberapa kali lipat pada GPU pusat data
• Biaya marginal untuk pemilik Mac: Utamanya listrik, karena perangkat keras sudah dibeli
- - - - -
Bagian Sulit: Membuatnya Dapat Dipercaya
Satu pertanyaan dasar adalah jika prompt dijalankan di Mac orang asing, apa yang mencegah mereka membacanya?
Jawaban Darkbloom adalah membuat pengintaian secara arsitektural tidak mungkin, bukan hanya secara kontrak dilarang:
• Debugger: Diblokir di tingkat kernel
• Pembacaan memori: Ditolak melalui Runtime Hardened
• Perusakan binary: Merusak tanda tangan kode dan kemudian macOS menolak menjalankannya
• Node akan diverifikasi kembali melalui attestation 4-lapisan setiap 5 menit → Secure Enclave, Apple MDM, sertifikat perangkat yang ditandatangani Apple, tantangan-respons berkelanjutan
Satu-satunya cara untuk melanggar perlindungan ini adalah dengan merestart mesin secara fisik, yang langsung mematikan proses dan menghapus semuanya. Apple menggunakan pendekatan yang sama pada infrastruktur Cloud Compute Pribadinya sendiri.
- - - - -
Apa Artinya Ini untuk Eigen
Darkbloom tidak akan berfungsi sebagai produk mandiri, tetapi sebagai bukti konsep dan sinyal tentang ke mana arah Eigen dalam tumpukan infrastruktur AI.
Teori inti EigenLayer selalu tentang mengembalikan kepercayaan ke sistem terdesentralisasi.
Darkbloom memperluas itu ke dalam komputasi AI, membuat inferensi dapat diverifikasi, bukan hanya tersedia. Jika terbukti bahwa perangkat keras konsumen pihak ketiga dapat dipercaya secara kriptografi untuk beban kerja sensitif, ini membuka pintu ke kelas baru infrastruktur AI terdesentralisasi yang tidak bergantung pada kepercayaan terhadap penyedia cloud atau operator pusat data.
Ini menandai awal Eigen bermain di pasar privasi-sebagai-infrastruktur.
- - - - -
Beberapa Pemikiran
Beberapa hal yang patut diingat saat kita menelusuri makalah penelitian Darkbloom:
• Koordinator tetap menjadi lapisan pusat yang dipercaya untuk saat ini; Tim bersikap transparan tentang ini, tetapi belum dihilangkan
• Model keamanan saat ini mengasumsikan tidak ada kerentanan kernel macOS yang belum diperbaiki
• Pola lalu lintas jaringan masih dapat mengungkapkan rincian kasar tentang permintaan Anda (misalnya, berapa lama, seberapa kompleks) bahkan jika kontennya disembunyikan
Ujian sebenarnya adalah apakah jaminan privasi tetap berlaku saat lebih banyak node bergabung ke jaringan dan apakah orang benar-benar mempercayainya cukup untuk menjalankan beban kerja sensitif melalui jaringan tanpa insentif.
Kata kunci: tanpa insentif
Rintangan terbesar adalah kepercayaan; Membuat seseorang cukup nyaman untuk menjalankan data dan permintaan mereka melalui mesin orang asing. Ini penjualan yang sulit dan sangat sedikit proyek yang bahkan mencoba menyelesaikannya secara serius.
Meskipun begitu, perhitungannya tampaknya cukup baik ketika tim di @mementoresearch menyusunnya → Lihat halaman terlampir
Pengungkapan: Proyek Darkbloom adalah inisiatif penelitian oleh Eigen Labs: Akses di sini + Saya adalah pemegang $EIGEN