Darkbloom 项目:将空闲的 Mac 转变为 AI 基础设施


每次使用 AI 工具时,请求会经过多层基础设施,才到达实际执行工作的硬件。
流程通常穿越不同层级的数据中心、冷却系统、GPU 硬件和利润层 → 所有这些都包含在你的支付中。
@eigenlabs 团队称之为推理税。
Darkbloom 是他们为解决这一问题的研究计划。
前提:已有超过 1 亿台 Apple Silicon Mac,已付费,且大部分时间处于空闲状态。假如这些计算资源可以被组织成一个可用的推理网络,具有真正的隐私保障和更好的经济性,会怎样?
- - - - -
为什么选择 Apple Silicon
Apple Silicon 不仅资源丰富,而且在推理方面在技术上也非常适合:
• 统一内存:CPU 和 GPU 共享同一池内存,消除离散 GPU 的瓶颈
• 模型效率:Apple Silicon 仅处理每次请求实际需要的模型部分,而不是全部 → 更大模型运行得更快、更便宜
• 能源效率:运行一个 60B 模型约需 30W,而数据中心 GPU 需要多倍的电力
• 对 Mac 用户的边际成本:主要是电费,因为硬件已购
- - - - -
难点:确保可信
一个基本问题是:如果提示在陌生人的 Mac 上运行,什么能阻止他们读取内容?
Darkbloom 的答案是让窃取行为在架构上变得不可能,而不仅仅是合同上禁止:
• 调试器:在内核层阻止
• 内存读取:通过 Hardened Runtime 拒绝
• 二进制篡改:破坏代码签名,然后 macOS 拒绝运行
• 节点每 5 分钟通过 4 层验证 → 安全隔离区、Apple MDM、Apple 签发的设备证书、持续的挑战-应答
唯一能破坏这些保护的方法是物理重启机器,这会立即终止进程并清除所有内容。Apple 在其私有云计算基础设施中也采用了相同的方法。
- - - - -
这对 Eigen 有什么意义
Darkbloom 不会作为一个独立产品出现,而是作为概念验证和信号,展示 Eigen 在 AI 基础设施堆栈中的发展方向。
EigenLayer 的核心论点一直是恢复对去中心化系统的信任。
Darkbloom 将这一理念扩展到 AI 计算,使推理可验证,而不仅仅是可用。如果证明第三方硬件在加密上可以信任,用于敏感工作负载,就为无需依赖云提供商或数据中心运营商的去中心化 AI 基础设施开辟了新局面。
这标志着 Eigen 开始在隐私即基础设施市场中发挥作用。
- - - - -
一些思考
在阅读 Darkbloom 研究论文时值得记住的几点:
• 协调者目前仍是可信的中心层;团队对此保持透明,但尚未消除
• 当前的安全模型假设没有未修补的 macOS 内核漏洞
• 即使内容被隐藏,网络流量模式仍可能揭示请求的粗略细节(如持续时间、复杂度)
真正的考验在于,随着更多节点加入网络,隐私保障是否依然有效,以及人们是否足够信任它,愿意在没有激励的情况下运行敏感工作负载。
关键词:没有激励
最大障碍是信任;让某人足够放心,将他们的数据和提示交由陌生人的机器处理。这是一个难以说服的点,目前几乎没有项目在认真解决这个问题。
尽管如此,当 @mementoresearch 团队算清楚了数学后,似乎一切都挺顺利的 → 查看附页
披露:Darkbloom 项目是 Eigen Labs 的一项研究计划:访问链接 + 我也是 $EIGEN 持有者
EIGEN0.04%
查看原文
post-image
post-image
此页面可能包含第三方内容,仅供参考(非陈述/保证),不应被视为 Gate 认可其观点表述,也不得被视为财务或专业建议。详见声明
  • 赞赏
  • 评论
  • 1
  • 分享
评论
请输入评论内容
请输入评论内容
暂无评论