V神警告我们需要分散化的防御来应对人工智能的风险

以太坊联合创始人V神提出了对未受限制的人工智能（AI）程序潜在危险的担忧。

在1月10日的X帖子中，Buterin警告说，管理不当的人工智能可能会创造出对人类构成风险的自我复制智能实体。

他说:

“人工智能的错误运用正在创造新形式的独立自我复制智能生命，而人工智能的正确运用则是为人类大脑打造机甲。如果我们只做前者而不做后者，我们将面临永久性的人类削弱。如果我们做后者，人类文明将蓬勃发展而且超级智能。”

他解释说，虽然一些AI系统（例如旨在改善用户界面的聊天机器人）是有益的，但其他一些系统可能会带来重大风险。特别是，长时间自主运行的AI代理最终可能会挑战人类控制并使社会失去权力。

为了减轻这些风险，Buterin提议专注于与人类智慧相辅相成的AI系统，将它们转化为能够增强集体能力而不是取代它们的工具。

根据他的说法，这种方法将把AI转变为增强人类能力的强大工具，同时避免不必要的风险。

d/Acc

他的战略的一个重要组成部分是去中心化和民主差异防御加速（d/Acc）的概念。这种方法强调开发去中心化工具来应对新兴的人工智能相关威胁。

Buterin在最近的博文中详细阐述了这个想法，描述了d/Acc作为一个旨在去中心化防御技术的框架。目标是赋予个人和社区保护自己免受快速人工智能进步可能带来的潜在危险的能力。

该策略通过将防御能力交到社区手中，实现了技术权力的更民主分布。例如，去中心化系统可以监视、抵消甚至中和有害的人工智能活动，而无需依赖政府或公司的自上而下控制。

Buterin解释说，d/Acc可以在人工智能技术发展不可预测的情况下充当一种保障。此外，防御的民主化确保没有单一实体可以主导或利用先进人工智能的潜力，促进更加平衡和有韧性的技术生态系统。

以太坊共同创始人还强调了开发者在这个快速发展的领域中的道德责任。他认为，像d/Acc这样的去中心化方法可以增强集体安全，并鼓励人工智能开发中的透明度和合作。

Buterin 写道：

“一个非常友好的想法是将责任置于任何AI接管（例如通过黑客攻击）执行某些具有灾难性危害的行动的设备的所有者或运营商。 这将极大地激励人们努力努力，使世界的（特别是计算和生物）基础设施尽可能安全。”

在本文中提到