V神警告我們需要分散化的防禦來應對人工智能的風險

以太坊聯合創始人V神提出了對未受限制的人工智能（AI）程序潛在危險的擔憂。

在1月10日的X帖子中，Buterin警告說，管理不當的人工智能可能會創造出對人類構成風險的自我複製智能實體。

他說:

“人工智能的錯誤運用正在創造新形式的獨立自我複製智能生命，而人工智能的正確運用則是為人類大腦打造機甲。如果我們只做前者而不做後者，我們將面臨永久性的人類削弱。如果我們做後者，人類文明將蓬勃發展而且超級智能。”

他解釋說，雖然一些AI系統（例如旨在改善用戶界面的聊天機器人）是有益的，但其他一些系統可能會帶來重大風險。特別是，長時間自主運行的AI代理最終可能會挑戰人類控制並使社會失去權力。

為了減輕這些風險，Buterin提議專注於與人類智慧相輔相成的AI系統，將它們轉化為能夠增強集體能力而不是取代它們的工具。

根據他的說法，這種方法將把AI轉變為增強人類能力的強大工具，同時避免不必要的風險。

d/Acc

他的戰略的一個重要組成部分是去中心化和民主差異防禦加速（d/Acc）的概念。這種方法強調開發去中心化工具來應對新興的人工智能相關威脅。

Buterin在最近的博文中詳細闡述了這個想法，描述了d/Acc作為一個旨在去中心化防禦技術的框架。目標是賦予個人和社區保護自己免受快速人工智能進步可能帶來的潛在危險的能力。

該策略通過將防禦能力交到社區手中，實現了技術權力的更民主分佈。例如，去中心化系統可以監視、抵消甚至中和有害的人工智能活動，而無需依賴政府或公司的自上而下控制。

Buterin解釋說，d/Acc可以在人工智能技術發展不可預測的情況下充當一種保障。此外，防禦的民主化確保沒有單一實體可以主導或利用先進人工智能的潛力，促進更加平衡和有韌性的技術生態系統。

以太坊共同創始人還強調了開發者在這個快速發展的領域中的道德責任。他認為，像d/Acc這樣的去中心化方法可以增強集體安全，並鼓勵人工智能開發中的透明度和合作。

Buterin 寫道：

“一個非常友好的想法是將責任置於任何AI接管（例如通過黑客攻擊）執行某些具有災難性危害的行動的設備的所有者或運營商。 這將極大地激勵人們努力努力，使世界的（特別是計算和生物）基礎設施儘可能安全。”

在本文中提到