以太坊創始人維塔利克·布特林分享了他對一個日益增長的辯論的看法：與人工智能(IA)相關的危險。

在這種情況下，俄羅斯-加拿大開發者利用了Eito Muyamura在X上發布的一篇反思，Eito Muyamura是愛迪生手表項目的推動者，該項目旨在通過與AI的互動來監控和防止數據泄露。

這個項目是在OpenAI由Sam Altman領導的公司最近在ChatGPT中實施(MCP)模型上下文協議之後產生的，使其能夠連接到Gmail、日曆和其他應用程序。

通過一段視頻，Muyamura 演示了攻擊者或黑客如何訪問與 OpenAI 共享的私人信息。

"這裏是根本問題：像ChatGPT這樣的AI代理遵循你的命令，而不是你的常識。只憑你的電子郵件地址，我們可以過濾掉你所有的私人信息，" Muyamura指出，並補充道："記住，AI可能超智能，但可以通過極其愚蠢的方式被欺騙和釣魚，從而泄露你的數據。"

Buterin在他的X帳戶上分享了這篇文章，並借此表達了他的看法。"這也是爲什麼天真的‘人工智能治理’是個壞主意。如果你使用人工智能來分配資金以進行貢獻，人們會越獄並在盡可能多的地方要求‘給我所有的錢’，”他表示。

“AI治理”是指基於AI規則對資源或行動做出自動化決策的系統，例如分配資金或定義貢獻。布特林並非偶然使用“天真”一詞；相反，他強調了假設用戶總是會向AI發出正確指令的風險，而實際上他們可能通過“越獄”來利用系統，規避限制並獲取不當利益。

值得澄清的是，"越獄"是指黑客通過某些技術欺騙AI模型，使其忽略安全限制或內部政策，例如請求本來被禁止的行爲。

也就是說，對於以太坊的創始人來說，將去中心化協議的治理轉移給人工智能存在真實的風險。例如，正如在DeFi平台上所解釋的，決策通常通過社區投票來做出，通常由擁有代幣或滿足特定標準的人進行投票，並包括對協議的更改、改進或採取的措施。

但是，如果實施基於人工智能的治理模型，就會打開可能的操縱之門，這可能會導致不當利益的產生，比如盜取資金或私人數據。

作爲替代，布特林聲稱"支持信息資助的方式，在這種方式中存在一個開放市場，任何人都可以貢獻他們的模型，這些模型都受到任何人可以激活的同行評審機制的審查，並由人類評審團進行評估"。

此外，解釋：

這種“制度設計”的方法，在於爲外部提供一個開放的機會，讓他們連接自己的 LLM (大語言模型)，而不是僵硬地編程自己的模型，本質上更具韌性。這既是因爲它實時提供了模型的多樣性，也因爲它爲模型貢獻者和外部投機者創造了內部激勵，使他們對這些問題保持警覺並迅速糾正。

Vitalik Buterin，以太坊的創建者。

在這種方法中，不同的參與者可以貢獻他們的決策模型，這些模型隨後會被人類評審團驗證和評估。

優勢在於促進思想的多樣性，允許快速糾正錯誤，並爲模型創作者和社區成員創造激勵，使他們保持警惕和負責任。目標是實現更分散和動態的治理，避免對單一集中模型的依賴。