以太坊的联合创始人V神认为,使用(AI)进行治理是一个“糟糕的主意”。他警告说,如果使用AI来分配资金,系统将轻松受到越狱代码的攻击,从而夺取所有资金。
Buterin的评论是在EdisonWatch的首席执行官Miyamura指出ChatGPT中的严重漏洞后提出的,该平台在完全整合MCP协议后,允许AI访问来自Gmail、Calendar和Notion等应用的数据。Miyamura表示,攻击者只需一封包含恶意日程邀请的电子邮件,就可以窃取所有个人信息。
而不是将全部权力交给AI,Buterin提出了“信息金融”模型——一个开放市场,许多开发者提供不同的AI模型。这些模型可以被随机检查和评估,由人事委员会进行,得到LLM的支持,以确保多样性和透明度。
V神警告称,"AI做管理者"的趋势潜藏着严重风险,不仅关于传统AI的安全性,还可能在短期内造成"巨大的价值损失"。
9.5万 热度
1.1万 热度
5971 热度
17.1万 热度
5.6万 热度
V神称“用AI进行治理”是一个“糟糕的想法”
以太坊的联合创始人V神认为,使用(AI)进行治理是一个“糟糕的主意”。他警告说,如果使用AI来分配资金,系统将轻松受到越狱代码的攻击,从而夺取所有资金。
Buterin的评论是在EdisonWatch的首席执行官Miyamura指出ChatGPT中的严重漏洞后提出的,该平台在完全整合MCP协议后,允许AI访问来自Gmail、Calendar和Notion等应用的数据。Miyamura表示,攻击者只需一封包含恶意日程邀请的电子邮件,就可以窃取所有个人信息。
而不是将全部权力交给AI,Buterin提出了“信息金融”模型——一个开放市场,许多开发者提供不同的AI模型。这些模型可以被随机检查和评估,由人事委员会进行,得到LLM的支持,以确保多样性和透明度。
V神警告称,"AI做管理者"的趋势潜藏着严重风险,不仅关于传统AI的安全性,还可能在短期内造成"巨大的价值损失"。