Vitalik 提议 AI 两派达成折中方案:预先约定若出现极端情况则启动暂停

robot
摘要生成中
ME News 消息,7 月 11 日(UTC+8),以太坊聯合創始人 Vitalik Buterin 發文探討 AI 超級智能的爭議。他指出,AI 界目前存在兩派:一派認為超級智能在 2040 年前必然到來,必須盡快控制;另一派則認為 AI 只是普通技術,搞暫停是在控制人類。Vitalik 稱自己不確定哪邊正確,對放緩或暫停持開放態度,但反對大型 AI 公司推動「開源有害」的論調,認為這本質上是權力集中。Vitalik 提出了一個折中方案:雙方可以預先約定,如果某些極端情況(如超級大流行病、大規模失業等)真的發生,就同意啟動 AI 暫停;如果這些情況沒有出現,就按另一方的方案推進。他承認所有應對方案都有缺陷,人類只能在「不完美」和「更不完美」之間選擇,但形式驗證、密碼學、安全硬體等防禦性技術,在兩個世界裡都值得推進。(來源:PANews)
查看原文
此頁面可能包含第三方內容,僅供參考(非陳述或保證),不應被視為 Gate 認可其觀點表述,也不得被視為財務或專業建議。詳見聲明
  • 打賞
  • 回覆
  • 轉發
  • 分享
回覆
請輸入回覆內容
請輸入回覆內容
暫無回覆
  • 已置頂