我在研究OpenGradient時意識到一些令人不舒服的事情。



我使用過的每一個AI模型,我都不知道它是否真的運行了。

不是以陰謀論的方式。是非常基本的技術層面。

當我向任何AI系統發送查詢時,我會收到一個輸出。但我完全沒有證據證明我請求的模型就是處理我輸入的模型。公司可能在運行一個更便宜的模型。一個不同版本的模型。某些東西悄悄被換掉以降低成本。

我永遠不會知道。

這讓我比預期更困擾。

因為我們在建立金融系統、醫療工具和法律基礎設施,建立在AI之上,而基本的信任假設只是“相信我們,正確的模型已運行”。

那不是基礎設施。那是一個與黑箱的握手協議。

OpenGradient的HACA產生了關於哪個模型在何種輸入、何種硬體環境下運行的加密證明。

不是公司的話語。不是日誌文件。證明。

a16z加密和Coinbase Ventures支持這個項目。已在實時網絡上驗證了超過200萬次推理。

其他AI基礎設施所謹慎回避的問題,OpenGradient正在構建答案。

你是否曾經想過,你查詢的AI模型是否真的運行了,還是僅僅假設它運行了?
OPG-2.26%
查看原文
此頁面可能包含第三方內容,僅供參考(非陳述或保證),不應被視為 Gate 認可其觀點表述,也不得被視為財務或專業建議。詳見聲明
  • 打賞
  • 回覆
  • 轉發
  • 分享
回覆
請輸入回覆內容
請輸入回覆內容
暫無回覆