CertiK 推出 AI 技能掃描器以保障代理安全

  • CertiK 已推出技能掃描器(Skill Scanner),這是一款專為在 AI 代理使用前評估第三方 AI 技能而打造的安全產品。
  • 該工具針對隱藏的惡意行為、未授權的數據存取和在 Web3 及 Web2 環境中的自主執行等風險。

CertiK 正在深入推進 AI 安全領域,推出 CertiK 技能掃描器,這是一款在第三方 AI 技能安裝、發布或獲批用於企業系統之前進行審查的產品。 該公司將此工具描述為接近於 AI 代理時代的防病毒層。這個比喻並不完美,但能傳達重點。AI 代理不再只是回答聊天窗口中的問題,它們開始呼叫外部工具、讀取文件、觸發工作流程、在系統間傳輸數據,甚至在更敏感的情況下與金融基礎設施互動。 這改變了安全的考量。惡意的瀏覽器擴展已經可能造成危害,而連接到自主代理的惡意 AI 技能可能更糟,因為代理可能在用戶未完全察覺的情況下快速執行操作。 AI 技能帶來新的執行風險 AI 技能正逐漸成為代理經濟的插件。它們擴展了 AI 代理的能力,從提取數據和自動化任務,到執行金融操作和與 Web3 協議互動。然而,每增加一個技能,也就增加了一個可能出錯的點。 這種風險不僅限於明顯的惡意軟件。一個技能可能會請求超出所需的數據,在執行時行為與審查時不同,觸發未授權的 API 請求,或悄悄創造日後濫用的條件。在金融環境中,這個問題尤為嚴重。能啟動資金調用、簽署工作流程請求或準備交易的工具,必須接受比普通生產力插件更高的審查。 CertiK 表示,技能掃描器旨在在敏感系統暴露之前,檢測隱藏的惡意行為、未授權的數據存取和執行風險。與較廣泛的 AI 掃描工具不同,該公司稱其產品專注於在實際執行過程中可能出現的風險,包括涉及資金流動和金融交易的案例。 CertiK 的 CEO 兼聯合創始人顧榮輝表示,隨著 AI 代理進入金融系統、企業工作流程和日常數位服務,第三方技能的安全模型變得越來越重要。

“CertiK 技能掃描器旨在建立一個在執行前的標準化信任層,幫助用戶和平台在敏感數據、資產或系統暴露之前識別隱藏的風險,”顧榮輝說。

市場、企業與開發者優先 首批目標群體是 AI 技能市場、企業和開發者。市場可以將掃描器整合到其發布流程中,確保技能在上線前經過審查。他們也可以將 CertiK 的判定結果作為用戶決定是否安裝第三方技能的信任指標。 對於企業來說,應用場景更偏向防禦。內部測試 AI 代理的公司需要在技能進入生產環境或觸及客戶數據、內部系統或合規敏感工作流程之前,進行評估。這時,評分審查流程就顯得尤為重要。它能提供比供應商聲稱或開發者描述更具體的安全保障。 獨立開發者也可以使用掃描器在發布前自我審核技能。CertiK 表示,未來的更新將擴展普通用戶的直接訪問權限,讓個人能在安裝或使用前自行掃描技能。 掃描器會產生 0 到 100 的分數,以及“通過”、“警告”或“失敗”的判定,並根據嚴重程度分組列出發現的問題。CertiK 表示,該系統在識別安全風險方面的準確率最高可達 90.5%,旨在降低誤報率,同時使 AI 技能評估更可靠。 該產品已在部分 Web3 AI 代理基礎設施環境中部署。CertiK 也正與其他 AI 技能平台合作整合,包括 FinChip.ai。 此次推出是在 CertiK 今年早些時候推出 AI 審計師(AI Auditor)計畫後,進一步擴展其 AI 專注安全基礎設施的舉措。對於以 Web3 審計聞名的公司來說,這是一個合乎邏輯的延伸。隨著 AI 代理開始處理代碼、資產、權限和商業工作流程,安全檢查必須在執行前完成,而非在系統已經暴露之後。

查看原文
此頁面可能包含第三方內容,僅供參考(非陳述或保證),不應被視為 Gate 認可其觀點表述,也不得被視為財務或專業建議。詳見聲明
  • 打賞
  • 回覆
  • 轉發
  • 分享
回覆
請輸入回覆內容
請輸入回覆內容
暫無回覆