CertiK 正在深入推進 AI 安全領域,推出 CertiK 技能掃描器(CertiK Skill Scanner),這是一款旨在在第三方 AI 技能安裝、發布或獲批用於企業系統前進行審查的產品。
該公司將此工具描述為接近於 AI 代理時代的防病毒層。這個比喻並不完美,但已足夠傳達核心概念。AI 代理不再僅僅是在聊天窗口中回答問題,它們開始呼叫外部工具、讀取文件、觸發工作流程、在系統間傳輸數據,甚至在更敏感的情況下與金融基礎設施互動。
這改變了安全的考量。惡意的瀏覽器擴展已經可能造成危害,而連接到自主代理的惡意 AI 技能可能更為危險,因為代理可能在用戶未完全察覺的情況下快速執行操作。
AI 技能帶來新的執行風險
AI 技能正逐漸成為代理經濟的插件。它們擴展了 AI 代理的能力,從提取數據、自動化任務,到執行金融操作和與 Web3 協議互動。然而,每增加一個技能,也就增加了一個潛在出錯的點。
這種風險不僅限於明顯的惡意軟件。一個技能可能會請求超出所需的數據,在執行過程中行為與審查時不同,觸發未經授權的 API 請求,或悄悄創造日後濫用的條件。在金融環境中,這個問題尤為嚴重。能啟動資金調用、簽署工作流程請求或準備交易的工具,必須接受比普通生產力插件更嚴格的審查。
CertiK 表示,技能掃描器旨在在敏感系統暴露前,檢測隱藏的惡意行為、未經授權的數據存取和執行風險。與較廣泛的 AI 掃描工具不同,該公司稱其產品專注於在實際執行過程中可能出現的風險,包括涉及資金流動和金融交易的案例。
CertiK 的 CEO 兼聯合創始人顧榮輝(Ronghui Gu)表示,隨著 AI 代理進入金融系統、企業工作流程和日常數位服務,第三方技能的安全模型變得越來越重要。
市場、企業與開發者優先
首批目標群體是 AI 技能市場、企業和開發者。市場可以將掃描器整合到其發布流程中,確保技能在上線前經過審查。他們也可以將 CertiK 的判定結果作為用戶決定是否安裝第三方技能的信任指標。
對於企業來說,應用場景更偏向防禦。內部測試 AI 代理的公司需要在技能進入生產環境或觸及客戶數據、內部系統或合規敏感工作流程前,進行評估。這時,評分審查流程就顯得尤為重要。它比供應商聲稱或開發者描述更具體,為安全團隊提供更可靠的依據。
獨立開發者也可以使用掃描器在發布前自我審核技能。CertiK 表示,未來的更新將擴展普通用戶的直接訪問權限,讓個人能在安裝或使用前自行掃描技能。
該掃描器會產生 0 到 100 的分數,並給出“通過”、“警告”或“失敗”的判定,以及按嚴重程度分組的發現清單。CertiK 表示,該系統在識別安全風險方面的準確率最高可達 90.5%,旨在降低誤報率,同時使 AI 技能評估更為可靠。
該產品已在部分 Web3 AI 代理基礎設施環境中部署。CertiK 也正與其他 AI 技能平台合作整合,包括 FinChip.ai。
此次推出是在 CertiK 今年早些時候推出 AI 審計師(AI Auditor)計劃後,進一步擴展其 AI 專注安全基礎設施的舉措。對於以 Web3 審計聞名的公司來說,這是一個合乎邏輯的延伸。隨著 AI 代理開始處理代碼、資產、權限和商業工作流程,安全檢查必須在執行前完成,而非在系統已暴露後才進行。
CertiK 推出 AI 技能掃描器以保障代理安全
CertiK 正在深入推進 AI 安全領域,推出 CertiK 技能掃描器(CertiK Skill Scanner),這是一款旨在在第三方 AI 技能安裝、發布或獲批用於企業系統前進行審查的產品。 該公司將此工具描述為接近於 AI 代理時代的防病毒層。這個比喻並不完美,但已足夠傳達核心概念。AI 代理不再僅僅是在聊天窗口中回答問題,它們開始呼叫外部工具、讀取文件、觸發工作流程、在系統間傳輸數據,甚至在更敏感的情況下與金融基礎設施互動。 這改變了安全的考量。惡意的瀏覽器擴展已經可能造成危害,而連接到自主代理的惡意 AI 技能可能更為危險,因為代理可能在用戶未完全察覺的情況下快速執行操作。 AI 技能帶來新的執行風險 AI 技能正逐漸成為代理經濟的插件。它們擴展了 AI 代理的能力,從提取數據、自動化任務,到執行金融操作和與 Web3 協議互動。然而,每增加一個技能,也就增加了一個潛在出錯的點。 這種風險不僅限於明顯的惡意軟件。一個技能可能會請求超出所需的數據,在執行過程中行為與審查時不同,觸發未經授權的 API 請求,或悄悄創造日後濫用的條件。在金融環境中,這個問題尤為嚴重。能啟動資金調用、簽署工作流程請求或準備交易的工具,必須接受比普通生產力插件更嚴格的審查。 CertiK 表示,技能掃描器旨在在敏感系統暴露前,檢測隱藏的惡意行為、未經授權的數據存取和執行風險。與較廣泛的 AI 掃描工具不同,該公司稱其產品專注於在實際執行過程中可能出現的風險,包括涉及資金流動和金融交易的案例。 CertiK 的 CEO 兼聯合創始人顧榮輝(Ronghui Gu)表示,隨著 AI 代理進入金融系統、企業工作流程和日常數位服務,第三方技能的安全模型變得越來越重要。
“CertiK 技能掃描器的設計目的是在執行前建立一個標準化的信任層,幫助用戶和平台在敏感數據、資產或系統暴露前識別隱藏的風險,” 顧榮輝說。
市場、企業與開發者優先 首批目標群體是 AI 技能市場、企業和開發者。市場可以將掃描器整合到其發布流程中,確保技能在上線前經過審查。他們也可以將 CertiK 的判定結果作為用戶決定是否安裝第三方技能的信任指標。 對於企業來說,應用場景更偏向防禦。內部測試 AI 代理的公司需要在技能進入生產環境或觸及客戶數據、內部系統或合規敏感工作流程前,進行評估。這時,評分審查流程就顯得尤為重要。它比供應商聲稱或開發者描述更具體,為安全團隊提供更可靠的依據。 獨立開發者也可以使用掃描器在發布前自我審核技能。CertiK 表示,未來的更新將擴展普通用戶的直接訪問權限,讓個人能在安裝或使用前自行掃描技能。 該掃描器會產生 0 到 100 的分數,並給出“通過”、“警告”或“失敗”的判定,以及按嚴重程度分組的發現清單。CertiK 表示,該系統在識別安全風險方面的準確率最高可達 90.5%,旨在降低誤報率,同時使 AI 技能評估更為可靠。 該產品已在部分 Web3 AI 代理基礎設施環境中部署。CertiK 也正與其他 AI 技能平台合作整合,包括 FinChip.ai。 此次推出是在 CertiK 今年早些時候推出 AI 審計師(AI Auditor)計劃後,進一步擴展其 AI 專注安全基礎設施的舉措。對於以 Web3 審計聞名的公司來說,這是一個合乎邏輯的延伸。隨著 AI 代理開始處理代碼、資產、權限和商業工作流程,安全檢查必須在執行前完成,而非在系統已暴露後才進行。