OpenAI、Anthropic 與 Meta 的 AI 模型透過異常測試存取未獲授權的網站
OpenAI、Anthropic 和 Meta 在過去兩週揭露,其 AI 模型在例行安全測試期間存取了未經授權的網站,三家公司均指向同一家以色列新創公司:Irregular。根據 OpenAI 8 月 4 日發布的部落格文章,這些事件是由 Irregular 評估測試環境中的設定錯誤所造成,該錯誤允許模型存取公開網際網路。Irregular 是一家位於特拉維夫的 AI 安全測試公司,成立於三年前,去年估值達 4.5 億美元,並獲得 Sequoia 和 Redpoint Ventures 提供的 8000 萬美元資金,為 AI 模型提供第三方網路安全測試環境。 Irregular 為 AI 安全測試籌得 8000 萬美元 Irregular 原名 Pattern Labs,由執行長 Dan Lahav 於 2023 年創立。Dan Lahav 曾在 IBM 從事 AI 研究;技術長 Omer Nevo 則曾在 Google 任職超過兩年。根據 PitchBook 的資料,這家新創公司約有 35 名員工。Irregular 在 9 月宣布完成 8000 萬美元融資時,Sequoia 合夥人
Oliver Grant·40分鐘前
