融資新聞丨AI 內容檢測公司 Reality Defender 完成 1500 萬美元 A 輪融資，DCVC 領投

圖片來源：由無界 AI生成

Reality Defender 是幾家開發工具試圖檢測深度偽造和其他人工智慧生成內容的初創公司之一，該公司今日宣佈在由 DCVC 領投，Comcast、Ex/ante、Parameter Ventures 和 Nat Friedman's AI Grant 參投的 A 輪融資中籌集了 1500 萬美元。

聯合創始人兼首席執行官 Ben Colman 表示，這筆資金將用於在明年將 Reality Defender 的 23 人團隊擴大一倍，並改進其人工智慧內容檢測模型。

Colman 在接受採訪時表示：「新的深度偽造和內容生成方法會不斷出現，無論是其帶來的好處還是其可能造成的破壞程度，都會讓世界大吃一驚。 “”通過採用研究前瞻的思維方式，Reality Defender 可以在這些新一代方法和模式公開出現之前領先幾步，主動進行檢測，而不是對今天剛剛出現的情況做出反應。”

據悉，Colman 曾任高盛副總裁，他與 Ali Shahriyari 和 Gaurav Bharaj 於 2021 年共同創辦了 Reality Defender 公司。 Shahriyari 曾在數字轉型技術諮詢公司 Originate 和 AI Foundation 工作，後者是一家建立人工智慧驅動的動畫聊天機器人的初創公司。 Bharaj 是 Shahriyari 在 AI Foundation 的同事，負責研發工作。

Reality Defender 最初是一家非營利組織。 但據 Colman 稱，當他們意識到深度偽造問題的嚴重性 -- 以及對深度偽造檢測技術日益增長的商業需求 -- 之後，團隊就開始尋求外部融資。

Colman並沒有誇大問題的嚴重性。 作為 Reality Defender 的競爭對手，DeepMedia 致力於開發合成媒體檢測工具。 據該公司估計 ，與2022年同期相比，今年網上發佈的視頻深度造假數量增加了三倍，語音深度造假數量增加了八倍。

深度偽造數量的增加在很大程度上歸因於人工智慧生成工具的商品化。

過去，克隆聲音或創建深度偽造圖像或視頻（即通過數字處理令人信服地替換一個人的肖像的圖像或視頻）需要花費數百至數千美元，而且需要數據科學知識。 但在過去幾年裡，語音合成平臺 ElevenLabs 和開源模型 Stable Diffusion（可生成圖像）等平臺使惡意行為者幾乎不花一分錢就能發起深度偽造活動。

就在本月，臭名昭著的聊天板 4 chan 上的使用者 利用包括 Stable Diffusion 在內的一系列生成式人工智慧工具，在網上大肆傳播種族主義圖片。 與此同時，不良行為者 還利用 ElevenLabs 模仿名人的聲音，生成從備忘錄和色情小說，以及仇恨言論在內的各種音訊。

一些生成式人工智慧平台已經實施了篩檢程式和其他限制措施，以打擊濫用行為。 但是，與網路安全一樣，這也是一場貓捉老鼠的遊戲。

Colman 說：「人工智慧生成媒體的一些最大風險來自於社交媒體上對深度偽造材料的使用和濫用。 “”這些平臺沒有掃描深度偽造材料的動力，因為沒有立法要求它們這樣做，不像立法強制它們刪除兒童性虐待材料和其他非法材料。”

Reality Defender 聲稱可以檢測到一系列深度偽造和人工智慧生成的媒體，它提供了一個 API 和網路應用程式，可以分析視頻、音訊、文本和圖像，查找人工智慧驅動的修改跡象。 Colman 稱，Reality Defender 使用在內部數據集上訓練的“專有模型”，“這些數據集是在真實世界而非實驗室中創建的”，能夠達到比競爭對手更高的深度偽造準確率。

“我們訓練了一組深度學習檢測模型，每個模型都專注於自己的方法論，”Colman 說。 “我們很早以前就知道，不僅單一模型、單一模式的方法行不通，而且實驗室中的準確率與真實世界中的準確率對比測試也行不通。”

但是，任何工具都能可靠地檢測出深度偽造嗎？ 這是一個懸而未決的問題。

病毒式 AI 聊天機器人 ChatGPT 背後的初創公司 OpenAI 最近撤下 了其檢測人工智慧生成文本的工具，理由是其「準確率較低」。 至少有一項研究 表明，如果深度偽造的視頻經過一定的編輯，深度偽造視頻檢測器就會被騙過。

此外，深度偽造內容檢測模型還存在放大偏差的風險。

南加州大學的研究人員在 2021 年發表的一篇論文 中發現，一些用於訓練 Deepfake 檢測系統的數據集可能不足以代表特定性別或特定膚色的人。 研究合著者說，這種偏差會在深度偽造檢測器中被放大，一些檢測器會因種族群體的不同而顯示出高達 10.7% 的錯誤率差異。

Colman 對 Reality Defender 的準確性有很大信心。 他聲稱，公司積極致力於減少演算法中的偏差，將「各種口音、膚色和其他不同數據」納入檢測器訓練數據集。

“我們一直在訓練、再訓練和改進我們的檢測器模型，使它們適合新的場景和用例，同時準確地反映真實世界，而不僅僅是一小部分數據或個人。” Colman 說。

不過，在沒有第三方審計支持的情況下，Colman說法是否值得相信仍未可知。 不過，這種懷疑並沒有影響 Reality Defender 的業務，Colman 表示，該公司業務相當穩健。 Reality Defender 的客戶群遍佈「幾大洲」的政府，以及「頂級」金融機構、媒體公司和跨國公司。

儘管存在來自 Truepic、Sentinel 和 Effectiv 等初創公司以及微軟等現有公司的深度偽造檢測工具的競爭，Reality Defender 的客戶群仍然十分強大。

根據 HSRC 的數據，2020 年深度偽造檢測軟體市場的估值為 38.6 億美元，為了保持在這一市場的地位，Reality Defender 計劃推出一款“可解釋人工智慧”工具，讓客戶掃描文檔，查看人工智慧生成的彩色編碼段落文本。 此外，面向呼叫中心的即時語音深度偽造檢測也即將推出，隨後還將推出即時視頻檢測工具。

“簡而言之，Reality Defender 將保護公司的底線和聲譽。” Colman 說。 “Reality Defender 利用人工智慧對抗人工智慧，説明最大的實體、平臺和政府確定媒體作品是真實的還是被操縱的。 這有助於打擊金融領域的欺詐行為，防止媒體機構傳播虛假資訊，防止政府層面傳播不可逆轉的破壞性材料，而這隻是數百個用例中的三個。 ”