让你识别AI生成图!OpenAI采用SynthID水印,推出公开验证工具

OpenAI 宣布加强 AI 图像识别,除了 C2PA 证书,更首次引入 Google 开发的 SynthID 隐形浮水印,并推出公开验证工具,加快建立跨公司的通用溯源标准。

OpenAI 在 5 月 19 日宣布,要让外界更容易识别“由 AI 生成的图片”。除了既有的 C2PA 内容凭证,OpenAI 现在会在图片中再加上一层 SynthID 隐形浮水印,并推出一个公开的验证工具,任何人都能上传图片、检查它是否出自 OpenAI 的模型。其中 SynthID 并非 OpenAI 自家技术,而是 Google DeepMind 开发的浮水印标准。

为什么要 C2PA 与 SynthID 两套机制并行

C2PA 内容凭证的做法,是在图片文件里夹带一段中继资料,记录这张图的来源与编辑历程;但这类中继资料在上传社群平台、转存或截图时,往往会被清除。SynthID 则是把一组肉眼看不到的信号直接嵌进像素,即使中继资料被移除,仍能用工具侦测出来。两套机制并行,能在中继资料保留时提供完整的来源脉络,被洗掉之后也还留有一个可辨识的浮水印。

验证工具上线,但目前只认得 OpenAI 自家图片

与这套机制一起推出的,是一个公开的验证工具,任何人都能把图片上传上去,确认它是否由 OpenAI 的模型生成。浮水印会先套用在透过 ChatGPT、Codex 与 OpenAI API 所产生的图片上。不过工具目前的识别范围仅限 OpenAI 自家产品,无法判断其他公司 AI 工具产出的图片,OpenAI 表示希望日后逐步扩大涵盖范围。

Google 与 OpenAI 在 SynthID 上靠拢

SynthID 由 Google DeepMind 开发,原本主要用于标记 Google 自家 AI 生成的内容。如今 OpenAI 也采用同一套浮水印,跟进的还有 Kakao 与语音公司 ElevenLabs,更早之前则有 Nvidia。当两家最受瞩目的 AI 公司在同一套溯源标记上靠拢,“AI 生成内容该如何被标记与验证”也逐渐收敛成跨公司的通用做法。

  • 本文经授权转载自:《链新闻》
  • 原文标题:《OpenAI 为 AI 图片加溯源:采用 Google SynthID 浮水印并推验证工具》
  • 原文作者:Elponcrab
查看原文
此页面可能包含第三方内容,仅供参考(非陈述/保证),不应被视为 Gate 认可其观点表述,也不得被视为财务或专业建议。详见声明
  • 赞赏
  • 评论
  • 转发
  • 分享
评论
请输入评论内容
请输入评论内容
暂无评论