この仕組みとともに公開された検証ツールは、誰でも画像をアップロードして、その画像が OpenAI のモデルによって生成されたかどうかを確認できるものである。浮水印は、ChatGPT、Codex、OpenAI API を通じて生成された画像に最初に適用される。ただし、現時点のツールの識別範囲は OpenAI の自社製品に限定されており、他社の AI ツールによる画像は判別できない。OpenAI は、今後段階的に範囲を拡大していきたいと述べている。
Google と OpenAI が SynthID で連携
SynthID は Google DeepMind によって開発され、もともとは Google 自社の AI 生成コンテンツのマーク付けに主に用いられていた。現在、OpenAI も同じ浮水印を採用し、Kakao や音声企業 ElevenLabs も追随している。さらに、以前には Nvidia もこの仕組みを採用していた。最も注目される AI 企業二社が同一の追跡標記に連携することで、「AI 生成コンテンツのマーク付けと検証」が企業間の共通の標準として徐々に収束しつつある。
本文は許可を得て転載されたものです：《鏈新聞》
原文タイトル：《OpenAI 為 AI 圖片加溯源：採用 Google SynthID 浮水印並推驗證工具》
AI生成画像を識別させる！OpenAIはSynthIDのウォーターマークを採用し、公開検証ツールを提供
OpenAI は AI 画像認識を強化することを発表し、C2PA 証明書に加え、Google 開発の SynthID 隠し浮水印を初めて導入し、公開検証ツールを提供して、企業間の共通追跡基準の確立を加速させている。
OpenAI は 5 月 19 日に、「AI 生成画像」の識別をより容易にすることを発表した。既存の C2PA コンテンツ証明書に加え、OpenAI は画像にもう一層の SynthID 隠し浮水印を追加し、誰でも画像をアップロードして OpenAI のモデルから生成されたかどうかを検査できる公開検証ツールをリリースした。なお、SynthID は OpenAI 独自の技術ではなく、Google DeepMind が開発した浮水印標準である。
なぜ C2PA と SynthID の二つの仕組みを並行させるのか
C2PA コンテンツ証明書の方法は、画像ファイルに中間データを埋め込み、その画像の出所や編集履歴を記録するものである。しかし、この種の中間データは、アップロード先のコミュニティプラットフォームや保存・スクリーンショット時に削除されることが多い。SynthID は、目に見えない信号を直接画素に埋め込み、中間データが除去されてもツールを使って検出できる仕組みだ。両者を並行させることで、中間データが保持されている場合には完全な出所の追跡が可能となり、削除された場合でも識別可能な浮水印が残る。
検証ツールの公開開始だが、現時点では OpenAI 自社の画像のみ認識
この仕組みとともに公開された検証ツールは、誰でも画像をアップロードして、その画像が OpenAI のモデルによって生成されたかどうかを確認できるものである。浮水印は、ChatGPT、Codex、OpenAI API を通じて生成された画像に最初に適用される。ただし、現時点のツールの識別範囲は OpenAI の自社製品に限定されており、他社の AI ツールによる画像は判別できない。OpenAI は、今後段階的に範囲を拡大していきたいと述べている。
Google と OpenAI が SynthID で連携
SynthID は Google DeepMind によって開発され、もともとは Google 自社の AI 生成コンテンツのマーク付けに主に用いられていた。現在、OpenAI も同じ浮水印を採用し、Kakao や音声企業 ElevenLabs も追随している。さらに、以前には Nvidia もこの仕組みを採用していた。最も注目される AI 企業二社が同一の追跡標記に連携することで、「AI 生成コンテンツのマーク付けと検証」が企業間の共通の標準として徐々に収束しつつある。