Дозвольте вам визначити згенеровані AI зображення! OpenAI використовує SynthID для водяних знаків і запускає інструмент для публічної перевірки

OpenAI оголосила про посилення розпізнавання AI-зображень, крім сертифікату C2PA, вперше впроваджуючи прихований водяний знак SynthID, розроблений Google, а також запустила відкритий інструмент для перевірки, що прискорює створення спільних стандартів трасування між компаніями.

OpenAI 19 травня оголосила, що робить легшим для зовнішніх користувачів розпізнавання «зображень, створених за допомогою AI». Окрім існуючого сертифікату C2PA, OpenAI тепер додасть ще один шар прихованого водяного знака SynthID у зображення та запустить відкритий інструмент для перевірки, де будь-хто може завантажити зображення та перевірити, чи воно створене моделлю OpenAI. Зазначається, що SynthID не є власною технологією OpenAI, а стандартом водяних знаків, розробленим Google DeepMind.

Чому використовуються одночасно механізми C2PA та SynthID

Метод сертифікату C2PA полягає у додаванні метаданих у файл зображення, що фіксує його походження та історію редагування; однак ці метадані часто видаляються при завантаженні на соціальні платформи, збереженні або скріншотах. SynthID ж вставляє набір сигналів, невидимих людським оком, безпосередньо у пікселі зображення, тому навіть якщо метадані видалені, їх можна виявити за допомогою інструментів. Обидва механізми працюють разом: при збереженні метаданих зберігається повна інформація про походження, а у разі їх видалення залишається водяний знак, що його можна ідентифікувати.

Інструмент для перевірки запущено, але наразі він розпізнає лише зображення, створені OpenAI

Разом із цим механізмом запущено відкритий інструмент для перевірки, де будь-хто може завантажити зображення та перевірити, чи воно створене моделлю OpenAI. Водяний знак спочатку застосовується до зображень, створених за допомогою ChatGPT, Codex та API OpenAI. Однак наразі інструмент може розпізнавати лише продукти OpenAI і не може визначити зображення, створені іншими AI-компаніями. OpenAI заявила, що планує поступово розширювати охоплення.

Google та OpenAI співпрацюють у SynthID

SynthID розроблений Google DeepMind і спочатку використовувався для маркування контенту, створеного власним AI Google. Тепер OpenAI також застосовує цей водяний знак, до них приєдналися Kakao та компанія ElevenLabs, що займається голосовими технологіями, а раніше — Nvidia. Коли дві найвідоміші AI-компанії починають використовувати однаковий стандарт для трасування, питання «як маркувати та перевіряти AI-згенерований контент» поступово стає спільною практикою між компаніями.

• Цей матеріал опубліковано з дозволу у «Лінь цзіньсюнь»
• Оригінальна назва: «OpenAI додає трасування AI-зображень: використовує Google SynthID та запускає інструмент перевірки»
• Автор оригіналу: Elponcrab