Vous pouvez identifier les images générées par l'IA ! OpenAI utilise SynthID pour l'empreinte numérique et lance un outil de vérification publique

OpenAI annonce renforcer la reconnaissance d'images IA, en plus du certificat C2PA, en introduisant pour la première fois le SynthID invisible développé par Google, ainsi qu'un outil de vérification publique, accélérant ainsi l'établissement d'une norme de traçabilité commune entre les entreprises.

Le 19 mai, OpenAI a annoncé vouloir faciliter la distinction des images « générées par IA ». En plus du certificat de contenu C2PA existant, OpenAI ajoutera désormais une couche de filigrane invisible SynthID dans les images, et lancera un outil de vérification public, permettant à quiconque de télécharger une image et de vérifier si elle provient du modèle d'OpenAI. SynthID n’est pas une technologie propre à OpenAI, mais une norme de filigrane développée par Google DeepMind.

Pourquoi faire coexister C2PA et SynthID

La méthode du certificat de contenu C2PA consiste à inclure dans le fichier image des métadonnées intermédiaires, enregistrant la provenance et l’historique de modification de l’image ; mais ces métadonnées sont souvent supprimées lors du téléchargement sur des plateformes sociales, de la sauvegarde ou de la capture d’écran. SynthID, quant à lui, intègre directement un signal invisible dans les pixels, permettant de le détecter même si les métadonnées sont effacées. La coexistence des deux mécanismes permet de fournir un contexte complet lorsque les métadonnées sont conservées, et de laisser une empreinte détectable même si elles sont supprimées.

L’outil de vérification est en ligne, mais ne reconnaît actuellement que les images d’OpenAI

Avec cette initiative, un outil de vérification public a été lancé, permettant à tout le monde de télécharger une image pour vérifier si elle a été générée par un modèle d’OpenAI. Le filigrane est d’abord appliqué aux images produites via ChatGPT, Codex et l’API d’OpenAI. Cependant, l’outil ne peut pour l’instant reconnaître que les images créées par les produits d’OpenAI, et ne peut pas identifier celles générées par d’autres outils IA. OpenAI espère élargir progressivement la portée de cette reconnaissance à l’avenir.

Google et OpenAI se rapprochent sur SynthID

SynthID, développé par Google DeepMind, était initialement destiné à marquer le contenu généré par IA de Google. Désormais, OpenAI utilise également cette même norme de filigrane, rejoint par Kakao et la société de voix ElevenLabs, et plus tôt Nvidia. Lorsque deux des entreprises d’IA les plus en vue adoptent une même méthode de traçabilité, la façon dont le contenu généré par IA doit être marqué et vérifié tend à converger vers une norme interentreprises.

• Cet article est reproduit avec autorisation de : « Liàn Xīn Wén »
• Titre original : « OpenAI ajoute une traçabilité aux images IA : utilise le filigrane Google SynthID et lance un outil de vérification »
• Auteur original : Elponcrab