OpenAI a annoncé le déploiement de nouveaux signaux de provenance pour l'ensemble des images produites par ses outils d'intelligence artificielle. Cette initiative vise à rendre plus difficile l'usurpation ou la dissimulation de l'origine artificielle des visuels créés par des modèles comme DALL-E.
Une double protection technique
Jusqu'à présent, le marquage des images générées par l'IA reposait principalement sur l'insertion de métadonnées dans les fichiers. Ces informations, bien que standardisées, pouvaient être facilement supprimées ou modifiées par un utilisateur malveillant. OpenAI franchit désormais une étape supplémentaire en combinant deux technologies distinctes.
D'une part, l'entreprise continue d'utiliser les métadonnées conformes à la spécification C2PA (Coalition for Content Provenance and Authenticity), un standard ouvert qui certifie l'origine et l'historique d'un contenu numérique. D'autre part, elle intègre la technologie SynthID, développée par Google DeepMind. Ce filigrane numérique est directement dissimulé au sein des pixels de l'image, sans altération visible pour l'œil humain.
Cette approche, connue sous le nom de stéganographie, permet d'incorporer des signaux cryptographiques à même les données visuelles. Alors que les métadonnées peuvent être effacées par une simple capture d'écran ou une ré-encodage, les filigranes intégrés aux pixels résistent à la plupart des transformations courantes (recadrage, compression, changement de format).
Un outil de vérification public
Parallèlement à ce renforcement technique, OpenAI développe un outil de vérification accessible au grand public. Cet utilitaire permettra à chacun de soumettre une image et d'obtenir une indication sur son origine : a-t-elle été générée par un modèle d'OpenAI ou provient-elle d'une source naturelle ? Le déploiement de cet outil est en cours, sans date précise de disponibilité générale communiquée.
L'objectif affiché est de lutter contre la désinformation et les contenus trompeurs créés à l'aide de l'intelligence artificielle générative. En rendant la vérification accessible à tous, OpenAI entend responsabiliser l'ensemble de la chaîne de diffusion, des créateurs de contenu aux consommateurs d'informations.
Un contexte de méfiance croissante
Ces annonces interviennent dans un climat de défiance accrue envers les images générées artificiellement. La prolifération de photomontages réalistes, de deepfakes et de propagande visuelle alimentée par l'IA a conduit de nombreux gouvernements et plateformes à réclamer des mécanismes de traçabilité plus robustes. Les entreprises technologiques sont poussées à adopter des standards communs pour garantir l'intégrité des contenus numériques.
OpenAI n'est pas la première à expérimenter le filigrane pixel. Google DeepMind avait déjà présenté SynthID en 2023 pour les images produites par ses propres modèles. L'intégration de cette technologie dans l'écosystème d'OpenAI marque toutefois une avancée significative, étant donné la large diffusion de DALL-E et de ChatGPT qui génère désormais des images via l'éditeur intégré.
Limites et perspectives
Si les nouveaux filigranes renforcent considérablement la détection, ils ne constituent pas une solution miracle. Des techniques avancées de post-traitement pourraient potentiellement altérer les signaux dissimulés, bien que les concepteurs de SynthID aient conçu le système pour résister à un large éventail de manipulations. Par ailleurs, ces marquages ne couvrent pour l'instant que les images issues des outils d'OpenAI, laissant de côté les contenus créés par d'autres acteurs du secteur.
L'initiative s'inscrit dans une tendance plus large de l'industrie à adopter des standards de provenance. Des organisations comme la C2PA réunissent de nombreux grands noms de la technologie (Adobe, Microsoft, Intel, Sony, etc.) pour définir des protocoles communs. L'avenir de la vérification des contenus numériques passera probablement par une adoption généralisée de ces mécanismes, tant pour les images que pour la vidéo et l'audio.
En attendant, les utilisateurs disposeront bientôt d'un moyen simple de savoir si une image a été fabriquée par l'IA d'OpenAI, un pas supplémentaire vers plus de transparence dans l'espace numérique.
