Images générées par IA : comment les repérer avec l’aide de Google ?

Les vidéos générées par intelligence artificielle, bien qu'initialement sujettes à des imperfections, ont considérablement évolué, rendant les deepfakes de plus en plus crédibles et omniprésents sur les réseaux sociaux. Cette tendance soulève des préoccupations quant à la véracité des contenus visuels en ligne.

Outils de Détection de Google : SynthID et Gemini

Google a introduit le modèle Gemini qui intègre la technologie SynthID pour identifier les contenus générés par IA. SynthID, développé par Google DeepMind, marque les contenus dès leur création par des micro-ajustements invisibles à l'œil nu, mais détectables par Gemini.

Cette méthode est plus efficace que les filigranes traditionnels, car elle intervient sur la composante fréquentielle du signal numérique. Lorsqu'une image ou une vidéo est générée, SynthID applique des ajustements statistiques sur les couleurs et la luminosité, créant une signature indélébile.

Norme C2PA : Interopérabilité et Authentification

Pour pallier les limitations de SynthID, notamment dans la détection des contenus générés par d'autres IA, Google mise sur la norme C2PA ( Coalition for Content Provenance and Authenticity ). Cette norme offre une traçabilité cryptographique et identifie les fichiers dès leur création, garantissant leur authenticité.

La norme C2PA est adoptée par des entreprises comme Adobe, Microsoft et OpenAI, ce qui permet de vérifier les origines des contenus, même lorsqu'ils ne sont pas marqués par SynthID. Cependant, cette norme est vulnérable aux manipulations simples comme les captures d'écran, qui créent de nouveaux fichiers dépourvus de traçabilité.

Pour utiliser la norme C2PA, il est possible de vérifier les fichiers via la plateforme Content Credentials , qui scanne les images pour détecter des éléments de traçabilité.

Malgré l'évolution technologique, l'esprit critique reste indispensable pour discerner le vrai du faux face à l'essor des deepfakes. Les outils comme SynthID et C2PA constituent des avancées significatives, mais ont leurs limites. La vigilance des utilisateurs demeure cruciale pour contrer la désinformation.

Les vidéos générées par IA deviennent de plus en plus réalistes et difficiles à distinguer. Google propose SynthID et C2PA pour authentifier les contenus, mais ces outils ont leurs limites. La capacité d'analyse critique des utilisateurs est essentielle pour faire face à la désinformation.

D’après Presse-citron.