Dans son engagement à lutter contre la désinformation, Google DeepMind annonce SynthID, un outil qui intègre le filigrane numérique directement dans l’image des pixels, le rendant invisible à l’œil humain et très difficile à falsifier sans endommager l’image. Actuellement en version bêta, il est disponible pour les utilisateurs du modèle text-to-image Imagen, hébergé sur la plate-forme ML Vertex de Google Cloud.
Google fait partie des 7 grandes entreprises de l’IA à s’être engagées à soutenir le développement d’une IA responsable, en juillet dernier, notamment à filigraner le contenu audio et visuel pour indiquer clairement que le contenu est généré par l’IA.
Si détecter les contenus générés par l’IA est nécessaire pour lutter contre la désinformation et les deepfakes, la tâche n’est pas facile. OpenAI, qui faisait elle aussi partie de ces 7 acteurs de l’IA, a ainsi préféré retirer le 20 juillet Classifier, un outil qui devait permettre de distinguer les textes écrits par un humain de ceux générés par une IA, en raison de son faible taux de précision.
Identifier les images générées par l’IA
En mai dernier, Google annonçait l’arrivée prochaine de la fonctionnalité “About this image” afin que les internautes puissent vérifier l’origine d’une image et ainsi s’assurer de sa fiabilité :
“Vous pourrez trouver cet outil en cliquant sur les trois points d’une image dans les résultats de Google Images, en effectuant une recherche avec une image ou une capture d’écran dans Google Lens, ou en balayant vers le haut dans l’application Google lorsque vous êtes sur une page et que vous rencontrez une image sur laquelle vous souhaitez en savoir plus. Plus tard cette année, vous pourrez également l’utiliser en cliquant avec le bouton droit de la souris ou en appuyant longuement sur une image dans Chrome sur ordinateur et mobile”.
Elle s’engageait également à ce que, dans les mois à venir, chacune de ses images générées par l’IA ait un balisage dans le fichier d’origine et à permettre aux internautes d’ajouter un filigrane sur les images générées à partir d’IA.
L’identification du contenu généré par Imagen
SynthID a été développé par Google DeepMind et affiné en partenariat avec Google Research pour évaluer la probabilité qu’une image ait été créée par Imagen.
SynthID repose sur deux modèles de deep learning : l’un pour l’ajout de filigrane et l’autre pour l’identification, qui ont été entraînés conjointement sur un large ensemble d’images.
Le modèle combiné a été optimisé afin d’assurer l’identification précise du contenu filigrané tout en améliorant l’imperceptibilité en alignant visuellement le filigrane sur le contenu d’origine.
SynthID utilise une technologie de filigrane intégrée qui ajoute un filigrane numérique directement dans les pixels des images générées par l’IA, le rendant imperceptible à l’œil humain comme on peut le constater dans les images ci-dessous.
Crédit Google DeepMind
Google DeepMind explique :
“Nous avons conçu SynthID pour qu’il ne compromette pas la qualité de l’image et permette au filigrane de rester détectable, même après des modifications telles que l’ajout de filtres, le changement de couleurs et l’enregistrement avec divers schémas de compression avec perte, le plus souvent utilisés pour les fichiers JPEG”.
Elle conclut :
“SynthID pourrait être étendu pour être utilisé dans d’autres modèles d’IA et nous prévoyons de l’intégrer dans d’autres produits dans un avenir proche, permettant aux personnes et aux organisations de travailler de manière responsable avec du contenu généré par l’IA”.
Références de l’article : blog Google DeepMind
