Facebook a annoncé le lancement du Deepfake Detection Challenge (DFDC) pour faire avancer la recherche en matière de lutte contre les contenus manipulés et les deepfakes. Le challenge s’appuiera sur un jeu de données réaliste fourni par Facebook. Un classement général permettra de suivre les performances des candidats et le challenge sera accompagné de subventions et de bourses pour inciter l’industrie à créer de nouvelles façons de détecter et d’empêcher que les médias manipulés par l’IA ne soient utilisés pour induire les autres en erreur. Au total, une dotation de 10 millions de dollars sera décernée afin de récompenser les efforts de recherche.
Dans un post sur le blog de Facebook AI, Mike Schroepfer, CTO chez Facebook, a annoncé le lancement du Deepfake Detection Challenge. Organisé en partenariat avec Microsoft, the Partnership on AI, et des chercheurs de Cornell Tech, du MIT, de l’University of Oxford, UC Berkeley, University of Maryland, College Park, et University at Albany-SUNY.
Le but de ce défi est de développer une technologie libre pour mieux détecter les vidéos manipulées afin d’induire le spectateur en erreur. Le nouveau Steering Committee on AI and Media Integrity du Partnership on AI’s sera en charge de la supervision du DFDC. Il est composé de membre venant d’organisations telles que Facebook, WITNESS, Microsoft et d’autres organisations de la société civile, du monde de la technologie, des médias et des milieux universitaires. Tous sont conscients qu’une solution définitive ne pourra être trouvée; l’implication du plus grand nombre possible de chercheurs a donc pour objectif de coller au plus près à l’évolution technique des deepfakes.
“Il s’agit d’un problème en constante évolution, un peu comme le spam […], et nous espérons qu’en aidant l’industrie et la communauté de l’IA à s’unir, nous pourrons progresser plus rapidement”.
Mike Schroepfer précise qu’il est important de disposer de données librement disponibles pour la communauté, avec des participants clairement consentants et peu de restrictions d’utilisation. C’est pourquoi Facebook a commandé un jeu de données réaliste émanant d’acteurs rémunérés et consentants, pour contribuer au défi. Aucune donnée d’utilisateur Facebook ne sera utilisée dans cet ensemble de données. Facebook financera également des collaborations dans le domaine de la recherche et mettra en place des prix pour le défi afin d’encourager davantage de participation.
Pour garantir la qualité de l’ensemble de données et des paramètres de challenge, ceux-ci seront initialement testés lors d’une session de travail technique spécifique qui aura lieu en octobre lors de la International Conference on Computer Vision (ICCV). La publication complète du jeu de données et le lancement du DFDC auront lieu lors de la Neural Information Processing Systems (NeurIPS) en décembre. Facebook participera également au défi mais n’acceptera aucun prix financier.
