Le développement des technologies à apporter une nouvelle vision du monde ou l’intelligence artificielle joue un rôle important au point de manipuler l’opinion sur des informations. C’est le cas des fake news et des deepfakes. Si le premier est défini comme étant de fausses informations dans le but de manipuler, le second va plus loin dans le sens où c’est une technique de synthèse multimédia reposant sur l’intelligence artificielle. Elle peut servir à superposer des fichiers vidéo ou audio existants sur d’autres fichiers vidéo ou audio. Cette technique peut être utilisée pour créer des infox et des canulars malveillants.
Qu’est-ce qu’un deepfake ?
Deep fake (également orthographié deepfake) est un type d’intelligence artificielle utilisé pour créer des images convaincantes, des canulars audio et vidéo. Le terme, qui décrit à la fois la technologie et le faux contenu qui en résulte, est un portemanteau d‘apprentissage en profondeur et de faux.
Un exemple de cas d’utilisation inclut lorsqu’un organisme de bienfaisance dans le domaine de la santé au Royaume-Uni a utilisé un deepfake pour que David Beckham délivre un message antipaludique. Ce message a également été délivré en neuf langues.
Cependant, le cas d’utilisation le plus notable et le plus dangereux est lorsque d’autres choisissent d’utiliser la technologie à des fins néfastes. Ils pourraient être utilisés pour diffuser de fausses informations à partir d’une source par ailleurs fiable, par exemple, avec de la propagande électorale c’est le cas de l’élection présidentielle américaine de 2018 avec Vladimir Poutine accusé de faire de l’ingérence. Cela a conduit à penser que cette technologie perturbe la vie moderne.
Comment fonctionnent les Deepfakes ?
Le contenu Deepfake est créé en utilisant deux algorithmes d’IA concurrents l’un est appelé le générateur et l’autre est appelé le discriminateur. Le générateur, qui crée le faux contenu multimédia, demande au discriminateur de déterminer si le contenu est réel ou artificiel.
Ensemble, le générateur et le discriminateur forment ce qu’on appelle un réseau antagoniste génératif (GAN). Chaque fois que le discriminateur identifie avec précision le contenu comme étant fabriqué, il fournit au générateur des informations précieuses sur la façon d’améliorer le prochain deepfake.
La première étape de l’établissement d’un GAN consiste à identifier la sortie souhaitée et à créer un ensemble de données d’apprentissage pour le générateur. Une fois que le générateur commence à créer un niveau de sortie acceptable, les clips vidéo peuvent être transmis au discriminateur.
Au fur et à mesure que le générateur s’améliore pour créer de faux clips vidéo, le discriminateur s’améliore pour les repérer. Inversement, à mesure que le discriminateur s’améliore pour repérer les fausses vidéos, le générateur s’améliore pour les créer.
Jusqu’à récemment, le contenu vidéo était plus difficile à modifier de manière substantielle. Parce que les deepfakes sont créés via l’IA, cependant, ils ne nécessitent pas les compétences considérables qu’il faudrait pour créer une vidéo réaliste autrement. Malheureusement, cela signifie que presque tout le monde peut créer un deepfake pour promouvoir le programme de son choix.
Par exemple, un deepfake pourrait être utilisé pour diffuser de fausses informations via un candidat à la présidentielle. Microsoft, cependant, a travaillé sur un logiciel de détection de deepfake alimenté par l’IA à cette fin. L’outil peut analyser automatiquement les vidéos et les photos pour fournir un score de confiance que le média a été manipulé.
Un autre danger possible que les deepfakes introduisent est que les gens prendront ces vidéos pour argent comptant, et après avoir réalisé que c’est faux, les gens cesseront de faire confiance à la validité de tout contenu vidéo.
Comment reconnaître un deepfake ?
Au fur et à mesure que la technologie s’améliore, les deepfake deviennent de plus en plus compliqués à détecter.
Cependant en 2018, des chercheurs américains ont découvert que les visages deepfake ne clignaient pas des yeux normalement. Et la raison est simple : la majorité des images montrent des personnes avec les yeux ouverts. Ainsi, les algorithmes n’apprennent jamais vraiment à cligner des yeux.
En effet, dès que cette faille a été révélée, elle a immédiatement été corrigée. Avec le machine learning sur lequel se base l’intelligence artificielle et donc la technologie de création des deepfakes, dès qu’une faiblesse est révélée, elle est corrigée.
Les deepfakes de mauvaises qualités sont plus faciles à repérer. Par exemple, la synchronisation des lèvres peut être mauvaise ou le teint de peau mal uniformisé. De même, on peut voir apparaître un scintillement sur les bords des visages transposés. Les bijoux et les dents mal rendus peuvent également être un indice.
Une autre technique consiste à regarder les mouvements de la bouche. En effet, l’action parler mobilise énormément de muscles différents et c’est sans doute la gestuelle humaine la plus difficile à imiter.
Enfin, trop grave ou trop aiguë, la voix peut aussi constituer un indice.
