Deepfake

Le deepfake [ˈdiːpfeɪk][1], ou hypertrucage[2],[3], est une technique de synthèse multimédia reposant sur l'intelligence artificielle. Elle peut servir à superposer des fichiers vidéo ou audio existants sur d'autres fichiers vidéo (par exemple changer le visage d'une personne sur une vidéo) ou audio (par exemple reproduire la voix d'une personne pour lui faire dire des choses inventées). Cette technique peut être utilisée pour créer des infox et des canulars malveillants[4],[5]. Le terme deepfake est un mot-valise formé à partir de deep learning (« apprentissage profond ») et de fake (« faux », « contrefait »)[6].

Ne doit pas être confondu avec Fake deep.

Il est possible de créer des hypertrucages en utilisant l'application FakeApp[7], qui utilise TensorFlow, un outil open source développé par Google[8].

Les hypertrucages vidéos sont aussi appelés infox vidéo[9] ou vidéotox[9].

Histoire

Les techniques pour simuler des mouvements faciaux et les transposer sur une personne-cible ont été présentées en 2016. Elles permettaient de contrefaire, en temps quasi réel, des expressions faciales dans des vidéos en 2D[10].

L'hypertrucage audio est apparu en novembre 2016, avec la présentation du programme, Adobe Voco, premier programme d'hypertrucage audio capable de reproduire la voix humaine[11].

En juillet 2017, la BBC diffuse un discours prononcé par une intelligence artificielle reproduisant Obama, discours essentiellement indiscernable de la réalité[12].

La pornographie hypertruquée est apparue sur Internet en 2017, notamment sur Reddit[13], et a depuis été interdite par Reddit, Twitter, Pornhub et d'autres[14],[15],[16].

En , a été mise en ligne une application appelée FakeApp qui permet de créer facilement des vidéos où les visages ont été permutés et de les partager. Les célébrités sont les principales cibles de ces fausses vidéos sexuelles, mais certaines autres personnes sont aussi touchées[17],[18],[19].

En août 2018, des chercheurs de l'université de Californie à Berkeley ont publié une étude sur la création de fausses vidéos de danseurs. Un individu peut être collé sur les mouvements d'un danseur professionnel[20],[21].

Domaines d'application

Pornographie

Les hypertrucages sont surtout connus pour avoir été utilisés afin de créer de fausses vidéos érotiques (sextapes), mettant en scène des célébrités, et de la pornodivulgation (revenge porn)[22].

Au cours de l'automne 2017, un utilisateur anonyme du site Reddit publie, sous le pseudonyme « Deepfakes », plusieurs vidéos pornographiques. La première a attiré l'attention et l'une de celles ayant suscité le plus de réactions, met en scène l'actrice Daisy Ridley. Une autre montre l'actrice Gal Gadot (vedette du fim Wonder Woman) en train d'avoir des rapports sexuels avec son beau-frère. D'autres célébrités — Emma Watson, Katy Perry, Taylor Swift ou Scarlett Johansson — ont également été la cible de vidéos créées par l’utilisateur « Deepfakes ».

Avec le temps, le faussaire a corrigé les défauts des vidéos, les rendant de plus en plus réalistes. Le phénomène des hypertrucages a d'abord été dénoncé en dans la section technique et scientifique du magazine Vice, ce qui a entraîné l'apparition de nombreux reportages dans d'autres médias[23].

Au Royaume-Uni, les producteurs d'hypertrucages peuvent être poursuivis pour harcèlement, mais il y a des appels à faire de l'hypertrucage un délit à part entière[24].

Politique

La permutation de visages a été utilisée pour donner une image fausse de politiciens connus sur des portails vidéos, des plateformes de streaming et de discussion en ligne. Par exemple, le visage du président argentin Mauricio Macri a été remplacé par celui d'Adolf Hitler, et le visage d'Angela Merkel par celui de Donald Trump[25],[26]. En , Jordan Peele et Jonah Peretti ont montré les dangers de l'hypertrucages en créant une fausse vidéo de Barack Obama faisant une annonce publique[27].

Art

En , l'artiste Joseph Ayerle publie la vidéo d’art intitulée Un'emozione per sempre 2.0, dans laquelle il met en scène une Ornella Muti virtuelle, recréée par intelligence artificielle. Le logiciel était capable d’animer le visage de l’actrice italienne pour réaliser des scènes qu'elle n'a jamais jouées[28],[29].

Ce procédé pourra également être utilisé au cinéma afin de modifier le mouvement des lèvres des acteurs afin de correspondre au doublage dans une autre langue[30].

Programmes de trucage

FakeApp utilise des réseaux de neurones artificiels. Elle utilise la puissance de la carte graphique plus 3 ou 4 Go de stockage pour générer le rendu final. Pour un bon rendu, le programme a besoin de beaucoup de photos de la personne, en effet, le programme doit apprendre quels aspects de la vidéo cible doivent être modifiés et pour ce faire, il utilise des algorithmes d'apprentissage profond. Le logiciel utilise TensorFlow, un outil développé par Google, qui, entre autres, a été déjà utilisé pour créer DeepDream.

Programmes d'hypertrucage audio
  • Adobe Voco est un logiciel prototype d’édition et de production d'hypertrucage audio conçu par Adobe qui permet la création et la modification audio novatrices. Surnommé « Photoshop-for-Voice », il a été présenté pour la première fois lors de l'événement Adobe MAX en novembre 2016.

La technologie présentée dans Adobe MAX était un aperçu pouvant potentiellement être intégré à Adobe Creative Cloud. À compter de juillet 2019, Adobe n'a pas encore publié d'informations supplémentaires sur une date de sortie potentielle[11].

  • LyreBird
  • WaveNet est un réseau de neurones profond permettant de générer du son brut. Il a été créé par des chercheurs de la société d'intelligence artificielle basée à Londres.

La technique, décrite dans un document de septembre 2016, est capable de générer des voix de type humaine à la voix relativement réaliste en modélisant directement des formes d'onde à l'aide d'une méthode de réseau neuronal entraînée avec des enregistrements de parole réelle. Des tests avec l'anglais américain et le mandarin auraient montré que le système surpasse les meilleurs systèmes de synthèse vocale existants de Google, même si, en 2016, sa synthèse textuelle était encore moins convaincante que le discours humain réel.

La capacité de WaveNet à générer des formes d’ondes brutes lui permet de modéliser tout type d’audio, y compris la musique[31].

Critiques

Abus

Le quotidien suisse germanophone Aargauer Zeitung affirme que la retouche d'images et de vidéos à l'aide de l'intelligence artificielle pourrait devenir un phénomène de masse dangereux. Cependant, la falsification d'images et de vidéos est antérieure à l'avènement des logiciels de montage vidéo et des programmes de retouche d'images ; dans ce cas, c'est le réalisme qui devient un nouveau problème.

Il est également possible d'utiliser l'hypertrucage pour des canulars ciblés et de la pornodivulgation à des fins idéologiques ou de cyberharcèlement[32],[33].

Effets sur la crédibilité et l'authenticité

Un autre effet de l'hypertrucage est qu'on ne peut plus distinguer si le contenu est satirique ou authentique. Interrogé en 2018 par le site américain The Verge (qui traite de l'actualité technologique, de l'information et des médias), le chercheur en intelligence artificielle américain Alex Champandard (programmeur et cofondateur de la startup Creative) estime que

« tout le monde devrait être conscient de la rapidité à laquelle les choses peuvent être altérées aujourd'hui à l'aide de cette technique et que le problème ne doit pas venir de la technique mais plutôt être résolu par la confiance des personnes dans l'information et le journalisme. Le principal danger est de voir arriver le moment où les humains ne pourront plus déterminer si ce qui se trouve sur une vidéo correspond à la vérité ou non[34]. »

Informations immatérielles et non-palpables, les infox vidéos brisent la confiance du fait qu’elles trompent les individus[35].

Réactions sur Internet

Les sites Twitter et Gfycat (en) ont annoncé qu'ils allaient supprimer les hypertrucages et bloquer leurs auteurs. Auparavant, la plate-forme Discord avait bloqué un canal de discussion comportant des hypertrucages. Le site pornographique Pornhub prévoyait, lui aussi, de bloquer ces contenus, mais cette interdiction n'est toujours pas entrée en vigueur depuis 2017[36],[37]. Chez Reddit, la situation était restée incertaine jusqu'à ce que le subreddit, — la sous-partie thématique en question —, soit suspendu le , en raison de la violation de la politique de « pornographie involontaire »[38],[39],[40],[41].

Protection

À terme, selon Solange Ghernaouti, spécialiste en cybersécurité et cyberdéfense, l'idéal serait que les images et vidéos numériques soient dotées de tatouages numériques dans le but de lever le voile sur l’origine du contenu. Des logiciels, tels qu'InVid et Amnesty Youtube Dataviewer, un outil proposé, depuis 2014, par l'organisation non gouvernementale internationale Amnesty International, permettent aux journalistes de déterminer si une vidéo est truquée ou manipulée[35],[42].

Développement de moyens de lutte

La Chine souhaite mettre en place une loi bannissant les contenus qui ne mentionnent pas l’utilisation de superpositions de vidéos et d’audios. À partir du , les infox vidéos qui ne sont pas mentionnés comme tels seront considérés illégaux[43],[44].

Facebook lance un concours « Deepfake Detection Challenge » (DDC), afin de créer des technologies et logiciels capables de déceler des vidéos utilisant la technique d'infox vidéo[45].

Voir aussi

Articles connexes

Liens externes

Références
  1. Prononciation en anglais retranscrite selon la norme API.
  2. « hypertrucage », Le Grand Dictionnaire terminologique, Office québécois de la langue française (consulté le ).
  3. Billy Joe Siekierski, Hypertrucage : que peut-on faire à propos du contenu audio et vidéo de synthèse, Bibliothèque du Parlement, 2019, 8 pages [lire en ligne].
  4. (en) « Experts fear face swapping tech could start an international showdown », sur The Outline (consulté le ).
  5. (en-US) Kevin Roose, « Here Come the Fake Videos, Too », The New York Times,‎ (ISSN 0362-4331, lire en ligne, consulté le ).
  6. (en) John Brandon, « Terrifying high-tech porn: Creepy 'deepfake' videos are on the rise », sur foxnews.com, .
  7. (en) « FakeApp: Finally, a Program that Will Let You Seamlessly Put Donald Trump in Porn! », Reason.com,‎ (lire en ligne, consulté le ).
  8. « I’m using AI to face-swap Elon Musk and Jeff Bezos, and I’m really bad at it », The Verge,‎ (lire en ligne, consulté le ).
  9. Commission d’enrichissement de la langue française, « infox vidéo », FranceTerme, Ministère de la Culture (consulté le ).
  10. Justus Thies, « Face2Face: Real-time Face Capture and Reenactment of RGB Videos », Proc. Computer Vision and Pattern Recognition (CVPR), IEEE, (consulté le ).
  11. (en) « Adobe Voco 'Photoshop-for-voice' causes concern », sur BBC, . .
  12. (en) « Fake Obama created using AI tool to make phoney speeches », sur BBC. .
  13. (en-US) Janko Roettgers, « Porn Producers Offer to Help Hollywood Take Down deepfake Videos », Variety,‎ (lire en ligne, consulté le ).
  14. (en) « It took us less than 30 seconds to find banned 'deepfake' AI smut on the internet », The Register,‎ (lire en ligne, consulté le ).
  15. Arjun Kharpal, « Reddit, Pornhub ban videos that use A.I. to superimpose a person's face over an X-rated actor », CNBC,‎ (lire en ligne, consulté le ).
  16. (en) « PornHub, Twitter Ban 'deepfake' AI-Modified Porn », PCMAG,‎ (lire en ligne, consulté le ).
  17. Britta Bauchmüller, « "Fake-App": Mit diesem Programm kann jeder im Porno landen – ob er will oder nicht! », Berliner-Kurier.de,‎ (lire en ligne).
  18. Eike Kühl, « Künstliche Intelligenz: Auf Fake News folgt Fake Porn », Die Zeit,‎ (ISSN 0044-2070, lire en ligne).
  19. heise online, « deepfakes: Neuronale Netzwerke erschaffen Fake-Porn und Hitler-Parodien », Heise Online,‎ (lire en ligne).
  20. (en) Peter Farquhar, « An AI program will soon be here to help your deepfake dancing - just don't call it deepfake », Business Insider Australia,‎ (lire en ligne, consulté le ).
  21. « deepfakes for dancing: you can now use AI to fake those dance moves you always wanted », The Verge,‎ (lire en ligne, consulté le ).
  22. (en-US) « What Are deepfakes & Why the Future of Porn is Terrifying », Highsnobiety,‎ (lire en ligne, consulté le ).
  23. « AI-Assisted Fake Porn Is Here and We’re All Fucked », Motherboard,‎ (lire en ligne).
  24. Call for upskirting bill to include 'deepfake' pornography ban The Guardian.
  25. « Wenn Merkel plötzlich Trumps Gesicht trägt: die gefährliche Manipulation von Bildern und Videos », az Aargauer Zeitung, .
  26. Patrick Gensing, « deepfakes: Auf dem Weg in eine alternative Realität? ».
  27. Aja Romano, « Jordan Peele’s simulated Obama PSA is a double-edged warning against fake news », sur Vox, (consulté le ).
  28. (en) Katerina Cizek, William Uricchio et Sarah Wolozin, « Part 6: Media co-creation with non-human systems », dans Collective Wisdom, PubPub, (lire en ligne).
  29. (en) « Un'emozione per sempre 2.0 », sur Internet Movie Database, (consulté le ).
  30. 01net, « Les deepfakes pourraient se révéler utiles dans les doublages des films et des séries TV », sur 01net (consulté le )
  31. https://arxiv.org/pdf/1609.03499.pdf.
  32. « Künstliche Intelligenz: Selfies sind eine gute Quelle », Die Zeit,‎ (ISSN 0044-2070, lire en ligne).
  33. « „deepfake“ - FakeApp kann Personen in Pornos austauschen – Welche Rechte haben Geschädigte? », Wilde Beuger Solmecke Rechtsanwälte,‎ (lire en ligne).
  34. What an ‘infinite’ AI-generated podcast can tell us about the future of entertainment, The Verge, .
  35. Harold Grand, « Après les fake news, la menace du «deep fake» prend de l'ampleur sur le web », Le Figaro, (consulté le ).
  36. (en-US) « Pornhub hasn't been actively enforcing its deepfake ban », Engadget,‎ (lire en ligne, consulté le ).
  37. (en) « Pornhub Banned deepfake Celebrity Sex Videos, But The Site Is Still Full Of Them », BuzzFeed,‎ (lire en ligne, consulté le ).
  38. Markus Böhm, « "deepfakes": Firmen gehen gegen gefälschte Promi-Pornos vor », Spiegel Online,‎ (lire en ligne).
  39. barbara.wimmer, « deepfakes: Reddit löscht Forum für künstlich generierte Fake-Pornos », futurzone,‎ (lire en ligne).
  40. heise online, « deepfakes: Auch Reddit verbannt Fake-Porn ».
  41. « Reddit verbannt deepfake-Pornos ».
  42. « Comment vérifier une vidéo ? », sur Les Observateurs de France 24 (consulté le ).
  43. Corentin Bechade, « La Chine veut bannir les intox et les deepfakes », Les Numériques, (consulté le ).
  44. Léa Faure, « Le deepfake en Chine désormais considéré comme criminel si l'auteur ne signale pas la nature trompeuse du contenu », sur IT Social (consulté le ).
  45. Corentin Bechade, « Facebook et Microsoft partent à la chasse aux "deepfakes" », Les Numériques, (consulté le ).
  • Portail de l’informatique
Cet article est issu de Wikipedia. Le texte est sous licence Creative Commons - Attribution - Partage dans les Mêmes. Des conditions supplémentaires peuvent s'appliquer aux fichiers multimédias.