Deepfake: the terrifying tool for crowd manipulation

1. Quand Jim Carrey devient Jack Nicholson

 

Juillet 2019. Dans une vidéo publiée sur les réseaux sociaux, Jim Carrey campe Jack Torrance, personnage irascible et terrifiant du Shining de Stanley Kubrick. Blouson Harrington pourpre sur le dos, il imite Jack Nicholson – l’interprète originel – en reprenant chacune de ses expressions avec un mimétisme stupéfiant, de son rictus démoniaque à la distorsion de ses sourcils. Sous la vidéo, dans l’onglet “commentaires”, les louanges fusent : Jim Carrey vient d’être élu “meilleur acteur de l’histoire du cinéma” par une poignée d’internautes égarés dans les méandres de Facebook. Un titre honorifique officieux… d’autant que l’extrait est incomplet. La publication initiale, en écran scindé – à gauche, l’interprétation de Jim Carrey, à droite, celle de Jack Nicholson –, présente les deux scènes parfaitement synchronisées barrées de la mention “trucage”.

 

Ce tour de passe-passe est l’œuvre de Ctrl Shift Face, la chaîne YouTube passée maître dans l’art du deepfake, une fraude ultra réaliste qui consiste à remplacer un visage par un autre à l’aide d’un puissant logiciel. Depuis leur apparition en 2016, ces subterfuges maladroits n’ont cessé de proliférer en devenant de plus en plus réalistes. Les expériences humoristiques virent alors à l’arnaque et trompent les moins attentifs. À l’heure où l’on tweete comme on respire, sans prendre le temps d’analyser les faits, diffusant des “réactions” sur le web plutôt que de véritables réflexions, le deepfake est une aubaine pour les amateurs de canulars qui profitent de la crédulité des internautes.

2. Un procédé issu du cinéma

 

Derrière l'alias Ctrl Shift Face se cache un trentenaire slovaque qui partage la même méfiance que Donald Trump à l’égard des fake news. En une semaine de travail, ce spécialiste des effets spéciaux peut berner n’importe qui avec ses “hypertrucages”, l’autre nom du deepfake. Une prouesse qui n’est, toutefois, pas à la portée de tout le monde : “Il est facile de fabriquer un mauvais deepfake, mais très difficile d’en faire un qui soit vraiment réussi”, relativise le geek dans les colonnes du Monde. “Il vous faut une machine très puissante, du temps, de la patience, mais surtout des compétences.” D’ordinaire, Ctrl Shift Face scanne des individus et duplique leur silhouette numérique pour le cinéma. Une technologie que l’on a déjà vue à l’œuvre chez les studios Universal, notamment lorsqu’ils font apparaître l’acteur Paul Walker dans une scène de la franchise Fast and Furious (2015), quelques mois après sa disparition dans un accident de voiture.

 

Le trompe-l’œil numérique est un marché juteux, et la société californienne d’effets visuels Digital Domain l’a bien compris. Grâce à un système de numérisation ultra précis et des centaines de lampes LED disposées en sphère, elle a déjà reproduit les visages d’une soixantaine de personnalités qui, moyennant près d’un million de dollars, pourront poursuivre le cinéma bien après leur mort… Mais ce qui diffère avec le deepfake, c’est que le logiciel n’a besoin d’aucun rendez-vous pour numériser les visages et les juxtaposer sur d’autres.

3. Une technique accessible gratuitement sur internet

 

Tout le monde peut créer un deepfake médiocre. Tout comme n’importe quel gusse est capable de falsifier une photographie ou de diffuser une fausse information sur Internet. Pour l’hypertrucage, il suffit simplement d’avoir un ordinateur doté d’une carte graphique assez puissante pour faire tourner le logiciel approprié (DeepFaceLab), en libre accès sur le web. En lui fournissant deux vidéos différentes, des scènes de film en plan serré par exemple, l’intelligence artificielle va générer des centaines d’images en enregistrant les expressions faciales et les mouvements des lèvres du premier personnage. Elles pourront alors être dupliquées sur le visage du second. Chacun peut ainsi réciter un discours face caméra, puis ne faire qu’un avec son acteur fétiche. En pratique, pour que le deepfake fasse illusion, quelques étapes supplémentaires sont nécessaires. D’ailleurs, les perfectionnistes utilisent même des applications telles que Voices pour imiter le timbre vocal d’une célébrité.

 

Résultat : Arnold Schwarzenegger se retrouve dans le film No Country for Old Men à la place de Javier Bardem, le producteur Jordan Peele se métamorphose en Barack Obama pour alerter sur les dérives de la technologie à la télévision américaine, et des internautes anonymes remplacent le visage d’une actrice porno par une de leurs connaissances pour enfin réaliser leurs fantasmes.

4. Vers une propagande digitale.

 

S’il convient de saluer cette prouesse technologique, le deepfake demeure une création inquiétante. D’autant plus sinistre que la désinformation règne et que les médias, face à la désertion du lectorat, ont pleinement intégré la diffusion de contenu en ligne à leur mode de fonctionnement. Ce qui n’était qu’une expérience amusante en 2016, – dans un sketch, le présentateur américain Jimmy Fallon se muait en Donald Trump et téléphonait à Barack Obama grâce à un deepfake réussi –, devient aujourd’hui un instrument propice à la manipulation des foules. D’abord en politique, où de fausses déclarations diffusées sur Internet peuvent nuire à des candidats et influencer l’électorat. Ensuite, dans le milieu de l’entreprise : en 2019, dans le cadre de leur installation Sheffield Doc Fest, les artistes Bill Posters et Daniel Howe produisent un hypertrucage dans lequel le fondateur de Facebook Mark Zuckerberg déclare : “J’ai un contrôle total sur les milliards de données que j’ai volé aux gens, je connais tous leurs secrets, leurs vies, leur futur…” Notons que 90% des deepfakes générés entretiennent un lien avec le sexe et la pornographie. Angoisse de taille : un simple fantasme dans un cadre privé pourrait donc mener à la diffusion en ligne de fausses sextapes. La propagande digitale est amorcée.