Du contenu pornographique non consensuel à une nouvelle forme d’infox, les deepfakes ou en français hypertrucages prolifèrent sur les réseaux sociaux. Et les femmes en sont les principales victimes.
En 2018, la journaliste indienne Rana Ayyub a été humiliée et menacée après la diffusion massive d’une fausse vidéo greffant sa tête au corps d’une actrice porno en plein acte sexuel.
En 2019, une vidéo montrant ivre Nancy Pelsosi durant un discours, la présidente de la Chambre des représentants des États-Unis, a été largement partagée sur les réseaux sociaux, notamment par Donald Trump.
En 2022, un deepfake de Volodymyr Zelensky montre le président ukrainien exhortant sa population à rendre les armes.
Infocalypse
Conceptualisé par le chercheur Ian Goodfellow en 2014, un deepfake ou en français hypertrucage est une vidéo ou un son de synthèse généré ou modifié par des outils d’intelligence artificielle.
L’objectif est de tromper les internautes ou de nuire à une personne en lui faisant tenir des propos qu’elle n’a jamais tenus ou en lui faisant faire des choses qu’elle n’a jamais faites.
Par exemple, en 2018, dans le but de sensibiliser le public, BuzzFeedVideo avait réalisé un deepfake de Barack Obama, dont la voix était celle du comédien américain Jordan Peele, qui avertissait du danger des deepfakes dans «une ère dans laquelle nos ennemis peuvent faire dire n’importe qui n’importe quoi à n’importe quel moment».
Le danger sociétal du deepfake est sans équivoque.
Comment crée-t-on un deepfake?
On retrouve trois grandes méthodes de trucage vidéo.
La plus répandue, surtout chez les deepfakes pornographiques, est le «face swap», qui permet de remplacer le visage d’une personne en conservant son corps.
Le «face to face» est la technique utilisée dans la vidéo de BuzzFeedVideo qui consiste à remplacer la bouche d’une personne pour la remplacer par une autre pour lui faire dire n’importe quoi
La dernière technique est le «lip sync» qui est très similaire au «face to face», mais avec en plus une synchronisation des lèvres qui donne un résultat encore plus réaliste que le «face to face».
Une pratique surtout pornographique
Henry Ajder, expert en deepfakes chez Deeptrace Labs, a constaté que 96% des deepfakes trouvés en ligne étaient pornographiques, et que 100% d'entre eux étaient des images vidéo de femmes.
Hany Farid de l'Université de Californie Berkeley a sonné l’alarme quant à l’utilisation des deepfakes en tant qu’arme contre les femmes, surtout quand cette technologie de manipulation est utilisée pour créer et distribuer des vidéos de pornodivulgation, ou «revenge porn» en anglais.
Selon le rapport de Deeptrace Labs, 8 des 10 sites pornographiques les plus fréquentés contenaient des deepfakes pornographiques.
En 2020, des milliers de personnes avaient utilisé un robot sur l’application de messagerie Telegram pour créer des images nues d’amis, de membres de la famille et personnalités publiques.
Le nombre officiel de femmes ciblées par ce robot générant des deepfakes était de 104 000, dont une proportion importante était des femmes qui paraissaient mineures.
On retrouve des applications en ligne comme DeepNude qui permettent de réaliser le même objectif: la création de photos dénudées non consensuelles à partir de contenu photographique.
Les femmes beaucoup plus touchées
90% des victimes sont des femmes.
En 2018, la journaliste indienne Rana Ayyub a révélé qu’elle avait été victime d’un complot porno deepfake qui l’a «dévastée», selon le Huffington Post UK.
La fausse vidéo pornographique dans laquelle le visage de la journaliste a été greffé sur le corps d’une actrice porno en pleine action est apparue peu de temps après qu’elle ait défendu Kathua, une fillette de 8 ans violée par trois hommes et assassinée en Inde.
À lire aussi: Boulot, porno, dodo chez les ados québécois
La vidéo circulait dans les groupes WhatsApp de hauts placés du parti nationaliste indien Bharatiya Janata Party – le parti du président Narendra Modi – qui avaient décidé de soutenir les pédocriminels de Kathua. Quelques jours plus tard, des captures d’écran du deepfake se retrouvaient publiquement sur des milliers de comptes de réseaux sociaux.
La journaliste est devenue la cible d’une vague de menaces, d’insultes et de sollicitation à caractère sexuel.
Des risques politiques importants
Même si les deepfakes ciblant les politiciens représentent moins de 5%, les deepfakes peuvent être l’outil parfait pour propager une fausse information avec des impacts politiques considérables.
Beaucoup d’experts avertissent des ravages que peuvent causer les deepfakes dans les pays en développement, car abritant souvent des gouvernements fragiles, surtout dans un contexte d’instabilité économique mondiale.
Le problème a déjà commencé à se faire sentir dans certains pays.
Par exemple, au Gabon, dans un contexte de perte de confiance dans le président Ali Bongo, une proportion importante de la population gabonaise soupçonnait que la diffusion du traditionnel discours présidentiel du Nouvel An de 2019 était un deepfake.
Ce soupçon fondé sur aucune preuve mais généralisé a conduit à une tentative de coup d’État avortée et à des coupures d’Internet sans précédent.
L’hypertrucage peut aussi affecter la politique interne de pays développés comme les États-Unis. Plusieurs observateurs comme le professeur Abd-Almageed affirment que les élections de mi-mandat en novembre dernier ont été particulièrement influencées par une vague de deepfakes sur les réseaux sociaux.
Fraudeurs
Les deepfake sont aussi utilisés dans des cas d’usurpation d’identité. Des individus utilisent une voix synthétique pour escroquer des entreprises ou des particuliers.
Selon la compagnie d'assurance française Euler Hermes, un de ses clients, une entreprise d'énergie britannique, a été victime d'une attaque frauduleuse utilisant des voix audio synthétiques en mars 2019. Les cybercriminels ont utilisé une voix audio synthétique recréant celle du PDG de la société mère allemande de l'entreprise, reproduisant à la lettre son accent et son style.
Reconnaissant la voix et la croyant réelle, le PDG de l'entreprise britannique a accepté une demande de virement de 243 000 dollars à un fournisseur hongrois. Un fournisseur hongrois qui n’était autre que le groupe cybercriminel.
Comment détecter un deepfake?
Le deepfake cache généralement des petites imperfections qui indiquent un hypertrucage.
Par exemple, l’absence de clignement des yeux, le scintillement autour du visage ou même un mouvement des lèvres peu naturel sont des signes que les internautes peuvent relever.
Mais les deepfakes se font de plus en plus réalistes. Des géants du numérique comme Microsoft ont donc décidé d’utiliser l’intelligence artificielle pour détecter et supprimer le contenu relevant de l’hypertrucage.
À lire aussi: Enfants en danger et prédateurs assoiffés: les dessous de TikTok
Selon une étude de chercheurs américains, entre 33% et 50% des individus ne pouvaient pas faire la distinction entre les vidéos authentiques et les deepfakes.
Même les étudiants en informatique d'une grande université américaine d'ingénierie n'ont pas réussi à distinguer les fausses vidéos des authentiques dans plus de 20% des cas.
Un problème d’envergure qui peut créer de nouveaux comportements dans le cyberespace, comme l’émergence de l’«incrédulité par défaut» qui consisterait à remettre en question quasi automatiquement la véracité de toute vidéo.
