Comment reconnaître un deepfake

Au début de l’année, une vidéo publiée sur Facebook et sur YouTube montrait le président ukrainien Volodymyr Zelensky appelant les soldats ukrainiens à « déposer les armes » et à se rendre aux troupes russes. Ce n’était pas évident au premier coup d’œil, mais il s’agissait d’une vidéo truquée que des hackers avaient postée sur le site d’Ukraine 24, un réseau d’informations national, avec le message de Zelensky apparaissant dans le bandeau défilant. Cet incident a montré toute la puissance d’un deepfake – même de qualité médiocre – pour propager rapidement de fausses informations. Autre effet secondaire préoccupant : ces vidéos hypertruquées jettent le doute sur les médias authentiques qui perdent la confiance du public.

Au début, les choses étaient différentes. Les entreprises ont commencé à utiliser cette technologie avant même que la tendance ne devienne incontrôlable. En 2017 déjà, un utilisateur anonyme de Reddit avait publié des vidéos X truquées mettant en scène des célébrités telles que Gal Gadot et Taylor Swift. La tendance s’est répandue comme une traînée de poudre et les entreprises n’ont pas tardé à l’adopter. L’une d’elles proposait, par exemple, à ses utilisateurs d’animer de vieilles photographies de proches décédés et même d’y ajouter la parole.

Au vu des progrès fulgurants faits par la technologie des deepfakes, on y regarde aujourd’hui à deux fois avant de croire ce que l’on voit. Intéressons-nous à ce que sont exactement les deepfakes et aux techniques qui sont à la disposition des entreprises et des particuliers.

Qu’est-ce qu’un deepfake ?

Il s’agit d’une vidéo ou d’un contenu audio détourné au moyen d’une forme d’intelligence artificielle, appelée deep-learning, dans l’intention de tromper les destinataires en leur faisant croire que les personnes figurant sur la vidéo – généralement des personnalités publiques – ont réellement fait ou dit ces choses. Il existe plusieurs méthodes pour créer des deepfakes. La plus populaire consiste à utiliser des réseaux neuronaux avec des techniques d’échange de visages. Les technologies permettant de réaliser ces hypertrucages sont de plus en plus performantes et peuvent aujourd’hui reproduire les mouvements et les tics de langages d’une personne d’une façon extrêmement crédible, de sorte qu’il est très difficile de distinguer le vrai du faux.

Depuis 2018, le nombre de deepfakes malveillants publiés double tous les 6 mois. En décembre 2020, on en dénombrait 85 milliers. De toute évidence, les deepfakes peuvent devenir des outils capables de falsifier la réalité. Plus récemment, une nouvelle tendance est apparue, utilisant des vidéos détournées pour propager de fausses informations, des idées politiques contraires à l’éthique et assouvir des soifs de vengeance.

Les deepfakes professionnels nécessitent des systèmes de traitement haut de gamme dotés de cartes graphiques puissantes et font appel à des experts qui effectuent des retouches minutieuses. Les ordinateurs deviennent de plus en plus performants pour simuler la réalité. Les pirates informatiques semblent d’ailleurs avoir à leur disposition les meilleurs outils et tirent un avantage supplémentaire des possibilités de stockage sur le cloud. Même les acteurs qui ne possèdent aucune expertise dans ce domaine peuvent aujourd’hui créer des contenus truqués à l’aide d’applications facilement accessibles.

Les deepfakes sont-ils illégaux ?

Les deepfakes peuvent être utilisés de diverses manières : satire inoffensive, art ou divertissement, mais aussi désinformation, contenu pour adultes, scandales politiques, fake news et même opérations de guerre moderne. La création de deepfakes n’est pas, en soi, considérée comme un délit. Elle peut cependant avoir des conséquences juridiques si les contenus ainsi créés enfreignent les droits de la personne représentée ou sont utilisés à des fins malveillantes ou criminelles. Le cadre réglementaire de l’UE en matière de deepfakes est un ensemble complexe de règles contraignantes et non contraignantes. Le RGPD, les règlements sur l’IA, le régime des droits d’auteur et le plan d’action contre la désinformation fournissent des directives générales. Cependant, il reste difficile de déterminer si des vidéos falsifiées peuvent être utilisées comme preuve devant un tribunal. Les réglementations doivent impérativement s’adapter à l’évolution des mœurs en matière de technologie deepfake. Qu’ils traitent de la Covid-19, du réchauffement climatique ou de la guerre en Ukraine, les deepfakes ont le pouvoir de nuire facilement à la réputation de personnes physiques ou morales, mais aussi de mettre en danger la sécurité nationale.

Autre point inquiétant concernant les aspects juridiques liés aux deepfakes : il n’existe pas encore de réglementation universelle offrant une protection standard. Chaque nation gère cette question à sa manière et met lentement en place des mesures pour réagir aux progrès technologiques susceptibles de constituer un danger pour ses habitants. Israël, par exemple, a promulgué une loi sur Photoshop qui exige que les images retouchées portent une mention correspondante. Cette obligation pourrait même s’étendre aux vidéos hypertruquées utilisées par les créateurs de contenus. C’est déjà une étape de franchie dans la bonne direction.

Comment fonctionnent les deepfakes ?

Un vaste ensemble de données comprenant des centaines et des milliers d’échantillons de photos et de vidéos permet d’entraîner les réseaux neuronaux artificiels à différencier les faux contenus des images authentiques. Si les réseaux neuronaux ne parviennent pas à faire la distinction, la photo ou vidéo est considérée comme une cible appropriée pour les humains.

La technique d’échange de visages, par exemple, utilise une version générée par ordinateur du visage d’une personne. L’IA peut utiliser ces vidéos pour reproduire, presque à la perfection, les expressions faciales d’une personne. En outre, plus elle traite de vidéos, plus elle s’améliore. Ainsi entraînée, elle est en mesure de produire des deepfakes de plus en plus crédibles.

L’échange de voix et le clonage vocal fonctionnent de façon similaire : plus il existe d’enregistrements audio d’une personne, plus l’IA peut être entraînée et imiter leur voix.

La technologie d’hypertrucage s’est tellement démocratisée que tout le monde peut, aujourd’hui, fabriquer des deepfakes de grande qualité à l’aide d’applications comme FaceApp. Bien qu’elles soient principalement conçues à des fins de divertissements, ces applis permettent aux utilisateurs les plus inexpérimentés de créer facilement des vidéos très réalistes qui mettent en scène des célébrités.

À quoi servent les deepfakes ?

La superposition de voix et de visages permet de créer des compositions susceptibles d’être intégrées dans des scénarios réalistes ou fictifs. Les deepfakes ont proliféré, s’infiltrant dans les différents secteurs d’activité, corps de métiers ou entreprises et cherchent peu à peu à combler tous les interstices. Ils donnent une voix à celles et ceux qui sont restés dans l’ombre et une plateforme où ils peuvent faire entendre leur point de vue. Le bon, la brute et le truand y figurent de façon visible, parfois choquante, mais aussi amusante. Tout dépend de quel côté vous vous trouvez.

Cette technologie continue, par exemple, de révolutionner l’industrie cinématographique, car de plus en plus de réalisateurs procèdent à un rajeunissement de leurs acteurs pour donner l’illusion qu’ils sont plus jeunes. Dans la mesure où ils offrent de belles perspectives de créativité pour le storytelling, les deepfakes sont également utilisés pour d’autres formes de divertissement : parodies, narrations et livres électroniques, par exemple.

Ils se mettent également au service des enseignants qui peuvent littéralement insuffler de la vie dans leur pédagogie en animant des personnages historiques, par exemple. Les représentations réalistes des grands événements de l’Histoire donnent ainsi un nouveau souffle à l’éducation moderne, la rendant plus attrayante.

Outil intelligent au service de l’innovation, la technologie des deepfakes est conçue pour inciter le public et l’audience à croire ce qu’ils voient et entendent. Des détaillants aux enquêteurs criminels, en passant par les conservateurs d’art, ceux qui souhaitent se démarquer bénéficient, grâce aux deepfakes d’une plateforme jouissant d’une grande visibilité et qui amplifient les messages.

Cependant, cette même technologie génère bien des craintes pour ceux qui se retrouvent pris dans les mailles du filet. Extorsion d’argent, fraude et, plus récemment, désinformation. Il n’y a certes rien de nouveau sous le soleil, mais ces fléaux resurgissent et prennent des proportions alarmantes. Ces fake news sont utilisées par les criminels ou les personnes ayant soif de vengeance pour manipuler l’opinion publique à grand renfort de contenus viraux qui propagent de fausses informations, peu crédibles. Les deepfakes peuvent être aussi manipulateurs qu’ils peuvent être valorisants.

La manipulation à des fins militaires est actuellement l’une des tendances les plus présentes en matière de deepfakes. Si l’on y regarde de plus près, la guerre entre la Russie et l’Ukraine se déroule aussi dans le monde virtuel, avec des pirates informatiques qui paralysent les sites gouvernementaux et diffusent de fausses informations. La vidéo de la fausse capitulation du président ukrainien Zelensky l’illustre parfaitement.

Un autre clip, réalisé en 2018 par l’acteur américain Jordan Peele en collaboration avec BuzzFeed, a utilisé la technologie de l’hypertrucage pour dénoncer clairement le phénomène des fake news. On y voit l’ancien président américain Barack Obama discuter des dangers potentiels des deepfakes, mais ce sont la voix et les mouvements des lèvres de Peele qui sont superposés sur le visage d’Obama. La vidéo donnait notamment l’impression qu’Obama traitait le président américain Donald Trump de « crétin » (dipshit, en anglais).

Échec et mat pour les tentatives de phishing

S'inscrire

Découvrez comment nos simulations de phishing peuvent transformer vos employés en défenseurs actifs de votre enterprise.

Comment repérer un deepfake ?

Bien qu’il soit de plus en plus difficile de repérer les deepfakes, les spécialistes de la cybersécurité s’efforcent de perfectionner constamment leur algorithme de détection. Les citoyens lambda se retrouvent souvent pris entre deux camps qui se livrent à une véritable course à la meilleure technologie. Mais rassurez-vous : il n’est pas nécessaire d’être un expert pour discerner si la vidéo que vous avez sous les yeux est authentique.

Commencez par regarder attentivement d’où elle vient. Remontez à la source de la vidéo pour savoir où elle a été publiée et par qui. Vous vous souvenez de la vidéo avec Tom Cruise ? Elle avait été publiée sur TikTok par @deeptomcruise. Donc, pas par Tom Cruise lui-même. Si la légitimité de la source n’est pas explicite, vous aurez peut-être à l’évaluer. Un bon indice peut être de déterminer si la vidéo provient du compte d’un fan ou d’un article de presse.

Les moteurs de recherche sont également très utiles pour vous aider à creuser un peu plus la question. Ils pourront retracer le parcours d’une image, détecter les contrefaçons ou vous indiquer leur provenance. Utilisez leur fonction de recherche d’image inversée.

1. Faites une copie d’écran de la vidéo que vous pensez être truquée.
2. Chargez cette image dans un moteur de recherche comme Google Images ou Bing Images.
3. Retracez l’historique de cette image : où elle a été utilisée, quelles sont les autres sources qui l’ont publiée ou utilisée ou s’il en existe quelque part une autre version.

Vérifiez les faits par vous-même. Retrouvez cette vidéo ou cette story sur une autre source, plus fiable, et comparez les versions. Demandez-vous si cette vidéo peut être vraie. Ne la rediffusez pas tant que vous n’êtes pas absolument sûr de son authenticité. Suivez votre instinct, mais appuyez-vous aussi sur des sources fiables.

Voici quelques conseils supplémentaires pour vous aider à distinguer une vidéo authentique d’un deepfake :

• Manque de naturel dans les mouvements
  Les mouvements de la personne semblent hésitants et ne sont pas synchronisés d’une image à l’autre. La position de la tête n’est pas coordonnée avec celle du corps ?
• Couleurs bizarres 
  Examinez la coloration de la vidéo et surveillez si l’éclairage varie d’une image à l’autre. Interrogez-vous sur le teint de la personne. Vous semble-t-il inhabituel ? La position des ombres est-elle naturelle ?
• Mouvements oculaires étranges
  Si vous remarquez que les yeux de la personne ont des mouvements qui manquent de naturel, soyez sur vos gardes. Si la personne cligne des yeux à un rythme qui n’est pas naturel, c’est un autre signe de trucage. D’ailleurs, cligne-t-elle des yeux ?
• Expressions faciales/émotions anormales
  L’un des premiers signes devant sauter aux yeux est l’expression du visage de la personne. Vérifiez si le visage ou le nez est tourné dans une autre direction, ou s’il y a quoi que ce soit qui semble faux. Les expressions du visage correspondent-elles aux émotions véhiculées par son discours ?
• Implantation peu naturelle des dents/des cheveux 
  L’IA a encore du mal à traiter les dents. Si vous ne parvenez pas à distinguer chaque dent une par une ou si la personne semble avoir une coiffure parfaite sans aucun cheveu rebelle, soyez sur vos gardes. Parvenez-vous à repérer quelques mèches rebelles ?
• Bande audio décalée 
  Les créateurs de deepfakes concentrent tous leurs efforts sur le perfectionnement de la vidéo, parfois au détriment de l’audio. Dressez l’oreille. Suivez les mouvements de la bouche et demandez-vous si cela vous semble correspondre à ce que dit la personne. Distinguez-vous des bruits de fond inhabituels ? Ou n’y a-t-il aucune bande audio ?
• Alignement visuel imprécis
  L’élément le plus frappant sera ce qui se trouve sous vos yeux. Examinez les contours de la personne qui parle pour voir s’ils semblent flous. Si l’image ne correspond pas parfaitement à l’attitude de la personne, c’est un indice. La vidéo présente-t-elle des cadrages inhabituels ?

Les deepfakes peuvent-ils être dangereux pour les entreprises ?

Parce qu’ils sont très difficiles à distinguer de vidéos authentiques, les deepfakes sont extrêmement populaires auprès des cybercriminels. Ils s’en servent fréquemment pour s’en prendre à des hommes et des femmes politiques, à des célébrités et à des entreprises. Ils peuvent, par exemple, créer des vidéos dans lesquelles le PDG d’une société fait des déclarations controversées sur des sujets confidentiels ou sensibles. S’il n’est pas détecté à temps, l’impact que cela peut avoir sur les finances et la réputation de l’entreprise peut être énorme, et souvent irréversible.

En 2020, des cybercriminels ont dérobé 35 millions de dollars à une banque de Dubaï en passant un appel en deepfake à l’un des directeurs. Grâce au clonage vocal, ils se sont fait passer pour le PDG d’une grande société qui détenait un compte dans cette banque. La communication était tellement réaliste que le directeur de la banque, croyant qu’il était authentique, a approuvé la transaction de 35 millions de dollars. Ces incidents, principalement menés par appât du gain, rappellent les attaques par ransomware et la « chasse au gros gibier », dans lesquelles les cybercriminels dupent des entreprises pour leur soutirer des sommes importantes. Ils montrent à quel point les deepfakes peuvent être dangereux, tant pour des particuliers que pour de grandes sociétés.

Se protéger contre la fraude en ligne

Après des débuts discrets, la création de scénarios faits de toutes pièces grâce à l’échange de visages et à l’ajout de bandes-son falsifiées bouleverse aujourd’hui notre quotidien, avec les conséquences dangereuses que l’on peut imaginer. Les deepfakes gagnent en précision, en rapidité et en nouveauté à une vitesse fulgurante. Ce qui était autrefois un piratage complexe, réalisé par des experts, est aujourd’hui un jeu d’enfant. L’accès et la portée de la technologie de l’IA pour créer des hypertrucages sonnent le début d’un vaste désordre numérique. Il nous faut redoubler de prudence.

Avec les progrès de la technologie et le perfectionnement des algorithmes, la qualité des deepfakes vidéo est aujourd’hui d’une précision effrayante. Il est donc crucial d’associer le facteur humain et les outils technologiques pour mieux repérer les hypertrucages. Une sensibilisation de base aux signes qui indiquent un contenu falsifié peut suffire à éviter de nombreux pièges en amont.

Si les quelques conseils prodigués plus haut peuvent vous aider à détecter des deepfakes, ils ne sont cependant pas suffisants pour vous protéger à 100 %. Pour renforcer leur sécurité, les entreprises peuvent associer des précautions d’ordre technique à une formation de sensibilisation à la cybersécurité comme celle proposée par SoSafe. Elles renforceront ainsi la vigilance de leur personnel vis-à-vis des contenus potentiellement dangereux et lui apprendront à mieux y réagir. SoSafe propose également d’un module spécialisé sur les deepfakes qui permet aux entreprises d’acquérir les connaissances et les outils nécessaires pour identifier et limiter les risques associés à cette forme de fraude numérique. Cette formation est essentielle pour apprendre aux collaborateurs à distinguer le vrai du faux dans les contenus auxquels ils sont confrontés. Elle renforcera la sécurité globale de votre entreprise contre les cybermenaces émergentes.