Fin janvier, à Hong Kong, une multinationale a transféré, par l’intermédiaire d’un employé, 26 millions de dollars à des « cadres dirigeants supérieurs » de l’entreprise, qui étaient, en fait, des avatars complexes générés par intelligence artificielle (IA), soit des « deepfakes », lors d’une visioconférence. Avec l’avènement de la technologie de l’hyper-trucage devenue, de plus en plus convaincante et à la portée de tous, nous assistons à une transformation radicale de l’écosystème du divertissement et des médias. Cette ère, marquée par l’essor et la démocratisation de l’intelligence artificielle (IA), nous confronte dorénavant à une question fondamentale : face à des créations toujours plus réalistes, comment distinguer le vrai du faux ?
- Deepfake Kesako?
Le « deepfake » ou « l’hyper-trucage » en français, fait référence à une technique avancée de synthèse d’images générée par intelligence artificielle (IA) où les caractéristiques d’un individu, sous-entendu : son apparence physique, son expression faciale, ses gestes ou encore ses paroles sont modifiées artificiellement sur une image, une vidéo ou un audio.
De plus, il existe de nombreuses catégories de « deepfakes » qui illustrent la diversité et la complexité des manipulations possibles grâce à cette technologie. Tout d’abord, le face swap consistant à échanger les visages de deux personnes différentes dans une vidéo ou dans une photographie ; la synthèse intégrale permet de créer des visages de personnes qui n’existent pas dans la réalité, pour ce faire, l’intelligence artificielle s’appuie sur des bases de données d’images de visages afin d’en générer de nouveaux.
Ensuite, il existe également la modification de traits ou d’attributs spécifiques qui inclut des manipulations plus fines comme la modification d’une caractéristique spécifique du visage tel que la couleur des yeux ou la forme du nez ou l’ajout d’attributs comme des tatouages ou des cicatrices.
Enfin, l’imitation de l’apparence sur vidéo est également une catégorie liée aux « deepfakes » permettant à une personne d’adopter l’apparence d’une autre dans une vidéo.
- Comment crée t’on les « deepfakes» ?
Cette technologie repose sur l’utilisation d’algorithmes d’apprentissage profond, des technologies avancées d’intelligence artificielle notamment des GANs (réseaux antagonistes génératifs). Ces GANs sont composés de deux réseaux neuronaux en compétition : le générateur et le discriminateur.
Mise en situation :
- Le générateur crée des images ou des séquences audio ou vidéo qui tentent de reproduire de manière convaincante des données réelles.
- Le discriminateur à pour but de distinguer les fausses données des vraies.
Au fil du temps, le générateur s’améliore en créant des contenus de plus en plus réalistes afin de créer LE contenu (l’image, l’audio ou la vidéo) hyperréaliste afin de « tromper » de manière efficace le discriminateur, le but étant qu’il ne puisse pas distinguer les fausses données des vraies, donc croire qu’il n’y a aucune fausse donnée.
L’avènement de l’intelligence artificielle (IA) remet en question les fondements que nos sens ont élaboré au fur et à mesure de notre évolution. Les « deepfakes » supplantent désormais Photoshop, propulsant la manipulation des informations à un niveau supérieur, semant le doute dans un monde où la vérité se trouve confrontée aux croyances, rumeurs et jugements extérieurs. Demain, nous ne pourrons plus lire, écouter ou regarder une information, un audio ou une image sans nous demander si c’est la vérité et la réalité ou un mensonge crée de toute pièce…
- Les « deepfakes », une arme d’illusion massive
Les « deepfakes » peuvent être classés en plusieurs catégories, en fonction de leur contenu, de leur but, et de la manière dont ils sont utilisés.
Nous les retrouvons au niveau politique comme outil de manipulation de l’opinion publique ou comme outil visant à discréditer des
figures politiques en les montrant dans des situations compromettantes par exemple, représentant un risque significatif dans le cadre de la désinformation et pouvant avoir un impact sur les élections et la démocratie.
De plus, nous retrouvons ce phénomène de plus en plus présent chez les célébrités avec la création de fausses vidéos ou audios dans lesquels ils disent ou font des choses qu’ils n’ont, en réalité, jamais dites ou faites ou lors de la création de photographies dans lesquelles le visage de la célébrité se retrouve sur le corps d’une autre personne tout ceci généralement utilisées à des fins de divertissement ou de diffamation.
Le secteur de la pornographie est également touché par la création de ces fausses images, vidéos, audios lorsque l’on superpose le visage d’une personne, souvent sans son consentement, sur des corps dans des vidéos pornographique posant évidement des problèmes au niveau du consentement, de la vie privée mais aussi d’abus sexuels en ligne.
Enfin, bien que souvent associés à la vidéo ou la photographie, les « deepfakes » concernent également l’audio avec l’imitation de la voix d’un individu pour créer des enregistrements de toutes pièces très convaincantes causant des problèmes d’escroquerie comme à Hong Kong ou d’usurpation d’identité.
Chaque catégorie de « deepfake » à des implications différentes en termes d’utilisation, d’éthique et de nécessité de régulation. Tandis que certaines applications peuvent être inoffensives ou même bénéfiques, d’autres posent des risques sérieux en termes de désinformation, d’atteinte à la vie privée, et d’harcèlement. De plus, d’après une étude réalisée par l’entreprise néerlandaise DeepTrace et relayée par CNN, le nombre estimé de vidéos « deepfakes » en ligne est passé d’environ 8 000 en 2018 à environ 15 000 en 2019 soit une augmentation annuelle de plus de 85%. Il a d’ailleurs été mis en avant, par cette étude, qu’environ 96% de ces vidéos concerner la pornographie…
- Les « deepfakes », une nouvelle façon de créer
Les « deepfakes » offrent cependant des opportunités potentielles de développement pour les entreprises car dernière ce terme peu attrayant ce cache une solution innovante de création de contenu. Une approche, nouvelle, où l’expertise humaine se détourne des compétences visuelles traditionnelles d’un créateur pour se concentrer sur sa capacité à manipuler des modèles et des langages informatiques adaptés.
Par exemple, au niveau commercial, les « deepfakes » s’infiltrent dans les publicités et dans le marketing notamment dans le cadre de la création de contenu permettant de faire apparaître des célébrités dans les publicités sans avoir besoin de leur présence physique.
Dans le cadre du système éducatif, ces innovations peuvent être utilisés pour créer des simulations de formation réalistes pour des professionnels de la santé, l’armée, ou d’autres domaines, en recréant des situations qui seraient, dans la réalité, difficiles voir dangereuses à expérimenter.
Dans le secteur du cinéma, les « deepfakes » peuvent être utilisées de manière créative pour rajeunir des acteurs, ressusciter des personnalités décédées ou encore créer des effets visuels impressionnants.
Pour la recherche et développement, ce dispositif peut simuler l’apparence et le comportement de produits ou de prototypes avant leur fabrication réelle ou encore générer des données synthétiques pour l’entrainement de modèles d’apprentissages automatique, permettant ainsi de contourner les problèmes de confidentialité ou de disponibilité des données réelles.
Les « deepfakes » représentent un réel potentiel en tant qu’outils puissants dans divers domaines, mais il est essentiel de sensibiliser et d’éduquer le public et les entreprises (nous tous) d’une part sur son existence, d’autre part sur l’utilisation de manière responsable et éthique afin de minimiser les risques
associés à leur utilisation afin de naviguer dans ce paysage technologique en évolution constante, en toute sécurité.
