Un centre pour accompagner les acteurs locaux
Le CSIRT (Computer Security Incident Response Team) Hauts-de-France, créé en avril 2023, est un centre de réponse aux incidents cyber au profit des PME, ETI, collectivités territoriales et associations de la région. Il traite les demandes d’assistance des victimes de cyberattaques et les met en relation avec des prestataires pour mieux gérer ces incidents et éviter les escroqueries. Les CSIRT, supervisés par l’ANSSI, l’Autorité nationale en matière de cybersécurité, sont répartis en douze centres en métropole et outre-mer. Depuis avril 2023, plus de 200 incidents ont été traités par le CSIRT Hauts-de-France, « allant du piratage aux ransomwares », explique Jacques El Ahmar.
Qu’est-ce qu’un deepfake et comment est-il fabriqué ?
« Avez-vous une idée sur les deepfakes ? » interrogeait Valentin Gruson, analyste au CSIRT Hauts-de-France, s’adressant aux participants. Un tour de table a rapidement permis d’évaluer les niveaux de connaissance sur les deepfakes afin de fournir les clés de compréhension et les outils nécessaires face à cette technologie aux conséquences bien réelles.
Un deepfake, contraction de « deep learning » et « fake », est un « faux généré par l’intelligence artificielle. Il peut s’agir d’un document, d’une voix, d’une image ou d’une vidéo manipulée de manière réaliste », explique Valentin Gruson. Son objectif « est de tromper, manipuler ou influer en rendant le faux indiscernable du réel », poursuit-il. Selon l’intervenant, les manipulations de vidéos, audios, images, etc., n’impliquent pas toujours de technologie pointue ou de compétences spécifiques.
Il existe une autre catégorie de deepfake, appelée cheapfake. C’est une falsification plus simple et accessible que le deepfake et qui utilise des technologies basiques comme le recadrage, le ralentissement, l’accélération ou la modification d’angle. Les cheapfakes sont souvent employés à des fins de désinformation et permettent à leurs auteurs de manipuler l’opinion publique.
Quels sont les enjeux des deepfakes ?
Sur le plan social, les deepfakes sont utilisés pour manipuler, intimider ou harceler. Valentin Gruson alerte notamment sur les arnaques aux faux kidnappings et l’usurpation d’identité en vidéo, qui peuvent servir à créer de fausses preuves pour tromper ou influencer des victimes.
Dans le domaine politique, ces technologies facilitent la propagation de fausses informations et produisent des effets de confusion qui empêchent l’esprit critique d’analyser le monde et ses rapports de pouvoir. Des vidéos truquées de dirigeants ont déjà été diffusées pour influencer l’opinion publique. Valentin Gruson explique que les auteurs de ces manipulations recourent aux « PSYOPS », des opérations d’influence visant à manipuler la perception, les émotions et le comportement d’un public cible.
Enfin, sur le plan économique, les deepfakes favorisent les escroqueries, les fraudes financières, les chantages et l’extorsion des entreprises. « Personne n’est à l’abri, surtout dans un contexte de “Safe Sphère”, où l’exposition à des opinions similaires renforce les croyances préexistantes », affirme l’intervenant.
Comment détecter les deepfakes ?
Pour se prémunir contre ces risques, il est essentiel de développer des compétences en vérification de l’authenticité des informations et de pratiquer le fact-checking.
Tout d’abord, l’intervenant préconise une analyse humaine pour identifier les incohérences. « Un moyen simple est de vérifier la cohérence de la météo et de la position du soleil en fonction de l’heure. Si une allocution d’un président est censée avoir eu lieu à 9 h du matin et que le soleil est au zénith, il y a un problème », explique Valentin Gruson. Il recommande aussi de comparer les angles de vue lors d’un événement officiel, car plusieurs journalistes prennent des clichés sous différents angles. D’autres détails, comme une montre ou une alliance présente sur une image et absente sur une autre, peuvent également révéler une manipulation. Enfin, il est important de vérifier la fiabilité de la source.
Ensuite, une analyse informatique peut être réalisée en effectuant une recherche inversée d’images via Google Images, Yandex ou Bing Image. Enfin, une analyse via l’intelligence artificielle permet d’automatiser et d’affiner la détection.
La détection des deepfakes est un enjeu pour le monde des médias. L’Agence France-Presse (AFP) a développé un plug-in nommé InVID, accessible à tous, qui permet de détecter l’utilisation de l’intelligence artificielle dans la génération ou la modification de contenus en ligne.
