L'IA, un nouveau front pour la désinformation
- Publié le 10 février 2025 à 13:18
- Lecture : 6 min
- Par : Claire-Line NASS, AFP France
Copyright AFP 2017-2025. Toute réutilisation commerciale du contenu est sujet à un abonnement. Cliquez ici pour en savoir plus.
Des deepfakes visant à influencer des élections aux chatbots relayant des infox, la pollution du monde de l'information apparaît comme l'un des grands dangers du recours croissant à l'intelligence artificielle (IA).
Le déploiement rapide de cette technologie, au cœur d'un sommet mondial en cours à Paris, a déjà nourri ces dernières années l'essor de la désinformation, en lui offrant de nouveaux outils redoutables (lien archivé ici).
En Slovaquie, en 2023, un enregistrement avait fait grand bruit : on y entendait le chef d'un parti pro-européen y admettre que les élections législatives allaient être manipulées. Mais comme l'équipe de vérification de l'AFP avait pu le déterminer, il s'agissait d'un deepfake, un contenu truqué grâce à l'IA, qui a pu influencer des électeurs.
Partout dans le monde, des responsables politiques ont déjà fait les frais de ce type de procédés, à fort potentiel de viralité sur les réseaux sociaux.
C'est le cas de l'ancien président américain Joe Biden, dont la voix a été truquée pour conseiller à des électeurs de ne pas voter (lien archivé ici). Ou encore d'Emmanuel Macron, annonçant sa démission dans une vidéo très partagée à la bande-son trafiquée.
De Jacinda Ardern, l'ancienne première ministre néo-zélandaise au président russe Vladimir Poutine, en passant par le premier ministre canadien Justin Trudeau, l'AFP a vérifié de nombreux contenus vidéo et audio manipulés ces dernières années.
Réaliser des deepfakes de personnalités est aujourd'hui possible en quelques clics, comme l'AFP avait pu l'expérimenter à l'été 2023, en réalisant un audio test d'Emmanuel Macron.
Deepfakes pornographiques
Des femmes politiques aux Etats-Unis, en Italie, au Royaume-Uni ou encore au Pakistan ont aussi été victimes d'images à caractère pornographique générées par IA. Une tendance jugée inquiétante par des chercheurs, car elle menace la participation des femmes à la vie publique (lien archivé ici).
Ces deepfakes à caractère sexuel visent aussi régulièrement des célébrités comme la chanteuse américaine Taylor Swift, et toutes les femmes y seraient aujourd'hui vulnérables, met en garde l'American Sunlight Project, un groupe de recherche sur la désinformation (lien archivé ici).
L'IA est aussi au cœur d'opérations d'ingérences numériques de grande ampleur.
Les campagnes prorusses appelées Doppelgänger, Matriochka ou encore CopyCop figurent parmi les exemples les plus retentissants : leurs auteurs ont eu largement recours à des profils inauthentiques, des bots, pour publier des contenus générés par IA, visant notamment à saper le soutien occidental à l'Ukraine.
"Ce qui est nouveau, c'est l'échelle et la facilité avec laquelle une personne avec très peu de ressources financières et de temps peut diffuser des contenus faux qui, par ailleurs, paraissent de plus en plus crédibles et sont de plus en plus difficiles à détecter", détaille Chine Labbé, rédactrice en chef de l'organisation Newsguard, qui analyse la fiabilité des sites et contenus en ligne (lien archivé ici).
Viginum, l'organisme français de lutte contre les ingérences numériques étrangères, souligne aussi dans son résumé accompagnant un rapport publié en amont du sommet de Paris que l'IA constitue un "appui sans précédent pour la génération et la gestion de comptes inauthentiques sur les plateformes en ligne", et permet une "capacité décuplée pour la réplication et la publication coordonnée de contenus inauthentiques à grande échelle" (lien archivé ici).
"Pollution du web"
Aucun domaine n'échappe à ces contenus factices : de faux clips musicaux sont souvent mis en circulation, tout comme de fausses photos d'événements historiques fabriquées en quelques clics (lien archivé ici).
Dès 2022, une prétendue chanson du rappeur américain Eminem dans laquelle il aurait critiqué l'ancien président mexicain avait été prise pour un vrai morceau par des milliers d'internautes, mais elle avait été générée en ligne grâce à un logiciel capable de créer de tels audios en quelques secondes.
En 2024, l'AFP s'était aussi penchée sur une prétendue photographie de Yasuke, "le premier samouraï noir" qui a vécu au Japon au XVIe siècle. Mais si cette figure a bien existé, l'image présentait plusieurs incohérences historiques, et avait encore une fois été créée grâce à un logiciel.
Sur Facebook, des comptes multiplient les images attendrissantes générées par IA pour obtenir de l'engagement. La finalité n'est pas forcément de faire circuler une fausse information, mais plutôt de capter l'attention à des fins mercantiles, voire de préparer des arnaques une fois des utilisateurs crédules identifiés.
L'AFP a par exemple déjà enquêté des prétendus accidents de voiture et des images d'animaux blessés, qui s'appuient également sur l'empathie des internautes pour les renvoyer vers des pages qui visent à leur extorquer de l'argent, ou modifient les objets des publications une fois celles-ci massivement relayées pour ensuite diffuser des contenus totalement différents.
Autre cas de figure : en 2024, des deepfakes de médecins connus, comme Michel Cymes en France, ont été diffusés pour faire la promotion de remèdes qu'ils n'avaient pourtant jamais soutenus (lien archivé ici).
Fin décembre, alors que l'histoire d'un homme qui a mis le feu à une femme dans le métro new-yorkais faisait la Une de l'actualité aux Etats-Unis, une prétendue photo de la victime a largement circulé. Elle avait été générée par IA, et le drame instrumentalisé, dans le but de renvoyer vers des sites de cryptomonnaies.
"Au-delà du risque de désinformation, il y a celui de pollution du web : on ne sait jamais si on est face à un contenu qui a été vérifié, édité par un être humain rigoureux, ou si c'est généré par une IA sans que qui que ce soit se préoccupe de la véracité", observe Chine Labbé.
De multiples sites émergent ainsi sur internet, avec des contenus générés par IA (comme en attestent parfois les restes des consignes envoyés aux logiciels pour les créer dans les articles), à des fins commerciales, de propagande, ou de promotion de certains produits.
Et chaque événement au cœur de l'actualité suscite un flot d'images créées en ligne, comme les incendies d'ampleur à Los Angeles début 2025 pendant lesquels des fausses photos du signe "Hollywood" en flammes ou d'un Oscar dans les cendres ont fait le tour du monde.
Et les chatbots en vogue, tels que l'américain ChatGPT, peuvent eux aussi contribuer à diffuser des infox, souligne Chine Labbé de Newsguard: "ils ont tendance à d'abord citer des sources générées par IA, donc c'est le serpent qui se mord la queue".
Des recherches publiées début février par Newsguard montrent aussi que ce type de chatbots génèrent plus de désinformation dans certaines langues comme le russe et le chinois que l'anglais, étant plus perméables à des discours de propagande étatique dans certaines langues (lien archivé ici).
L'arrivée du chinois DeepSeek, qui aurait été développé à moindre coûts et qui relaie les positions officielles chinoises dans ses réponses, ne fait que renforcer la nécessité d'imposer des cadres à ces outils, plaide Chine Labbé, pour qui l'une des solutions serait de leur "apprendre à reconnaître les sources fiables des sources de propagande" (lien archivé ici).
