La guerre informationnelle dopée à l'intelligence artificielle
- Publié le 11 juin 2024 à 15:36
- Lecture : 5 min
- Par : Théo MARIE-COURTOIS, AFP France
Copyright AFP 2017-2024. Toute réutilisation commerciale du contenu est sujet à un abonnement. Cliquez ici pour en savoir plus.
A l'approche des élections européennes qui se sont tenues dimanche, "il y a [eu] une massification générale" de ces contenus venus de l'étranger et l'IA "est une nouvelle étape dans la chaîne d'automatisation de ces publications (qui) permet d'[en] massifier la production", pointe auprès de l’AFP Valentin Châtelet, du laboratoire d'analyse numérique de l’Atlantic Council (DFRLab, liens archivés ici et ici).
Selon les données, analysées par l’AFP, du collectif Antibot4Navalny qui traque les opérations d'influence numérique en lien avec la Russie, des milliers de bots (comptes automatiques), sont utilisés quotidiennement par la propagande pro-russe sur X (lien archivé ici).
Dans la foulée de la tuerie du Crocus City Hall près de Moscou le 22 mars, qui a fait au moins 144 morts et 360 blessés, le collectif a compté plus de deux millions de messages sur X en moins de 24 heures, accusant l'Ukraine et l'Occident d'avoir facilité l’attaque ainsi que la fuite des assaillants, une thèse similaire à celle développée, dans un premier temps, par les autorités russes (lien archivé ici).
Au moins 30.000 bots auraient été utilisés dans le cadre de cet évènement avec une particularité, selon Antibot4Navalny : publier tous un message au contenu similaire mais à la formulation différente.
"Étant donné le délai très court entre l'événement sur le terrain et les premières publications de cette campagne, il n'était pas du tout possible d'écrire manuellement autant de messages uniques évoquant efficacement 2 à 3 mots-clés, combinés de manière très variée", a souligné auprès de l'AFP le collectif, pointant l'utilisation de l'intelligence artificielle pour réaliser cette tâche d'ampleur.
"Pendant la durée de chaque épisode (événement d'importance planétaire, NLDR), le fonctionnement quotidien régulier est interrompu : tous les bots (...) sont entièrement dédiés à l'épisode en question", a ajouté Antibot4Navalny.
ChatGPT
OpenAI, le créateur de ChatGPT, avait indiqué fin mai que des groupes d'influence russes, chinois, iranien ainsi qu'une "entreprise commerciale en Israël" avaient utilisé ses programmes pour tenter de manipuler l'opinion d’autres pays (lien archivé ici).
Les contenus fabriqués traitaient d'une "large palette de sujets, notamment l'invasion de l'Ukraine par la Russie, le conflit à Gaza, les élections indiennes, la politique européenne et américaine ainsi que des critiques du gouvernement chinois par des dissidents".
L'IA ne sert pas nécessairement à produire des contenus sophistiqués, comme des vidéos type "deepfake", de fausses photos ou de faux audios: selon OpenAI, le système a été utilisé pour générer "principalement du texte, parfois des images, tels que des dessins" satiriques.
Elle permet aussi de "simuler de l'engagement" sur les réseaux et "gagner en productivité", note OpenAI.
L'IA peut, par exemple, servir à traduire un faux article en de nombreuses langues puis à le poster automatiquement sur une multitude de comptes et de sites.
Selon Antibot4Navalny, l'IA permet aussi d'éviter aux bots d'être repérés par la modération des réseaux sociaux en multipliant les messages dont le fond est similaire mais pas tout à fait identiques (formulations différentes, etc.).
Et les contenus sont divers : faux articles, faux graffitis, faux reportages... Ces bots peuvent aussi relayer massivement de vrais articles de presse mais en les accompagnant de messages politiques, comme "le RN est la (sic) parti de la paix, contrairement à Macron qui cherche à attiser la guerre" ou que "c'est une honte de voir nos dirigeants gaspiller l'argent du peuple pour des jeux (olympiques)!".
"En tant qu'utilisateur, vous pouvez avoir l'impression que ces points de vue sont massivement soutenus par des gens basés en France alors que ce n'est pas forcément le cas", relève Alexandre Alaphilippe, directeur exécutif de l'ONG européenne EU DisinfoLab (lien archivé ici).
"Vous pouvez aller sur un forum, voir des gens qui se parlent entre eux mais en réalité toute cette conversation a été générée par intelligence artificielle (IA)", poursuit le spécialiste.
La Russie est considérée comme le pays le plus actif en termes d'ingérence étrangère via Internet par les experts et les services de renseignements et gouvernements occidentaux même si d'autres pays, comme l'Azerbaïdjan, l'Iran ou la Chine sont aussi pointés du doigt.
Ces derniers mois, ont été mises au jour plusieurs opérations, comme Doppelgänger (imitation de médias occidentaux pour diffuser des infox), Matriochka (interpellation directe de médias pour les inciter à vérifier des infox), ou Olympiya, visant les JO.
Long-terme
Pour Alexandre Alaphilippe, ces opérations ne "vont pas s'arrêter" maintenant que les élections européennes sont passées puisqu'elles "sont conçues pour tenir dans la durée".
L’élection présidentielle américaine, qui se déroulera le 5 novembre, sera aussi un enjeu crucial. Selon les données d’Antibot4Navalny, fin mai 2024, en plein procès de l’ancien président et futur candidat Donald Trump, au moins deux millions de messages critiquant la politique de Joe Biden, l’actuel président candidat à sa réélection, ont été publiés sur le réseau social X par des bots.
"Ce qui rend ces élections – et celles à venir aux États-Unis – uniques, c'est qu’elles surviennent à un moment où il est dans l'intérêt stratégique de la Russie d'affaiblir le soutien occidental à l’Ukraine", indique John Kennedy, chercheur en défense et sécurité à l'institut de recherche Rand (lien archivé ici).
