"La Sérénade de Schubert", "Violon brisé": attention à ces images IA qui diffusent de faux récits liés à la Shoah
- Publié le 28 juillet 2025 à 11:47
- Lecture : 9 min
- Par : Anna MALPAS, Maja CZARNECKA, Katharina ZWINS, Dounia MAHIEDDINE, AFP Europe, AFP France
Copyright AFP 2017-2025. Toute réutilisation commerciale du contenu est sujet à un abonnement. Cliquez ici pour en savoir plus.
La désinformation liée à la Shoah n’est pas nouvelle sur les réseaux sociaux. Mais depuis quelques mois, une tendance a émergé : la diffusion de photos générées par intelligence artificielle, accompagnées de récits fictifs de victimes de l’Holocauste.
Ces publications, partagées par des pages Facebook souvent basées hors de France, prétendent rendre hommage à des personnes mortes dans les camps de concentration.
Par exemple, une publication affirme qu’Eliska Varga, née à Debrecen en 1924, était une violoniste hongroise déportée à Auschwitz à l’âge de 20 ans. Elle y aurait été contrainte de jouer du violon pour des médecins nazis dans le Bloc 10, connu pour les expérimentations "médicales" sur des déportées, offrant par sa musique un moment de réconfort aux prisonniers.
Selon ce récit, Eliska aurait disparu lors d’une "rafle médicale". Son violon, retrouvé brisé peu après par ses codétenues, symboliserait la perte d’une figure de résistance artistique. Le texte met en avant l’idée que sa musique représentait une forme d’humanité face à la barbarie, une "bouée de sauvetage" pour ceux qui l’écoutaient.
Le texte est accompagné d'une photo en noir et blanc montrant une jeune fille jouant du violon, vêtue d’un uniforme rayé, comme ceux que portaient les prisonniers des camps de concentration pendant la Seconde Guerre mondiale.
La publication est partagée plusieurs centaines de fois. Et pourtant, comme nous allons le voir, aucune source historique ne confirme l’existence d’Eliska Varga.
Plusieurs incohérences
En faisant des recherches par mots clés sur "Eliska Varga", on tombe sur une autre publication relayée sur Facebook en anglais le 20 juillet.
On y présente la même personne et la même histoire. Mais Eliska y semble plus âgée et plusieurs autres incohérences viennent indiquer qu'il s'agit d'une image générée par IA.
On peut d'emblée s'interroger sur la qualité de ces images : la qualité du grain et la profondeur de champ très marquée (premier plan très net, arrière plan très flou) ne semblent pas cohérents avec un cliché pris dans les années 40. Il s'agit en revanche de traits typiques des images générées par IA.
Quand on compare cette image à une authentique photo de l'orchestre de Mauthausen prise en juillet 1942, on voit bien qu'elle est beaucoup plus floue et granuleuse (archive : ici).
On peut aussi observer que les rayures de sa tenue sont trop nettes et régulières, avec des rayures qui ne suivent pas toujours correctement les plis du tissu. En outre la coiffure bien ordonnée et le visage lisse de la jeune fille semblent également peu compatibles avec les conditions de vie et les traitements infligés aux déportés par les nazis : tortures, coups, manque de nourriture et d'hygiène...
Ce type de mise en scène n’est pas inédit. Avant le personnage fictif d’Eliska, une autre histoire virale a circulé sur Facebook, celle d’"Henek", présenté comme un violoniste juif contraint d’intégrer l’orchestre d’un camp de concentration en 1943.
Selon une publication largement relayée, Henek aurait joué "La Sérénade de Schubert" pendant que d’autres prisonniers étaient menés aux chambres à gaz. Une jeune fille, affirme le récit, se serait retournée pour lui dire : "Ta musique est la dernière chose que j’entendrai. Merci. "
Une recherche rapide à l'aide des mots-clés "violon" et "Auschwitz" sur les réseaux sociaux révèle d'autres contenus similaires, mettant en scène de prétendus musiciens déportés.
Ces récits sont accompagnés de portraits générés par IA et partagés par des pages à vocation pseudo-historique comme "90 Histoire", "History for Everyone" ou "Ancient History", qui publient quotidiennement des anecdotes historiques, sans toujours citer de sources.
Pourtant, lorsque l’on vérifie les noms mentionnés dans ces publications — comme Henek ou Eliska Varga — dans la base de données des victimes et survivants de la Shoah du United States Holocaust Memorial Museum, aucune trace n’est retrouvée.
Selon les experts interrogés par l’AFP, ces contenus sont souvent produits par des créateurs situés en Inde, au Pakistan ou au Sri Lanka, qui tirent profit des outils de monétisation mis en place par Facebook.
"Ils créent ces images qui déclenchent des réactions - likes ou commentaires - et ils en tirent des revenus", explique à l’AFP Martin Degeling, chercheur pour l’ONG AI Forensics (archive: ici).
Pour susciter une réaction émotionnelle, "il faut changer régulièrement de sujet" et la Shoah semble être le thème du moment, ajoute-t-il.
En Europe ou aux États-Unis, cette activité ne générerait pas de revenus suffisants pour en vivre, mais dans des pays plus pauvres, "cela permet de survivre", estime M. Degeling.
"Distorsion mémorielle"
Si ces récits-là sont faux, des notes de musique ont bien été jouées dans les camps de concentration. Dès 1933, avec l’ouverture des premiers camps de concentration, les nazis mettent en place des Lagerkapellen — des orchestres composés exclusivement de détenus. Imitant l’organisation militaire allemande, les commandants SS utilisent la musique comme outil de contrôle : elle rythme les déplacements, renforce la discipline et accompagne parfois les pires moments, y compris les exécutions (archive : ici).
Au départ, ces ensembles ne comptent que quelques instruments. Mais à partir de 1938, certains deviennent de véritables orchestres symphoniques. Celui d’Auschwitz I, par exemple, rassemble près de 120 musiciens dès 1942.
Dans la majorité des camps, les orchestres sont formés peu après l’arrivée des convois, lors d’auditions informelles. Leurs membres, en perpétuel renouvellement à cause de la mortalité, jouent lors des appels, des départs au travail, ou des pendaisons. La musique, omniprésente, fait partie de la routine carcérale.
C’est cette réalité historique complexe qui est aujourd’hui récupérée et déformée par des contenus en ligne générés par IA. Depuis mai, le Mémorial d’Auschwitz alerte sur la diffusion massive de publications falsifiées : certaines reprennent des documents authentiques du musée, mais remplacent les visages par des images artificielles. D’autres inventent entièrement les noms, les récits et les visages.
"Une version fantasmée d’Auschwitz"
Pour les familles de victimes, cette falsification est vécue comme une atteinte à la mémoire.
"Quand je vois qu’ils publient ces images, c’est presque comme si c’était une moquerie… comme si on pouvait simplement recréer artificiellement cette perte", a déclaré à l'AFP Shaina Brander, 31 ans, qui travaille dans la finance à New York.
Sa grand-mère, Chajka Brander, 100 ans, a perdu toute sa famille pendant la Shoah. Les gardiens du camp lui avaient confisqué ses photos. "Son père a été abattu sous ses yeux, et elle ne se souvient plus de son visage", poursuit la jeune femme. "L’intelligence artificielle ne pourra jamais recréer le visage qu’elle a perdu."
Sofia Thornblad, éducatrice spécialisée dans la mémoire de la Shoah, publie sur TikTok des vidéos dénonçant ces contenus générés par IA, qu’elle juge "incroyablement offensants" (archive: ici).
En effet, sur le réseau social des vidéos (1,2) prétendent montrer avec de l'IA "ce que c’était que d’être prisonnier à Auschwitz". Elle montre des prisonniers au visage rosé et des couchettes plutôt confortables, en contradiction avec la vérité historique.
"Nous avons des photos de la libération des camps de concentration, et c’est absolument horrible", explique Sofia Thornblad à l’AFP. La vidéo générée par IA appparaît, selon elle, comme une "version fantasmée d’Auschwitz".
Pour les chercheurs, cette tendance s’inscrit dans une forme de "distorsion mémorielle préoccupante". En fabriquant des visages, en inventant des récits ou en embellissant des scènes, ces contenus brouillent les repères historiques.
"Les IA peuvent générer de faux témoins, de faux souvenirs, et produire un Auschwitz fantasmé", résume Mykola Makhortykh, chercheur à l’université de Berne (archive : ici).
Résultat : des publications émotionnellement efficaces, mais historiquement mensongères.
Le Mémorial d’Auschwitz dit avoir signalé plusieurs de ces contenus à Meta, maison-mère de Facebook, sans résultat.
L'AFP participe dans plus de 26 langues à un programme de fact-checking développé par Meta, qui rémunère plus de 80 médias à travers le monde pour utiliser leurs "fact-checks" sur Facebook, sur WhatsApp et sur Instagram .
Si la plateforme autorise les contenus générés par IA, elle prévoit qu’ils soient signalés comme tels, ce qui est rarement le cas dans ces exemples.
Contacté par l’AFP, Meta n’a pas répondu.
Manque de contrôle de l'IA
L'UNESCO aussi alerte sur le fait que l’IA pourrait déformer le récit historique de l’Holocauste et alimenter l'antisémitisme si des garde-fous éthiques ne sont pas rapidement mis en place. Selon un rapport publié par l’Organisation, l'IA générative peut non seulement permettre à des acteurs malveillants d'alimenter la désinformation et les récits haineux, mais aussi produire par inadvertance des contenus faux ou trompeurs sur l'extermination des juifs par le régime nazi.
"Si nous permettons que les faits terribles de l'Holocauste soient dilués, déformés ou falsifiés par une utilisation irresponsable de l'IA, nous risquons une propagation fulgurante de l'antisémitisme et une diminution de notre compréhension des causes et des conséquences de ces atrocités", alerte Audrey Azoulay, directrice générale de l'UNESCO.
"L'IA générative a besoin de grandes quantités de données pour être développée. Ces données, qui proviennent souvent d’internet, sont susceptibles de contenir des informations trompeuses ou néfastes. Les systèmes d'IA héritent alors de préjugés humains qu’ils risquent de renforcer et génèrent de fausses informations sur certains événements. L'Holocauste, source d’une désinformation foisonnante, en est un exemple", peut-on également lire dans le rapport.
De plus, en raison du manque actuel de contrôle, de régulation et de modération des développeurs d'IA, les outils d'IA générative peuvent également se nourrir de données provenant de sites web négationnistes.
Auschwitz-Birkenau est devenu le symbole du génocide perpétré par l'Allemagne nazie sur six millions de Juifs européens, dont un million sont morts sur le site entre 1940 et 1945, ainsi que plus de 100.000 non-Juifs.
