Cette photo générée par IA ne montre pas la femme brûlée vive dans le métro de New York
- Publié le 03 janvier 2025 à 15:19
- Lecture : 5 min
- Par : Bill MCCARTHY, AFP Etats-Unis
- Traduction et adaptation : Dounia MAHIEDDINE , AFP France
Copyright AFP 2017-2024. Toute réutilisation commerciale du contenu est sujet à un abonnement. Cliquez ici pour en savoir plus.
Un homme soupçonné d'avoir brûlé vive le 22 décembre une femme dans le métro à Brooklyn a été arrêté par la police new-yorkaise, qui a dénoncé "un des crimes les plus dépravés" qu'une personne puisse commettre.
L'homme "s'est calmement approché de la victime" dans le train F à Brooklyn et a mis le feu à ses vêtements, a déclaré Jessica Tisch, commissaire de la police de New York, lors d'une conférence de presse organisée le jour des faits.
"Le suspect a utilisé ce que nous pensons être un briquet pour enflammer les vêtements de la victime, qui ont pris feu en quelques secondes", a-t-elle expliqué, ajoutant que la police était intervenue rapidement et que le feu avait été éteint avec un extincteur.
L'affaire a pris une importance politique majeure après que l'homme accusé du meurtre, Sebastian Zapeta-Calil, 33 ans, s'est avéré être un immigrant sans papiers originaire du Guatemala, qui avait déjà été expulsé du territoire américain en 2018.
Rapidement, avant que la police n'ait identifié la victime, des internautes ont commencé à partager massivement le portrait d'une femme, prétendument nommée "Amelia Carter".
"Voici le visage de la jeune femme qui a été brûlée vive dans le métro new-yorkais dimanche dernier. Le meurtrier, Sebastian Zapeta-Calil, d'origine guatémaltèque, avait déjà été expulsé en 2018", affirme ainsi sur X un internaute le 29 décembre 2024.
Cette photo a été relayée avec des descriptions similaires sur X, Facebook et des sites internet dans de nombreuses langues, dont l'espagnol (1, 2), l'italien (1, 2), l'anglais (1, 2) et le grec (1,2).
Plusieurs autres publications relaient un montage photo d'"Amelia Carter" dans un visuel du "Remembrance Project" (Projet commémoratif, en français), un groupe qui rend hommage aux Américains tués par des migrants en situation irrégulière.
L'affiche mentionne en anglais que la jeune femme "manquera beaucoup à ses parents, à toute sa famille, à ses amis et à ses camarades de classe de doctorat à l'université de Pennsylvanie".
Mais il ne s'agit pas d'une véritable photo de la victime.
Ron Ozio, directeur des relations avec les médias de l'université de Pennsylvanie, a déclaré à l'AFP que, contrairement à ce qui avait été affirmé sur internet, la femme brûlée vive "n'était pas une étudiante de l'université".
Et si un post a effectivement été publié sur la page Facebook du "Remembrance Project" le 23 décembre 2024, il commémore en anglais "une citoyenne innocente", sans mentionner de nom et sans diffuser de photo (archive ici).
De plus, plusieurs éléments de l'image devenue virale mettent sur la voie d'une création d'intelligence artificielle, comme l'AFP et plusieurs experts ont pu le constater.
Des détails qui permettent de douter
En regardant l'image de plus près, il est possible de repérer quelques éléments pouvant mettre en doute le fait qu'il s'agisse d'une authentique photographie.
Comme détaillé dans ce précédent article de l'AFP Factuel, des indices sur l'image peuvent souvent permettre de déceler des visuels créés par IA.
Hany Farid, expert en criminalistique numérique à l’Université de Californie-Berkeley, a affirmé que l’image qui circule en ligne présente des "signes évidents" d’une création par des Réseaux antagonistes génératifs (en anglais Generative Adversarial Networks ou GAN ), comme celles produites par le site Thispersondoesnotexist.com.
Ces "GAN" permettent de générer un nombre illimité de faux visages humains. Ce sont deux algorithmes d'intelligence artificielle, appelés "réseaux de neurones", qui se font concurrence pour livrer à l'artiste l'image la plus aboutie: l'humain fournit au préalable des images sources et règle les paramètres pour obtenir, à partir de celles-ci, un résultat qui l'intéresse.
Selon l'expert, le fond neutre et l'alignement des yeux sont caractéristiques d’un visage créé avec ce type de technologie.
Siwei Lyu, directeur du Media Forensic Lab de l’université de Buffalo, et Walter Scheirer, professeur d'ingénierie à l’université de Notre-Dame, ont également conclu que l’image ressemblait à celles d'autres visages générés par des GAN.
M. Lyu a précisé que ses outils de détection associaient cette image à un modèle GAN avec une certitude quasi totale. Il a remarqué que la plupart des visages générés par IA partageaient une disposition similaire des yeux. En comparant le portrait d'"Amelia Carter" à d’autres deepfakes connus, il a trouvé une concordance dans leur placement.
Walter Scheirer a pour sa part relevé une anomalie dans la pupille droite, un détail qu’il considère comme un signe caractéristique des images créées par GAN. Il a également observé qu'une recherche d'image inversée n'avait produit que quelques publications dispersées, attribuant de manière erronée ce visage à la victime de l'incendie du métro. "Si cette personne existait réellement, il y aurait probablement des traces numériques crédibles", a-t-il estimé.
Par ailleurs, le 31 décembre, la police de New York a identifié la véritable victime comme étant Debrina Kawam, une femme sans domicile de Toms River, dans le New Jersey. Ses blessures avaient retardé son identification pendant plus d’une semaine.
Exploitation d'un drame pour promouvoir des cryptomonnaies
Une recherche inversée d'images a révélé que la photo virale avait été partagée pour la première fois sur X par l'utilisateur "@minnie1254" le 23 décembre, accompagnée d'une fausse déclaration de la famille de la victime.
Quelques heures après la publication, un autre utilisateur écrit en commentaire en anglais : "Je déteste faire cela mais nous avons besoin de justice pour $AMELIA pour de vrai !" en renvoyant vers une cryptomonnaie créée sur la plateforme Pump.fun.
Une recherche de mots-clés a également mis en évidence une deuxième cryptomonnaie créée sur cette même plateforme au nom de : "AMELIA CARTER (AMELIA)". Les deux cryptomonnaies ont été lancées peu après la publication de l'image.
Contacté via un message direct sur X, l'utilisateur n'a pas répondu aux sollicitations de l'AFP.
Ces publications sur les réseaux sociaux relèvent de la désinformation, exploitant un drame pour promouvoir des cryptomonnaies.
Ce n'est pas la première fois que l'AFP vérifie des fausses informations liées aux cryptomonnaies.
