Non, une IA ne lira pas vos messages privés pour alerter les services sociaux

La Caisse des allocations familiales (CAF) utilise depuis 2010 un algorithme pour cibler en priorité certains contrôles d'allocataires. Mais une vidéo largement partagée virale sur TikTok affirme qu’à partir du 15 décembre 2025 une intelligence artificielle pourra lire les messages privés sur WhatsApp, Facebook Messenger et Télégram pour repérer des "risques sociaux" et alerter les services publics. Une rumeur infondée : aucun texte ne prévoit un tel dispositif, et la législation française en matière de protection des données personnelles est très stricte, rappellent à l’AFP les instances compétentes.

Une vidéo sur TikTok avec plus de 9.000 partages affirme qu'une IA "certifiée" par l’Agence nationale de la sécurité des systèmes d’information (ANSSI) "scannera automatiquement les contenus de tes sms, emails et messages sur WhatsApp, Messenger, Télégram, dès lors que ton smartphone est lié au dossier assurance maladie ou à la CAF".

Image

“L’algorithme détectera des mots-clés liés à la dépression, à la violence domestique, à la consommation problématique, au non-paiement ou à la précarité, puis réalisera un signalement anonymisé aux services sociaux”, ajoute la voix off de la vidéo virale commentée plus de 1.000 fois.

Des vidéos et publications similaires, avec d'autres images d'illustration, circulent aussi ailleurs sur TikTok, Facebook et X. En réaction, de nombreux internautes dénoncent une atteinte à leurs informations personnelles : "C’est une violation de la vie privée”, écrit l'un. "Il faut que nous jetions tous nos téléphones, revenons au fixe, combattons la dictature", commente une autre.

Mais l'affirmation selon laquelle une intelligence artificielle va lire les messages privés pour transmettre des informations aux services sociaux est infondée.

Ce que dit la loi

La CAF a démenti l'information dans un courrier électronique adressé à l'AFP le 20 août.

"Aucune intelligence artificielle n’a été mise en place pour espionner les SMS et messages privés des allocataires", dit l'organisme qui compte 13,5 millions d'allocataires.

"Les équipes des Caf proposent des rendez-vous aux familles uniquement à partir des éléments du dossier. Aucun rendez-vous n’est imposé", poursuit-il.

Interrogée par l'AFP le 19 août, la Commission Nationale de l'Informatique et des Libertés (CNIL) a confirmé qu'un organisme comme la CAF ne peut pas accéder aux conversations privées. Les données personnelles sont protégées par un Règlement européen (le RGPD) et par la loi Informatique et Libertés du 6 janvier 1978 (lien archivé ici).

Pour les réseaux sociaux, les administrations fiscale et douanière peuvent sous certaines conditions collecter et exploiter les données publiques des utilisateurs de réseaux sociaux. Mais cet usage est strictement encadré et ne s'applique que dans le cadre d'infractions de fraude fiscale.

L'ANSSI – l’autorité nationale référente en matière de cybersécurité et de cyberdéfense – a de son côté réfuté avoir validé une intelligence artificielle chargée d’accéder au contenu des SMS, emails et messages sur WhatsApp, Messenger et Télégram, comme l'affirmait la vidéo virale. "Un quelconque projet comme celui décrit dans les vidéos mentionnées ne semble pas réalisable techniquement parlant. A ce jour, il n’existe pas encore de schémas de certification dédiés aux solutions d’IA, l’ANSSI n’a donc jamais certifié d’intelligence artificielle", explique-t-elle.

Une adoption de loi décontextualisée

En effectuant des recherches d'images inversées et par mots-clés, l'AFP a pu identifier l'origine réelle de la première séquence de la vidéo virale qui montre Yaël Braun-Pivet, présidente de l'Assemblée nationale, sous les applaudissements nourris de l'hémicycle (lien archivé ici).

Les images ont en réalité été tournées par La Chaîne Parlementaire (LCP) le 27 mai 2025 au Palais Bourbon, lors du vote solennel sur les propositions de loi relatives aux soins d'accompagnement et soins palliatifs (lien archivé ici).

Capturées il y a 3 mois, ces images ne font à aucun moment référence à un prétendu décret  adopté le 20 avril 2025 par le ministère du Travail, de la Santé, des Solidarités et des Familles pour prévenir les situations de détresse, d’isolement ou de violence. Un recours au journal officiel à cette même date (qui publie les textes législatifs et réglementaires de l'État) permet d’ailleurs de corroborer le démenti (lien archivé ici). 

La mention à l’article de Franceinfo.fr est également mensongère. Aucun article daté à ce jour ne fait état d’une quelconque décision de l’Assemblée nationale concernant l’accès d’une IA aux données personnelles des bénéficiaires de l’assurance-maladie (lien archivé ici). La "Une" du site, le 20 avril 2025, est consultable ici. La mention faite à l’article du Parisien, début 2025, concernant des “phases pilotes dans la région PACA début 2025 concernant 5 000 bénéficiaires à profil fragile” est elle aussi une affabulation. 

De nombreuses fausses affirmations sensationnalistes sont postées sur ces comptes dans l'objectif de générer de l'audience, et donc des revenus. L'AFP s'est déjà penchée sur des comptes TikTok qui se présentent comme des médias d'actualité, mais qui véhiculent de la désinformation. Actu.France25, le compte à l’origine de la vidéo, avait été identifié par nos équipes comme non-fiable.

L’affirmation s’inspire d’un recours, déposé mercredi 16 octobre 2024 auprès du Conseil d’Etat, pour demander l’abandon de l’algorithme de ciblage contre la fraude de la Caisse nationale des allocations familiales (lien archivé ici) – un système révélé en 2023 par La Quadrature du Net, Le Monde et Lighthouse Reports. Quinze associations dont Amnesty International ont porté l’affaire en justice, au nom du droit de la protection des données personnelles et du principe de non-discrimination (lien archivé ici). Cela n’avait donc aucun lien avec un accès direct aux messages personnels des bénéficiaires des services sociaux.

Intéressé par cette thématique ? L'AFP a enquêté sur d'autres allégations concernant les services sociaux.