Chat Control : la lutte de l'Union Européenne contre [les images représentant] les abus sexuels d'enfants

Face au fléau qu'est la pédocriminalité, les États européens ne prévoient pas de hausses des moyens pour protéger les enfants, pas de meilleures rémunérations pour encourager les vocations dans les services sociaux, ni plus d'enquêteurs spécialisés dans la cybercriminalité. En revanche, d'importants moyens seront mis à disposition des géants du numérique.

Dans quel but ? Afin de surveiller toutes nos communications (personnelles et professionnelles) dans l'espoir d'intercepter l'image ou la représentation à caractère pédopornographique d'un mineur. Cela s'appelle "Chat Control" et une nouvelle proposition de règlement européen risque d'être adoptée avant la fin de l'année.

La situation alarmante de la protection de l'enfance

En janvier 2025, la Défenseure des droits alertait sur une dégradation alarmante en France de la protection de l'enfance. Près de 400 000 enfants bénéficiant d'une mesure d'aide sociale connaissent de graves dysfonctionnements qui mettent en péril leur sécurité et leurs droits fondamentaux. Des décisions de justice non exécutées, des maltraitances ignorées et des refus de prise en charge de mineurs non accompagnés sont parmi les problèmes dénoncés. L'État et les départements sont appelés à renforcer leur implication et à coordonner leurs efforts pour protéger les enfants. De ce constat, quarante-six recommandations urgentes¹ ont été adressées aux autorités concernées, mais la France - comme de nombreux pays européens - s'apprête à investir ailleurs des sommes considérables en prétendant répondre à cette question cruciale.

En effet, malgré l'affichage, la priorité n'est pas tant à la lutte contre les abus commis sur des enfants (un enfant est victime de viol en France toutes les trois minutes et principalement par ses proches), qu'à la surveillance généralisée de toutes les communications électroniques des personnes en Europe de manière à repérer, peut-être, une image à caractère pédopornographique (de plus en plus souvent générées par l'IA).

Chat Control, vos messages dans les radars depuis 2020

Dès 2020, a été introduite en Europe une législation « temporaire » permettant la surveillance des conversations privées, des messages et des courriels dans le but de détecter des représentations illégales de mineurs via le Règlement (UE) 2021/1232² du Parlement européen et du Conseil du 14 juillet 2021 […] qui concerne l’utilisation de technologies par les fournisseurs de services de communications interpersonnelles non fondés sur la numérotation pour le traitement de données à caractère personnel et d’autres données aux fins de la lutte contre les abus sexuels commis contre des enfants en ligne.

Cette législation autorise par exemple Meta et Google à analyser chaque message à la recherche de contenus suspects. Ce processus est entièrement automatisé et repose en partie sur des algorithmes d'intelligence artificielle qui peuvent être sujets à des erreurs. Lorsqu'un algorithme identifie un message comme suspect, son contenu et ses métadonnées sont transmis de manière automatique, sans vérification humaine préalable, à une organisation privée basée aux États-Unis.

Dans un État de droit, les enquêtes sur les infractions pénales (telles que celles sanctionnées par l'article 227-23 du Code pénal relatif à la diffusion, la fixation, l'enregistrement ou la transmission d'image ou de représentation d'un mineur à caractère pornographique) relèvent de la compétence de juges indépendants… mais cette privatisation de la Justice ne semble malheureusement plus être un sujet !

Par le biais d'un deuxième texte législatif, la Commission européenne entend cette fois obliger et non plus simplement autoriser tous les fournisseurs de services de messageries et de courriers électroniques à déployer cette technologie de surveillance de masse.

Dans cette optique, la Commission a publié sa proposition le 11 mai 2022. L'objectif affiché est d'améliorer le fonctionnement du marché intérieur (il s'agit de sa base juridique) en introduisant des règles obligatoires cohérentes au niveau de l'UE pour prévenir et combattre les abus sexuels commis sur des enfants en ligne, couvrant à la fois les anciens et les nouveaux contenus, ainsi que le grooming. Également appelé "pédopiégeage", il s'agit d'un processus par lequel un adulte aborde intentionnellement des mineurs et les manipule à des fins sexuelles.

Pour parvenir à lutter contre les abus sexuels commis sur des enfants, la proposition de règlement prévoit des obligations de détection, de signalement et de suppression de contenu aux fournisseurs de services en ligne offrant des services dans l'UE, tels que les hébergeurs, les réseaux sociaux, les messageries (dont WhatsApp, Messenger, Telegram, Signal), les applications de rencontres, etc.

Afin de garantir la détection de contenus problématiques (dans les fichiers audios, vidéos ou images), tout fournisseur de service en ligne en Europe aura l'obligation de déployer des technologies automatisées de reconnaissance de contenu, mais aussi de profiler leurs utilisateurs (y compris en vérifiant leur identité) pour satisfaire à l'obligation d'évaluation des risques.

Comme l'indiquait La Quadrature du Net dès 2023³, "ces prestataires seraient alors dans une position intenable car, pour se conformer à cette nouvelle réglementation, ils devront changer de modèle et commencer à recueillir des informations qu’aujourd’hui ils ne possèdent pas".

Les risques et écueils de Chat Control

Une fois que ce nouveau Règlement "Child Sexual Abuse Regulation" (CSAR) sera voté par vos eurodéputés, chacun de vos messages sera obligatoirement analysé avant envoi par un système de détection automatique de contenu pédopornographique. Comme si quelqu'un lisait votre courrier avant de le poster pour vérifier que vous n'êtes pas un pédophile, ce que pourrait d'ailleurs laisser suggérer l'envoi d'une photo du bain de votre petit dernier ou de vos enfants en maillot de bain à la piscine. C'est ce que l'on appelle un "faux positif".

Un autre cas de faux-positif qui inondera les enquêteurs : le sexting. Que l'on approuve ou non la pratique, il n'est pas illégal d'envoyer à son partenaire des photos intimes. Cette pratique courante chez les jeunes adultes conduira indubitablement à les criminaliser à travers les fourches caudines de Chat Control.

Patrick Breyer, eurodéputé allemand du Parti Pirate Européen (groupe EFA/Greens), rappelait dans un article de référence⁴ que "selon les autorités policières fédérales suisses, 86 % de tous les signalements générés par des machines s'avèrent sans fondement". Pendant que de nombreuses procédures seront diligentées sans cause sérieuse sur la seule base d'une suspicion d'IA, des enfants continueront à être abusés dans leurs familles parce que leur Département n'aura pas les moyens de créer de nouvelles places en foyer d'accueil, ou que des réseaux de prostitution continueront de venir recruter au sein même de l'Aide Sociale à l'Enfance ! [voir le Rapport de la Commission d’enquête sur les manquements des politiques publiques de protection de l’enfance, 2025, accessible à https://www.assemblee-nationale.fr/dyn/17/organes/autres-commissions/commissions-enquete/protection-de-l-enfance].

La fascination pour des réglementations prétendument capables de juguler la pédocriminalité en ligne ne doit pas faire oublier l'essence même de la protection de l'enfance !

Les faux-positifs et le risque de dilution des moyens judiciaires sont des inconvénients majeurs, mais le risque engendré par la fin du chiffrement de nos échanges est plus pernicieux. Le chiffrement des communications électroniques (qui consiste à rendre illisible une communication par une personne essayant de l'intercepter sans y être autorisé par l'expéditeur) protège nos sociétés toutes entières. Ce procédé a été qualifié de droit fondamental par la Cour Européenne des Droits de l'Homme dans un arrêt récent opposant la Russie à un de ses ressortissants qui utilisaient Telegram pour chiffrer ses conversations auxquelles voulait avoir accès le Kremlin [voir C. ZORN, "Le chiffrement des communications protège les droits de l’homme, en Russie et ailleurs", commentaire de l'arrêt CEDH 13 févr. 2024, Podchasov c/ Russie, n° 33696/19 accessible à https://www.dalloz-actualite.fr/flash/chiffrement-des-communications-protege-droits-de-l-homme-en-russie-et-ailleurs].

Au-delà des dangers du texte, son inefficacité est flagrante pour qui connaît les réseaux. Le contrôle obligatoire des chats ne permettra pas de détecter les criminels qui enregistrent et partagent du matériel pédopornographique. Ces personnes partagent rarement leurs abjects contenus via des services de messagerie instantanée ou de chats commerciaux, mais s'organisent via des forums secrets qu'ils gèrent eux-mêmes et qui ne sont soumis à aucun algorithme de contrôle. De plus, les criminels "en herbe" qui utilisaient jusqu'alors des messageries grand public comme Telegram migreront vers des réseaux encore moins accessibles aux enquêteurs… ce qui compliquera encore les enquêtes, si ce n'est les rendra impossibles.

Conclusion

À ce jour, les États membres de l'UE ne sont pas encore parvenus à s'entendre sur une position commune. Une majorité d'États soutient le projet de la Commission européenne, tandis qu'une minorité de blocage appuie les critiques du Parlement. Jusqu'à présent, toutes les présidences du Conseil de l'Union Européenne ont échoué à trouver un accord. La dernière en date est celle de la Pologne qui avait mis en évidence le risque d'accroissement des cyberattaques de "l'étranger" (pour ne pas dire "russe") si le chiffrement devait être affaibli, mais il semble que l'actuelle présidence danoise (1er juillet-31 décembre 2025) pousse fortement à l'adoption rapide du texte, avec le soutien de l'Italie, de l'Espagne et de la Hongrie.

La France, elle, est indécise, malgré les demandes de l'Allemagne et de l'Autriche qui souhaitent constituer une minorité de blocage pour stopper ce texte dangereux en l'état.

Nos gouvernements devraient promouvoir des solutions capables de lutter contre la criminalité en ligne sans porter atteinte à la vie privée et à la sécurité des utilisateurs. Le risque d'atteinte à notre intégrité numérique en raison de la fin du chiffrement de nos conversations, la forte possibilité de faux positifs, le coût des solutions déployées par des acteurs privés au détriment de l'investissement au bénéfice direct des enfants victimes d'abus, voilà autant de raisons de se lever contre ce texte.

Alors que les États membres de l'UE hésitent et que des pressions politiques s'intensifient pour une adoption hâtive, il est essentiel de faire entendre la voix de la raison. Signons la pétition pour demander à nos gouvernements de rejeter Chat Control : https://stopchatcontrol.fr

• 1 : Protection de l’enfance : face à une situation extrêmement dégradée, la Défenseure des droits dénonce de graves atteintes à l’intérêt supérieur et aux droits des enfants Retour au texte
• 2 : Règlement (UE) 2021/1232 du Parlement européen et du Conseil du 14 juillet 2021 relatif à une dérogation temporaire à certaines dispositions de la directive 2002/58/CE en ce qui concerne l’utilisation de technologies par les fournisseurs de services de communications interpersonnelles non fondés sur la numérotation pour le traitement de données à caractère personnel et d’autres données aux fins de la lutte contre les abus sexuels commis contre des enfants en ligne Retour au texte
• 3 : Règlement CSAR : la surveillance de nos communications se joue maintenant à Bruxelles Retour au texte
• 4 : Chat Control - The End of the Privacy of Digital Correspondence Retour au texte