Sommaire
L’intelligence artificielle transforme radicalement les méthodes de lutte contre la pédocriminalité en ligne. Des associations et des créateurs de contenu français s’emparent désormais de cette technologie pour créer des avatars de mineurs plus vrais que nature, destinés à confondre les prédateurs sexuels sur les réseaux sociaux.
Une technologie au service des « chasseurs » numériques
L’exemple récent de Dominique B., un homme de 66 ans piégé par le streamer Finnyzzy, illustre cette tendance. Persuadé d’échanger avec une adolescente de 14 ans, le suspect a tenu des propos à caractère sexuel devant des milliers de spectateurs sur Twitch. En réalité, son interlocuteur utilisait l’IA pour modifier son apparence et sa voix en temps réel. Cette mise en scène a conduit à la mise en examen du sexagénaire, ancien cadre du sport scolaire en Haute-Saône.
Pour des structures comme l’association 211, l’IA permet de franchir un palier technique. Les bénévoles génèrent des visages, des décors quotidiens et des messages vocaux crédibles sans jamais utiliser l’identité d’un véritable enfant. Ces outils permettent de rassurer les prédateurs les plus méfiants en fournissant des preuves de vie instantanées, comme des photos spécifiques demandées lors des échanges, afin de valider l’authenticité du profil.
De l’artisanat à l’industrialisation du signalement
Les acteurs de cette « police officieuse » constatent un changement d’échelle majeur. Mister Fox, un intervenant indépendant sur Twitch et TikTok, explique que l’IA lui permet désormais de gérer seul des profils qui nécessitaient auparavant toute une équipe, notamment pour simuler des voix féminines lors des appels. Selon les responsables de l’association 211, leurs méthodes auraient permis l’arrestation de 36 individus et l’émission de 174 signalements aux autorités en l’espace d’une année.
Le protocole est rigoureux pour tenter de rester dans un cadre légal. Les profils créés simulent généralement des enfants de 11 à 14 ans, soit en dessous de la majorité sexuelle fixée à 15 ans en France. Les militants affirment ne jamais engager la conversation en premier et se contenter de répondre aux sollicitations pour éviter toute accusation d’incitation, tout en constituant des dossiers de preuves pour les forces de l’ordre.
Les mises en garde de la Police nationale
Si ces initiatives citoyennes sont populaires sur les réseaux sociaux, elles suscitent des réserves au sein des forces de l’ordre. Agathe Foucault, porte-parole de la police nationale, souligne que ces interventions peuvent parfois compromettre des enquêtes officielles en alertant les suspects, qui s’empressent alors de détruire les preuves numériques avant l’intervention des enquêteurs.
Contrairement aux associations, les policiers ne peuvent pas utiliser d’avatars générés par IA pour leurs infiltrations sous pseudonyme. Le cadre juridique actuel impose le respect du principe de loyauté de la preuve et de non-provocation à l’infraction. Pour les autorités, la véritable révolution de l’IA se situera plutôt dans le traitement de la masse de données. Avec plus de 55 000 signalements reçus par an sur la plateforme Pharos, l’IA pourrait aider à analyser plus rapidement les fichiers et soulager la charge mentale des policiers confrontés à des contenus abominables.
Toutefois, la menace est à double tranchant. Les spécialistes alertent sur le fait que les prédateurs peuvent également utiliser ces outils pour générer des avatars d’adolescents et approcher plus facilement de véritables victimes. L’intelligence artificielle, si elle aide les traqueurs, devient aussi un nouvel outil de camouflage pour les criminels du web.