Un bilan alarmant pour la protection de la jeunesse en ligne

L’Allemagne peine à protéger ses enfants et adolescents face aux dangers du numérique. Selon le rapport annuel de Jugendschutz.net, organisme cofinancé par l’État fédéral et les Länder, plus de 15 000 cas de sexualisation, de haine et de violence en ligne ont été recensés en 2025. « Ce n’est que la partie émergée de l’iceberg », a déclaré Stefan Glaser, directeur de l’organisation, qui enquête sur les violations des règles de protection de la jeunesse et reçoit des signalements du public.

93 % des cas liés à des violences sexuelles

La très grande majorité des infractions – 93 % – concerne des violences sexuelles contre des enfants. Le rapport cite l’exemple frappant de photos d’un bébé endormi, postées par des influenceurs sur Instagram. Ces images, pourtant anodines, ont été copiées, modifiées, placées dans des contextes dégradants et accompagnées de commentaires sexualisés. Quatre pour cent des cas relevés relèvent de l’extrémisme politique, tandis que d’autres concernent des discours de haine et des fantasmes violents visant les femmes et les filles.

Les plateformes pointées du doigt

Jugendschutz.net confronte régulièrement les fournisseurs de plateformes – TikTok, YouTube, Instagram, Snapchat, Discord, WhatsApp – aux résultats de ses investigations. Mais les actions correctives ne sont engagées que sous la pression. Le rapport souligne que les restrictions d’âge sont aisément contournées, ce qui accroît les risques pour les mineurs. Sur Snapchat, par exemple, des vidéos de très jeunes enfants continuent d’être diffusées malgré l’âge minimum officiel de 16 ans pour publier et commenter.

Spotify, un vecteur sous-estimé

Une nouvelle préoccupation émerge autour du service de streaming musical Spotify. Selon Glaser, la plateforme est de plus en plus utilisée pour diffuser de la musique d’extrême droite, des contenus de violence sexuelle contre des mineurs, ainsi que des playlists incitant à l’automutilation ou au suicide. Jusqu’ici, ce risque était sous-estimé par les autorités.

L’intelligence artificielle aggrave les menaces

L’essor de l’intelligence artificielle (IA) amplifie les dangers. « Les images manipulées servent à répandre des récits extrémistes ou des propos dégradants. L’artificiel se mêle au réel et fausse notre perception », avertit Stefan Glaser. Les robots conversationnels (chatbots) personnalisables, capables d’adopter des personnalités fictives – parfois inspirées de personnes réelles – sont particulièrement problématiques. Les recherches de Jugendschutz.net montrent que « les chatbots prennent une vie propre, décrivent des actes sexuels avec des mineurs et sont paramétrés comme des personnages mineurs qui se comportent de manière sexualisée ».

Des filtres et paramètres de sécurité défaillants

Le rapport impute en partie ces dérives à des filtres inefficaces et à des configurations de sécurité inadéquates. Les mesures d’âge, trop faciles à tromper, ne protègent pas les jeunes. Jugendschutz.net appelle à des régulations plus strictes et à une meilleure application des règles existantes, notamment en matière de vérification de l’âge et de modération des contenus générés par l’IA.

Un appel à une action renforcée

Stefan Glaser insiste sur l’urgence d’agir. « Nous sommes encore très loin de permettre aux enfants de participer en toute sécurité au monde numérique », résume-t-il. L’organisme continuera de surveiller les plateformes et de transmettre les infractions aux autorités judiciaires, mais estime que des mesures législatives et techniques plus ambitieuses sont nécessaires pour endiguer ce phénomène.