Discord a reconnu lundi qu’un dysfonctionnement de son système de modération par intelligence artificielle avait entraîné le bannissement erroné de nombreux utilisateurs. L’entreprise affirme avoir déjà rétabli la plupart des comptes concernés, mais des divergences persistent sur l’ampleur des suspensions.
Selon les informations fournies par le service d’assistance de la plateforme, un incident survenu le week-end des 4 et 5 juillet aurait touché environ 200 comptes. « Notre système de sécurité a déclenché des bannissements par erreur », a expliqué le compte officiel Discord Support. « Tous les comptes affectés ont été réactivés. »
Cependant, plusieurs utilisateurs et observateurs contestent ce chiffre. D’après de nombreux témoignages, le bug serait bien plus vaste et durerait depuis plusieurs mois. Des rapports font état de plus de 8 000 suspensions injustifiées depuis mai, liées à la diffusion d’images inoffensives. La plateforme reconnaît elle-même que certains comptes ont été bannis dès le mois de mai.
Des images de grilles et de fonds transparents ciblées par erreur
Le défaut proviendrait d’un algorithme de détection conçu pour repérer les contenus pédopornographiques (CSAM). D’après les explications d’un internaute, le système assimilait par erreur toute image composée de carrés ou de grilles à ce type de contenu interdit. Les fichiers concernés incluent des feuilles de calcul, des plateaux d’échecs, des inventaires du jeu Minecraft, ainsi que des fonds transparents blancs ou gris – des éléments couramment utilisés dans les discussions.
« Il existe actuellement une vulnérabilité dans la modération IA de Discord qui détecte toute image en grille carrée, comme les tableurs, les échiquiers, les inventaires Minecraft, les fonds transparents blancs et gris, comme étant du CSAM, et bannit définitivement votre compte », a détaillé un utilisateur sur les réseaux sociaux. La plateforme n’a pas confirmé cette description technique précise, mais elle a admis que le système avait mal interprété des images « sans danger ».
Des dizaines de milliers d’utilisateurs potentiellement exposés
Le nombre exact de personnes touchées reste incertain. Discord a d’abord indiqué 200 bannissements pour le seul week-end, mais les chiffres avancés par des médias et des témoignages d’internautes suggèrent un bilan bien plus lourd. Certains utilisateurs affirment que leur compte n’a toujours pas été rétabli, contredisant l’affirmation de l’entreprise selon laquelle toutes les suspensions auraient été levées. Une note de contexte ajoutée à la publication officielle précise : « Plusieurs utilisateurs restent bannis. Tous les comptes affectés n’ont pas été réactivés. »
Un correctif en cours de déploiement
Discord assure avoir identifié l’origine du bug et travailler à sa correction. « Nous avons déployé un correctif pour éviter que cela ne se reproduise », a déclaré le service d’assistance. Les comptes bannis doivent être automatiquement rétablis, mais des cas isolés pourraient nécessiter une intervention manuelle. La plateforme invite les utilisateurs concernés à contacter le support si leur suspension n’est pas levée.
Cet incident relance les interrogations sur la fiabilité des systèmes de modération automatisés, de plus en plus utilisés par les grandes plateformes pour filtrer les contenus illicites. Alors que Discord affirme vouloir protéger sa communauté, la survenue de faux positifs massifs expose les limites de ces outils, qui peinent parfois à distinguer des images bénignes de contenus réellement dangereux.
