Reddit intensifie sa lutte contre les bots et le spam en déployant des outils d'intelligence artificielle. La plateforme, qui héberge des forums très fréquentés, affirme traiter quotidiennement environ 25 000 messages indésirables et bloquer près de 2 millions de votes frauduleux. Ces chiffres, communiqués par la direction de l'entreprise, illustrent l'ampleur de la menace que représentent les comptes automatisés et les tentatives de manipulation.
La plateforme occupe une place particulière dans l'écosystème de l'intelligence artificielle générative. Des accords de licence de contenu ont été conclus avec OpenAI et Google, permettant aux chatbots comme ChatGPT et Gemini d'utiliser les discussions de Reddit pour enrichir leurs réponses. Cette reconnaissance de la qualité et de la sincérité perçue des échanges a attiré l'attention des annonceurs et des spécialistes du marketing.
Une nouvelle forme d'optimisation
Une pratique émergente, appelée « generative engine optimization » (GEO), vise à placer stratégiquement du contenu sur Reddit dans l'espoir qu'il soit repris par les IA génératives comme un avis authentique. Des entreprises spécialisées, comme Profound, dont la valorisation a dépassé le milliard de dollars, se sont positionnées sur ce créneau. Cette stratégie soulève des inquiétudes quant à la manipulation des réponses des chatbots et à la crédibilité des informations diffusées.
Pour contrer ces risques, Reddit a choisi de combattre le mal par le mal : ses propres systèmes d'IA sont désormais chargés de traquer les contenus suspects, les faux comptes et les votes artificiels. Les algorithmes analysent en continu les publications, les interactions et les profils pour identifier les comportements anormaux. Selon les données fournies par la plateforme, cette approche permet de supprimer chaque jour des milliers de messages indésirables et d'invalider des millions de votes avant qu'ils n'affectent la visibilité des contenus.
Un pari sur l'efficacité de l'IA
La direction de Reddit juge ces résultats probants et estime que le recours à l'IA est indispensable pour maintenir la qualité des échanges. Toutefois, cette stratégie n'est pas sans poser de questions. L'utilisation de l'IA pour lutter contre l'IA crée une course à l'armement technologique, où les méthodes de contournement évoluent constamment. De plus, la détection automatique peut parfois générer des faux positifs, affectant des utilisateurs légitimes.
Malgré ces défis, Reddit semble déterminé à poursuivre dans cette voie. La plateforme mise sur l'amélioration continue de ses modèles de détection et sur la transparence vis-à-vis de sa communauté. L'objectif est de préserver la réputation de fiabilité qui fait la valeur de ses forums, tant pour les utilisateurs que pour les partenaires commerciaux. L'avenir dira si cette approche, qui consiste à utiliser l'IA pour policer l'IA, parviendra à endiguer efficacement les tentatives de manipulation.
