Des contenus explicites toujours en ligne
L'assistant conversationnel Grok, conçu par la société xAI dirigée par Elon Musk, continue d'héberger des dizaines de deepfakes sexuels non consentis mettant en scène des personnalités publiques, dont la représentante américaine Alexandria Ocasio-Cortez. Selon une enquête publiée cette semaine, ces images et vidéos explicites, où des femmes apparaissent dans des situations de contrainte simulée ou dénudées, demeurent accessibles sur la plateforme Grok.com.
En janvier dernier, xAI avait promis de renforcer ses restrictions techniques après un tollé mondial. Le Centre pour la lutte contre la haine numérique (CCDH) avait alors recensé environ 3 millions d'images sexualisées générées en onze jours, soit près de 190 par minute. Une lettre cosignée par 35 procureurs généraux américains faisait état de plus de 23 000 images impliquant des mineurs. L'entreprise avait alors annoncé des mesures pour limiter ces abus.
Des garde-fous inefficaces
Face à la persistance de ces contenus, des experts pointent l'insuffisance des dispositifs mis en place. Henry Ajder, spécialiste des deepfakes qui étudie ces phénomènes depuis près de dix ans, estime que xAI et le réseau social X accusent un retard significatif par rapport aux autres outils grand public en matière de protection.
Sur Grok Imagine, l'outil de génération d'images et de vidéos, les restrictions annoncées en janvier – notamment la limitation de la modification d'images de personnes réelles en tenues révélatrices aux seuls abonnés payants sur X – semblent contournables. Des forums spécialisés proposent en effet des guides mis à jour pour adapter les requêtes sur un mode artistique ou générer des images neutres au préalable afin d'assouplir les filtres.
Pour vérifier ces failles, des requêtes extraites de Grok ont été soumises à d'autres plateformes d'IA. ChatGPT, Meta AI et Claude les ont refusées comme inappropriées. Google Gemini en a validé une sur deux.
Un risque juridique évalué à 530 millions de dollars
Dans un document déposé auprès de la Securities and Exchange Commission (SEC) des États-Unis en vue de son introduction en bourse, SpaceX – la société spatiale également dirigée par Elon Musk – a chiffré à plus de 530 millions de dollars les risques juridiques liés à Grok. Cette provision vise à couvrir d'éventuelles poursuites judiciaires.
Par ailleurs, le commissariat à la protection de la vie privée du Canada a publié cette semaine des conclusions préliminaires estimant que les mesures adoptées par xAI manquent de preuves d'efficacité. L'autorité canadienne suggère que les garde-fous techniques déployés ne démontrent pas leur capacité à empêcher durablement la génération de contenus illicites.
Un problème structurel
La persistance de ces deepfeeks interroge sur la capacité de xAI à contrôler son outil. Des célébrités et des figures politiques comme Alexandria Ocasio-Cortez sont régulièrement ciblées par ces représentations non consenties. Malgré les annonces de restrictions en janvier, les contenus litigieux restent accessibles, et les mécanismes de contournement continuent de circuler publiquement.
Cette situation relance le débat sur la responsabilité des entreprises d'intelligence artificielle dans la modération des contenus générés par leurs modèles. Alors que Grok est présenté comme un assistant conversationnel innovant, son utilisation détournée à des fins de harcèlement sexuel numérique soulève des questions éthiques et juridiques majeures.
