Le groupe Meta a annoncé la suspension de la fonctionnalité « Muse Image » sur Instagram, trois jours seulement après son lancement. Celle-ci autorisait tout utilisateur à mentionner un compte public dans une requête afin que l'intelligence artificielle produise une nouvelle image à partir des photos et vidéos de ce compte, sans notification à l'auteur original.

Une fonction activée par défaut

Développé par Meta Superintelligence Labs, l'équipe dirigée par Alexandr Wang, le modèle Muse Image avait été intégré à Meta AI, à WhatsApp et à Instagram. Sur ce dernier réseau, la possibilité de réutiliser les contenus des comptes publics était activée par défaut pour tous les adultes. Seuls les comptes privés et ceux des utilisateurs de moins de 18 ans étaient exclus automatiquement. La plateforme n'envoyait aucune alerte lorsque les images d'un internaute servaient de matière première à une création tierce.

Une levée de boucliers des utilisateurs

Cette décision a provoqué un vif mécontentement parmi les personnes disposant d'un compte public. De nombreux utilisateurs ont jugé problématique que leurs publications puissent être détournées sans leur consentement explicite. Pour se prémunir de cette fonction, il était nécessaire de se rendre dans les paramètres d'Instagram et de décocher manuellement l'option autorisant la réutilisation de ses contenus. Toutefois, cette désactivation n'avait d'effet que pour l'avenir : les images déjà générées à partir des contenus concernés n'étaient pas supprimées.

Un retrait rapide

Confronté à la controverse, Meta a donc retiré la fonctionnalité le 10 juillet, soit trois jours après son lancement initial. La suspension concerne l'ensemble de la possibilité de générer des images à partir des publications Instagram publiques via Muse Image. Il n'est plus nécessaire pour les utilisateurs d'effectuer une quelconque manipulation dans les paramètres pour protéger leurs contenus.

Un contexte réglementaire européen

Cette controverse survient alors que l'Union européenne s'apprête à renforcer le marquage des contenus générés par intelligence artificielle. Le règlement européen sur l'IA impose, via son article 50, que les créations artificielles soient signalées et identifiables. Meta avait parallèlement présenté un outil de détection, « Content Seal », destiné à repérer les images produites par ses propres modèles, mais des tests ont montré qu'il ne détectait qu'environ 45 % des visuels après recadrage, soulevant des doutes sur son efficacité face aux futures obligations légales.

Quelles leçons ?

Ce revirement illustre la difficulté pour les grandes plateformes d'introduire des fonctionnalités exploitant les données des utilisateurs sans leur consentement explicite. Le principe d'« opt-out » (désactivation volontaire) est de plus en plus contesté, en particulier lorsqu'il touche à la création de contenus via l'IA. Meta n'a pas précisé si la fonctionnalité sera revue et proposée ultérieurement sous une forme différente.