OpenAI a révélé mercredi avoir démantelé deux campagnes de désinformation pilotées depuis la Chine, qui utilisaient son modèle de langage ChatGPT pour générer des publications, des commentaires et des caricatures politiques sur la toile américaine. Les opérations, baptisées « Data Center Bandwagon » (le wagon des centres de données) et « Tech and Tariffs » (technologies et droits de douane), visaient à exacerber les tensions existantes sur deux sujets brûlants de la vie politique américaine, selon l'entreprise.
Une première cible : la contestation des centres de données d'IA
La première opération, « Data Center Bandwagon », a produit des commentaires et des bandes dessinées affirmant que les centres de données destinés à l'intelligence artificielle feraient grimper le prix de l'électricité pour les familles américaines. OpenAI indique que des comptes, probablement liés à un sous-traitant du gouvernement chinois, ont sollicité ChatGPT pour créer des strips comiques évoquant la capacité du réseau électrique et le coût de l'énergie. Ces images ont ensuite été diffusées sur le réseau social X, via des profils vraisemblablement inauthentiques, accompagnées de liens vers des articles de presse légitimes traitant de la demande énergétique des centres de données.
« Tech and Tariffs » : une campagne contre la politique de Trump
Une seconde cellule, dont OpenAI n'a pu établir l'attribution directe avec certitude, a utilisé ChatGPT pour façonner des caricatures politiques du président Donald Trump, critiquant sa politique technologique et ses droits de douane. Dans l'un de ces dessins, Trump apparaît vêtu d'un pantalon aux couleurs du drapeau américain marqué « America First », brandissant un maillet sur lequel figure l'inscription « Tech Dominance » (domination technologique) et s'apprêtant à frapper un mur où se lit « Global Future » (avenir mondial). Cette campagne, « Tech and Tariffs », dénonçait les taxes douanières imposées par l'administration Trump et la quête de suprématie technologique des États-Unis.
Des débats préexistants, non créés par l'opération
Selon Ben Nimmo, enquêteur principal au sein de l'équipe de renseignement et d'investigation d'OpenAI, ces campagnes n'ont pas inventé la polémique. « Ce n'était pas un cas où une opération d'influence crée un débat. Le débat existait déjà », a-t-il expliqué à des journalistes. « C'était une opération d'influence de la Chine qui tentait de s'en mêler. »
L'entreprise souligne que les efforts de manipulation ont échoué à susciter un véritable engouement en ligne. Un responsable d'OpenAI a toutefois précisé qu'il s'agit de la première fois que l'entreprise détecte une opération chinoise employant ses modèles pour interférer dans le débat sur les centres de données d'IA.
Des thématiques sensibles dans l'opinion américaine
Ces manœuvres se sont appuyées sur des clivages bien réels. Un sondage réalisé par Harvard et le MIT a récemment montré que 32 % des Américains s'opposent à l'implantation de centres de données dans leur région, tandis que 40 % y sont favorables. Par ailleurs, une enquête Harris publiée en mars indique que sept Américains sur dix estiment que les droits de douane de Trump ont entraîné une hausse des prix à la consommation.
L'IA comme outil d'amplification de la désinformation
Pour OpenAI, ces opérations sont un signe précoce de la façon dont les acteurs étrangers peuvent recourir aux outils d'intelligence artificielle pour intensifier et diffuser du contenu autour de points de friction politiques américains. L'entreprise a banni les comptes concernés, mais n'a pas précisé le nombre exact de profils supprimés. Elle souligne que ces campagnes, bien que peu efficaces, illustrent une nouvelle méthode de guerre informationnelle où l'IA générative est utilisée pour produire en masse des contenus polémiques.
