La sortie du livre « The Future of Truth », de Steve Rosenbaum, a pris un tournant inattendu. Alors que l'ouvrage prétendait décortiquer la manière dont l'intelligence artificielle (IA) façonne notre rapport à la vérité, il s'est avéré que son auteur avait lui-même eu recours à des IA pour en rédiger des passages, aboutissant à l'inclusion de citations soit totalement fabriquées, soit incorrectement attribuées.

Plusieurs cas précis ont été mis en lumière. Une citation attribuée à la journaliste technologique Kara Swisher a été démentie par cette dernière, qui assure ne l'avoir jamais prononcée. De même, des propos liés à la neuroscientifique Lisa Feldman Barrett, prétendument extraits de son ouvrage « How Emotions Are Made », se sont révélés absents de ce dernier et, de surcroît, inexacts sur le fond. Enfin, une phrase de l'auteure Meredith Broussard, tirée de son livre « Artificial Unintelligence », a en réalité été reprise d'un entretien radiophonique de 2023, sans que la source d'origine soit correctement indiquée.

Face à ces révélations, Steve Rosenbaum a reconnu avoir utilisé les modèles de langage ChatGPT et Claude durant ses phases de recherche, d'écriture et de révision. Il a évoqué une « poignée » de citations « improprement attribuées ou synthétiques » et assuré que les éditions futures seraient corrigées. Il a également précisé que l'IA lui avait servi d'outil de recherche et d'aide à la formulation, mais a refusé de quantifier précisément son usage.

Interrogé plus avant sur sa méthode de travail, Rosenbaum a adopté une position ambivalente. Il a estimé que les détecteurs d'IA sont peu fiables et a comparé les questions sur son processus à une accusation infondée. Il a affirmé que si la condition pour éviter toute nouvelle erreur était de cesser d'utiliser l'IA, cela lui paraîtrait irréaliste, allant même jusqu'à déclarer qu'il préférerait cesser d'écrire plutôt que de renoncer à ces outils. Il a souligné que l'adoption de l'IA est massive chez les journalistes, citant un taux de 82 %, et a suggéré que les rédactions aux politiques restrictives emploient probablement ces technologies en secret.

L'analyse du texte complet de l'ouvrage à l'aide d'un outil de détection d'IA a conclu que plus de la moitié du contenu — environ 53 % — présentait des caractéristiques propres à une génération automatique, avec 9 % supplémentaire classé comme très probablement assisté par IA. Rosenbaum a refusé de commenter ces résultats.

Cette affaire met en lumière un problème récurrent dans l'édition : la tentation de se fier à l'apparence de plausibilité des productions d'IA sans vérifier les sources primaires. Les systèmes d'IA excellent à générer un texte qui a la forme d'une citation savante, mais qui peut être dénué de fondement. L'absence de vérification rigoureuse en amont de la publication a permis à ces erreurs de se glisser dans un ouvrage dont le propos même porte sur les dangers de la désinformation.

Les implications sont multiples. D'une part, la crédibilité de l'auteur et la thèse centrale de son livre se trouvent affaiblies. D'autre part, cet incident illustre comment les processus éditoriaux traditionnels doivent évoluer face à l'usage croissant de l'IA par les auteurs. Plusieurs maisons d'édition, dont BenBella Books qui a publié « The Future of Truth », n'ont pas souhaité s'exprimer. L'éditeur Simon & Schuster, distributeur aux États-Unis, a également décliné tout commentaire.

Le débat dépasse le simple cas de ce livre. Il interroge la frontière entre assistance légitime et substitution déléguée à l'IA dans le travail intellectuel. Pour les auteurs, le risque est double : celui de voir leur texte contaminé par des informations non vérifiées, et celui de perdre la confiance du public si les méthodes employées ne sont pas transparentes. Dans le cas présent, l'ironie est cruelle : un livre dénonçant la fabrication de la réalité par l'IA en est devenu un exemple concret.