Un rapport de KPMG sur l’IA contient des affirmations erronées générées par l’intelligence artificielle

Un paradoxe embarrassant pour le conseil

Une enquête interne a révélé qu’un rapport d’envergure publié par le cabinet KPMG, destiné à promouvoir les avantages de l’intelligence artificielle (IA) pour les entreprises, contient de nombreuses affirmations inexactes — des « hallucinations » — directement produites par des modèles de langage génératifs. Cette découverte jette une lumière crue sur les risques liés à l’utilisation non contrôlée de ces outils dans la production de documents professionnels.

Le document en question, qui circulait largement dans les milieux d’affaires, présentait une série de données chiffrées, d’études de cas et de projections censées démontrer l’impact positif de l’IA sur la productivité et la croissance. Or, une vérification minutieuse a montré que plusieurs de ces éléments étaient inventés de toutes pièces par le logiciel ayant servi à les rédiger.

Des données fictives présentées comme authentiques

Parmi les exemples les plus flagrants figurent des statistiques sur le retour sur investissement de l’IA dans certains secteurs, des témoignages de dirigeants attribués à des personnes inexistantes, et des références à des études académiques qui n’ont jamais été publiées. Les auteurs humains du rapport n’auraient pas détecté ces fabrications avant la diffusion.

Ce phénomène, connu sous le nom d’« hallucination » dans le domaine de l’IA, se produit lorsque les modèles de langage génèrent des informations qui semblent plausibles mais sont en réalité fausses. Dans ce cas, le rapport de KPMG en contiendrait un nombre significatif, ce qui compromet sa crédibilité.

KPMG réagit

Confronté à ces révélations, KPMG a reconnu que le rapport avait bien été rédigé avec l’assistance de systèmes d’IA et que des erreurs s’étaient glissées dans le texte final. Le cabinet a précisé avoir renforcé ses procédures de vérification humaine pour éviter que de tels incidents ne se reproduisent. Il n’a pas précisé si des mesures disciplinaires avaient été prises à l’encontre des équipes responsables.

Implications pour le secteur du conseil

Cette affaire intervient alors que les grands cabinets de conseil, y compris les « Big Four » (Deloitte, EY, KPMG, PwC), investissent massivement dans l’IA pour automatiser la production de rapports et d’analyses. L’incident pourrait inciter l’ensemble de la profession à revoir ses processus de contrôle qualité et à établir des garde-fous plus stricts.

Certains observateurs estiment que l’épisode illustre un problème systémique : la pression pour réduire les coûts et accélérer les livrables pousse les entreprises à déléguer des tâches critiques à l’IA sans supervision adéquate. D’autres y voient un avertissement sur la nécessité d’éduquer les utilisateurs aux limites des modèles génératifs.

Un appel à la transparence

Des voix s’élèvent pour exiger que les cabinets de conseil indiquent clairement lorsqu’un rapport a été rédigé avec l’aide de l’IA, et qu’ils mettent en place des mécanismes de validation indépendants. Certains experts juridiques avancent même que l’utilisation de données fictives dans des documents destinés à des clients pourrait exposer les cabinets à des risques de responsabilité civile.

Pour l’heure, KPMG n’a pas annoncé de retrait du rapport ni de rectification publique, mais l’affaire pourrait faire jurisprudence dans le monde du conseil et au-delà, alors que l’IA générative continue de s’immiscer dans tous les secteurs de l’économie.