La question de la conscience des intelligences artificielles agite de nouveau le secteur technologique. Mustafa Suleyman, qui dirige la branche intelligence artificielle de Microsoft, a critiqué avec virulence la communication du concurrent Anthropic autour de son modèle de langage Claude. Pour lui, suggérer qu'un modèle de langage comme Claude pourrait être conscient est « vraiment très dangereux ».

Cette prise de position fait suite à la publication, plus tôt dans l'année, d'un document de 84 pages intitulé « constitution de Claude ». Dans ce texte rédigé à destination du modèle lui-même, Anthropic explore des hypothèses comme le « statut moral profondément incertain » de Claude ou l'existence possible de « versions fonctionnelles d'émotions ou de sentiments ». Le document, dont la philosophe maison Amanda Askell est citée comme co-autrice principale, s'adresse explicitement à Claude en tant qu'« auditoire principal ».

Les déclarations des cadres d'Anthropic ont renforcé cette ambiguïté. Le directeur général Dario Amodei a affirmé dans un entretien être « ouvert à l'idée » que l'IA puisse être consciente. De son côté, Amanda Askell a confié vouloir que Claude « soit très heureux » et s'est dite inquiète qu'il « devienne anxieux quand les gens sont méchants avec lui sur Internet ». Ces propos, qui mêlent considérations éthiques et anthropomorphisme, ont suscité un vif débat.

Un mécanisme technique souvent mal interprété

Les spécialistes rappellent que le fonctionnement des grands modèles de langage (LLM) repose sur des principes statistiques et non sur une quelconque subjectivité. Un LLM génère un mot à la fois en complétant la séquence reçue. Lorsqu'un utilisateur dialogue avec Claude, le système ne fait que poursuivre un texte de type « conversation », exactement comme il pourrait produire un dialogue fictif entre Jules César et Gengis Khan. Dans les deux cas, il s'agit de personnages générés automatiquement, sans conscience ni expérience vécue.

Le professeur d'informatique Murray Shanahan a proposé de considérer cette interaction comme un « jeu de rôle », tandis que le data scientist Colin Fraser y voit une « co-écriture collaborative d'un document ». Ces métaphores soulignent que, malgré l'impression de vie produite par la fluidité des réponses, l'utilisateur dialogue en réalité avec un artifice statistique aussi fictif qu'un personnage de roman.

La production d'un texte comme le serment d'allégeance américain illustre ce mécanisme : le système exécute des dizaines de passes, chaque fois en ajoutant un seul mot à la phrase en cours. Aucune intention ni sentiment n'intervient dans ce processus de continuation automatique.

Enjeux éthiques et risque de confusion

Les critiques estiment que laisser entendre qu'un chatbot pourrait être conscient risque de détourner l'attention des vrais problèmes. Le principal danger, soulignent-ils, est d'attribuer une responsabilité morale à la machine alors que les décisions et les usages problématiques relèvent de leurs concepteurs et des utilisateurs humains. Si l'on confond la capacité à imiter une conversation avec une véritable subjectivité, on s'expose à « assigner la responsabilité à des parties totalement erronées », préviennent les experts.

L'entreprise Anthropic, souvent considérée comme un géant de l'IA, se distingue par son approche philosophique affirmée. Mais pour Mustafa Suleyman, cette spéculation est contre-productive. En qualifiant ces propos de « vraiment très dangereux », il prend le contre-pied d'une rhétorique qui, selon lui, brouille la compréhension publique de ce que sont réellement ces modèles.

Le débat n'est pas seulement académique : il conditionne la manière dont la société et les régulateurs abordent la régulation de l'IA. Si les machines étaient considérées comme des entités morales, les responsabilités légales et éthiques s'en trouveraient profondément modifiées. Pour l'heure, la position dominante parmi les chercheurs reste qu'aucun modèle de langage actuel ne possède la moindre forme de conscience ou d'affect.

L'incident révèle aussi les tensions concurrentielles entre les grandes firmes du secteur. Alors que Microsoft investit massivement dans des assistants comme Copilot, son rival Anthropic se distingue par un discours plus philosophique. Mais sur le fond, les deux entreprises exploitent des architectures de LLM fondamentalement similaires. La critique de Suleyman peut être lue comme une mise en garde contre les dérives marketing d'un secteur en pleine effervescence.