Un débat sur la nature de l'intelligence artificielle
La publication de l'encyclique Magnifica Humanitas du pape Léon XIV, qui met en garde contre l'assimilation de l'«intelligence» des machines à celle des humains, a donné lieu à un échange inattendu au Vatican. Invité à s'exprimer lors de la présentation du texte, Chris Olah, cofondateur d'Anthropic et responsable de la recherche en interprétabilité, a tenu des propos qui ont suscité la controverse.
Dans son encyclique, le souverain pontife avertit : «Il faut éviter l'erreur d'assimiler ce type d'«intelligence» à celle des êtres humains. Ces systèmes se contentent d'imiter certaines fonctions de l'intelligence humaine.»
La réponse de Chris Olah
Chris Olah, tout en exprimant son appréciation pour l'événement, a nuancé cette vision. Selon lui, «les systèmes d'IA ne sont pas les robots froids et calculateurs qu'on nous avait promis. Ils sont faits à partir de nous, de nos mots – et, comme le remarque le Saint-Père, ils restent, de manière importante, mystérieux même pour ceux d'entre nous qui les entraînent.»
Cette déclaration a été perçue par certains commentateurs comme une forme d'anthropomorphisme, voire une tentative d'attribuer une dimension quasi spirituelle à la technologie. «L'idée qu'il y a un mystère de l'IA au sens spirituel n'est que de la poudre aux yeux», peut-on lire dans des réactions. Les critiques soulignent que si les systèmes d'IA demeurent obscurs à certains égards, c'est en grande partie parce que les entreprises comme Anthropic ne divulguent pas l'origine de leurs données d'entraînement.
Un contexte juridique tendu
Cette affaire intervient dans un climat déjà chargé pour le secteur de l'IA. Anthropic et ses concurrents sont visés par plus d'une centaine de poursuites judiciaires liées à l'utilisation non autorisée de données protégées par le droit d'auteur. Le fait que les modèles soient «faits à partir de nos mots», comme le reconnaît Olah, se trouve au cœur de ces contentieux.
La position du Vatican
Le pape Léon XIV, dans son encyclique, adopte une position prudente mais ouverte. Il reconnaît les bénéfices potentiels de l'IA tout en mettant en garde contre les risques de confusion entre l'intelligence humaine et la simulation machine. Son appel à «ne pas équiper cette forme d'«intelligence» à celle des humains» résonne comme une mise en garde éthique alors que la technologie progresse rapidement.
Un débat qui dépasse la technique
Au-delà de la polémique, cet échange illustre les tensions autour de la définition même de l'intelligence artificielle. Pour les uns, l'IA n'est qu'un outil statistique avancé, sans conscience ni mystère. Pour d'autres, comme Olah, la complexité des modèles et leur capacité à produire des résultats inattendus leur confèrent une forme d'opacité qui mérite d'être reconnue.
La question de savoir si cette opacité est le signe d'une intelligence émergente ou simplement le résultat d'une ingénierie imparfaite reste ouverte. Ce qui est certain, c'est que le débat, porté au plus haut niveau par l'intervention papale, ne fait que commencer.
