Jack Clark, cofondateur d'Anthropic, a lancé un appel à la création d'un mécanisme permettant de ralentir le développement de l'intelligence artificielle (IA), estimant que la technologie approche d'un seuil où elle pourrait progresser sans intervention humaine. Dans un entretien accordé à l'émission Newsnight, il a déclaré : « Vous voulez avoir la possibilité de lever le pied et d'appuyer sur le frein. Aujourd'hui, l'industrie de l'IA a un accélérateur, mais elle n'a pas de frein. »

Selon lui, il est impératif que les citoyens, via les politiques gouvernementales, conservent la maîtrise de systèmes d'IA qui deviendront toujours plus puissants et auront des répercussions croissantes sur la société. « Le monde doit réfléchir et nous devons finir par élaborer de nouvelles régulations qui nous permettent d'avoir confiance dans ces systèmes », a-t-il ajouté.

Un constat sur l'autonomie croissante des systèmes

Jack Clark a illustré son propos en révélant que le chatbot populaire d'Anthropic, Claude, fonctionne déjà avec un code dont 80 % a été rédigé par le système lui-même. Il a estimé qu'atteindre les 100 % était possible d'ici deux ans, une perspective qui « aurait des implications énormes ».

Il n'a pas précisé comment un tel « frein » pourrait être mis en œuvre concrètement, mais a établi un parallèle avec l'industrie pétrolière du début du siècle dernier. « La réponse de la société a été d'élaborer un cadre politique et réglementaire sensé qui a donné confiance aux gens dans le pétrole et dans les avantages que le pétrole pouvait apporter au monde, et qui faisait en sorte que vous n'ayez pas à vous soucier de la personnalité des dirigeants des entreprises », a-t-il expliqué. « C'est clairement là où nous aboutissons. »

Un contexte paradoxal

Cet appel intervient alors que la société Anthropic a récemment salué un décret exécutif du président américain Donald Trump sur l'IA. Ce texte s'est avéré relativement peu contraignant pour les entreprises, ne les obligeant pas à soumettre leurs systèmes à des tests de sécurité gouvernementaux, une démarche qui reste volontaire. Par ailleurs, les grandes entreprises du secteur, dont Anthropic, OpenAI et Google, n'ont pas annoncé vouloir interrompre leurs propres recherches.

La croissance rapide d'Anthropic, fondée il y a cinq ans, la conduit à se préparer à une introduction en Bourse aux États-Unis. Sa valorisation, estimée par des investisseurs privés, approcherait les 1 000 milliards de dollars (environ 745 milliards de livres sterling), ce qui en ferait l'une des plus importantes introductions en Bourse de l'histoire pour une jeune entreprise d'IA.

Inquiétudes pour l'avenir du travail et de la société

Jack Clark a précisé que sa motivation à évoquer publiquement les capacités croissantes de l'IA n'est pas de soigner l'image de son entreprise auprès des clients, mais de « dire au monde ce que nous voyons à l'intérieur de ces entreprises avec cette technologie inhabituelle ». Depuis sa création par le directeur général Dario Amodei, Clark et quelques autres cadres, Anthropic s'est positionnée comme une voix critique des risques potentiels de l'IA. La société a notamment été impliquée dans un différend public avec le département de la Défense des États-Unis, craignant que ses outils soient utilisés pour la surveillance de masse ou la guerre autonome.

« Je suis inquiet pour mes enfants si nous, en tant que société, n'avons pas une conversation sérieuse sur ce que les progrès continus de l'IA signifient », a confié Clark. Il a souligné les risques de perturbations économiques, les technologies d'IA comme les « agents » — des robots logiciels capables d'effectuer des tâches de manière autonome — pouvant supplanter certains emplois. Il a noté que les grandes entreprises technologiques ont procédé à des licenciements massifs ces derniers mois, invoquant souvent la capacité croissante des outils d'IA à remplacer le travail de centaines, voire de milliers d'ingénieurs logiciels.

Un avantage pour les créatifs

Toutefois, Jack Clark a estimé que les personnes créatives et capables de générer de bonnes idées pourraient tirer leur épingle du jeu. « Il y a des questions ouvertes sur la capacité des systèmes d'IA à être vraiment créatifs… il n'y a pas vraiment de preuve pour cela pour l'instant », a-t-il déclaré. « Chez Anthropic, nous sommes aujourd'hui plus limités par la capacité à générer de bonnes idées que par la capacité à faire l'ingénierie pour transformer ces idées en réalité. »

Il a conseillé aux jeunes qui pourraient se sentir exclus d'une économie dominée par l'IA de « développer un hobby » et de suivre une formation en arts libéraux. « Les gens qui sont créatifs et capables de penser de manière large, les gens qui lisent beaucoup, les gens qui ont des centres d'intérêt sont ceux qui bénéficient le plus de cette technologie », a-t-il conclu. « Cultivez la curiosité et cela vous sera rendu dans la façon dont vous pourrez utiliser cette technologie. »