Jack Clark, l'un des cofondateurs d'Anthropic, la société à l'origine du chatbot Claude, a exhorté les autorités et la société civile à se doter des moyens de ralentir la progression de l'intelligence artificielle (IA). Dans un entretien accordé à l'émission Newsnight, il a estimé que la technologie approche d'un seuil où elle pourrait se développer sans intervention humaine, rendant indispensable l'instauration d'un mécanisme de contrôle comparable à une « pédale de frein ».

« Vous voulez avoir la possibilité de lever le pied de l'accélérateur et d'appuyer sur le frein », a déclaré M. Clark. « Pour l'instant, l'industrie de l'IA a une pédale d'accélérateur, mais pas de pédale de frein. » Il a souligné que les citoyens, via les politiques gouvernementales, doivent conserver la maîtrise de systèmes qui deviendront toujours plus puissants et auront des répercussions croissantes sur la société.

Une croissance technologique exponentielle

M. Clark a révélé que le système Claude, le produit phare d'Anthropic, fonctionne déjà avec un code dont 80 % a été généré par la machine elle-même. Selon lui, il est possible d'atteindre la barre des 100 % d'ici deux ans, une évolution qui « aurait des implications énormes ». Interrogé sur la forme que pourrait prendre ce « frein », il n'a pas fourni de détails concrets, mais a établi un parallèle avec l'essor du pétrole au tournant du siècle dernier.

« La riposte de la société a été d'élaborer un cadre politique et réglementaire sensé qui a donné confiance aux gens dans le pétrole et dans les avantages que le pétrole pouvait apporter au monde, et qui a fait que l'on n'avait pas à s'inquiéter de la personnalité des dirigeants des entreprises », a-t-il expliqué. « C'est clairement là où nous arrivons aujourd'hui. »

Un contexte réglementaire contrasté

Ces prises de position interviennent alors que la Maison-Blanche a récemment publié un décret présidentiel sur l'IA, salué par Anthropic. Ce texte se caractérise par une approche peu contraignante à l'égard des entreprises du secteur. Il n'impose notamment pas aux sociétés spécialisées dans l'IA de soumettre leurs systèmes à des tests de sécurité réalisés par l'État, une démarche qui reste volontaire.

Par ailleurs, les grandes entreprises du secteur, dont Anthropic, OpenAI et Google, n'ont pas annoncé d'intention de suspendre leurs propres travaux de recherche. Anthropic elle-même, fondée il y a cinq ans par le directeur général Dario Amodei, Jack Clark et quelques autres anciens d'OpenAI, connaît une croissance si rapide qu'elle s'apprête à faire son entrée en Bourse aux États-Unis. Sa valorisation, selon les estimations d'investisseurs privés, approcherait les 1 000 milliards de dollars (environ 745 milliards de livres sterling).

Des risques économiques et sociétaux

M. Clark a insisté sur le fait que son intention, en exposant publiquement les capacités croissantes de l'IA, n'est pas de soigner l'image de son entreprise auprès de ses clients, mais de « dire au monde ce que nous voyons à l'intérieur de ces entreprises avec cette technologie inhabituelle ». Anthropic s'est toujours positionnée comme une voix critique sur les dangers potentiels de l'IA. La société a notamment eu un différend public avec le ministère américain de la Défense, redoutant que ses outils soient utilisés pour la surveillance de masse des Américains ou pour des opérations de guerre autonomes.

« Je suis inquiet pour mes enfants si nous, en tant que société, n'avons pas une conversation sérieuse sur ce que signifient les progrès continus de l'IA », a confié Jack Clark à Newsnight. « Il y a des avantages potentiels considérables. Il y a aussi des risques. »

Parmi ces risques, il cite les perturbations économiques et la possible suppression d'emplois par des « agents » d'IA – des robots logiciels capables d'effectuer des tâches de routine de manière autonome. De grandes entreprises technologiques ont procédé à des licenciements massifs au cours de l'année écoulée, invoquant souvent la capacité croissante des outils d'IA à remplacer le travail de centaines, voire de milliers d'ingénieurs logiciels.

Un appel à la créativité humaine

En dépit de ces menaces, Jack Clark estime que les personnes créatives, capables de générer des idées nombreuses et de qualité, pourraient conserver un avantage sur l'IA. « Il y a des questions ouvertes sur la capacité des systèmes d'IA à être véritablement créatifs… il n'y a pas vraiment de preuve pour cela pour l'instant », a-t-il ajouté. « Chez Anthropic, nous sommes aujourd'hui davantage limités par notre capacité à générer de bonnes idées que par notre capacité à réaliser l'ingénierie nécessaire pour les concrétiser. »

Aux jeunes qui pourraient craindre de ne pas trouver leur place dans une économie dominée par l'IA, M. Clark recommande de « développer un hobby » et de suivre une formation en arts libéraux. « Les personnes créatives, capables de penser largement, les gens qui lisent beaucoup, les gens qui ont des centres d'intérêt sont ceux qui bénéficient le plus de cette technologie », a-t-il conclu. « Laissez-vous aller à la curiosité, et cela vous récompensera dans la façon dont vous pourrez utiliser cette technologie. »