Les responsables de l'entreprise d'intelligence artificielle Anthropic s'apprêtent à s'entretenir avec de hauts responsables de l'administration américaine, dans un contexte de préoccupations nationales sécuritaires autour de leur dernière création. La réunion est prévue lundi à Washington entre les dirigeants d'Anthropic et le Département du Commerce, dirigé par le secrétaire Howard Lutnick, selon deux personnes proches du dossier.

Cette rencontre fait suite à la décision d'Anthropic, vendredi dernier, de bloquer tout accès public à la version la plus récente de son outil d'IA, que l'entreprise avait elle-même qualifié de « trop puissant ». La société avait pris cette mesure après que le gouvernement américain lui a interdit de permettre à des ressortissants étrangers d'accéder à cette technologie.

Un modèle en deux versions

L'outil en question se décline en deux versions : Fable 5, dotée de garde-fous supplémentaires et accessible au public, et Mythos 5, qui dispose de contrôles différents et n'est disponible que pour un groupe restreint d'organisations. Les deux représentent une évolution de Claude Mythos, un nouveau modèle d'Anthropic qui avait suscité des remous en avril dernier lorsque la société avait accordé un accès anticipé à un nombre limité d'entités, notamment des départements de l'administration américaine.

Dario Amodei, le directeur général d'Anthropic, devrait assister à la réunion avec le secrétaire Lutnick, a indiqué une source. Un porte-parole de la Maison-Blanche a refusé de commenter. Les représentants du Département du Commerce et d'Anthropic n'ont pas répondu aux demandes de commentaires.

Des risques reconnus

En rendant publique une version de Mythos, Anthropic avait reconnu que cette décision « comporte des risques ». L'entreprise avait précisé que « les capacités de Fable dépassent celles de tous les modèles que nous avons jamais rendus généralement disponibles ». Dans les jours suivant la mise à disposition, le gouvernement américain a indiqué avoir « pris connaissance » d'une potentielle faille de type « jailbreak », c'est-à-dire une possibilité de faire effectuer à l'outil d'IA des actions non prévues.

Anthropic a déclaré vendredi n'avoir reçu que des « preuves verbales » de cette vulnérabilité présumée. La réunion de lundi avec le Département du Commerce devrait inclure davantage de documentation sur le problème allégué, selon l'une des personnes proches du dossier. Il n'est toutefois pas certain qu'à l'issue de cette entrevue, Anthropic puisse à nouveau rendre accessibles Fable 5 et Mythos 5.

Des relations tendues

La dissension entre Anthropic et le gouvernement s'inscrit dans une série de désaccords cette année. L'entreprise a notamment intenté une action en justice contre le Département de la Défense américain, dans un litige concernant l'utilisation de ses modèles. Les tensions semblaient pourtant s'apaiser ces dernières semaines, après une rencontre qualifiée de « productive » avec de hauts responsables de la Maison-Blanche.