Une mise hors ligne sous injonction gouvernementale
À la fin de la semaine dernière, la société Anthropic a été sommée par l'administration américaine de mettre hors ligne ses modèles d'intelligence artificielle Claude Fable 5 et Mythos 5. La directive, émise dans le cadre du contrôle des exportations, interdit à « tout ressortissant étranger » d'utiliser ces services. Depuis, l'entreprise a engagé des discussions avec la Maison-Blanche pour tenter de trouver un accord qui lui permettrait de rétablir l'accès à ses offres, mais aucun compromis n'a encore été trouvé.
Des modèles au potentiel dangereux
Anthropic elle-même reconnaît le caractère ambivalent de ses créations. Selon les informations fournies par l'entreprise lors du lancement de Mythos 5 et Claude Fable 5, ces modèles disposent de capacités avancées pour identifier les vulnérabilités logicielles, ce qui peut aider les défenseurs à les corriger. Cependant, ils peuvent également être utilisés pour exploiter ces failles à des fins malveillantes. L'entreprise avait alors souligné que « les mêmes requêtes qui sont bénéfiques entre les mains de professionnels de la cybersécurité et de chercheurs en biologie pourraient être dangereuses si elles étaient accessibles à des acteurs malveillants ».
Pour limiter les risques, Anthropic avait initialement dévoilé une version dite Mythos Preview, réservée à un groupe restreint de partenaires dans le cadre d'un groupe de travail nommé Projet Glasswing. Mythos 5 a également été distribué en privé à ce même groupe. Quant à Claude Fable 5, un modèle de niveau comparable à Mythos, il avait été rendu public avec des garde-fous spécifiques : il ne pouvait pas répondre à des questions concernant la biologie et la cybersécurité.
L'administration américaine juge les garde-fous insuffisants
L'administration américaine a toutefois estimé que les mécanismes de protection de Fable 5 pouvaient être contournés pour accéder pleinement aux fonctionnalités de Mythos 5, ce qui représenterait un risque pour la sécurité nationale. Cette crainte a motivé la décision de restreindre les deux modèles.
La prolifération inéluctable des capacités avancées
Plusieurs experts estiment toutefois que ce bras de fer institutionnel ne fait que masquer une réalité plus vaste : les capacités de Mythos 5 ne sont pas uniques et d'autres entités, qu'il s'agisse d'entreprises concurrentes ou de développeurs de modèles à poids ouvert, pourraient très prochainement — si ce n'est déjà fait — proposer des fonctionnalités équivalentes.
Tarah Wheeler, responsable de la sécurité chez TPO Group, un cabinet de conseil spécialisé en cybersécurité, juge « myope à l'extrême de penser qu'aucun autre concurrent d'Anthropic ne développera des capacités similaires à Mythos, ou même qu'ils ne l'ont pas déjà fait ». Selon elle, « d'autres sociétés sont sur les talons d'Anthropic et possèdent probablement aussi ces capacités, mais les gardent en réserve pour observer comment Anthropic est traité dans le climat réglementaire actuel ».
Anthropic elle-même avait anticipé ce constat. Lors du lancement de Mythos Preview en avril, Logan Graham, responsable de l'équipe red team de l'entreprise, avait déclaré : « Le vrai message, c'est que cela ne concerne pas le modèle ou Anthropic. Nous devons nous préparer dès maintenant à un monde où ces capacités seront courantes. »
Un débat technologique et politique
Ce conflit entre une entreprise d'IA et le gouvernement américain s'inscrit dans un débat plus large sur la régulation des technologies émergentes. Alors qu'Anthropic tente de trouver un équilibre entre innovation, sécurité et accès international, la question centrale demeure : comment encadrer des technologies intrinsèquement duales sans freiner la recherche ni créer un désavantage concurrentiel pour les acteurs américains ? Les prochains jours et les négociations en cours apporteront peut-être des éléments de réponse.
