Moins de 24 heures après le lancement public de Claude Fable 5, son premier modèle de la gamme Mythos, la société Anthropic fait face à une fronde inattendue venue de l'un de ses partenaires majeurs. Microsoft a en effet restreint l'accès à ce nouvel outil d'intelligence artificielle pour ses employés, en attendant un examen approfondi par ses équipes juridiques.
Des doutes sur la politique de conservation des données
La décision de Microsoft, révélée le 10 juin, fait suite à des inquiétudes concernant les nouvelles modalités de conservation des données mises en place par Anthropic pour ce modèle. Le groupe de Redmond, qui est également un investisseur et un partenaire technologique clé de la start-up, a estimé que les conditions d'utilisation de Claude Fable 5 nécessitaient une évaluation avant de pouvoir être déployées en interne. Les services juridiques de Microsoft planchent actuellement sur ces clauses pour déterminer leur compatibilité avec les propres politiques de l'entreprise en matière de protection des informations.
Cette restriction intervient alors qu'Anthropic présentait Claude Fable 5 comme l'outil d'IA le plus puissant jamais mis à la disposition du grand public. Le modèle est présenté comme une version bridée de son IA phare, Mythos, dont les capacités complètes restent confidentielles. Anthropic a justifié ces limitations par des impératifs de sécurité, notamment pour prévenir les risques liés aux bioweapons.
Un modèle aux garde-fous très stricts
Dès sa sortie, Claude Fable 5 a été critiqué pour le caractère excessivement prudent de ses mécanismes de protection. L'entreprise a reconnu que les sauvegardes « trop conservatrices » du modèle bloquent « la plupart des requêtes liées à des travaux en biologie ». Ce verrouillage systématique, destiné à empêcher tout usage malveillant, a pour conséquence de rendre le modèle incapable de répondre à des questions élémentaires dans ce domaine scientifique, un fait qui a été largement souligné par les premiers testeurs.
La réaction de Microsoft soulève des questions plus larges sur l'équilibre entre innovation et contrôle dans le secteur de l'intelligence artificielle. Alors qu'Anthropic mise sur une diffusion prudente et limitée dans le temps de sa technologie, les exigences de ses partenaires commerciaux pourraient imposer des contraintes supplémentaires. Le flou entourant les politiques de données de Claude Fable 5 pourrait constituer un frein à son adoption par les grandes entreprises, pour qui la confidentialité et la souveraineté des données sont des enjeux critiques.
Un avenir incertain pour le modèle
Pour l'heure, Microsoft n'a pas communiqué de date butoir pour la conclusion de son examen juridique. Les employés de l'entreprise ont été priés de ne pas utiliser Claude Fable 5 tant que les services juridiques n'auront pas rendu leur verdict. Cette situation met en lumière les tensions naissantes entre les éditeurs de modèles d'IA, désireux de contrôler l'usage de leurs créations, et les entreprises clientes, soucieuses de protéger leurs données propriétaires.
Anthropic, de son côté, n'a pas encore commenté publiquement la décision de Microsoft. La firme, qui a toujours placé la sécurité et l'éthique au cœur de sa communication, se trouve désormais confrontée à un dilemme : maintenir des restrictions de sécurité très strictes qui pourraient freiner l'adoption de son modèle, ou assouplir ces garde-fous pour répondre aux exigences du marché. L'issue de cet épisode pourrait bien définir les standards de déploiement des futures générations d'IA dites « de pointe ».
