La société Anthropic, spécialisée dans le développement de modèles d'intelligence artificielle, a été contrainte de retirer ses deux derniers modèles, Fable 5 et Mythos 5, suite à une injonction émise par les autorités américaines. Cette mesure inédite intervient dans un contexte où les capacités croissantes de l'IA suscitent des préoccupations quant à leur utilisation potentielle pour la surveillance de masse et le contrôle social.

Une décision judiciaire aux implications majeures

L'injonction, dont les détails précis n'ont pas été entièrement divulgués, ordonne à Anthropic de cesser immédiatement la distribution et l'utilisation de ses modèles Fable 5 et Mythos 5. Selon des sources proches du dossier, les autorités américaines craignent que ces modèles ne puissent être détournés pour des applications de surveillance généralisée, en particulier dans le cadre de systèmes de reconnaissance faciale et de contrôle des comportements.

Des craintes liées à la surveillance de masse

Cette affaire s'inscrit dans un débat plus large sur l'essor des technologies de surveillance pilotées par l'IA. Des systèmes capables de suivre en temps réel les activités des citoyens dans l'espace public, d'identifier les individus via la reconnaissance faciale et d'appliquer automatiquement des sanctions pour des infractions mineures sont en cours de déploiement dans plusieurs pays. Certains experts redoutent que ces outils, combinés à des bases de données massives, n'entraînent un effet dissuasif important sur les libertés individuelles et la démocratie.

Un précédent pour la régulation de l'IA

L'injonction contre Anthropic constitue un précédent notable dans la régulation des modèles d'IA générative. Jusqu'à présent, les débats se concentraient principalement sur les risques de désinformation, de biais algorithmiques ou de violation des droits d'auteur. L'action des autorités américaines élargit le champ des préoccupations réglementaires aux usages potentiels en matière de surveillance.

Réactions et suites

Anthropic n'a pas encore commenté publiquement cette injonction. L'entreprise pourrait contester la décision ou chercher à adapter ses modèles pour répondre aux exigences des autorités. Cette affaire intervient alors que les législateurs américains examinent plusieurs propositions de loi visant à encadrer plus strictement le développement et le déploiement des systèmes d'IA.