Lors d'une audition au Capitole, le directeur général d'Anthropic, l'une des entreprises les plus en vue dans le domaine de l'intelligence artificielle, a exhorté les législateurs à prendre des mesures rapides face aux dangers qu'il attribue aux modèles d'IA open-source. Son intervention, qui s'inscrit dans le débat croissant sur la régulation de la technologie, a mis en lumière des préoccupations relatives à la prolifération de systèmes puissants sans garde-fous.
Des risques de sécurité amplifiés par la diffusion ouverte
Le PDG a soutenu que la mise à disposition libre des modèles d'IA, sans contrôle sur leur usage, crée des vulnérabilités majeures. Il a cité des scénarios où des acteurs malveillants pourraient détourner ces outils pour concevoir des cyberattaques, générer de la désinformation à grande échelle ou développer des armes autonomes. Selon lui, la transparence totale, bien que bénéfique pour la recherche, expose la société à des menaces inédites si elle n'est pas accompagnée de mécanismes de supervision.
« Nous nous trouvons à un moment charnière où le choix de laisser les modèles les plus avancés en libre accès pourrait avoir des conséquences irréversibles », a-t-il déclaré devant la commission parlementaire, selon des propos rapportés. Il a insisté sur la nécessité d'évaluer les capacités des systèmes avant leur diffusion publique, afin d'éviter une course aux armements technologiques non régulée.
Un plaidoyer pour un encadrement ciblé
Le dirigeant n'a pas appelé à une interdiction générale de l'open-source dans l'IA, mais a plaidé pour une approche nuancée. Il a proposé de distinguer les modèles selon leur puissance et leur usage potentiel, avec des seuils de contrôle proportionnés au risque. Les applications à haut risque, comme celles liées à la défense ou aux infrastructures critiques, devraient selon lui faire l'objet d'autorisations préalables et de tests de sécurité obligatoires.
Cette prise de position intervient dans un contexte où les grandes entreprises technologiques divergent sur la stratégie à adopter face à la régulation. Certaines, comme Meta, défendent l'ouverture des modèles pour stimuler l'innovation, tandis que d'autres, à l'instar d'Anthropic et d'OpenAI, appellent à davantage de précautions. Le PDG d'Anthropic a souligné que son entreprise elle-même utilise une approche hybride, proposant un accès public à ses modèles via une API tout en limitant les téléchargements ouverts de ses versions les plus avancées.
Les enjeux démocratiques au cœur du débat
Au-delà des aspects techniques, le témoignage a abordé les implications politiques de l'IA open-source. Le PDG a averti que des outils de manipulation de l'opinion pourraient être déployés lors des prochaines échéances électorales, citant des cas où des systèmes génératifs ont déjà été utilisés pour créer des contenus trompeurs. Il a appelé à une coopération internationale pour établir des normes communes, estimant qu'aucun pays ne peut faire face seul à ces défis.
Les législateurs, de part et d'autre de l'échiquier politique, ont manifesté un intérêt pour ces arguments, même si des divergences persistent sur les modalités d'action. Plusieurs membres de la commission ont interrogé le dirigeant sur les garanties concrètes que son entreprise pourrait offrir pour prévenir les abus, tandis que d'autres ont exprimé des réserves sur un possible frein à l'innovation.
Un contexte de tensions réglementaires
Cette audition s'ajoute à une série d'initiatives législatives aux États-Unis et en Europe visant à encadrer l'intelligence artificielle. La publication de modèles open-source par des acteurs indépendants, parfois sans aucune restriction, a relancé les appels à une régulation plus ferme. Des experts en sécurité et des organisations de la société civile ont également plaidé pour des mécanismes de traçabilité et de responsabilité, afin que les développeurs puissent être tenus pour responsables des usages détournés de leurs créations.
Anthropic, qui se présente comme une entreprise soucieuse d'une IA bénéfique et sûre, cherche ainsi à peser sur le débat public en proposant une voie médiane entre liberté totale et contrôle étatique strict. Reste à savoir si les législateurs traduiront ces mises en garde en textes de loi contraignants, alors que les prochaines échéances électorales approchent et que la pression de l'opinion publique se fait plus forte.
