Alors que l’intelligence artificielle progresse à un rythme soutenu, la crainte d’un accident technologique aux conséquences globales grandit parmi les spécialistes. L’expression « moment Tchernobyl » est désormais utilisée pour décrire le scénario redouté : une défaillance catastrophique d’un système d’IA qui, à l’image de l’explosion nucléaire de 1986, provoquerait une prise de conscience brutale des dangers et un tournant réglementaire.

Un parallèle historique qui interroge

Le parallèle avec la catastrophe de Tchernobyl n’est pas anodin. En 1986, l’explosion du réacteur soviétique a non seulement causé des dizaines de morts immédiates et une contamination radioactive à grande échelle, mais elle a aussi durablement changé la perception publique de l’énergie nucléaire et accéléré les réformes de sécurité. Aujourd’hui, des chercheurs, des décideurs politiques et des dirigeants du secteur technologique s’inquiètent qu’un incident majeur impliquant l’IA – qu’il s’agisse d’une panne de système de transport autonome, d’une erreur algorithmique à grande échelle dans la finance ou d’un dérapage d’un système de recommandation – ne conduise à une perte de confiance généralisée et à une réaction réglementaire précipitée.

Plusieurs rapports récents soulignent que les systèmes d’IA actuels, en particulier les grands modèles de langage, présentent des vulnérabilités encore mal comprises. Leur opacité (souvent appelée « boîte noire ») rend difficile l’anticipation de leurs comportements aberrants. Une défaillance pourrait survenir non pas à cause d’une malveillance, mais d’une interaction imprévue entre des sous-systèmes ou d’une dérive progressive des performances hors des conditions d’entraînement.

Les initiatives de régulation se multiplient

Face à ces risques, plusieurs gouvernements et organisations internationales tentent de mettre en place des garde-fous. L’Union européenne a adopté un cadre législatif pionnier, l’AI Act, qui classe les applications d’IA par niveau de risque et impose des exigences de transparence et de contrôle humain pour les systèmes les plus dangereux. Aux États-Unis, l’administration a publié un décret sur l’IA sécurisée, sécurisée et digne de confiance, tandis que le Royaume-Uni a organisé un sommet mondial sur la sécurité de l’IA en 2023.

Cependant, les critiques estiment que ces efforts restent fragmentés et insuffisants face à la rapidité des innovations. La nature transnationale du développement de l’IA – où des entreprises basées dans un pays déploient leurs systèmes à l’échelle mondiale – rend la coordination internationale cruciale. Un accord multilatéral sur des normes de sécurité minimales, à l’image de ce qui existe pour l’aviation civile ou le nucléaire, est régulièrement appelé de ses vœux par les experts.

La responsabilité des entreprises en question

Les grandes entreprises technologiques, conscientes des enjeux, multiplient les déclarations sur leur engagement en faveur d’une IA responsable. Plusieurs d’entre elles ont mis en place des comités d’éthique internes et des processus de « red teaming » (tests adverses) pour détecter les failles de sécurité avant le déploiement. Mais la pression concurrentielle et la course au profit peuvent inciter à des mises sur le marché précipitées, comme l’a illustré la controverse autour de certains chatbots dont les comportements ont dérapé publiquement.

Un rapport interne d’une grande entreprise, cité par des analystes, indique que les équipes chargées de la sécurité sont souvent sous-dimensionnées par rapport aux équipes de développement. Ce déséquilibre crée un risque systémique : un défaut mineur dans un modèle pourrait avoir des répercussions en cascade s’il est intégré dans des centaines d’applications tierces.

Vers un cadre mondial de gouvernance

La question d’une agence internationale de l’IA, sur le modèle de l’Agence internationale de l’énergie atomique (AIEA), est régulièrement débattue. Une telle organisation pourrait établir des standards de sécurité, coordonner la recherche sur les risques existentiels et intervenir en cas d’incident transfrontière. Toutefois, les obstacles politiques sont immenses : la souveraineté numérique, les rivalités géopolitiques (notamment entre les États-Unis et la Chine) et la rapidité d’évolution de la technologie rendent tout accord contraignant difficile à négocier.

Pour l’heure, le scénario du « moment Tchernobyl » reste une hypothèse de travail pour les spécialistes de la sécurité, qui appellent à ne pas attendre un drame pour agir. Comme le résume un expert en éthique des algorithmes, la prévention est la seule voie raisonnable : une fois que la catastrophe est arrivée, le débat n’est plus que sur les conséquences, non sur les causes.

L’histoire des technologies montre que les grandes régressions réglementaires surviennent souvent après les accidents. Que l’IA échappe à cette règle dépendra de la capacité des acteurs publics et privés à anticiper collectivement, avant que l’impensable ne devienne réalité.