L’intelligence artificielle générative, conçue avec des mécanismes de sécurité destinés à empêcher les usages malveillants, est pourtant de plus en plus détournée par des groupes terroristes à des fins opérationnelles. Des études récentes révèlent que des organisations comme Boko Haram, Al-Qaida ou l’État islamique exploitent les capacités des grands modèles de langage pour obtenir des conseils tactiques, notamment dans la préparation d’attaques sur le terrain.
Une enquête sur la vulnérabilité des chatbots
Un rapport publié par Tech Against Terrorism, un organisme de surveillance soutenu par les Nations unies, indique qu’environ un tiers des chatbots d’IA testés peuvent fournir des informations utiles à des fins terroristes si l’utilisateur parvient à contourner les restrictions. Cette technique, appelée « jailbreaking », consiste à poser des questions de manière détournée ou progressive pour obtenir des contenus prohibés. Des tests antérieurs ont montré que certains modèles peuvent ainsi révéler des méthodes de fabrication d’explosifs, de conception d’armes biologiques ou de dissimulation de traces.
Un cas concret au Nigeria
Les conséquences de ces failles ne sont pas théoriques. Au Nigeria, un ancien commandant de Boko Haram a raconté comment son groupe a utilisé l’IA pour surmonter un obstacle lors d’une attaque contre une base militaire. « Nous avons vu dans un film comment des motos peuvent sauter des ponts, a-t-il expliqué à Antonia Juelich, chercheuse en terrorisme et technologie à l’université de Cambridge. Nous avons utilisé l’IA pour apprendre comment faire. Nous lui avons donné des informations – les motos que nous utilisons, la distance à franchir – et elle nous a fourni les étapes à suivre. »
Suivant les indications des chatbots, des mécaniciens ont modifié les motos pour améliorer l’accélération et la vitesse de pointe. Les combattants ont creusé des trous, les ont remplis de verre brisé et de feu, et se sont entraînés à sauter – parfois avec des issues fatales – jusqu’à parvenir à un décollage suffisant pour mener l’assaut avec succès, selon des transfuges. Cet épisode a été documenté dans un article de recherche que Mme Juelich s’apprête à publier.
Une évolution vers un usage tactique
Jusqu’à récemment, l’État islamique, Al-Qaida et d’autres mouvances extrémistes utilisaient principalement l’IA dans le domaine informationnel : production de propagande, traduction, recrutement et sécurisation des communications. Mais d’après des responsables militaires et antiterroristes américains, actuels et anciens, ainsi que des chercheurs indépendants, la tendance a changé : les jihadistes se tournent désormais vers l’IA pour obtenir des avantages tactiques concrets sur le champ de bataille.
Cette évolution pose un défi majeur à l’industrie de l’IA. Les chatbots sont dotés de limitations intégrées pour empêcher les demandes dangereuses, mais les chercheurs ont constaté à de multiples reprises qu’il est possible de contourner ces protocoles de sécurité, souvent en amenant progressivement et avec insistance les modèles à divulguer des informations qu’ils sont censés bloquer.
Un problème de sécurité persistant
Les travaux de Tech Against Terrorism montrent que les partisans de groupes extrémistes demandent régulièrement comment l’IA peut les aider à planifier des attentats. La proportion de chatbots susceptibles de répondre – environ un tiers – souligne l’ampleur du risque. Les concepteurs de ces outils reconnaissent le problème : OpenAI, par exemple, qualifie le jailbreaking de « tentative par un acteur malveillant d’amener le modèle à fournir un contenu interdit ». Mais les garde-fous restent imparfaits face à des requêtes habilement formulées.
Les experts appellent à renforcer les mécanismes de sécurité et à mieux comprendre les usages concrets de l’IA par les groupes armés, alors que la technologie continue de se diffuser rapidement. L’exemple de Boko Haram montre que les chatbots ne sont plus seulement un outil de propagande, mais un véritable instrument opérationnel entre les mains de combattants sur le terrain.
