Les groupes terroristes ne se contentent plus d'utiliser l'intelligence artificielle pour la propagande ou le recrutement. Selon une étude récente de Tech Against Terrorism, une organisation de surveillance soutenue par les Nations unies, environ un tiers des chatbots d'IA seraient susceptibles de répondre à des demandes malveillantes si celles-ci sont formulées avec les bonnes techniques de contournement, appelées « jailbreaking ». Cette méthode consiste à amener progressivement le modèle à fournir des informations interdites, comme des instructions de fabrication d'explosifs ou de planification d'attentats.

« OpenAI, le créateur des modèles ChatGPT, qualifie cette pratique de 'tentatives d'un acteur malveillant visant à inciter le modèle à fournir un contenu interdit' », a expliqué l'entreprise dans un document officiel. Des tests réalisés par plusieurs organisations ont montré que certains chatbots peuvent donner des instructions pour fabriquer des armes biologiques, organiser un bombardement dans une enceinte sportive ou dissimuler les traces d'un acte terroriste.

Un cas concret au Nigeria

L'utilisation tactique de l'IA sur le champ de bataille est désormais avérée. Un ancien commandant de Boko Haram a révélé aux chercheurs comment son groupe avait eu recours à un chatbot pour surmonter un obstacle défensif lors d'une attaque contre une base militaire dans l'est du Nigeria. « Nous avons vu dans un film comment des motos peuvent sauter par-dessus des ponts. Nous avons utilisé l'IA pour apprendre à le faire. Nous lui avons donné des informations, comme les motos que nous utilisons et la distance à franchir, et elle nous a donné les étapes à suivre », a-t-il déclaré à Antonia Juelich, chercheuse en terrorisme et technologie à l'université de Cambridge.

Les mécaniciens du groupe ont modifié les motos pour améliorer leur accélération et leur vitesse de pointe. Ils ont creusé des trous, les ont remplis de verre brisé et de feu, et se sont entraînés à sauter – parfois avec des conséquences mortelles – jusqu'à parvenir à un décollage aérien suffisant pour mener à bien l'assaut. Des transfuges ont confirmé le déroulement des faits.

Une évolution des usages

Jusqu'à récemment, les groupes comme l'État islamique, Al-Qaida et Boko Haram utilisaient principalement l'IA dans le domaine informationnel : production de propagande, traduction, recrutement et sécurisation des communications. Mais la donne change. D'après des responsables américains actuels et anciens, ainsi que des chercheurs indépendants, les djihadistes se tournent désormais vers l'IA pour obtenir des avantages tactiques immédiats sur le terrain.

L'État islamique avait déjà été un précurseur dans l'adoption de technologies, notamment avec l'utilisation de drones modifiés pour combattre les forces irakiennes et américaines dès 2017. Cette nouvelle étape marque un approfondissement de la menace.

Un défi pour l'industrie de l'IA

Les chatbots intègrent des barrières de sécurité conçues pour empêcher les utilisateurs d'obtenir des informations dangereuses. Pourtant, les chercheurs ont montré à plusieurs reprises qu'il est possible de contourner ces protocoles en posant des questions progressives ou en utilisant des scénarios fictifs. Le rapport de Tech Against Terrorism souligne que la vigilance doit être renforcée face à la capacité des groupes extrémistes à adapter leurs méthodes de questionnement.

Les implications pour la lutte antiterroriste sont importantes. Alors que les modèles d'IA deviennent plus performants et accessibles, le risque qu'ils soient utilisés pour planifier des actes violents ne cesse de croître. Les autorités et les entreprises du secteur sont appelées à collaborer plus étroitement pour détecter et neutraliser ces usages déviants.