Une vulnérabilité baptisée « ChatGPhish » a été mise au jour par des chercheurs en sécurité. Celle-ci exploite le mécanisme de rendu des résumés web de l’agent conversationnel ChatGPT d’OpenAI pour servir des pages d’escroquerie. Selon les experts, la faille réside dans le traitement du langage Markdown – le format utilisé pour formater les réponses – qui ne distinguerait pas suffisamment le contenu légitime du contenu malveillant.
Un mode opératoire insidieux
Le principe de l’attaque repose sur une technique dite de Markdown injection. En manipulant les données qu’un site web renvoie à ChatGPT lors d’une demande de résumé, un assaillant pourrait faire en sorte que le modèle intègre dans sa réponse des éléments Markdown frauduleux. Ces derniers, lorsqu’ils sont interprétés par le client (par exemple, un navigateur ou l’interface de ChatGPT), peuvent afficher une fausse page de connexion ou un faux formulaire de saisie d’informations bancaires, visuellement identique au site que l’utilisateur croyait consulter.
La page devient l’attaque
Les analystes soulignent que la particularité du vecteur ChatGPhish réside dans le fait que « la page est elle-même l’attaque » : ce n’est pas un lien externe frauduleux qui est présenté, mais un contenu malveillant rendu directement dans le résumé. En conséquence, un utilisateur qui ferait confiance au résumé généré par ChatGPT pourrait être induit en erreur et communiquer ses identifiants ou ses données personnelles sans se rendre compte de la supercherie. Cette confiance accordée à l’assistant rendrait l’attaque particulièrement efficace.
Des implications étendues
La découverte de cette vulnérabilité intervient dans un contexte où l’utilisation d’assistants à intelligence artificielle pour accéder au web par procuration connaît une croissance rapide. De nombreux utilisateurs délèguent la lecture de pages web à des agents conversationnels, sans vérifier la source originale des informations. Or, dans le scénario décrit par les chercheurs, un site malveillant pourrait être conçu exprès pour piéger l’agent LLM, transformant le résumé en cheval de Troie visuel.
Pour l’heure, OpenAI n’a pas encore communiqué officiellement sur une éventuelle correction, bien que les détails de la faille aient été rendus publics par la communauté de la cybersécurité. Les experts recommandent aux utilisateurs de ChatGPT de faire preuve de prudence lorsqu’ils consultent des résumés générés depuis des sites inconnus, et de vérifier l’URL de destination avant toute action de connexion.
