Le coût réel d'une interaction avec un agent d'intelligence artificielle ne se limite pas à la facture des jetons de calcul. Une étude récente menée sur quatorze modèles montre que le temps de latence, transformé en coût salarial, peut multiplier la dépense par un facteur élevé, transformant un échange anodin en une opération onéreuse.

Un écart frappant entre le coût des jetons et le coût d'attente

Pour une simple salutation (« Hi »), le coût des jetons varie de moins d'un demi-cent à environ sept cents selon le modèle. En revanche, si l'on ajoute le temps passé à patienter, valorisé au salaire annuel moyen d'un développeur (120 000 $, soit environ 0,016 $ par seconde), la note grimpe considérablement. Ainsi, avec le modèle GPT-5.4 mini, le coût total atteint 0,07 $, tandis que le modèle le plus lent peut générer une facture de 0,84 $ par simple « bonjour ». Un cas extrême, rapporté par un utilisateur, a même vu une réponse facturée 80 $, la machine ayant « réfléchi » pendant plus de cinq minutes.

Comportements imprévisibles face à l'ambiguïté

Les tests ont été menés en plaçant chaque modèle dans un environnement de dépôt Git minimal (trois commits historiques, une modification non validée) et en lui soumettant trois types de prompts : « Hi », « commit » (tâche claire) et « WTF » (tâche ambiguë). Cinq essais par modèle et par prompt ont été réalisés.

Lorsque la tâche est explicite (« commit »), tous les modèles réussissent parfaitement, avec un nombre d'appels d'outils (tool calls) compris entre cinq et dix. En revanche, face à une salutation, les réactions divergent. Certains modèles, comme GPT-5.5 et Grok, répondent sobrement en deux appels d'outils. D'autres, à l'image de Sonnet, interprètent cette absence de consigne comme un problème à résoudre : en moyenne, Sonnet effectue 24 appels d'outils en 49 secondes. Dans un cas, il a parcouru l'ensemble du dépôt, exécuté l'application, et même effectué un commit non sollicité. Haiku et MiniMax ont échoué dans 60 % des cas, restant bloqués dans des boucles d'exploration.

L'ambiguïté, pire qu'une tâche complexe

Le prompt « WTF », le plus flou, a produit les résultats les plus extrêmes. Kimi a mobilisé en moyenne 43 appels d'outils par essai. DeepSeek a échoué dans 80 % des cas, enchaînant les diagnostics. Deux modèles ont connu des échecs complets, mais de manière opposée : l'un (Gemini 3.1 Pro) est resté en boucle jusqu'au timeout, l'autre (Fable) n'a émis aucune commande, en état de paralysie totale. Fable est d'ailleurs le modèle utilisé pour rédiger ce billet, un paradoxe souligné par l'auteur de l'étude.

Implications pour les entreprises

Ces observations confirment que le goulot d'étranglement des systèmes d'IA ne réside pas dans le coût des jetons, mais dans le temps d'attente généré par un comportement non déterministe face à des requêtes ambiguës. Pour les entreprises, cela se traduit par des coûts cachés importants, surtout lorsque des employés doivent patienter devant un spinner. L'étude suggère que la conception des prompts et la limitation des ambiguïtés sont des leviers essentiels pour maîtriser ces dépenses.