Un nouveau venu dans l'écosystème Python

L'écosystème Python des communications inter-services dispose d'un nouvel acteur. Grpyc, présenté comme un remplacement direct (drop-in) de la bibliothèque de référence grpcio, promet des gains de performance spectaculaires : jusqu'à 8 fois plus de débit, une latence réduite de 2,2 fois en médiane (P50), et une capacité de 3,4 fois plus de requêtes par seconde (QPS) par cœur. Cette bibliothèque est entièrement écrite en Rust, sans aucune ligne de code C, ce qui, selon ses créateurs, élimine les fuites mémoire et simplifie grandement l'installation.

Une architecture 100 % Rust, de la pile au protocole

Là où grpcio s'appuie sur le « gRPC C Core » via une couche Cython (C – Cython – API Python), grpyc repose sur une pile logicielle 100 % Rust. La communication HTTP/2 est gérée par la bibliothèque h2, le chiffrement TLS par rustls (évitant ainsi OpenSSL), et la sérialisation Protobuf par prost. L'ensemble s'appuie sur le runtime asynchrone Tokio, qui permet de décharger toutes les opérations I/O et de sérialisation en dehors du GIL (Global Interpreter Lock) de Python. Cette conception est présentée comme la principale raison de la réduction de la latence de queue (tail latency).

Performances annoncées et compatibilité

Des benchmarks publiés par l'équipe de grpyc, réalisés sur Google Kubernetes Engine (GKE) avec des nœuds c2-standard-8 et e2-standard-4, comparent les deux bibliothèques. Avec un serveur Java et un client Go, grpyc atteint 60 263 QPS en unary asynchrone contre 14 595 pour grpcio. La latence P50 en ping-pong est mesurée à 208 microsecondes contre 451 microsecondes. En communication inter-nœuds, avec 64 connexions simultanées, grpyc atteint 10 145 QPS, contre 3 279 pour grpcio et 5 261 pour FastAPI. En simulation d'inférence vLLM (50 tokens), le débit de grpyc est de 814 tokens par seconde, contre 797 pour grpcio et 764 pour REST.

La compatibilité est revendiquée comme totale avec l'API de grpcio version 1.80. Le changement se résume à une seule ligne d'import. Les définitions Protobuf, les handlers et les intercepteurs existants sont conservés. L'installation se fait via pip install grpyc, sans nécessiter de compilateur C ni de dépendance OpenSSL, et fonctionne sur Linux, macOS et Windows, y compris en architecture ARM.

Fonctionnalités et cibles

Grpyc prend en charge les quatre modes de streaming (unary, server streaming, client streaming, bidirectional) via Tokio. Il intègre une fonctionnalité xDS complète (LDS, RDS, CDS, EDS) pour une intégration directe dans les service mesh sans side-car, ainsi que plusieurs algorithmes d'équilibrage de charge (round-robin, ring-hash, weighted round-robin) avec détection d'anomalies (outlier detection) et rapports ORCA. Le TLS et le mTLS sont gérés par rustls, sans OpenSSL.

L'éditeur met en avant trois cas d'usage principaux : l'inférence en IA/ML (vLLM, Triton, TensorFlow Serving), les appels aux API Google Cloud (BigQuery, Pub/Sub, Spanner) et les architectures de service mesh à grande échelle. Dans le contexte IA, la réduction de la latence de transport permettrait une meilleure utilisation des GPU, les requêtes arrivant plus vite aux workers d'inférence.

Modèle économique et disponibilité

Grpyc est un logiciel propriétaire, proposé sous licence commerciale. Une période d'évaluation gratuite de 90 jours est offerte. Deux niveaux de licence sont disponibles : « Pro » (usage en production, support par email) et « Enterprise » (support prioritaire avec SLA, architecture review, canal Slack dédié). Une licence OEM est également proposée pour les éditeurs de SDK souhaitant intégrer la bibliothèque dans leurs produits.

Contexte et implications

Cette initiative s'inscrit dans une tendance plus large de réécriture de composants Python critiques en Rust pour en améliorer les performances et la sécurité mémoire. Le projet Pydantic, la bibliothèque de validation de données, a également annoncé une réécriture en Rust. Si les performances annoncées par grpyc sont confirmées dans des environnements de production variés, cela pourrait représenter une avancée significative pour les applications Python nécessitant des communications gRPC à faible latence et à haut débit, notamment dans le domaine du machine learning et des micro-services.

Cependant, le caractère propriétaire du logiciel pourrait limiter son adoption dans certaines communautés open source. La comparaison directe avec grpcio, une bibliothèque open source largement déployée, devra être vérifiée de manière indépendante pour valider les gains sur des charges de travail réalistes.