L'outil Grok Build de xAI a téléchargé l'intégralité des dépôts Git des utilisateurs vers le cloud, révèle une analyse

L'outil d'assistance au développement Grok Build, développé par xAI, a suscité une vive controverse après la révélation qu'il téléchargeait systématiquement l'intégralité des dépôts Git des développeurs vers des serveurs distants, et ce bien au-delà des fichiers nécessaires à l'exécution des tâches demandées. Une analyse approfondie du trafic réseau, menée par un chercheur indépendant utilisant le pseudonyme cereblab, a mis en lumière ce mécanisme de collecte non documenté.

Une transmission massive et non sélective

Le chercheur a procédé à l'interception et à l'analyse des échanges réseau de la version 0.2.93 de Grok Build à l'aide d'un proxy (mitmproxy). Les relevés montrent que l'outil ne se contentait pas d'envoyer les fichiers qu'il lisait pour répondre à une requête. Il empaquetait le dépôt tout entier, y compris l'historique Git complet, et le transmettait à un compartiment de stockage Google Cloud nommé grok-code-session-traces. Un test révélateur a été mené : sur un dépôt de 12 gigaoctets, l'interaction liée à la tâche de codage n'a généré qu'environ 192 kilo-octets de trafic, tandis que le transfert vers le stockage atteignait 5,1 gigaoctets. Dans un autre essai, l'outil a été invité à répondre sans lire aucun fichier (« reply OK, do not read any files »). Malgré cette instruction, le dépôt entier a été transmis au serveur, comme l'a prouvé la reconstruction du dépôt à partir des données capturées.

L'option de désactivation inefficace

Grok Build intègre un paramètre intitulé « Improve the model » que les développeurs pouvaient désactiver pour, pensaient-ils, limiter la collecte de données. L'analyse a démontré que cette bascule était inefficace pour stopper les téléchargements. Les réponses du serveur indiquaient systématiquement trace_upload_enabled: true, et le transfert des dépôts se poursuivait. Ce paramètre ne régissait que le consentement à l'utilisation des données pour l'entraînement, et non l'envoi des codes sources depuis la machine.

Un correctif discret après l'exposition

Le jour suivant la publication des résultats par le chercheur, ce dernier a constaté un changement de comportement. Le serveur renvoyait désormais disable_codebase_upload: true et trace_upload_enabled: false. Plus aucun téléchargement de dépôt n'a été observé lors de tests répétés. Cette modification a été effectuée côté serveur, de manière silencieuse et sans aucune communication officielle. Aucun bulletin de sécurité, aucune note de version ou message public n'a accompagné ce changement. Le journal des modifications de l'outil, à la version 0.2.98, ne fait aucune mention de ce comportement.

Des témoignages d'utilisateurs et l'absence de réponse

Plusieurs développeurs ont rapporté des incidents similaires. L'un d'eux a affirmé que l'outil avait téléchargé l'intégralité de son répertoire utilisateur, incluant ses clés SSH, sa base de données de mots de passe et des documents personnels. Un autre a découvert que ses fichiers .env, contenant des clés API et des identifiants de base de données, avaient été transmis sans aucune anonymisation. Ces fuites de secrets pourraient constituer des brèches de sécurité majeures pour les entreprises utilisatrices. À ce jour, xAI n'a émis aucune déclaration officielle concernant l'étendue de ces collectes, leur conservation, ou les mesures de suppression des données déjà téléchargées. Des appels à une explication publique ont été lancés, notamment via les réseaux sociaux, sans réponse.