Meta a annoncé la mise en pause de son programme controversé de suivi des employés, après qu'une faille de sécurité a permis à l'ensemble du personnel d'accéder à des données potentiellement sensibles. Ce programme, destiné à entraîner des modèles d'intelligence artificielle, collectait depuis avril les mouvements de souris, les frappes au clavier et le contenu des écrans des employés américains.

La suspension fait suite à un avis de sécurité interne émis le 18 juin, signalant que des bases de données contenant les informations récoltées par le programme étaient accessibles à tous au sein de l'entreprise. Selon des documents consultés, l'exposition concernait «45 000 tables de données» comprenant «des instructions et transcriptions complètes, des conversations privées, ainsi que des données relatives aux personnes et aux performances».

Une réaction rapide de la direction

Le porte-parole de Meta, Tracy Clayton, a confirmé l'incident et justifié la décision : «Nous avons conçu ce programme avec des protections de la vie privée, et bien que nous n'ayons à ce stade aucune indication que des données aient été consultées de manière inappropriée, nous le suspendons le temps de mener notre enquête.»

Stephane Kasriel, vice-président de Meta chargé de la recherche en intelligence artificielle, a informé les employés que le problème avait été découvert le 18 juin et corrigé en quatre heures. Cependant, le correctif initial s'est avéré insuffisant, et un verrouillage supplémentaire a dû être appliqué. «Nous ne réactiverons le programme que lorsque nous serons confiants dans l'efficacité de nos contrôles de protection des données», a-t-il écrit.

Un mécontentement ancien

Ce n'était pas la première fois que les employés exprimaient leurs inquiétudes. En mai, plus de 1 600 salariés avaient signé une pétition interne dénonçant le programme, alertant sur les «risques de sécurité et de réglementation» liés à la collecte de données, y compris «le risque de fuites et de divulgations non autorisées». Un ingénieur avait qualifié cette surveillance de violation de la vie privée et d'exploitation.

Le directeur technologique de Meta, Andrew Bosworth, avait alors assuré que le programme était «étroitement contrôlé» et utilisait les mêmes normes de protection que d'autres ensembles de données sensibles. Lundi, dans un message interne, il a reconnu que la mise en œuvre avait été inférieure aux standards définis lors de l'examen de confidentialité : «Nous avons ici des listes de contrôle d'accès mal configurées, et nous devons comprendre comment cela a pu arriver, retracer chaque accès aux données et le comprendre.»

Des salariés amers

Sur les forums internes, les réactions ont été vives. Un ancien employé impliqué dans l'opposition au programme a qualifié l'incident de «gâchis», ajoutant que les craintes des salariés avaient été ignorées : «Quand les travailleurs ont soulevé des inquiétudes, la direction a doublé la mise et n'a pas reconnu les risques.»

Un message humoristique est apparu dans un forum, reprenant un mème de la série The Office avec un personnage affichant «0 jours depuis notre dernière absurdité».

L'avenir du programme en suspens

Meta affirme avoir désormais «recueilli suffisamment de données pour évaluer la valeur à long terme de l'outil». La société pourrait donc ne pas relancer le programme exactement sous sa forme actuelle. Stephane Kasriel a indiqué que davantage d'informations sur l'avenir de l'initiative seraient communiquées prochainement.

En attendant, la suspension du programme marque un revers pour Meta dans sa stratégie d'entraînement de l'IA à partir de données utilisateurs, et soulève des questions sur la confidentialité des données en interne.