L'État de Floride a engagé une action en justice contre OpenAI et son PDG, Sam Altman, pour des faits liés à la protection des jeunes utilisateurs de son assistant conversationnel. La plainte, déposée par le procureur général de l'État, reproche à l'entreprise de ne pas avoir mis en place de dispositifs adéquats pour vérifier l'âge des personnes qui interagissent avec ChatGPT.

Le parquet estime que l'absence de contrôles d'âge expose les mineurs à des contenus ou à des interactions potentiellement dangereuses. Il lui est notamment reproché de ne pas avoir instauré de règles plus contraignantes pour limiter l'accès des plus jeunes à l'outil d'intelligence artificielle. La procédure vise à la fois la société éditrice du logiciel et son principal dirigeant, Sam Altman, considéré comme responsable de la stratégie de l'entreprise.

Des accusations de mise en danger

Les autorités judiciaires de Floride considèrent que la conception même de ChatGPT, sans système de vérification d'âge, constitue une mise en danger pour les enfants et les adolescents. Le procureur général de l'État estime qu'OpenAI n'a pas pris les mesures nécessaires pour protéger les mineurs des risques potentiels liés à l'utilisation d'une intelligence artificielle générative.

Cette plainte s'inscrit dans un contexte plus large de méfiance croissante des autorités américaines envers les grandes entreprises technologiques. Plusieurs États américains ont déjà lancé des enquêtes ou des actions en justice contre des plateformes numériques, accusées de ne pas suffisamment protéger la jeunesse face à des contenus ou des algorithmes jugés nocifs.

OpenAI dans le collimateur

La société OpenAI, basée à San Francisco, est devenue l'une des entreprises les plus en vue du secteur de l'intelligence artificielle depuis le lancement public de ChatGPT fin 2022. Son logiciel, capable de générer du texte, de répondre à des questions complexes ou d'aider à la rédaction, a conquis des centaines de millions d'utilisateurs dans le monde, dont une part importante d'adolescents et de jeunes adultes.

Cette popularité a toutefois suscité des inquiétudes chez les parents, les éducateurs et les régulateurs. Plusieurs voix se sont élevées pour demander une meilleure régulation des IA génératives, notamment en ce qui concerne la vie privée, la fiabilité des informations fournies et l'impact sur le développement cognitif des plus jeunes.

Une procédure en cours

L'action en justice déposée par la Floride pourrait faire jurisprudence. Elle intervient alors que le Congrès américain peine à légiférer sur le sujet, laissant les États fédérés prendre des initiatives. OpenAI n'a pas encore réagi publiquement à cette plainte. La société a par le passé indiqué prendre au sérieux la sécurité de ses utilisateurs et travailler à l'amélioration de ses systèmes de modération.

L'affaire devrait désormais suivre son cours devant les tribunaux de l'État. Les prochains mois pourraient être décisifs pour déterminer dans quelle mesure une entreprise d'intelligence artificielle peut être tenue responsable des usages faits de ses outils par des mineurs.