Les autorités de Floride ont engagé une procédure judiciaire à l'encontre d'OpenAI et de son fondateur, Sam Altman, les accusant de mettre en péril la sécurité des plus jeunes utilisateurs. La plainte, déposée devant un tribunal de l'État, reproche au chatbot conversationnel ChatGPT de causer un préjudice aux mineurs.

Des accusations de négligence et de pratiques trompeuses

Dans le document déposé, les plaignants affirment que l'entreprise a sciemment conçu et diffusé un produit dont les réponses peuvent s'avérer dangereuses pour les enfants. Selon la requête, OpenAI n'aurait pas mis en place de garde-fous suffisants pour protéger les jeunes utilisateurs des contenus inappropriés, des manipulations ou des biais potentiellement nocifs générés par l'intelligence artificielle.

La plainte évoque des manquements à plusieurs titres : défaut d'avertissement sur les risques encourus, absence de mécanismes de contrôle parentaux efficaces, et pratiques commerciales trompeuses consistant à présenter ChatGPT comme un outil inoffensif et adapté à tous les âges. Les autorités floridiennes considèrent que ces carences constituent une violation des lois locales sur la protection des consommateurs et la sécurité des enfants.

Sam Altman personnellement mis en cause

Le nom du dirigeant d'OpenAI, Sam Altman, figure aux côtés de celui de la société dans l'assignation. La justice de Floride cherche ainsi à engager la responsabilité personnelle du PDG dans les décisions stratégiques ayant conduit à la commercialisation de l'outil sans les précautions nécessaires. Ce type de mise en cause directe d'un responsable d'entreprise dans une action en justice liée à l'intelligence artificielle reste rare et pourrait faire jurisprudence.

Un précédent dans le contentieux des IA génératives

Cette action en justice s'inscrit dans un contexte de méfiance croissante, notamment chez les jeunes, à l'égard des systèmes d'intelligence artificielle générative. Alors que ChatGPT connaît un succès fulgurant depuis son lancement, plusieurs voix s'élèvent pour dénoncer les risques associés à son utilisation non encadrée, en particulier pour les mineurs.

Des enquêtes menées dans différents pays ont mis en lumière des cas où le chatbot prodiguait des conseils dangereux, tenait des propos discriminatoires ou exposait les utilisateurs à des contenus choquants. La Floride devient ainsi l'un des premiers États américains à franchir le pas d'une action en justice directement fondée sur ces dangers présumés.

Quelles suites pour OpenAI ?

L'entreprise n'a pas encore communiqué officiellement sur le fond de la plainte. La procédure pourrait déboucher sur une injonction de modifier en profondeur les paramètres de sécurité de ChatGPT, sur des dommages et intérêts, ou sur une interdiction temporaire de mise à disposition du service sur le territoire floridien.

Au-delà du cas particulier, ce procès pourrait contraindre l'ensemble du secteur de l'IA à revoir ses pratiques en matière de protection de l'enfance et de transparence algorithmique. Les autorités de Floride entendent envoyer un signal fort : les entreprises technologiques ne sauraient se soustraire à leurs obligations légales au nom de l'innovation.

L'audience préliminaire n'a pas encore été fixée. La décision du tribunal de Floride sera scrutée de près par les acteurs de la tech et les défenseurs des droits des enfants, tant elle pourrait redéfinir le cadre juridique applicable aux intelligences artificielles grand public.