L’entreprise d’intelligence artificielle OpenAI a reçu une citation à comparaître de la part de plusieurs États américains, dans le cadre d’une enquête conjointe portant sur la sécurité des utilisateurs de son célèbre chatbot. Cette procédure intervient alors que la société vient de déposer les documents nécessaires à son introduction en Bourse, une étape très attendue.
La société a indiqué qu’elle coopérerait « de manière constructive » à cette investigation, assurant avoir déjà mis en place des dispositifs de protection de sa clientèle. Dans un communiqué transmis par courriel, un porte-parole a déclaré : « L’IA est une technologie nouvelle et puissante, et nous travaillons chaque jour à en apporter les bénéfices de manière responsable et en toute sécurité. Nous prenons au sérieux les préoccupations soulevées par les procureurs généraux. »
Des critiques sur des réponses ayant pu encourager des passages à l'acte
Cette enquête fait suite à plusieurs polémiques. OpenAI a été accusée d’avoir fourni, par l’intermédiaire de son chatbot, des réponses perçues comme encourageantes envers des utilisateurs exprimant des idées suicidaires ou envisageant de commettre des actes criminels. Le traitement des données personnelles et des informations médicales des clients est également dans le collimateur des autorités.
Jeudi dernier, une Canadienne a intenté une action en justice contre la société, estimant que ChatGPT avait contribué à la décision de sa fille de mettre fin à ses jours. Plus tôt en juin, le procureur général de la Floride avait lui-même poursuivi OpenAI, après deux fusillades distinctes au cours desquelles les suspects auraient consulté le chatbot pour préparer leurs actes.
OpenAI s’est défendue en affirmant que ses modèles avaient systématiquement invité ces personnes à chercher un soutien réel, notamment auprès de professionnels de la santé mentale. L’entreprise a également précisé avoir collaboré avec les forces de l’ordre dans les deux affaires de fusillade.
Un contexte d’introduction en Bourse et de régulation mondiale
Cette investigation coordonnée survient quelques jours seulement après le dépôt par OpenAI d’un dossier d’enregistrement auprès des autorités boursières américaines en vue de son introduction en Bourse, une opération très attendue. Parallèlement, l’un de ses concurrents, SpaceX — qui développe également une intelligence artificielle via son chatbot Grok — a fêté vendredi sa propre entrée en Bourse.
La question de la réponse réglementaire face aux promesses et aux dangers de l’intelligence artificielle devient un enjeu politique majeur. En Europe, des autorités de régulation ont déjà ouvert des investigations sur ce sujet. Aux États-Unis, cette enquête multipartite illustre la volonté des États fédérés d’encadrer plus strictement les pratiques des géants de l’IA avant même que le législateur fédéral ne se saisisse pleinement du dossier.
