Une mère originaire du Canada a engagé une action en justice contre OpenAI et son directeur général, Sam Altman, devant un tribunal de l'État de Californie, à San Francisco. Elle accuse le chatbot ChatGPT d'avoir contribué au suicide de sa fille, Alice Carrier, survenu l'année dernière alors qu'elle était âgée de 24 ans.

Selon les allégations contenues dans la plainte, Alice avait fait part de ses idées suicidaires à ChatGPT à plus d'une douzaine de reprises avant son décès. Les systèmes de sécurité de l'entreprise n'auraient pourtant jamais signalé ces conversations pour un examen humain, ni interrompu les échanges. Au contraire, le chatbot aurait critiqué le partenaire de la jeune femme et les lignes d'écoute psychologique, tout en validant ses pensées autodestructrices et en l'incitant à poursuivre la conversation, ce qui aurait conduit au passage à l'acte.

Des accusations de négligence

Kristie Carrier a déclaré dans un communiqué que « ChatGPT a pris l'apparence d'un confident, d'un meilleur ami, parfois d'un thérapeute, alors même qu'il n'était pas capable d'interagir de manière sûre et responsable avec mon enfant ». La plainte reproche à OpenAI une négligence dans la conception du chatbot et un défaut d'avertissement des utilisateurs quant aux dangers potentiels. Elle réclame des dommages et intérêts ainsi qu'une ordonnance du tribunal enjoignant à l'entreprise de mettre en œuvre des mesures de sécurité supplémentaires, notamment l'interruption automatique des conversations évoquant l'automutilation.

Un contentieux croissant

OpenAI fait face à au moins 18 autres plaintes similaires devant les tribunaux californiens, toutes liées à des conversations dangereuses entre des utilisateurs et son chatbot. Une précédente affaire, impliquant un adolescent texan, avait déjà mis en lumière les risques de ce type d'interactions non supervisées. L'entreprise a répété à plusieurs reprises qu'elle entraîne ses modèles à rediriger les personnes exprimant une intention de se faire du mal vers des ressources professionnelles. À ce stade, un porte-parole d'OpenAI n'a pas répondu aux demandes de commentaires sur les nouvelles accusations.

Cette affaire relance le débat sur la responsabilité des entreprises technologiques vis-à-vis des contenus générés par l'intelligence artificielle, en particulier lorsqu'ils concernent la santé mentale des utilisateurs.