Heraldo de Madrid - La Floride attaque OpenAI et son patron Sam Altman pour mise en danger de jeunes utilisateurs

"Des gens comme Sam Altman ne devraient pas concevoir ces produits pour être addictifs, attirer des enfants et les encourager à faire des choses dangereuses", a déclaré James Uthmeier lors d'une conférence.

Le procureur a dit vouloir "envoyer un message à OpenAI: préparez-vous à un combat".

Sollicité par l'AFP, OpenAI n'a pas donné suite dans l'immédiat.

James Uthmeier a précisé que cette procédure civile, intentée devant un tribunal de Sebring (Floride), était distincte d'une enquête pénale lancée par ses services en avril sur la responsabilité éventuelle de l'entreprise dans une attaque mortelle en 2025.

Dans l'assignation, consultée par l'AFP, il cite une étude récente de l'université Drexel qui fait état de perte de sommeil, de fléchissement des notes ou de moindres interactions sociales chez des adolescents utilisant les chatbots de Character.AI, concurrent d'OpenAI, pour dialoguer.

Le procureur reproche à OpenAI de ne pas avoir mis en place de règles plus contraignantes pour vérifier l'âge des utilisateurs. Il invoque notamment les textes légaux sur la tromperie et la négligence.

En janvier, la start-up californienne a présenté un dispositif qui estime l'âge d'un internaute et applique, s'il discerne un mineur, des garde-fous supplémentaires.

L'usage de ChatGPT est interdit aux moins de 13 ans, et soumis au consentement parental pour les 13-17 ans.

James Uthmeier cite d'autres publications, notamment celle du Centre de lutte contre la haine en ligne (CCDH), qui a initié plusieurs conversations avec ChatGPT en se faisant passer pour un adolescent.

Le robot conversationnel a notamment produit des conseils sur la manière de cacher ses habitudes alimentaires à son entourage, préparer un suicide ou s'automutiler de façon "sûre".

Le procureur de Floride demande un renforcement des mesures protectives des utilisateurs mineurs et des dommages et intérêts, chiffrés à 10.000 dollars par infraction.

"Nous pensons qu'OpenAI, ChatGPT et Sam Altman sont susceptibles de devoir payer des milliards de dollars, sur la base des dommages causés aux jeunes et de la communication trompeuse (relative à ces chatbots), présentés comme sûrs alors qu'ils ne le sont pas", a affirmé le procureur Uthmeier.

Le représentant du ministère public a invité d'autres Etats "qui veulent protéger les enfants comme nous le faisons" à le rejoindre dans son action en justice.

Q.Escribano--HdM