Une victime de pédocriminalité attaque xAI pour l'utilisation et la production de contenu pédopornographique

Une femme victime de viols filmés et mis en ligne lorsqu’elle était mineure a assigné en justice xAI, accusé d’avoir utilisé des contenus pédopornographiques pour développer ses modèles d’intelligence artificielle (IA) Grok et de permettre la génération d’images synthétiques.

Au tournant de l’année, Grok a fait l’objet d’une polémique après que des internautes l’ont utilisé pour produire et publier sur le réseau social X des images dénudées de femmes sans leur consentement, ainsi que de jeunes filles.

Devant l’ampleur du phénomène, plusieurs pays, notamment l’Indonésie, la Malaisie et les Philippines avaient bloqué l’accès à Grok. Sous pression, xAI a annoncé, début janvier, avoir pris des mesures pour désactiver cette fonctionnalité.

Mais plusieurs observateurs ont affirmé qu’il était possible de contourner ces restrictions. Des tests réalisés jeudi par l’AFP ont ainsi permis de générer des images de femmes en bikini à partir de photos réelles de femmes habillées.

En mars, trois adolescentes du Tennessee (sud des Etats-Unis) ont attaqué xAI, société d’intelligence artificielle contrôlée par Elon Musk, reprochant à Grok d’avoir créé des images pornographiques d’elles à partir de véritables photos.

Dans l’assignation déposée mercredi devant un tribunal fédéral de San Jose (Californie), une femme met en cause l’entreprise pour avoir utilisé dans le développement de son IA des images pédopornographiques mettant en scène des viols filmés dont elle a été victime enfant au début des années 2000.

Elle mentionne aussi une analyse du Centre canadien de protection de l’enfance, selon laquelle des images générées par Grok la représentent.

Ce faisant, xAI a enfreint deux lois fédérales sur l’utilisation et la production de contenus pédopornographiques, fait valoir cette Californienne.

Elle demande à la justice d’enregistrer sa procédure en tant qu’action de groupe, ce qui autoriserait d’autres victimes présumées à s’y joindre.

La plaignante réclame également qu’injonction soit faite à xAI de ne plus utiliser ou générer d’images pédopornographiques, ainsi que des dommages et intérêts dont le montant n’a pas été fixé.

xAI a absorbé la plateforme X en 2025, avant d’être lui-même intégré à une autre société dirigée par Elon Musk, SpaceX, en février.

tu/myl/llb