Grok visé par le régulateur britannique pour ses images "à caractère sexuel"

Le régulateur britannique de la sécurité sur internet a annoncé lundi l’ouverture d’une « enquête formelle » visant le réseau social X « concernant des images à caractère sexuel diffusées » par son assistant d’intelligence artificielle Grok.

« Des signalements très inquiétants font état de l’utilisation » de Grok AI sur X « pour créer et partager des images de personnes dénudées – pouvant constituer une atteinte à la pudeur ou de la pornographie – ainsi que des images à caractère sexuel d’enfants pouvant constituer du matériel pédopornographique », indique l’Ofcom dans son communiqué.

De telles images, réalisées en demandant à Grok de dénuder des personnes réelles à partir de photos ou vidéos, ont suscité une vague de protestations à travers le monde. La Malaisie a suspendu dimanche, après l’Indonésie samedi, l’accès à cet assistant.

Sous le feu des critiques, Grok a désactivé vendredi sa fonctionnalité de création d’images pour les utilisateurs non payants. « Vous pouvez vous abonner pour débloquer ces fonctionnalités », avait précisé la plateforme.

Cette désactivation limitée avait suscité l’indignation du Royaume-Uni. Cette mesure « transforme simplement une fonctionnalité qui permet la création d’images illégales en un service premium », et constitue « une insulte aux victimes de misogynie et de violences sexuelles », avait dénoncé un porte-parole du Premier ministre britannique Keir Starmer.

L’Ofcom précise lundi avoir demandé des explications à X la semaine dernière. S’il ne détaille pas la teneur de leurs échanges, le régulateur indique que « l’entreprise a répondu dans les délais impartis ».

Son enquête devra « déterminer si X a manqué à ses obligations légales », qui lui imposent notamment d' »évaluer le risque que des personnes au Royaume-Uni consultent des contenus illégaux », de « supprimer rapidement les contenus illégaux » ou encore d' »évaluer les risques que leur service représente pour les enfants britanniques ».

Le régulateur a le pouvoir d’imposer des amendes allant jusqu’à 10% du chiffre d’affaires mondial de l’entreprise visée et peut saisir la justice pour demander un blocage du site au Royaume-Uni.

« Certaines des choses que j’ai vues et entendues » au sujet des images générées par Grok « sont répugnantes et manifestement illégales et j’attends que des mesures soient prises », avait affirmé un peu plus tôt à la presse britannique le ministre des Entreprises Peter Kyle, tout en précisant qu’il appartenait à l’Ofcom de faire appliquer la loi.

Contacté par l’AFP, X n’avait pas répondu dans l’immédiat.

ode/zap/cbr