Le régulateur britannique demande à X des explications sur les images sexuelles créées par Grok

Le régulateur britannique des médias a demandé lundi au réseau social X d’expliquer comment il protège ses utilisateurs contre les fausses images de mineurs à caractère sexuel générées par Grok, l’assistant d’intelligence artificielle associé au réseau.

« Nous sommes conscients des sérieuses inquiétudes concernant une fonctionnalité de Grok sur X qui génère des images de personnes dénudées et des images sexualisées d’enfants », a écrit lundi l’Ofcom dans un communiqué.

Le régulateur a indiqué avoir contacté « urgemment » X pour « comprendre quelles mesures » ce réseau social a introduites afin de « respecter ses obligations légales » concernant la protection des utilisateurs au Royaume-Uni.

« En fonction de leur réponse, nous procéderons à une évaluation rapide pour déterminer s’il existe des problèmes de conformité susceptibles de justifier une enquête », a ajouté l’Ofcom.

L’Union européenne a également indiqué lundi prendre « très au sérieux » ces fausses vidéos diffusées sur X, réseau social appartenant à Elon Musk.

Ces vidéos sont « illégales, dégoûtantes et n’ont pas leur place en Europe », a déclaré un porte-parole de la Commission européenne.

Grok a reconnu vendredi l’existence de « failles » ayant permis à des utilisateurs d’obtenir de lui des images à caractère sexuel impliquant des mineurs ou des femmes.

Ces images ont suscité des protestations à travers le monde et l’élargissement d’une enquête judiciaire en France.