IA de "dénudification" sur Hugging Face: l'UE "prête à agir"

La Commssion européenne s’est dite jeudi déterminée à agir contre la plateforme Hugging face, accusée par l’ONG AI Forensics d’héberger plusieurs modèles d’intelligence artificielle capables de générer des images de personnes dénudées sans leur consentement.

« Nous sommes au courant de cette enquête et nous examinons ces conclusions », a indiqué à la presse Thomas Regnier, porte-parole de l’UE en matière de Numérique, rappelant que créer des images de personnes dénudées sans leur consentement était prohibé dans l’UE.

« Nous travaillons pleinement sur ce dossier et nous sommes prêts à prendre des mesures nécessaires et appropriés », a-t-il ajouté.

La Haute-commissaire à l’enfance en France, Sarah El-Haïryn a annoncé mercredi saisir la Commission européenne, après les révélations de l’ONG.

AI Forensics affirme que sept des neuf modèles d’IA de retouche d’images les plus mis en avant par la plateforme « permettent aux utilisateurs de déshabiller des personnes à l’aide de simples +prompts+ », ces lignes de commandes exprimées en langage courant.

Les systèmes de dénudification sont dans le collimateur des autorités en Europe après l’ajout il y a plusieurs mois d’une fonctionnalité dans Grok, l’assistant d’intelligence artificielle d’Elon Musk, qui permettait aux utilisateurs de lui demander de créer des montages hyperréalistes (ou « deepfakes ») d’adultes et d’enfants dénudés.

Cette affaire avait soulevé un tollé dans de nombreux pays et entraîné l’ouverture d’une enquête par la Commission européenne.

Dans la foulée, l’UE a adopté une loi qui interdit explicitement les services d’intelligence artificielle (IA) permettant de « dénuder » des personnes sans leur consentement, une mesure qui entrera en vigueur en début décembre.

Mais Bruxelles dispose déjà de moyens d’action, notamment dans le cadre de la loi européenne sur l’Intelligence artificielle (l’AI Act), dont plusieurs dispositions vont entrer en vigueur dimanche, lui conférant de nouveaux pouvoirs pour réguler les fournisseurs de modèles d’IA.

fpo/jca/spi