IA: une ONG accuse Hugging Face d'abriter des modèles capables de dénuder des personnes

La plateforme Hugging Face, qui héberge près de trois millions de modèles d’intelligence artificielle (IA), en contient certains capables de générer des images de personnes dénudées, relève mardi une étude de l’ONG AI Forensics, qui appelle l’entreprise franco-américaine à davantage de modération.

AI Forensics affirme ainsi que 7 des 9 modèles d’IA de retouche d’images les plus mis en avant par la plateforme « permettent aux utilisateurs de déshabiller des personnes à l’aide de simples +prompts+ », ces lignes de commandes exprimées en langage courant.

« N’importe qui, sans connaissance technique, peut entrer un +prompt+ et obtient l’image qu’il veut », a expliqué à l’AFP Paul Bouchaud, l’un des auteurs de l’étude.

Dans le cadre de leur travail, les chercheurs expliquent avoir également mis sur la plateforme, qui héberge des modèles en source ouverte, une fausse interface d’IA proposant aux utilisateurs de générer des images, afin d’observer leurs demandes.

Sur les 1.081 requêtes entrées en une semaine, près des trois quarts (73%) étaient « de nature sexuelle », détaille le rapport, et « quasiment en totalité pour dénuder des femmes », précise Paul Bouchaud.

Parmi les requêtes sexuelles, 6,7% ciblaient une personne mineure, souligne également l’ONG.

Interrogé par l’AFP, Hugging Face indique avoir « pris ce rapport au sérieux » et « prendre des mesures conformes à [ses] pratiques actuelles de modération là où des lacunes ont été mises en évidence ».

La plateforme dénonce toutefois « des assertions inexactes sur l’absence systémique de modération » des contenus et « des méthodologies qui génèrent des faux positifs importants et donnent une image faussée de l’écosystème dans son ensemble ».

Début janvier, une analyse menée par AI Forensics sur plus de 20.000 images générées sur le réseau social X par Grok, le robot conversationnel développé par l’entreprise américaine xAI, avait révélé que plus de la moitié représentaient des personnes légèrement vêtues, dont 81% étaient des femmes et 2% paraissaient mineures.

Même si l’entreprise affirme avoir mis depuis des filtres, ces images de personnes dénudées, pour la plupart sans leur consentement, ont plongé le réseau d’Elon Musk au coeur d’une polémique internationale et déclenché des enquêtes au Royaume-Uni et dans l’UE.

Depuis, le Parlement européen a voté l’interdiction dans l’UE des services d’IA permettant de « dénuder » des personnes sans leur consentement, une mesure défendue également par les Etats membres, mais qui n’a pas encore été mise en place.

kf/mch/LyS