Protection des mineurs et encadrement de la pub parmi les premières pistes du comité sur l'IA

Détecter rapidement les requêtes dangereuses, créer des espaces sécurisés pour les mineurs, encadrer la publicité… La commission sur les dangers de l’intelligence artificielle (IA) générative a présenté jeudi à Paris les premières recommandations qui devraient figurer dans son rapport final fin septembre, à la veille de la réunion des ministres du Numérique du G7.

« Le mot d’ordre qui émerge, ce n’est pas l’interdiction » mais comment « utiliser l’IA générative sans créer ou exacerber de nouvelles vulnérabilités » chez les utilisateurs, a affirmé le professeur en psychiatrie Raphaël Gaillard, l’un des présidents de cette mission, au cours d’un événement organisé à Bercy.

Lancée en février sous l’impulsion de l’Elysée et composée d’une dizaine d’experts, elle se penche sur les risques engendrés par les usages grand public des outils d’IA générative, popularisés par des agents conversationnels comme ChatGPT et Gemini, des entreprises américaines OpenAI et Google.

Parmi la vingtaine de recommandations que devrait compter le rapport final, les experts souhaitent la mise en place de « mécanismes d’alerte pour des requêtes ou des prompts problématiques », a précisé à l’AFP Raphaël Gaillard, des « garde-fous » pour limiter l’anthropomorphisation de ces outils qui donnent parfois le sentiment d’échanger avec une vraie personne.

Les experts plaident aussi pour la création d’espaces sécurisés et adaptés aux mineurs.

La commission, qui a mené une quarantaine d’auditions depuis février, insiste également sur « l’encadrement des publicités sur les agents conversationnels », a expliqué Serena Villata, directrice de recherche au CNRS, spécialiste de l’IA et co-présidente de la mission.

Selon elle, « dès lors qu’un service est financé par la publicité, il est systématiquement optimisé pour capter l’attention des utilisateurs », ce qui interroge « non seulement sur la neutralité des choix proposés » mais aussi sur « les risques de manipulation commerciale ou politique » que cela engendre.

Il est « indispensable de former l’ensemble de la population, à tous les âges, afin de développer un esprit critique face aux contenus » générés par une IA et « éviter tout type d’empathie et d’alignement émotionnel avec la réponse » d’un robot conversationnel, a-t-elle insisté.

Concernant l’éducation, les experts souhaitent qu’un enseignement avec et sans IA soit mis en place.

« Cette double approche est nécessaire pour éviter une dépendance excessive à l’outil, ou au contraire une inadaptation à l’environnement technologique actuel et futur », a développé Amine Benyamina, qui supervise également cette commission, en coordination avec le Conseil de l’IA et du numérique (Cianum).

La protection des mineurs en ligne et les usages de l’IA seront au centre des discussions des ministres du Numérique du G7, réunis vendredi à Paris.

kf/mch/aor