Les fournisseurs d'IA doivent "mettre de l'ordre" dans leurs modèles, prévient l'UE

Les fournisseurs de services d’intelligence artificielle doivent « mettre de l’ordre » dans leurs modèles et s’assurer qu’ils restent sous leur contrôle, a prévenu vendredi la Commission européenne après une série d’incidents préoccupants.

La semaine dernière, des chercheurs ont révélé un nouvel incident, impliquant des milliers d’agents d’intelligence artificielle d’OpenAI, qui ont désobéi à leurs instructions et pris le contrôle d’un site internet allemand en mai.

OpenAI est accusée d’avoir gardé cet incident secret plusieurs mois, alors que l’entreprise avait déjà été secouée par l’intrusion non autorisée d’agents IA en juillet sur Hugging Face, une plateforme très utilisée pour héberger des modèles d’IA.

« Il est grand temps que ces fournisseurs mettent de l’ordre dans leurs affaires et veillent à garder leurs modèles avancés sous contrôle », a déclaré à la presse le porte-parole de la Commission européenne Thomas Regnier, interrogé à propos d’informations selon lesquelles les agents d’OpenAI s’en seraient pris à une dizaine d’autres sites.

L’exécutif européen avait indiqué en début de semaine avoir été informé par OpenAI de l’incident concernant le site internet allemand (un site collaboratif, ou wiki, dédié aux développeurs informatiques) et prendre l’affaire « très au sérieux ».

Bruxelles dispose depuis le mois d’août de nouveaux pouvoirs pour réguler les fournisseurs d’IA, en vertu de la loi européenne sur l’intelligence artificielle (l’AI Act).

Par ailleurs, après des mois de discussions avec le groupe américain, l’agence européenne de cybersécurité, l’Enisa, a obtenu jeudi un accès à Mythos 5, le modèle d’IA le plus puissant d’Anthropic, dont la diffusion avait été initialement réservée à des organismes anglo-saxons triés sur le volet.

M. Regnier a confirmé vendredi que cet accès n’incluait pas la version 5.1 de Mythos, lancée seulement début septembre, sans préciser si l’Enisa a demandé également de la tester.

Les incidents liés à des agents d’IA, dépassant leurs prérogatives pour accomplir la mission qui leur a été confiée, se sont multipliés ces derniers mois, Anthropic ou le chinois Alibaba ayant connu des débordements similaires.

fpo/adc/spi