L'UE s'inquiète d'une course à l'IA au détriment de la sécurité

Les fournisseurs d’intelligence artificielle doivent « garder la maîtrise de leurs systèmes », malgré la concurrence acharnée au sein du secteur qui les pousse à relâcher leurs efforts, a affirmé mercredi la commissaire européenne au Numérique Henna Virkkunen.

« Nous constatons une concurrence mondiale si féroce que les entreprises ne semblent pas consacrer suffisamment de temps et de ressources à tester réellement leurs modèles », a déclaré à la presse la vice-présidente de la Commission européenne, à l’occasion d’un Sommet international de l’IA organisé à Dublin.

« Nous avons d’ailleurs observé plusieurs incidents révélant que les entreprises ne sont pas toujours conscientes des actions entreprises par leurs agents. Elles doivent être capables de garder la maîtrise de ces systèmes », a-t-elle ajouté.

« Ces modèles sont aujourd’hui si performants qu’il devient de plus en plus difficile de les évaluer ; il est donc crucial d’allouer aux experts le temps nécessaire pour tester les systèmes », a souligné la responsable, rappelant que ses services avaient « adressé une demande d’informations aux principales entreprises du secteur, les interrogeant sur les mesures de sûreté et de sécurité en place ainsi que sur les procédures d’évaluation externe ».

L’UE dispose en effet depuis cet été de pouvoirs pour tenter de réguler le secteur, dans le cadre de sa loi pionnière sur l’Intelligence artificielle, l’AI Act, et a commencé à demander des comptes aux entreprises sur différents sujets, allant de la sécurité au respect du droit d’auteur.

La maîtrise des systèmes d’IA est « une exigence que nous affirmons très clairement dans notre AI Act », a insisté Henna Virkkunen.