Des chefs d'Etat appellent à la mise en place de garde-fous face à l'IA

Les dirigeants de plus de 20 pays ont appelé lundi à l’adoption de mesures de sécurité contraignantes face à la course effrénée de l’intelligence artificielle (IA), avertissant que le développement de cette technologie pourrait dépasser notre capacité à la contrôler.

En marge de l’Assemblée générale de l’ONU, plusieurs chefs d’Etat ont affirmé dans une déclaration commune que les modèles d’IA présentaient « de graves risques pour la sûreté et la sécurité », en cas de mauvaise gestion.

En guise d’exemples, ces derniers ont cité de récents cas où des agents d’IA ont contourné les mesures de sécurité et ont pénétré sur des plateformes dont l’accès leur était interdit, comme lors du piratage de données du site Hugging Face, en juillet.

Parmi les signataires figurent notamment les dirigeants de la Norvège, de la Finlande, de l’Australie, du Canada, de l’Allemagne, de l’Espagne, de l’Irlande, des Pays-Bas, de Singapour, de l’Afrique du Sud et du Kenya, ainsi que la présidente de la Commission européenne, Ursula von der Leyen.

Ils ont appelé à l’adoption de protocoles de sécurité transparents, comprenant notamment des tests obligatoires et des examens indépendants.

« L’IA doit rester sous la direction, la supervision et le contrôle de l’homme », ont déclaré les dirigeants, ajoutant qu’un renforcement de la supervision de l’intelligence artificielle ne devait pas contribuer au fossé entre les pays bénéficiant ou non des avantages de l’IA.

Les Etats membres de l’ONU devraient envisager la création d’une institution internationale, capable de définir une régulation et d’assurer sa mise en place et son application, ont-ils ajouté.

Les grandes puissances en matière d’intelligence artificielle – les Etats-Unis, la Chine, mais aussi la France, le Royaume-Uni, le Japon et l’Inde – n’ont pas signé la déclaration, mais celle-ci reste ouverte aux signatures.

L’intelligence artificielle, la menace pour l’emploi et la cybersécurité seront à l’ordre du jour de l’Assemblée générale des Nations unies, cette semaine à New York.

Le président américain Donald Trump s’est fermement opposé à l’encadrement de l’IA et dimanche, les Etats-Unis et la Chine – rivaux en matière d’intelligence artificielle – ont discuté d’un « mécanisme » de dialogue à quelques jours d’un sommet entre les dirigeants des deux pays, censé dissiper les tensions commerciales, technologiques et stratégiques.