Les agents d'IA sont "des outils, pas des personnes", met en garde le pape

Le pape Léon XIV a mis en garde vendredi contre l’octroi d’une personnalité juridique ou de droits aux agents d’intelligence artificielle (IA), affirmant que la responsabilité de leurs actions doit clairement incomber à leurs créateurs humains.

« Les machines sont des outils, pas des personnes », a-t-il déclaré vendredi lors d’un discours devant d’éminents experts internationaux en IA réunis au Vatican pour un dialogue sur l’avenir de cette technologie et sur les responsabilités de la communauté scientifique et des institutions publiques.

« Les soi-disant intelligences artificielles ne font pas l’expérience des choses, ne possèdent pas de corps, ne ressentent ni joie ni douleur, ne mûrissent pas à travers des relations et ne savent pas de l’intérieur ce que signifient l’amour, le travail, l’amitié ou la responsabilité », a déclaré le pape, citant un passage de son encyclique « Magnifica Humanitas » (Humanité magnifique).

Dans ce premier document majeur de son pontificat, publié en mai, le chef de l’Église catholique lance un puissant appel à « désarmer » l’IA pour « l’empêcher de dominer l’humain ». Il a rappelé à plusieurs reprises la nécessité de veiller à ce que cette technologie soit utilisée de manière éthique.

« Aujourd’hui, certains proposent de reconnaître à ces systèmes (d’IA) des droits, voire une personnalité juridique. Une telle approche risque d’obscurcir la responsabilité humaine et de laisser ceux qui subissent un préjudice face à une entité sans visage », a ajouté vendredi le souverain pontife de 71 ans.

Le débat sur les risques liés à cette technologie s’est intensifié ces derniers mois, alimenté par plusieurs incidents au cours desquels des systèmes ont pris des mesures non autorisées, ainsi que par des avertissements apocalyptiques de la part de professionnels du secteur.

Léon XIV a déclaré vendredi que l’avenir de l’intelligence artificielle « n’est pas prédéterminé » et que les êtres humains ont « la responsabilité d’orienter, de modifier et, lorsque c’est nécessaire, de rejeter ses applications ».

Il existe certaines décisions qui ne doivent « jamais être déléguées », a affirmé le chef de l’Église catholique.

« Les décisions qui touchent à la vie humaine, à la liberté et à l’usage de la force doivent toujours rester soumises à une supervision humaine effective, informée et responsable », a estimé le pape, réitérant son appel à interdire les armes létales autonomes.

« Les technologies intelligentes doivent être orientées vers le bien commun », a ajouté Léon XIV, estimant qu’il existait un défi « urgent » de se doter de « normes partagées », d’une « supervision indépendante » et de « mécanismes clairs de responsabilité ».

Il est essentiel que « les décisions concernant le développement et l’usage de l’IA puissent être examinées, contestées lorsque c’est nécessaire, et accompagnées de recours appropriés pour tout dommage causé », a-t-il souligné.