Personnalités de gauche, droite et religieuses réclament que l'humain reste au centre de l'IA

Des personnalités de gauche, de droite mais aussi religieuses, ainsi que des chercheurs, activistes ou artistes ont lancé mercredi un appel à conserver l’humain au centre du développement de l’intelligence artificielle (IA) pour en garder la maîtrise.

A mesure qu’avance l’IA, « l’humanité est à un embranchement », expliquent les auteurs dans une lettre publiée avec le concours du centre de réflexion Future of Life Institute.

« L’une des voies est celle du remplacement » des humains, « dans la plupart des emplois et des postes de décision » mais aussi au-delà, dans la création ou les interactions personnelles, écrivent-ils.

Une trajectoire rejetée par ces personnalités, parmi lesquelles figurent l’ancien candidat écologiste à la présidentielle américaine Ralph Nader, l’animateur de radio conservateur Glenn Beck ou le pasteur évangélique Johnnie Moore, ancien conseiller de Donald Trump.

« Il existe une meilleure voie », proposent-ils, « sur laquelle une IA fiable et contrôlable amplifie le potentiel humain plutôt que de le diminuer », mais aussi « renforce la dignité humaine » et « contribue à générer une prospérité et un niveau de santé publique sans précédent ».

La lettre a également reçu, entre autres, le soutien du syndicat américain des acteurs SAG-AFTRA, du syndicat américain d’enseignants AFT ou de l’organisation conservatrice Institute for Family Studies.

Les auteurs réclament une IA qui reste sous contrôle des humains, avec notamment des limites sur son développement et ses interactions avec les humains.

Ils souhaitent aussi que les entreprises qui mettent au point les modèles d’IA les plus avancés soient tenues pour responsables de leurs créations et de leurs possibles dérives.

« C’est la première fois qu’est présentée une alternative » à la trajectoire sur laquelle se trouve actuellement l’IA, a déclaré à l’AFP le fondateur de Future of Life Institute, Max Tegmark.

Selon un sondage récent réalisé auprès d’électeurs américains, 77% estiment que l’IA doit rester sous contrôle humain et 72% que les grands acteurs de l’intelligence artificielle devraient être tenus légalement responsables des actes de leurs modèles.

Ils sont aussi 69% à vouloir l’interdiction de la superintelligence avant qu’elle ne soit considérée comme sûre. La superintelligence est le stade à partir duquel l’IA dépasserait les capacités humaines.