Craintes sur l'IA: Charles III va réunir les géants du secteur en Écosse

Des représentants des grandes entreprises d’intelligence artificielle, dont Google DeepMind ou OpenAI, doivent se réunir prochainement en Ecosse pour un sommet convoqué par le roi Charles III, a-t-on appris lundi de source proche de l’événement, alors que les mises en garde se multiplient sur les risques liés à cette technologie.

Ce sommet se tiendra au domaine de Dumfries House, qui abrite le siège de la King’s Foundation dans la campagne écossaise, et vise à explorer comment l’IA peut bénéficier à la société, a précisé cette source.

D’autres sources proches du sommet ont indiqué que Google DeepMind sera représenté par son président Demis Hassabis et OpenAI par sa directrice financière Sarah Friar. Des représentants de Nvidia et Anthropic sont également attendus.

L’événement est supervisé par la Ditchley Foundation, une organisation caritative britannique, qui, selon le Sunday Times, a rédigé un projet de charte incluant des « principes partagés » pour que l’IA « respecte la dignité humaine et contribue à l’épanouissement des personnes et de la planète ».

Les inquiétudes vont croissant autour des conséquences de l’essor rapide de l’IA sur l’avenir de l’humanité.

Le patron d’Anthropic, Dario Amodei, a plaidé samedi en faveur d’une décélération afin de mieux appréhender les risques découlant des nouvelles capacités de cette technologie.

Il a été soutenu publiquement par son homologue d’OpenAI, Sam Altman, ainsi que par Elon Musk.

Dario Amodei a évoqué une IA « capable de prendre le contrôle de l’intégralité d’internet » d’ici 6 à 12 mois.

« Nous croyons vraiment, sincèrement, que l’IA pourrait tuer tous les humains », a écrit mardi sur X Evan Hubinger, un responsable de la sécurité chez Anthropic, en réaction à l’alerte lancée le même jour par Jacob Coxon, qui a démissionné d’Anthropic après avoir jugé l’entreprise, comme OpenAI, trop laxiste sur le sujet.

Donald Trump et plusieurs figures de son camp se sont dits opposés dimanche à un ralentissement de l’IA, devenu un des sujets phares de la campagne des législatives de mi-mandat aux Etats-Unis.

Au Royaume-Uni, la commission mixte des droits de l’homme, un organe consultatif réunissant des parlementaires de plusieurs partis, a appelé lundi dans un rapport le gouvernement à « introduire un projet de loi spécifique sur l’IA et mettre en place un nouveau régulateur, afin d’assurer une protection ciblée et efficace des droits humains au Royaume-Uni ».

zap/pml/cac