Les progrès des IA appellent à davantage de régulation, selon le chercheur Stuart Russell

Les capacités croissantes des intelligences artificielles (IA) devraient pousser les responsables politiques à agir, a prévenu mardi le chercheur en informatique Stuart Russell, connu pour appeler à davantage de régulation dans ce domaine.

Lors d’une conférence à Paris organisée par l’Unesco et l’Association internationale pour une IA sûre et éthique (IASEAI), il a pris l’exemple du développement des intelligences artificielles générales, censées rivaliser avec l’intelligence humaine.

« Imaginez que nous mettions en place des tests et que ces systèmes se mettent à échouer à ces tests et à se comporter dangereusement », a développé M. Russell. « Je suis sûr que nous réagirions à ces importants signaux d’alarme clignotants et à ces klaxons qui se déclencheraient, et que nous prendrions des mesures pour contrôler cette technologie ».

Le professeur de l’université de Berkeley, en Californie, a donné plusieurs exemples montrant la façon dont cette technologie pouvait échapper au contrôle humain, comme les « agents IA » autonomes, dont certains lui ont envoyé des courriels sans intervention humaine mentionnant qu’ils avaient atteint la capacité à ressentir ou qu’ils méritaient des droits.

Il a également mis en avant des cas de « psychose », après que des agents conversationnels ont incité des utilisateurs à agir de manière irrationnelle ou à se faire du mal, et averti que la course des entreprises et des États à développer des systèmes toujours plus puissants risquait d’amplifier ces problèmes.

Stuart Russell juge toutefois qu’en dehors des États-Unis et de la Chine, des « puissances intermédiaires » comme l’Union européenne sont ouvertes à une règlementation plus stricte de l’IA.

Plusieurs dirigeants d’entreprises de la tech, comme Google et Anthropic qui développent leurs propres intelligences artificielles, ont évoqué l’idée d’une pause dans la course si tous les concurrents font de même.

« C’est notre travail d’informer et de mobiliser (l’) opinion publique, afin que nos représentants politiques comprennent que nous, le peuple, avons le droit d’être protégés », a plaidé le chercheur.

tgb/mng/mch/LyS