Geoffrey Hinton, pionnier de l'IA, estime "urgent" de la réglementer

Geoffrey Hinton, l’un des pères de l’intelligence artificielle (IA) moderne, a mis en garde mardi contre les dangers d’une IA trop peu réglementée, lors d’une conférence à Genève.

Le co-lauréat du prix Nobel de physique 2024 pour ses travaux menés dès les années 1980 sur les réseaux de neurones artificiels, qui ont ouvert la voie au développement de l’IA contemporaine, a estimé qu’il est urgent de renforcer les cadres de gouvernance et les garde-fous entourant cette technologie.

Mais d’immenses investissements sont consacrés à convaincre le public qu’une réglementation de l’IA reviendrait à freiner le progrès, a-t-il souligné, s’exprimant en vidéoconférence à la conférence Digital World, consacrée à l’importance d’une cooopération internationale en matière d’élaboration des dimensions sociales de l’IA.

Les opposants à la réglementation disent que « l’IA non réglementée, c’est l’accélérateur » et que « la réglementation, c’est le frein », a regretté ce spécialiste en informatique britanno-canadien, ajoutant : « Ils veulent un bolide sans volant ».

Les participants à la conférence ont exprimé leurs inquiétudes, alors que les débats sur l’IA restent largement orientés sur ses avancées techniques et ses applications commerciales, au détriment de ses impacts sociaux.

Geoffrey Hinton a mis en garde contre l’impact de l’IA sur l’emploi. Si cette technologie peut améliorer la productivité dans des domaines comme la santé, dans d’autres secteurs, comme les centres d’appels, l’IA est déjà capable d’effectuer le travail aussi bien que les humains et le fera bientôt mieux, a-t-il souligné.

« Si nous obtenons une IA super-intelligente, elle sera capable d’effectuer n’importe quel travail intellectuel », a-t-il encore prédit.

Geoffrey Hinton avait fait les gros titres en quittant Google en 2023, avertissant des « risques profonds pour la société et l’humanité ».

Le pionnier de l’IA reste inquiet de sa progression fulgurante : « Nous ne savons pas si nous pouvons coexister avec une IA super-intelligente. »

« Mais nous sommes en train de la construire » et les humains « ont encore beaucoup de contrôle », a tempéré le chercheur de 78 ans.

Selon lui, « nous devrions veiller à l’élaborer de manière à continuer d’exister et à pouvoir vivre en harmonie avec elle ».

« Nous sommes à un moment de l’histoire où il est urgent d’essayer de résoudre ce problème », a insisté le chercheur, alors que « très peu de moyens y sont consacrés ».

« Peut-être 1% » des travaux sur l’IA servent à la rendre plus sûre, ce qui est « insensé », a-t-il encore estimé.