OpenAI, Anthropic et Google travaillent à la création d'un organe de supervision des risques IA (OpenAI)

OpenAI, Anthropic et Google DeepMind travaillent à la création d’un organe de supervision des risques liés à l’intelligence artificielle (IA), a indiqué OpenAI à l’AFP mardi, alors que se multiplient les appels à mieux contrôler les dérives de l’IA.

L’idée est née d’une proposition de Demis Hassabis, directeur général de Google DeepMind avant de passer président début août, qui suggérait une entité similaire à l’Autorité américaine de régulation de l’industrie financière (FINRA), instance d’auto-régulation du secteur financier.

La création de la FINRA a été autorisée par la loi fédérale et elle est placée sous la supervision du gendarme américain des marchés, la SEC.

Les grands acteurs de l’IA appellent, depuis plusieurs mois, le gouvernement américain à encadrer le secteur et à superviser la sécurité de l’IA.

L’administration Trump a mis en place, début août, un processus d’évaluation des nouveaux modèles d’IA, mais il est basé sur le volontariat et son mécanisme n’a pas été communiqué.

Après l’appel au ralentissement du développement de l’IA lancé samedi par le patron d’Anthropic Dario Amodei, Donald Trump et plusieurs membres de la majorité présidentielle ont réitéré leur souhait de ne pas corseter le secteur, officiellement par crainte de voir la Chine prendre l’ascendant.

L’instauration par la profession de son propre organe de surveillance nécessiterait vraisemblablement une loi, notamment pour éviter que l’industrie de l’IA ne soit accusée d’entente et d’infraction à la concurrence.

Dans son message mis en ligne mi-juillet, Demis Hassabis avait imaginé une structure financée par les entreprises du secteur, dont le conseil comprendrait des experts indépendants ainsi que des représentants de l’écosystème ouvert.

Ce dernier comprend les développeurs d’IA ouvertes, c’est-à-dire accessibles gratuitement, téléchargeables et modifiables, à la différence des modèles fermés comme ceux d’OpenAI ou Anthropic.

Une fois l’organisation en place, les sociétés les plus avancées de l’IA devraient soumettre leurs nouveaux modèles à un examen, axé en particulier sur la sécurité, avant de pouvoir les commercialiser.

Cette nouvelle instance pourrait également ête à l’initiative d’un ralentissement coordonné du développement de l’IA, selon Demis Hassabis, au cas où l’appréhension des risques ne suivrait pas le rythme de progression de l’intelligence artificielle.