IA de pointe: le cofondateur d'Anthropic appelle à nouveau à une régulation renforcée

Jack Clark, cofondateur d’Anthropic, a réitéré vendredi ses appels à la régulation de l’intelligence artificielle (IA), estimant qu’autoriser les entreprises à continuer d’opérer des modèles de pointe sans législation solide revenait à lâcher une voiture de course dans les rues « la nuit, sans freins ».

« Ce qui me frappe, c’est que les jouets que j’achète pour mes enfants sont davantage réglementés que la super intelligence à laquelle je travaille dans la journée », a-t-il observé lors d’un événement en marge des assemblées annuelles du Fonds monétaire international (FMI) et de la Banque mondiale à Bangkok.

Le président américain Donald Trump, dont le gouvernement a appelé le secteur à s’autoréguler, s’oppose à l’idée d’une régulation contrairement à la Chine, a déploré le cofondateur d’Anthropic, l’un des champions américains de l’IA.

« Je pense que c’est comme faire de la Formule 1 la nuit, sans même des freins dans le véhicule » et personne pour « vouloir installer des glissières de sécurité », a-t-il comparé.

Lors d’un sommet du secteur à Dublin mercredi, les appels à faire passer la sécurité en priorité dans le développement de technologies d’IA puissantes ont dominé les échanges.

Les inquiétudes sur l’absence de garde-fous pour l’IA ont été avivées par la série d’incidents révélés ces derniers mois, lors desquels des modèles d’OpenAI, Anthropic, Google et Meta ont fait intrusion sur des dizaines de sites Internet sans autorisation.

Un rapport récent d’Anthropic a suggéré que de petits modèles d’IA pourraient n’être qu’à quelques mois de se comporter comme des « vers informatiques », se copiant eux-mêmes d’un appareil connecté à Internet à un autre.

Anthropic fait partie des entreprises qui appellent les gouvernements à intervenir, allant jusqu’à proposer une coordination internationale pour ralentir les avancées de l’ensemble du secteur, y compris les concurrents chinois.

Cette initiative peine cependant à se concrétiser, les entreprises étant engagées dans une course hypercompétitive pour attirer le maximum d’investissements pour combler des besoins en capitaux colossaux.

sdu-aha-jug/vmt