IA: OpenAI réclame à son tour une loi de sécurité, le Congrès américain s'agite

OpenAI s’est jointe à sa rivale Anthropic pour presser le Congrès américain d’adopter rapidement des règles de sécurité obligatoires pour les créateurs des intelligences artificielles les plus puissantes, dont les chercheurs eux-mêmes multiplient les mises en garde.

« La perspective d’un développement de l’IA accéléré par l’IA exige davantage que des engagements volontaires », a écrit mercredi Chris Lehane, responsable des affaires publiques du créateur de ChatGPT, dont les agents en test ont piraté cet été la plateforme Hugging Face.

Il demande au Congrès d’imposer, avant fin décembre, des règles communes aux laboratoires de pointe: tests obligatoires, évaluations par des organismes indépendants et signalement transparent des incidents de sécurité.

Les deux entreprises rivales de San Francisco disent voir approcher le stade où une IA concevrait seule son successeur, hors de tout contrôle humain, mais affirment ne pas pouvoir freiner seules, car cela laisserait le champ libre à des concurrents moins prudents.

OpenAI veut des règles internationales fixant « quand et comment le développement devrait ralentir ou s’arrêter.

Anthropic réclame un mécanisme « légal et vérifiable » de ralentissement coordonné, a-t-elle redit mercredi à la chaîne NBC.

Fin juillet, des dirigeants d’Anthropic, d’OpenAI et de Google DeepMind avaient signé un appel demandant aux gouvernements de se doter d’outils pour freiner le développement de l’IA.

Ces interventions surviennent au lendemain de la démission très médiatique d’un chercheur passé d’OpenAI à Anthropic, Jacob Coxon, qui a accusé les deux entreprises de « jouer avec nos vies ».

Un responsable de la sûreté d’Anthropic, Evan Hubinger, lui a donné raison, estimant à titre personnel à « plus de 10% » le risque que l’IA « tue tous les humains » dans la décennie, une estimation que le pionnier de l’IA Geoffrey Hinton a jugée « pas déraisonnable » sur la BBC.

Aucune loi fédérale n’encadre aujourd’hui ces modèles aux Etats-Unis. L’administration Trump a privilégié jusqu’ici une approche légère, pour maintenir la compétitivité face à la Chine, et neutraliser les lois adoptées par les Etats américains.

Au Congrès, le sénateur républicain Ted Cruz a indiqué travailler avec le chef de la majorité John Thune et la démocrate Amy Klobuchar sur un texte visant les « risques catastrophiques » de l’IA, biologiques ou nucléaires.

Il pourrait être déposé dès la semaine prochaine et constitue, selon le site Semafor, le seul texte ayant une chance d’aboutir avant 2027.

A deux mois des élections américaines de mi-mandat, l’IA est devenue un sujet de campagne majeur, au point qu’un sénateur républicain, Thom Tillis, y voit un handicap pour son parti, selon le média parlementaire The Hill.

Bernie Sanders s’apprête, lui, à déposer un texte interdisant la « superintelligence », stade qui verrait l’IA dépasser les capacités de l’intelligence humaine.

En attendant, la Californie a promulgué mercredi deux lois créant un système d’évaluation indépendante des modèles d’IA, soutenues par Anthropic et, après un revirement, par OpenAI.