Sécurité de l'IA: OpenAI exclut trois chercheurs accusés de fuites vers des experts extérieurs

OpenAI, le créateur de ChatGPT, a exclu trois de ses chercheurs en sécurité de l’intelligence artificielle, accusés d’avoir transmis des informations sensibles, notamment à un groupe d’évaluateurs extérieurs, a indiqué jeudi l’entreprise à l’AFP.

Le Wall Street Journal a identifié ces chercheurs, qui partageaient tous trois sur les réseaux sociaux leurs vives inquiétudes sur les dangers de l’IA et soutenaient les appels à ralentir son développement.

L’un d’eux, Tomek Korbak, se présentait comme un des interlocuteurs de METR, l’institut chargé d’enquêter sur le piratage en juillet de la plateforme Hugging Face par des outils d’OpenAI, premier d’une longue série de révélations sur les dérapages d’IA en test dans la Silicon Valley.

« Nous nous sommes séparés de trois personnes pour violation de nos règles sur l’accès aux informations sensibles de l’entreprise et leur traitement », a déclaré un porte-parole d’OpenAI dans un message à l’AFP.

L’enquête interne a confirmé que ces personnes avaient traité des informations sensibles hors des procédures établies, « rompant la confiance indispensable à notre travail », a-t-il ajouté.

L’entreprise fait état de plusieurs manquements, dont l’un concerne des informations communiquées à un groupe extérieur d’évaluation de l’IA, qu’elle ne nomme pas.

Un autre des chercheurs exclus, Mikita Balesni, avait écrit le 10 septembre sur X: « Je suis chez OpenAI et je pense que l’IA a plus de 10% de chances de tuer tous les humains. »

Ces exclusions surviennent moins d’un mois après la démission très médiatisée d’un chercheur passé d’OpenAI à Anthropic, Jacob Coxon, qui avait accusé les deux entreprises de « jouer avec nos vies ». Tomek Korbak et la troisième chercheuse exclue, Jasmine Wang, avaient pris sa défense sur X.

OpenAI avait ouvert ses locaux et ses données internes aux enquêteurs de METR pour leur rapport sur le piratage de Hugging Face. L’entreprise s’est engagée mi-septembre, à la suite d’Anthropic, à accueillir en permanence des évaluateurs indépendants.

Ces dérapages divisent le secteur: de grands patrons tels que Dario Amodei (Anthropic), Sam Altman (OpenAI) et Elon Musk ont réclamé mi-septembre de ralentir le développement de l’IA, quand d’autres, comme Jensen Huang (Nvidia) et Mark Zuckerberg (Meta), veulent maintenir la cadence.

OpenAI a rendu public mardi un nouveau modèle, GPT-6.1 Sol, presque aussi performant que son modèle phare GPT-6 Astra. Une nouvelle version de ce dernier, jugée trop prompte à s’écarter des consignes, a finalement été abandonnée, a indiqué lundi l’entreprise de San Francisco.

Hostile à toute régulation contraignante susceptible d’entraver la course face à la Chine, Donald Trump a réuni mardi les patrons du secteur, qui ont adopté un code de bonne conduite volontaire sur la prévention des risques de l’IA.

Aucune loi fédérale n’encadre ces modèles aux Etats-Unis, qui prévoient seulement, sur la base du volontariat, de les soumettre à un examen gouvernemental de leurs capacités avant d’être rendu public.

bl/ph