OpenAI assure que les trois chercheurs n'ont pas été licenciés pour avoir sonné l'alarme

OpenAI a assuré vendredi que les trois chercheurs licenciés la semaine dernière ne l’avaient pas été parce qu’ils avaient fait état de préoccupations concernant la gestion des risques de l’intelligence artificielle (IA) au sein de l’entreprise.

Jeudi, le trio avait publié une lettre accusant la start-up de les avoir sanctionnés « pour avoir fait passer la sécurité avant les intérêts à court terme d’OpenAI ».

« Ces décisions n’étaient pas liées au fait d’avoir fait part d’inquiétudes sur la sécurité » de l’IA, a affirmé OpenAI dans un message publié sur X. « Nous avons toujours soutenu [ce type de démarche] et nous nous y tiendrons. »

L’entreprise invoque une enquête interne qui a « mis au jour un abus de confiance [qui allait] au-delà » de ce que les trois chercheurs ont rapporté dans la lettre ouverte.

Selon l’un d’entre eux, Tomek Korbak, la direction a justifié oralement son limogeage par ses communications trop fournies avec le cabinet externe d’évaluation de l’IA METR, qui travaillait avec OpenAI.

Lui fait valoir qu’il était mandaté pour échanger avec l’organisation et n’a jamais outrepassé les limites de sa mission.

Quant à la chercheuse Jasmine Wang, elle soutient avoir été remerciée après l’ouverture accidentelle d’un courriel d’un dirigeant de l’entreprise.

OpenAI ne fournit pas de détails supplémentaires sur les manquements de ces trois employés.

La société a confirmé vendredi son engagement d’accueillir en son sein des observateurs externes, chargés de surveiller le développement de nouveaux modèles et la gestion des risques inhérents à ces IA.

Elle indique finaliser actuellement les accords avec ces partenaires et prévoir une annonce « dans les prochaines semaines ».

Les trois chercheurs disent avoir surtout voulu attirer l’attention, lorsqu’ils étaient encore au sein d’OpenAI, sur la perte de lisibilité du fonctionnement d’une IA.

Le système dit de chaîne de pensée (CoT) permettait jusqu’ici de voir un modèle détailler les étapes de son travail pour mieux l’orienter.

Plusieurs autres spécialistes que le trio licencié par OpenAI ont mentionné le fait que cette chaîne de pensée devenait moins fournie et moins fiable ces derniers mois.

« Nous voyons déjà des signes de dégradation de la lisibilité de la chaîne de pensée », a déclaré le chercheur d’OpenAI Noam Brown dans un épisode du programme Dwarkesh Podcast diffusé en septembre.

« Nous essayons de comprendre pourquoi exactement », a-t-il ajouté, « parce que nous voulons inverser la tendance. »