Des chercheurs ont piraté OpenAI en utilisant une IA d'Anthropic (rapport)

Des chercheurs de la start-up de cybersécurité Hacktron AI ont accédé aux comptes ChatGPT d’employés d’OpenAI en utilisant un modèle d’intelligence artificielle (IA) d’Anthropic, selon un message publié vendredi sur leur site.

L’intrusion, intervenue fin juillet et confirmée à l’AFP par OpenAI, s’est faite dans le cadre d’un exercice organisé par l’entreprise elle-même afin d’identifier des vulnérabilités dans ses systèmes avec le concours d’informaticiens extérieurs.

Pour parvenir à ses fins, l’équipe de trois personnes est passée par la plateforme de messagerie Discourse, utilisée par OpenAI.

Elle offre la possibilité aux employés de se connecter à leur compte ChatGPT ou Codex, l’IA d’OpenAI destinée à la programmation.

Par ce biais, les chercheurs ont réussi à pénétrer sur plusieurs de ces comptes.

Dans la mesure où l’utilisateur peut donner autorisation à ChatGPT ou Codex d’utiliser de nombreuses applications ou fichiers, « le champ de ce à quoi nous aurions théoriquement pu accéder est énorme », a expliqué le trio.

Il a mentionné GitHub (plateforme de stockage de programmes), Slack (messagerie pour entreprise) et les courriels.

La description des travaux de l’équipe d’Hacktron AI met en évidence la progression fulgurante des modèles d’IA.

Elle a ainsi débuté sa tentative d’intrusion avec l’aide de Claude Opus 4.8, modèle lancé en mai par Anthropic. Mais cette IA « a peiné » pour trouver une porte d’entrée via Discourse.

Le hasard a voulu qu’Anthropic mette en ligne précisément ce jour-là un nouveau modèle, Opus 5. Cette nouvelle IA est parvenue à trouver la faille « en trois heures », relatent les informaticiens.

L’équipe a rapidement alerté OpenAI, qui a remédié à ces vulnérabilités, selon un porte-parole.

« Nous remercions les chercheurs de nous avoir contactés et d’avoir partagé leur observations », a-t-il commenté à l’AFP.

L’épisode confirme les nouvelles potentialités de l’IA en matière de sécurité informatique.

Début avril, Anthropic a choisi de ne pas commercialiser largement son modèle Mythos, jugé trop dangereux pour la cybersécurité.

Il a limité son accès à quelques entreprises et organisations afin qu’elles l’utilisent pour identifier et combler des failles dans leurs logiciels.

Anthropic a lancé une version bridée de Mythos, Fable, en juin. Quelques jours plus tard, le gouvernement américain a suspendu Fable, faisant valoir un risque pour la sécurité nationale, avant de finalement l’autoriser, deux semaines plus tard.

tu/vmt