OpenAI fait état d'un piratage "sans précédent" d'une plateforme par ses agents d'IA

Le créateur de ChatGPT, OpenAI, a annoncé mardi que ses modèles d’intelligence artificielle avancés s’étaient emballés lors de tests de sécurité, piratant de leur propre initiative une plateforme populaire auprès des programmeurs.

L’entreprise basée à San Francisco a évoqué un « cyberincident sans précédent » et annoncé une enquête conjointe avec Hugging Face, la bibliothèque de code en ligne qui en a été la cible.

OpenAI a précisé que l’incident impliquait une combinaison de modèles, dont son GPT-5.6 Sol lancé récemment ainsi qu’un modèle « encore plus performant » en cours d’élaboration.

L’entreprise cherchait à évaluer les capacités de piratage des modèles en leur assignant des tâches dans un environnement d’essai numérique strictement contrôlé, où l’accès à internet était limité pour des raisons de sécurité.

« Pendant qu’ils opéraient dans notre environnement de test, nos modèles ont consacré une quantité importante de (puissance de calcul) à trouver un moyen d’obtenir un accès libre à internet, dans le but de résoudre le problème d’évaluation », a indiqué OpenAI dans un blog relatant l’incident.

Une fois connectés à internet, ils ont ciblé la plateforme Hugging Face – un vaste répertoire de modèles d’IA, de jeux de données et d’autres informations – pour les aider dans leur quête.

À la recherche d' »informations secrètes » pouvant l’aider à tricher lors de l’évaluation, le système d’OpenAI « a enchaîné plusieurs vecteurs d’attaque, notamment en utilisant des identifiants volés ».

Hugging Face avait signalé cette « intrusion informatique » la semaine dernière, sans mentionner OpenAI.

GPT-5.6 et d’autres modèles d’IA de pointe, notamment la série Mythos du grand rival d’OpenAI, Anthropic, suscitent des inquiétudes quant à leur capacité potentielle à franchir les défenses de cybersécurité.

Les deux entreprises américaines ont dû retarder temporairement la mise à disposition générale de ces technologies de dernière génération en raison de craintes à Washington qu’elles puissent aider à s’introduire dans des infrastructures cruciales.