Incident OpenAI: les modèles IA ont fait intrusion sur quatre autres plateformes

Les deux modèles d’intelligence artificielle (IA) d’OpenAI qui sont sortis, de leur propre initiative, du milieu confiné dans lequel ils étaient testés pour attaquer le site Hugging Face, ont également fait intrusion sur quatre autres plateformes, selon le créateur de ChatGPT.

L’une d’entre elle a servi de relais pour préparer l’attaque sur Hugging Face, une bibliothèque IA que les deux modèles ont fouillé pour trouver les réponses aux tests soumis par les développeurs d’OpenAI.

Cette dernière n’a pas révélé les noms des entités visées.

Selon une actualisation du compte rendu de l’incident, publiée dans la nuit de mardi à mercredi, les deux IA ont également utilisé plusieurs sites en accès libre, pour copier du code de programmation ou le tester, mais sans aller plus loin qu’un utilisateur ordinaire.

Pour Hugging Face, qui a mis en ligne, de son côté, un long récit des événements, l’effraction dont elle a été victime relevait d’une « tentative (des deux modèles) de tricher à l’évaluation » d’OpenAI.

Les IA ont voulu « dérober les solutions aux tests plutôt que d’essayer d’y répondre par elles-mêmes ».

Cette évasion de modèles n’est pas la première à être documentée, mais elle est considérée comme, de loin, la plus sérieuse à ce jour.

Elle a donné un écho supplémentaire au débat, déjà nourri, sur l’accélération de l’IA, aux capacités de plus en plus étendues, et sur la difficulté de la contrôler.

Mardi, plus d’un millier d’employés de géants de l’IA, dont plusieurs dirigeants de premier plan, ont demandé au gouvernement américain d’aider à « temporiser » la sortie des nouveaux modèles, pour laisser le temps à l’écosystème informatique de s’y préparer.

Ils plaident, dans une pétition, pour que les États-Unis soit moteur dans la création d’une instance internationale de référence en matière d’évaluation et de supervision de l’IA.

Le milieu annonce que l’IA s’approche progressivement du stade dit de « l’auto-amélioration récursive » (recursive self-improvement), au-delà duquel l’intelligence artificielle serait en mesure de concevoir seule son successeur, une séquence qui pourrait se répéter à l’infini.

Le « RSI », son abréviation, rendrait plus difficile les vérifications et l’évaluation de nouveaux modèles par des informaticiens humains, car ils n’auraient pas participé directement à leur élaboration.