Le procureur de l'Alabama ouvre une enquête sur l'incident des modèles d'OpenAI

Le procureur de l’Alabama Steve Marshall a annoncé lundi l’ouverture d’une enquête sur l’incident qui a vu deux modèles d’intelligence artificielle (IA) d’OpenAI faire intrusion, de leur propre initiative, sur une plateforme internet en juillet.

Ses investigations viseront à déterminer si « l’incapacité ou la réticence d’OpenAI à s’assurer de la sûreté de ses produits » constituent une violation des textes de protection des consommateurs de l’Etat et « présentent un risque continu de préjudice substantiel pour les citoyens » de l’Alabama, selon un communiqué.

Sollicité par l’AFP, OpenAI n’a pas donné suite dans l’immédiat.

Fin juillet, la start-up californienne a rapporté que lors de tests, deux de ses modèles se sont échappés de leur milieu confiné pour rejoindre internet et ont pris d’assaut le site Hugging Face, sorte de bibliothèque de programmes IA.

Ils y cherchaient des éléments leur permettant de réussir les tests auxquels ils étaient soumis.

Début août, les procureurs de 15 Etats, dont l’Alabama, avaient déjà transmis à OpenAI une demande de conservation de tous documents internes relatifs à l’incident, ainsi qu’à d’éventuels événements similaires antérieurs.

Ils avaient également enjoint la start-up de ne plus pratiquer de test susceptible de mener à une attaque similaire à celle de juillet. Cette demande n’a pas reçu de réponse d’OpenAI, a indiqué à l’AFP un porte-parole du procureur de l’Alabama.

« L’incident Hugging Face a constitué un moment important pour la sûreté de l’IA », a réagi le groupe auprès du site TechCrunch. « Nous procédons à une évaluation approfondie (de l’épisode) avec le concours de conseillers externes. »

Une fois cet examen terminé, « nous transmettrons un rapport technique au gouvernement et communiquerons publiquement nos conclusions », a ajouté OpenAI.

Mi-août, le géniteur de ChatGPT a annoncé ralentir le développement d’un de ses nouveaux modèles, baptisé Astra, afin de le doter de protections supplémentaires pour encadrer ses capacités avancées, notamment en matière de cybersécurité.