OpenAI regrette de ne pas avoir prévenu "plus tôt" l'Australie d'une intrusion de son IA, se dit "désolé"

OpenAI a reconnu lundi qu’il aurait dû prévenir « plus tôt » le gouvernement australien d’une intrusion de ses modèles d’intelligence artificielle (IA) dans plusieurs de ses sites et bases de données.

L’entreprise californienne n’a, en effet, averti les autorités australiennes que le 10 septembre alors qu’elle avait découvert mi-août l’incident, qui remontait lui à juin, provoquant l’ire du Premier ministre australien.

« Nous aurions dû mieux gérer notre réponse (au problème) », a écrit la start-up dans un message publié sur son site. « Nous sommes désolés et allons oeuvrer à faire mieux à l’avenir. »

Le chef du gouvernement australien, Anthony Albanese, avait également reproché à OpenAI de n’avoir alerté ses services que par un courriel simple envoyé à une adresse destinée au grand public.

Au total, quatre plateformes du gouvernement australien ont été visées par l’IA du créateur de ChatGPT, dont Services Australia, le site des services sociaux, dont le modèle a extrait des informations non publiques.

Le modèle en question était une IA interne à OpenAI, qui n’avait pas vocation à être commercialisée. Ses évaluateurs l’avaient libérée de ses garde-fous pour mieux jauger ses capacités réelles en matière de cybersécurité.

OpenAI a expliqué n’avoir notifié les autorités de Canberra qu’en septembre parce qu’il souhaitait avoir auparavant achevé son enquête sur l’incident.

Le groupe a indiqué que dans aucun des quatre cas, l’IA n’avait eu accès à des données personnelles.

Depuis la communication des faits, OpenAI dit avoir « collaboré étroitement » avec les agences du gouvernement australien « pour partager ce que nous savons ».

L’entreprise s’engage à prévenir « rapidement et directement » les autorités dans l’hypothèse où elle identifierait des attaques sur d’autres plateformes du gouvernement.

Elle va dépêcher son responsable de la stratégie, Jason Kwon, à Sydney pour répondre aux questions de parlementaires australiens lors d’une audition le 6 octobre.

« Nous savons que nous avons encore beaucoup de travail pour regagner la confiance », des autorités australiennes, a expliqué OpenAI.