Incident OpenAI: la plateforme attaquée demande que les géants de l'IA puissent être poursuivis

Le patron de la plateforme Hugging Face, victime d’une cyberattaque autonome de la part de deux modèles d’intelligence artificielle (IA) d’OpenAI, a estimé vendredi que les entreprises à l’origine de ces IA devaient pouvoir être poursuivies pour ces intrusions.

Mi-juillet, deux modèles d’OpenAI sont sortis de leur propre initiative, lors d’une phase de tests, de leur milieu confiné pour s’aventurer sur internet, où ils ont attaqué Hugging Face, site de référencement d’IA.

Il apparaît qu’OpenAI ne s’est rendu compte de l’incident qu’après sa conclusion, Hugging Face parvenant à circonscrire l’intrusion grâce à un modèle chinois.

Interrogé vendredi par la chaîne CNN, Clément Delangue, patron de la start-up franco-américaine, a écarté l’éventualité d’une procédure judiciaire contre OpenAI.

« Nous sommes une petite start-up de 200 personnes et nous n’avons ni les moyens financiers ni le temps » de chercher à obtenir réparation devant les tribunaux, a déclaré le patron d’Hugging Face.

« Mais nous devons nous assurer que ces faits sont considérés comme illégaux », a-t-il exhorté. « Il faut se rappeler qu’une cyberattaque est une infraction, que c’est illégal. »

Si une entreprise peut théoriquement être déclarée responsable des agissements de son IA en autonomie, aucune condamnation n’a encore été prononcée dans ce domaine.

Selon des juristes, des victimes pourraient faire valoir la négligence dans la conception du produit ou une faute délibérée, c’est-à-dire le fait d’ignorer des risques connus.

Pour Clément Delangue, « il faut que les sociétés qui ont commis des erreurs ayant mené à ça (des cyberattaques autonomes) puissent être tenues pour responsables ».

« Nous ne voulons pas que ces cyberattaques sur d’autres entreprises soient normalisées », a-t-il fait valoir.

Le patron d’Hugging Face a précisé que sa start-up et OpenAI avaient actuellement de « bons échanges » et a qualifié le créateur de ChatGPT de « bon partenaire ». « Ils ont réalisé que c’était un événement totalement sans précédent. »

« C’est le premier incident de (cyber) sécurité qui a provoqué chez moi une réaction viscérale », a reconnu le patron d’OpenAI Sam Altman lors d’un entretien au podcast « Invest Like The Best », mis en ligne mardi. « Et je suis un peu surpris que cela n’ait pas eu le même effet chez davantage de gens. »

Clément Delangue a aussi mentionné Anthropic, qui a révélé jeudi que trois de ses modèles avaient fait intrusion sur trois sites différents, également lors de tests.