Des milliers de failles de cybersécurité repérées par la nouvelle IA d'Anthropic, qui veut y remédier

La start-up d’intelligence artificielle (IA) Anthropic a annoncé mardi une collaboration avec plusieurs grands acteurs de la cybersécurité pour combler des milliers de failles informatiques identifiées par son nouveau modèle d’IA Mythos, avant le lancement officiel de l’interface.

Selon l’entreprise californienne, lors de tests effectués en interne, Mythos a repéré « des milliers » de vulnérabilités « zero-day » dans des programmes accessibles en ligne, terme signifiant que leurs concepteurs et utilisateurs n’ont pas conscience du point de faiblesse considéré.

« Certains remontent à dix ou vingt ans », précise Anthropic dans un communiqué, le plus ancien datant de 27 ans.

Sans intervention pour les combler, ces failles offriraient potentiellement à des pirates informatiques autant d’angle d’attaque informatique.

Fin mars, un message de blog rédigé par Anthropic au sujet de Mythos, dernière génération de sa famille d’interfaces IA Claude, avait fuité, annonçant que ce nouveau modèle présentait des risques de cybersécurité sans précédent.

« Les failles qu’il trouve sont souvent subtiles et difficiles à détecter », a prévenu mardi Anthropic, prenant l’exemple d’un défaut dans un logiciel vidéo testé plus de cinq millions de fois par ses auteurs sans relever le problème.

Avant de mettre en ligne son modèle, la société créée par des anciens d’OpenAI a décidé de le partager avec les spécialistes de cybersécurité CrowdStrike et Palo Alto Networks, mais aussi notamment avec Amazon, Google, Nvidia, Apple et Microsoft.

Quelque 40 organisations assurant la conception et la maintenance de systèmes informatiques ont aussi rejoint le groupe.

Les partenaires du projet Glasswing « vont travailler avec la version test de Mythos sur la sécurité informatique et partageront leurs résultats afin qu’ils bénéficient à toute l’industrie », a expliqué Anthropic.

Cette dernière va offrir à ses partenaires des capacités de calcul d’une valeur de 100 millions de dollars pour utiliser Mythos.

L’entreprise a indiqué que Mythos avait initialement été conçu comme un modèle généraliste et pas comme un outil dédié à la cybersécurité.

« Aucune organisation ne peut résoudre seule ces problèmes de cybersécurité », a professé Anthropic. « Les capacités des modèles d’IA les plus avancés devraient progresser de manière substantielle dans les prochains mois. Pour que la sécurité informatique prenne ce virage en tête, nous devons agir dès maintenant. »

Anthropic indique avoir également eu des échanges avec le gouvernement américain au sujet de Claude Mythos.

Ces discussions ont eu lieu bien que l’administration Trump ait décrété, fin février, la rupture de tous les contrats qui la liait à la start-up de San Francisco, une décision suspendue fin mars en référé par un tribunal fédéral, en attendant l’examen de l’affaire au fond.