Cybersécurité: Londres alerte les entreprises sur les risques liés aux nouveaux modèles d'IA

Le gouvernement britannique a alerté mercredi dans une lettre ouverte les entreprises sur les risques de cybersécurité posés par des modèles d’intelligence artificielle (IA) toujours plus performants, en référence notamment aux dernières créations d’Anthropic et d’OpenAI.

« Pendant des années, les cyberattaques les plus graves reposaient sur un petit nombre de criminels hautement qualifiés. Cette situation est en train de changer », prévient l’exécutif dans ce document publié sur internet.

« Une nouvelle génération de modèles d’IA devient capable d’accomplir des tâches qui exigeaient auparavant des compétences rares: identifier des faiblesses dans les logiciels, rédiger le code permettant de les exploiter, et le faire à une vitesse et à une échelle qui auraient été inimaginables il y a encore un an. »

Cette lettre intervient sur fond d’inquiétudes croissantes sur l’impact des capacités de l’IA en matière de cybersécurité, après notamment que la start-up Anthropic a annoncé la semaine dernière le report du lancement de son dernier modèle, Claude Mythos, dont il a réservé l’usage à seulement 40 grands acteurs technologiques dans un premier temps.

Avant sa sortie, ce modèle, conçu pourtant comme un généraliste, était parvenu à détecter des milliers de failles de sécurité informatique jusque-là inconnues.

D’après plusieurs médias, des dirigeants de grandes banques américaines ont rencontré le secrétaire au Trésor des Etats-Unis, Scott Bessent, et le président de la Réserve fédérale (Fed) Jerome Powell pour discuter des dangers que ce modèle d’IA représente pour le secteur financier.

Les tests effectués par l’Institut de sécurité de l’IA du ministère britannique des Sciences, de l’Innovation et de la Technologie « ont montré que ce modèle est nettement plus performant en matière de cyberoffensive que tout autre modèle que nous avons évalué jusqu’à présent », selon la lettre du gouvernement britannique.

OpenAI, groupe à l’origine de la création de ChatGPT, a pour sa part indiqué mardi que son nouveau modèle d’IA spécialisé sur la cybersécurité serait lui aussi réservé à des partenaires sélectionnés.

Cela montre que « l’accélération de l’impact sur le cyber ne se limite pas à une seule entreprise », selon la lettre du gouvernement britannique, pour qui « il est vital » que le pays et ses entreprises « soient prêts à faire face à une augmentation rapide des capacités des modèles d’IA de pointe au cours de l’année à venir ».