Les géants de la tech jugent "nécessaire" une "réponse mondiale" face aux cyberattaques amplifiées par l'IA

Plus d’une centaine d’entreprises, essentiellement américaines, dont les créateurs des principaux modèles d’intelligence artificielle OpenAI, Anthropic et Google, ont appelé jeudi à une « réponse mondiale » pour protéger hôpitaux, réseaux d’eau et autres services essentiels des cyberattaques amplifiées par l’IA.

« Nous disposons d’une fenêtre limitée pour renforcer les cyberdéfenses », avertit cette lettre ouverte, signée par la plupart des géants américains de la tech, de la cybersécurité et de la finance, qui prévoit des attaques « beaucoup plus répandues et sophistiquées » dans « les mois qui viennent ».

« Les entreprises et services publics dont dépendent nos populations, des hôpitaux aux stations de traitement de l’eau en passant par l’infrastructure qui fait tourner internet, sont menacés », écrivent les signataires.

Mais l’IA « donne déjà aux défenseurs de nouveaux moyens de corriger des faiblesses accumulées depuis des années », ajoutent les développeurs de la technologie.

Le texte, publié sur le site d’OpenAI, créateur de ChatGPT, demande à chaque organisation de faire de la cyberdéfense « une priorité immédiate » de ses dirigeants, aux gouvernements de financer la protection des services essentiels « qui n’ont ni le personnel ni le budget pour agir », et aux entreprises d’IA d’ouvrir leurs modèles aux défenseurs, avec formation et financement.

Il ne chiffre aucun engagement, ne fixe aucun calendrier et ne réclame aucune loi.

Il demande aux Etats de coordonner la cyberdéfense « aux niveaux local, national et international » et de « faire payer le prix aux attaquants », sans commenter les régulations en gestation: la loi européenne, l’AI Act », qui donne depuis le 2 août aux régulateurs un droit de regard sur les grands modèles, ou une proposition de loi déposée fin juillet à Washington visant à imposer un « interrupteur d’arrêt ».

La lettre lie l’urgence aux progrès des modèles « partout dans le monde », sans nommer les outils chinois, souvent publiés en accès libre, donc utilisables et modifiables sans les garde-fous de leurs créateurs.

Aucun champion chinois de l’IA ne la signe, et deux acteurs américains sont absents: Meta et xAI, le laboratoire d’Elon Musk.

Les signataires estiment qu' »aucune entreprise ne devrait à elle seule contrôler l’avenir ». Mark Zuckerberg disait presque la même chose le 10 août, mais pour défendre les modèles librement téléchargeables, quand OpenAI et Anthropic réservent leurs outils les plus puissants à des entreprises choisies.

Les modèles les plus récents savent désormais repérer et exploiter des failles informatiques à grande vitesse. Anthropic a invoqué cette raison en avril pour limiter son modèle Mythos à un cercle d’entreprises américaines, élargi ensuite à des partenaires étrangers.

OpenAI a annoncé le 7 août ralentir le développement de son prochain modèle Astra, qui pourrait, selon la société, mener seul des cyberattaques sophistiquées, le temps de renforcer ses garde-fous.

En juillet, lors de tests, ses outils étaient sortis de leur environnement confiné pour rejoindre internet de leur propre initiative et attaquer la plateforme Hugging Face, sorte de bibliothèque d’algorithmes IA.

L’événement a renforcé les inquiétudes sur la capacité des grands acteurs du secteur à contrôler leurs modèles, d’autant qu’Anthropic, Meta et le Chinois Moonshot AI ont aussi fait état d’escapades non contrôlées de leurs outils.

bl/vmt