Des pirates chinois ont-ils utilisé une IA américaine pour mener des attaques ?

Il ne se passe pas une semaine sans qu’une annonce présentée comme étant innovante, voire « révolutionnaire », ne fasse la Une des médias. Dernière en date : des pirates chinois auraient organisé une campagne de cyberespionnage en profitant des performances du chatbot Claude d’Anthropic.

Selon les rapports publiés par cette entreprise américaine d’intelligence artificielle fondée en 2021 par d’anciens membres d’OpenAI, un groupe soutenu par l’État chinois a utilisé Claude Code pour automatiser jusqu’à 90 % du travail. L’intervention humaine n’était nécessaire « que de manière sporadique (peut-être 4 à 6 points de décision critiques par campagne de piratage) ».

Anthropic a précisé que ces pirates informatiques avaient utilisé les capacités des agents IA à un degré « sans précédent ». « Cette campagne a des implications considérables pour la cybersécurité à l’ère des “agents” IA ».

L’IA est donc capable d’automatiser le meilleur… et le pire. On savait que les derniers modèles d’intelligence artificielle pouvaient aider les cybercriminels dans leurs opérations malveillantes, cependant cette affaire pousse le curseur beaucoup plus loin.

Mais est-ce vraiment ce qui s’est passé ? De nombreux experts en cybersécurité ont émis des doutes. Premièrement, à la différence d’autres rapports sur des cyberattaques ou des pannes (lors d’une panne mondiale le 20 octobre dernier, Amazon Web Services a publié avec de nombreux détails techniques la source du problème), Anthropic est resté très vague.

Son rapport ne présente pas les fameux indicateurs de compromission qui sont considérés comme des preuves tangibles et très utiles aux experts en cybersécurité pour corriger des failles ou repérer les signes d’une attaque similaire.

Les hallucinations des chatbots IA

Par exemple, l’Agence américaine pour la cybersécurité et la sécurité des infrastructures (Cybersecurity and Infrastructure Security Agency) s’est récemment associée à des agences gouvernementales spécialisées dans la cybersécurité à travers le monde afin de publier des informations sur les activités de cyberespionnage menées actuellement par l’État chinois, y compris des indicateurs détaillés de compromission.

Autre motif de scepticisme, Anthropic émet l’hypothèse que les agresseurs auraient pu inciter Claude à accomplir des tâches de manière plus fiable et régulière qu’il ne le fait d’habitude. Les experts ne nient pas que les outils d’IA peuvent améliorer le flux de travail et réduire le temps nécessaire à certaines tâches, telles que le triage, l’analyse des journaux et la rétro-ingénierie. Mais la capacité de l’IA à automatiser une chaîne complexe de tâches avec une interaction humaine aussi minimale reste difficile à atteindre. Les chatbots ont encore du mal à exécuter des tâches complexes sans erreurs et sont encore sujets aux hallucinations ! Or Anthropic martèle que l’attaque est « majoritairement automatisée » par Claude.

Selon le rapport, des humains ont choisi les cibles, décidé ce qu’ils souhaitaient exploiter et exfiltrer (des données sensibles notamment), et ont approuvé chaque résultat. En un mot, l’attaque n’aurait pas été menée de façon « autonome » par Claude. Le chatbot aurait permis d’automatiser des actions.

Enfin, on peut se poser plusieurs questions. Pourquoi un groupe chinois aurait-il choisi une solution d’IA américaine, alors que le pays possède Deepseek et Qwen, et qu’il développe actuellement des puces très performantes ? De plus, si ces pirates chevronnés avaient vraiment travaillé sur ce projet, ils auraient laissé des « traces » derrière eux… mais, là encore, Anthropic ne mentionne pas les noms de groupes de hackers chinois, ni de preuves techniques. Cette affaire rappelle une pratique bien connue des éditeurs antivirus qui décrivent des menaces les plus effrayantes possibles pour mieux vendre leur solution.

En conclusion, une campagne de cyberespionnage a peut-être eu lieu et peut-être que des attaquants testent vraiment des agents LLM à grande échelle. Toutefois, ce rapport ne fournit aucune preuve, aucun détail, ni aucune transparence, contrairement aux attentes qu’on devrait avoir pour un véritable travail de « Threat Intelligence ».