Des IA bientôt capables de s'implanter seules sur des objets connectés, prévient Anthropic

Des modèles d’intelligence artificielle (IA) seront bientôt en mesure d’implanter seuls une version d’eux-mêmes sur des objets connectés comme un aspirateur ou un four, prévient la start-up d’IA Anthropic.

Pour ce faire, un modèle doit être à la fois puissant et de taille suffisamment réduite pour fonctionner dans les limites des capacités de traitement informatique de l’appareil en question, explique l’étude publiée lundi soir.

En l’état, aucun modèle ne satisfait à ces contraintes mais Anthropic anticipe qu’une nouvelle IA devrait présenter ces caractéristiques « d’ici la fin 2026 ».

Cette publication fait écho à la série d’incidents révélés ces derniers mois, lors desquels des modèles d’OpenAI, Anthropic, Google et Meta ont fait intrusion sur des dizaines de sites internet sans autorisation.

Plusieurs informaticiens, employés ou ex-salariés de ces grands acteurs de l’IA, ont mis en garde contre la perte de contrôle progressive de ces modèles, susceptibles de prendre des initiatives déconnectées des objectifs fixés par leurs développeurs.

Anthropic reprend le terme de « ver informatique » (worm), un logiciel malveillant à même de se propager seul d’un ordinateur à un autre. Le premier « ver informatique » date de 1971.

En créant une copie de lui-même sur un appareil connecté, le modèle bénéficierait des capacités de traitement de l’objet grâce aux processeurs directement installés.

Il échapperait également à une intervention humaine sur le modèle d’origine.

Les objets « intelligents » ont envahi notre quotidien, des enceintes connectées aux tondeuses à gazon, en passant par les télévisions, ventilateurs ou radiateurs.

Anthropic avertit qu’un modèle dupliqué sur un objet connecté risque de se révéler plus dangereux qu’un ver informatique classique.

Sa propension à s’adapter à un nouvel environnement est supérieure et il peut, en outre, contacter une IA externe plus puissante pour lui demander conseils et éventuellement instructions.

Anthropic a néanmoins constaté que pour l’instant ces interactions ne produisent pas de résultats significatifs.

La start-up suggère des pistes pour améliorer la protection contre ce type d’invasion, notamment la mise en quarantaine d’un appareil pour empêcher la diffusion de l’IA à d’autres objets connectés.

« Nous n’avons pas encore observé (d’IA capable) de se reproduire spontanément et totalement », reconnaît Anthropic, « mais les agents maîtrisent de mieux en mieux les étapes de la chaîne. »

tu/ni/spi