Des géants de l'IA s'allient pour soutenir les modèles ouverts

Une trentaine d’acteurs de l’intelligence artificielle (IA) ont annoncé lundi la formation d’une alliance pour soutenir les modèles d’IA ouverts (modifiables et personnalisables), alors que le débat s’anime autour des risques qu’ils représentent.

La formation de ce groupement, qui compte notamment Nvidia, Microsoft et SpaceX, intervient quelques jours après la sortie d’une nouvelle IA chinoise ouverte, Kimi K3 de la start-up Moonshot AI, dont les performances sont comparables aux meilleurs modèles américains.

L’utilisateur d’un modèle ouvert peut le télécharger (s’il a la capacité d’hébergement), le calibrer avec une grande latitude, pour en faire une version adaptée à ses besoins. Un programmeur mal intentionné peut même supprimer une partie au moins de ses garde-fous, pour en faire un instrument de cyberattaque.

Cette possibilité inquiète certains observateurs, au point de lancer l’idée d’une régulation des IA ouvertes, voire de l’interdiction aux Etats-Unis des modèles chinois.

Se sont inscrits dans ce courant Anthropic et, selon plusieurs médias américains, OpenAI, qui accusent, eux, plusieurs acteurs chinois d’avoir pillé leurs modèles pour mettre au point les leurs.

En toile de fond, deux philosophies se confrontent, celle des modèles fermés (OpenAI, Anthropic ou Google), qui implique un contrôle quasi-total par leurs concepteurs, et celle des modèles ouverts, gratuits, adaptables et autonomes de leurs géniteurs.

« Les modèles ouverts, comme toute technologie puissante, peuvent être mal utilisés », reconnaissent les membres de l’alliance, « mais ces risques ne sont pas exclusifs aux modèles ouverts, et ils doivent être gérés partout où l’IA de pointe est déployée. »

Le groupement mentionne plusieurs outils en accès libre à même de renforcer la protection des utilisateurs, notamment pour les agents IA, des programmes qui peuvent effectuer des tâches sur demande en langage courant, évaluer seuls leurs résultats et y apporter des améliorations.

L’Open Secure AI Alliance, son nom complet, rappelle qu’un modèle ouvert a été sollicité pour contrer l’intrusion de deux modèles d’OpenAI sur la plateforme Hugging Face (bibliothèque de modèles).

Lors d’une phase de tests, mi-juillet, les deux modèles ont été soumis à une série de questions et sont, de leur propre initiative, sortis de leur milieu confiné pour aller chercher les réponses sur Hugging Face.

Ce dernier s’en est d’abord remis à une IA américaine, qui n’a pas pu intervenir car ses garde-fous l’en ont empêché. Hugging Face s’est finalement tourné vers le modèle ouvert chinois GLM 5.2 de Z.ai, qui lui a permis de contenir l’attaque.

Pour le groupement, l’incident montre la nécessité pour les plateformes informatiques d’avoir accès « à des outils avancés de confiance qu’elles puissent contrôler ».

tu/elm/vmt