Microsoft s'engage à ce que les humains contrôlent son IA

Microsoft a publié lundi un code de conduite pour le développement de son intelligence artificielle, visant à créer une IA qui reste contrôlée par les humains et leur bénéficie, sur fond de craintes de dérives de cette technologie.

Ce document « est motivé par un seul objectif prépondérant », explique le groupe de Redmond (Etat du Washington), à savoir « que les humains conservent un contrôle significatif sur l’IA afin d’aider les gens à mener une vie meilleure, plus joyeuse et plus productive ».

Cette publication survient deux jours après l’appel du patron d’Anthropic Dario Amodei à ralentir le rythme de développement de l’IA pour mieux en encadrer les risques.

Son message a été soutenu publiquement par son homologue d’OpenAI Sam Altman, ainsi que le président de Google DeepMind Demis Hassabis et Elon Musk, patron du laboratoire d’IA SpaceXAI.

A la différence de ces entreprises, Microsoft ne possède pas de modèle parmi les plus avancés du secteur, même s’il a accéléré ses lancements cette année et dit rester ambitieux.

« Durant la prochaine décennie », développe le groupe, « nous nous attendons à ce que (l’IA) surpasse les performances humaines pour la plupart des tâches. »

Dès lors, ajoute-t-il, « contenir, contrôler et aligner (ces modèles sur des valeurs humaines) est l’un des plus grands défis auxquels l’humanité ait jamais fait face ».

Un nombre croissant de professionnels du secteur s’inquiètent notamment de l’arrivée de l’amélioration récursive autonome (RSI), un processus qui voit l’IA s’améliorer elle-même, sans intervention humaine.

« Il y a urgence », a martelé, sur X, Mustafa Suleyman, responsable de l’IA chez Microsoft. « Ces derniers ont été un tournant. Les choses qui nous préoccupent depuis longtemps sur le plan théorique sont devenues réalité. »

Le responsable a évoqué les multiples incidents lors desquels, tant chez OpenAI que chez Anthropic, des IA sont sorties spontanément de leur milieu confiné pour aller sur internet et faire intrusion sur sites et plateformes.

tu/ev