« Pour bien maîtriser l’IA, il faut un ingénieur qui maîtrise les causalités »

Les travaux de LaborIA portent notamment sur les conditions de travail, les compétences, l’emploi et le dialogue social. L’objectif est moins d’anticiper abstraitement les métiers susceptibles d’être remplacés par l’IA que d’observer, sur le terrain, comment ces technologies modifient réellement l’activité, les organisations et les relations professionnelles.

Depuis l’arrivée de ChatGPT fin 2022, l’impact des technologies d’intelligence artificielle sur les métiers de l’ingénierie notamment, a changé d’échelle. L’IA, jusque-là essentiellement introduite dans les organisations à travers des projets pilotés, est devenue un outil directement accessible aux salariés. Ces usages individuels ont accéléré la diffusion de l’IA générative mais ils ont également fait apparaître de nouvelles questions : les gains de temps individuels se traduisent-ils réellement en gains de productivité ? Que devient l’apprentissage lorsqu’une partie du raisonnement est déléguée à la machine ? Et comment conserver les compétences permettant de contrôler les réponses produites par l’IA ?

Directeur scientifique de LaborIA au sein d’Inria, Yann Ferguson analyse ces transformations. Pour les ingénieurs, l’enjeu est particulièrement sensible. L’IA peut désormais intervenir dans des activités de conception, de programmation, d’analyse ou de résolution de problèmes. Mais l’ingénieur reste celui auquel il revient de garantir la fiabilité d’une solution et de faire le lien entre les connaissances scientifiques et leur application dans le monde réel. Une fonction qui pourrait paradoxalement nécessiter de renforcer les savoirs fondamentaux, au moment même où l’IA donne l’impression de pouvoir s’en affranchir. Yann Ferguson a répondu aux questions des Techniques de l’Ingénieur.

Techniques de l’Ingénieur : LaborIA a été créé en 2021. L’irruption de l’IA générative a-t-elle bouleversé vos hypothèses de départ ?

Yann Ferguson : Lorsque LaborIA a été créé, la demande du ministère du Travail était de développer une capacité de projection sur l’intégration de l’IA dans le monde du travail. Trois grandes dimensions nous intéressaient particulièrement : les conditions de travail, les compétences, la formation, ainsi que le dialogue social. Il s’agissait d’observer des situations déjà existantes afin d’éclairer les politiques publiques à venir.

Un an plus tard, ChatGPT est arrivé et a profondément modifié la situation. Ce que nous n’avions pas anticipé, c’est l’ampleur du passage à l’échelle. L’IA est passée très rapidement d’un sujet de spécialistes à un outil grand public utilisé aussi bien dans la vie personnelle que professionnelle. Dans les entreprises, une grande partie de ces usages n’a pas été initiée par les employeurs. Ce sont les salariés qui ont commencé à utiliser des solutions qu’ils avaient découvertes par eux-mêmes. Or le travail n’est pas une addition d’individus qui choisissent chacun leurs outils et leurs méthodes. C’est une activité coordonnée, avec des règles communes. Les organisations ont donc dû réagir rapidement, notamment pour sécuriser les usages, protéger les données et définir ce qui pouvait ou non être fait avec ces outils.

L’IA générative a également remis en cause l’idée selon laquelle l’automatisation toucherait d’abord les tâches répétitives. Pourquoi ?

Dans les années 2010, on considérait généralement que l’IA allait prioritairement automatiser les tâches répétitives et à faible valeur ajoutée. Les métiers de manager, d’ingénieur, d’enseignant ou encore les métiers créatifs semblaient moins exposés parce qu’ils mobilisent de la créativité, de la résolution de problèmes et de l’intelligence relationnelle. L’IA générative a en partie inversé cette représentation. Elle est justement très performante sur des problèmes qui n’ont pas nécessairement une solution unique et déterministe. Lorsqu’il faut proposer un programme informatique, conseiller un client ou produire un texte, il existe plusieurs bonnes solutions possibles. L’IA générative sait produire ce type d’approximation pertinente. À l’inverse, une tâche répétitive dont le résultat doit être systématiquement exact peut lui poser davantage de difficultés. Cela explique pourquoi des professions que l’on pensait relativement protégées utilisent aujourd’hui beaucoup ces outils. Les ingénieurs font partie de ces métiers exposés, précisément parce qu’une partie de leur activité consiste à résoudre des problèmes qui ne se présentent jamais tout à fait de la même manière.

L’IA permet pourtant d’effectuer certaines tâches beaucoup plus rapidement. Pourquoi ce gain de temps ne se retrouve-t-il pas nécessairement dans la productivité de l’entreprise ?

L’IA nous accélère individuellement. C’est notamment lié à la forme qu’ont prise les outils d’IA générative : celle d’un assistant personnel. Chacun peut aller plus vite sur une tâche donnée, mais le travail, lui, est collectif. Le problème apparaît lorsque l’on considère que la productivité globale est simplement la somme des accélérations individuelles. Ce n’est pas parce qu’une personne va plus vite que la coordination s’améliore. Cela peut même avoir l’effet inverse. Nous observons par exemple que certains salariés partagent moins leur travail avec leurs collègues parce qu’ils demandent désormais à l’IA de les aider à réfléchir, de relire une production ou de participer à un brainstorming. Ils gagnent en autonomie, mais perdent une partie des interactions qui permettaient auparavant aux collègues de regarder leur travail, de le confronter à l’état de l’art ou de transmettre des connaissances.

Il existe aussi un autre phénomène : une personne peut produire beaucoup plus rapidement grâce à l’IA, mais la personne située en aval doit toujours lire, contrôler ou certifier cette production. L’accélération des uns peut donc provoquer la surcharge des autres. On crée des accélérations locales et des bouchons dans le flux de travail. C’est donc ce flux collectif qu’il faut désormais repenser.

LaborIA travaille sur la notion d’IA « capacitante ». À quelles conditions l’IA permet-elle réellement de développer les compétences ?

La première conception de l’IA capacitante consistait à imaginer une redistribution des tâches entre l’humain et la machine. L’IA prendrait en charge les activités pénibles ou répétitives et permettrait à l’être humain de se consacrer davantage à la créativité ou aux relations humaines. Le développement de l’IA générative rend aujourd’hui cette distinction beaucoup moins simple puisqu’elle intervient précisément dans ces activités créatives ou intellectuelles. La question devient donc : lorsque j’utilise une IA, est-ce que j’apprends réellement quelque chose et est-ce que je développe mes compétences ? Lorsque l’usage est exclusivement orienté vers le résultat, ce n’est pas nécessairement le cas. Je pose une question, j’obtiens une réponse, je la corrige éventuellement et je relance le système. Je peux être plus performant sans avoir appris à réaliser moi-même la tâche. Il peut alors y avoir une illusion de performance et une illusion de compétence. L’enjeu n’est donc pas seulement de concevoir une IA capacitante, mais de construire des usages capacitants de l’IA. Il faut que l’utilisateur conserve une activité intellectuelle lui permettant de comprendre, d’apprendre, de juger et progressivement de développer sa propre expertise.

Vous citez justement une expérience menée auprès d’ingénieurs. Que montre-t-elle sur l’apprentissage avec l’IA ?

Cette expérience est particulièrement intéressante. Des ingénieurs devaient apprendre à utiliser un environnement de développement informatique. Un groupe disposait d’une IA pour réaliser les exercices, l’autre non. Pendant l’apprentissage, ceux qui avaient accès à l’IA allaient plus vite et obtenaient de meilleurs résultats. Si l’on s’était contenté de mesurer leur performance pendant l’exercice, on aurait donc conclu que l’IA était bénéfique. Mais l’expérience ne s’est pas arrêtée là. L’IA a ensuite été retirée aux deux groupes et un test de compétences professionnelles a été réalisé. Les ingénieurs qui avaient travaillé sans IA ont obtenu de bien meilleurs résultats sur ces tests. Cela pose une question essentielle. La performance immédiate n’est pas nécessairement un indicateur de l’apprentissage. On peut réussir une tâche avec une IA sans avoir construit les connaissances qui permettront ensuite de la réaliser, de la comprendre ou de l’évaluer de manière autonome. Pour les entreprises comme pour les écoles d’ingénieurs, il faut donc distinguer les situations dans lesquelles l’objectif est d’aller vite de celles dans lesquelles l’objectif est d’apprendre. Ce ne sont pas nécessairement les mêmes usages de l’IA.

Faut-il ainsi limiter certains usages de l’IA pour les ingénieurs les moins expérimentés ?

C’est une piste explorée par certaines organisations. Une entreprise que nous avons observée cherche par exemple à différencier les usages autorisés en fonction du niveau d’expertise professionnelle. Lorsqu’une personne entre dans un métier, certaines utilisations de l’IA sont autorisées et d’autres ne le sont pas. Puis, à mesure qu’elle maîtrise le métier, de nouveaux usages sont ouverts. Cette logique est intéressante parce qu’elle inverse une idée très répandue : plus un salarié est novice, plus l’IA pourrait l’aider. En réalité, pour superviser correctement une IA, il faut déjà disposer de compétences. Il y a également un enjeu autour du jugement. On répète beaucoup que l’esprit critique sera la compétence essentielle à l’ère de l’IA. Mais l’esprit critique n’est pas une formule magique. Il faut savoir sur quelles connaissances repose ce jugement et comment ces compétences se construisent. Certaines entreprises commencent donc à travailler spécifiquement sur cette capacité de jugement, avec des exercices de critique des productions de l’IA. L’objectif est d’éviter que le collaborateur ne devienne qu’un simple validateur passif de ce que lui propose la machine.

Cette question est-elle encore plus importante pour les ingénieurs, qui doivent valider la fiabilité des solutions techniques ?

Oui, parce que l’ingénieur joue un rôle particulier. L’ingénieur est celui qui rassure tout le monde. Il se situe à la rencontre des savoirs théoriques et des savoirs pratiques. Il maîtrise la science, mais également l’écart qui existe entre la science et le monde réel. La question est donc de savoir de quelles compétences il aura besoin demain pour continuer à jouer ce rôle de validation lorsque certaines solutions auront été produites avec l’IA. Il existe ici une difficulté majeure pour la formation. Les élèves ingénieurs utilisent déjà beaucoup ces outils alors que nous n’avons pas encore suffisamment de recul pour déterminer dans quelles situations il faut les utiliser et dans quelles situations il faudrait au contraire préserver des espaces sans IA afin d’apprendre les fondamentaux. Le problème peut être formulé très simplement : dans quelle mesure est-on capable de superviser un résultat que l’on n’aurait pas su produire soi-même et dont on ne comprend pas complètement la logique ? Produire une solution et comprendre pourquoi cette solution fonctionne sont deux choses très différentes.

Vous opposez à ce sujet la causalité scientifique aux corrélations utilisées par l’IA. Pourquoi cette distinction est-elle importante pour les ingénieurs ?

Les IA actuelles reposent sur des corrélations statistiques. Or une grande partie de la formation scientifique de l’ingénieur repose quant à elle sur la causalité. En physique notamment, on cherche à comprendre pourquoi un phénomène entraîne un autre phénomène. Il existe donc une forme de tension épistémologique. D’un côté, des outils capables de tirer de la valeur d’immenses quantités de données et d’identifier des corrélations deviennent de plus en plus performants. De l’autre, les ingénieurs doivent continuer à comprendre les causalités physiques, mathématiques ou biologiques qui structurent le monde réel. On pourrait penser que, pour bien superviser une IA qui fonctionne par corrélation, il faut justement être particulièrement solide sur les causalités. Pourtant, le risque est que certains élèves ingénieurs ne raisonnent à l’inverse : puisque les modèles peuvent analyser les données et résoudre certains problèmes, pourquoi apprendre les mathématiques ou la physique nécessaires pour les résoudre soi-même ? C’est une vraie question pour les écoles d’ingénieurs. La data science ne peut pas simplement prendre la place de toutes les autres connaissances. Si l’ingénieur reste celui qui doit contrôler, valider et assumer la fiabilité d’une solution, il doit conserver les connaissances qui lui permettent de comprendre ce que le modèle ne fait pas.

L’évolution très rapide des modèles laisse-t-elle penser que les métiers d’ingénieur vont être bouleversés dans les cinq à dix prochaines années ?

Il faut distinguer la vitesse de progression de la technologie et celle de son intégration dans le monde réel. Dans le secteur technologique, on constate qu’un modèle peut être dépassé six mois plus tard. Mais cela ne signifie pas que les organisations et les métiers vont évoluer à la même vitesse.

On peut comparer cela à la Formule 1. Une Formule 1 offre des performances extraordinaires, mais ce n’est pas pour autant le véhicule que l’on met directement sur les routes. Pour passer dans le monde réel, la technologie doit satisfaire d’autres exigences.

C’est particulièrement vrai dans l’industrie. Dans l’automobile ou l’aéronautique, par exemple, l’innovation ne peut pas se faire au détriment de la stabilité, de la fiabilité ou de la sécurité. Une solution très performante doit encore passer des étapes de qualification, de certification et de validation.

C’est un point essentiel pour de nombreux ingénieurs. La performance technique de l’IA n’est qu’une dimension du problème. Il faut ensuite garantir sa robustesse et sa fiabilité et déterminer qui porte la responsabilité de la décision. C’est pourquoi il y aura probablement un écart important entre les performances des modèles disponibles et leur niveau d’utilisation réelle dans les industries critiques.

Ce dont on peut en revanche être quasiment certain, c’est qu’il n’y aura pas de retour en arrière. L’IA sera durablement présente dans le travail. La question n’est donc plus seulement celle de son adoption, mais de la manière dont cette adoption pourra devenir collective, maîtrisée et compatible avec les exigences propres à chaque métier.