Éthique et politique
Intelligence artificielle et innovation - Enjeux de fiabilisation

3.1 Risques et opportunités, forces et faiblesses

Les applications de l’IA touchent presque tous les aspects de nos vies, améliorant la gestion de ressources, optimisant la conception de systèmes complexes ou contribuant à protéger les écosystèmes. Technologie en émergence, elle est porteuse de nombreuses innovations et contribue à changer radicalement les pratiques dans de nombreux secteurs, de la recherche scientifique à tous les domaines d’activité économique.

Chaque entité – entreprise, commerce, collectivité, etc. – qui produit, se procure ou détient des données peut bénéficier des avancées de l’IA, laquelle permet de les améliorer, les analyser et les interpréter afin de prédire et de décider. Optimiser la gestion de l’énergie en prédisant la consommation, améliorer les soins et traitements en apprenant à les adapter à chaque patient, analyser des images satellite pour comprendre, suivre et prédire les phénomènes environnementaux ou les activités de l’agriculture : les applications de l’IA concernent ou concerneront pratiquement tous les aspects de nos vies, ce qui présente autant d’opportunités que de risques (figure 6).

Toute technique possède un caractère dual et l’IA n’échappe pas à cette règle. La vulnérabilité potentielle de systèmes informatiques face à des attaques exploitant des algorithmes qui apprennent de leurs échecs est devenue un sujet stratégique majeur. Les individus, comme les collectivités, peuvent aussi se trouver impuissants devant la formidable capacité prédictive des algorithmes, qui deviennent des outils de manipulation et d’exploitation potentielle des usagers du numérique, car ce qui est prédictible devient potentiellement manipulable et perd alors de la liberté.

Afin de bâtir la confiance dans cette technique, il s’avère crucial d’élaborer des méthodes d’IA techniquement robustes et auditables, avec un but éthique et documenté, ce qui suppose aussi de se doter d’un projet social, politique et moral en regard des projets scientifiques que l’on assigne à l’IA. Dès les phases de conception, le travail en IA doit être centré sur l’humain, son bien-être et ses droits et sur les caractéristiques qui les garantiront : la robustesse, la sécurité, la transparence et l’équité. Outre ces enjeux techniques se posent...