Intégrer la gestion aux étapes du cycle de vie
Éthique de l'IA : gestion des risques et impacts selon ISO/IEC 42001:2023

L’intérêt grandissant pour l’utilisation de l’intelligence artificielle transforme les processus industriels, les services publics, ainsi que divers secteurs comme la santé ou la finance. Outils de recommandation, algorithmes prédictifs, dispositifs de détection d’anomalies et modèles génératifs deviennent des briques structurantes des systèmes d’information. Ces usages créent des opportunités, mais ils introduisent aussi de nouveaux enjeux, qui ne se réduisent pas aux risques informatiques classiques : les biais et la discrimination, les atteintes à la vie privée, l’opacité des décisions, la dépendance aux données ou encore des vulnérabilités propres aux modèles.

Plusieurs cas emblématiques ont mis en lumière ces nouveaux risques. En 2016, l’enquête de ProPublica sur l’algorithme COMPAS, utilisé par les tribunaux étasuniens pour évaluer le risque de récidive, a révélé que les prévenus afro-étasuniens étaient deux fois plus susceptibles d’être incorrectement classés à haut risque que les prévenus blancs . En 2018, Amazon a abandonné un outil de recrutement automatisé après avoir découvert qu’il pénalisait systématiquement les candidatures féminines . En 2019, Obermeyer et al. ont montré qu’un algorithme commercial de gestion de la santé, déployé à grande échelle dans le système étasunien, sous-estimait systématiquement les besoins de soins des patients noirs par rapport aux patients blancs présentant un état de santé similaire . L’algorithme utilisait l’historique des coûts de soins comme indicateur des besoins en soins futurs, ce qui a conduit à sous-estimer les besoins des patients noirs, du fait d’un moindre accès initial aux soins. Ce cas n’est pas isolé : en 2020, une analyse a révélé qu’un million d’adultes noirs étasuniens auraient pu recevoir un traitement rénal plus précoce si les algorithmes d’estimation du taux de filtration glomérulaire n’avaient pas inclus de facteur de correction fondé sur la race . Ces exemples illustrent comment les systèmes algorithmiques peuvent reproduire et amplifier le racisme systémique – soit l’ensemble des structures et politiques institutionnelles qui, indépendamment de toute intention discriminatoire, produisent des inégalités raciales persistantes. Le biais algorithmique en constitue une nouvelle manifestation numérique. .

Le cadre normatif et réglementaire se densifie en réponse à ces enjeux. La norme ISO/IEC 42001:2023 définit des exigences pour établir un système de management de l’IA (AIMS) couvrant le développement, la fourniture et l’utilisation responsable des systèmes d’IA. En Europe, le règlement général sur la protection des données (RGPD) impose depuis 2018 des obligations strictes en matière de transparence, de minimisation des données et d’analyse d’impact pour les traitements à risque. Au Québec, depuis 2021, la Loi 25 modernise les lois sur la protection des renseignements personnels selon une logique comparable. Plus récemment, le règlement européen sur l’intelligence artificielle (AI Act), entré en vigueur en août 2024, complète ce dispositif en établissant une classification des systèmes d’IA par niveaux de risque et en imposant des exigences spécifiques de transparence, de robustesse et de supervision humaine pour les systèmes à risque élevé.

Cet article poursuit trois objectifs : d’une part, il démontre comment l’opérationnalisation de l’éthique de l’IA s’appuie sur une gestion structurée des risques et impacts, illustrée par des cas documentés. D’autre part, il explicite l’apport d’ISO/IEC 42001 pour transformer les principes éthiques en pratiques organisationnelles vérifiables. Enfin, il propose un cadre opérationnel progressif, applicable tant dans le contexte européen que nord-américain.