Présentation
RÉSUMÉ
L'opérationnalisation de l'éthique de l'intelligence artificielle constitue un défi de taille pour les organisations. Les cas Amazon, COMPAS et Obermeyer illustrent comment les systèmes d'IA peuvent produire des discriminations systémiques malgré l'absence d'intention malveillante. Cet article propose un cadre opérationnel pour transformer les principes éthiques en pratiques concrètes de gestion des risques et impacts, fondé sur la norme ISO/IEC 42001:2023. Nous montrons d'abord comment cette norme s'articule avec les exigences du RGPD en Europe et de la Loi 25 au Québec. Nous détaillons ensuite l'intégration de la gestion des risques et impacts aux différentes étapes du cycle de vie des systèmes d'IA. Enfin, nous présentons des outils opérationnels (matrice cycle de vie × risques × contrôles, indicateurs, organisation) et une feuille de route progressive pour la mise en œuvre. L'illustration par un cas de système RH démontre l'application concrète du cadre.
Lire cet article issu d'une ressource documentaire complète, actualisée et validée par des comités scientifiques.
Lire l'articleAUTEUR(S)
-
Schallum PIERRE : Conseiller IA responsable, éthique et innovation à l’Institut intelligence et données de l’Université Laval, membre du comité ISO/IEC JTC 1/SC 42 Artificial Intelligence et cofondateur de l’organisme sans but lucratif Réseau d’expertise en éthique de données (REED)
INTRODUCTION
L’intérêt grandissant pour l’utilisation de l’intelligence artificielle transforme les processus industriels, les services publics, ainsi que divers secteurs comme la santé ou la finance. Outils de recommandation, algorithmes prédictifs, dispositifs de détection d’anomalies et modèles génératifs deviennent des briques structurantes des systèmes d’information. Ces usages créent des opportunités, mais ils introduisent aussi de nouveaux enjeux, qui ne se réduisent pas aux risques informatiques classiques : les biais et la discrimination, les atteintes à la vie privée, l’opacité des décisions, la dépendance aux données ou encore des vulnérabilités propres aux modèles.
Plusieurs cas emblématiques ont mis en lumière ces nouveaux risques. En 2016, l’enquête de ProPublica sur l’algorithme COMPAS, utilisé par les tribunaux étasuniens pour évaluer le risque de récidive, a révélé que les prévenus afro-étasuniens étaient deux fois plus susceptibles d’être incorrectement classés à haut risque que les prévenus blancs . En 2018, Amazon a abandonné un outil de recrutement automatisé après avoir découvert qu’il pénalisait systématiquement les candidatures féminines . En 2019, Obermeyer et al. ont montré qu’un algorithme commercial de gestion de la santé, déployé à grande échelle dans le système étasunien, sous-estimait systématiquement les besoins de soins des patients noirs par rapport aux patients blancs présentant un état de santé similaire . L’algorithme utilisait l’historique des coûts de soins comme indicateur des besoins en soins...
Cet article est réservé aux abonnés. Il vous reste 92 % à découvrir.
Déjà abonné ? Se connecter
MOTS-CLÉS
intelligence artificielle | RGPD | Éthique de l'IA | ISO/IEC 42001 | Gestion des risques IA | Évaluation d'impact | Loi 25 | Biais algorithmiques | IA responsable
DOI (DIGITAL OBJECT IDENTIFIER)
RÉFÉRENCE BIBLIOGRAPHIQUE
CET ARTICLE SE TROUVE ÉGALEMENT DANS :
Éthique de l’IA : gestion des risques et impacts selon ISO/IEC 42001:2023
Sources bibliographiques
- (1) - ANGWIN (J.), LARSON (J.), MATTU (S.), KIRCHNER (L.) - Machine Bias. There’s software used across the country to predict future criminals. And it’s biased against blacks. - ProPublica, 23 mai 2016.
- (2) - DASTIN (J.) - Amazon scraps secret AI recruiting tool that showed bias against women. - Reuters, 11 octobre...
À lire également dans nos bases
Normes
- Quality management systems – Requirements. ISO - ISO 9001 - 2015
- Management du risque – Lignes directrices - ISO 31000 - 2018
- Information security, cybersecurity and privacy protection – Information security management systems – Requirements - ISO/IEC 27001 - 2022
- Security techniques – Extension to ISO/IEC 27001 and ISO/IEC 27002 for privacy information management – Requirements and guidelines - ISO/IEC 27701...
Réglementation
L.Q. 2021, c. 25. Québec – Loi modernisant des dispositions législatives en matière de protection des renseignements personnels (Loi 25)
Règlement (UE) 2024/1689 du Parlement européen et du Conseil du 13 juin 2024 établissant des règles harmonisées concernant l’intelligence artificielle (AI Act)
Annuaire
Commission d’accès à l’information du Québec
Commission nationale de l’informatique et des libertés (CNIL)
ISO – Comité technique JTC 1/SC 42
...Cet article est réservé aux abonnés. Il vous reste 92 % à découvrir.
Déjà abonné ? Se connecter
Article inclus dans l'offre
"Innovations technologiques"
(
261 articles
)
Actualisée et enrichie d’articles validés par nos comités scientifiques.
Quiz, médias, tableaux, formules, vidéos, etc.
Opérationnels et didactiques, pour garantir l'acquisition des compétences transverses.
Un ensemble de services exclusifs en complément des ressources.