7. Conclusion
L’opérationnalisation de l’éthique de l’IA ne se limite pas à
l’adhésion à des principes abstraits. Elle exige une démarche structurée
de gestion des risques et impacts, dont ISO/IEC 42001 constitue le
cadre de référence. Les cas documentés d’Amazon, COMPAS et Obermeyer
démontrent que les bonnes intentions ne suffisent pas : sans processus
rigoureux d’identification, d’analyse et de traitement des biais,
les systèmes d’IA peuvent perpétuer et amplifier des discriminations
systémiques.
La norme ISO/IEC 42001 offre une réponse pragmatique à ce défi
en articulant trois dimensions complémentaires : l’appréciation des
risques organisationnels (section 6.1.2), le traitement de ces risques
par des contrôles adaptés (section 6.1.3 et Annexe A), et l’évaluation
des impacts sociétaux au-delà des seuls intérêts de l’organisation
(section 6.1.4). Cette triple approche permet de transformer les engagements...
Cet article est réservé aux abonnés
Cet article est réservé aux abonnés. Il vous reste 92 % à découvrir.
Déjà abonné ?
Se connecter
Lecture en cours
Conclusion
Sources bibliographiques
-
(1) - ANGWIN (J.), LARSON (J.), MATTU (S.), KIRCHNER
(L.) - Machine Bias. There’s software used across
the country to predict future criminals. And it’s biased against blacks. - ProPublica, 23 mai 2016.
-
(2) - DASTIN (J.) - Amazon scraps secret AI recruiting tool that showed
bias against women. - Reuters, 11 octobre...
À lire également dans nos bases
-
RACOCEANU (D.), OUNISSI (M.), KERGOSIEN (Y.L.) - Explicabilité en Intelligence Artificielle ; vers une
IA Responsable – Instanciation dans le domaine de la santé -
Normes
- Quality
management systems – Requirements. ISO - ISO 9001 - 2015
- Management
du risque – Lignes directrices - ISO 31000 - 2018
- Information security, cybersecurity and privacy protection – Information
security management systems – Requirements - ISO/IEC 27001 - 2022
- Security techniques – Extension to ISO/IEC 27001 and ISO/IEC 27002
for privacy information management – Requirements and guidelines - ISO/IEC 27701...
Réglementation
L.Q. 2021, c. 25. Québec – Loi modernisant des dispositions législatives
en matière de protection des renseignements personnels (Loi 25)
Règlement (UE) 2024/1689 du Parlement européen et du Conseil
du 13 juin 2024 établissant des règles harmonisées concernant l’intelligence
artificielle (AI Act)
Annuaire
Commission d’accès à l’information du Québec
https://www.cai.gouv.qc.ca
Commission nationale de l’informatique et des libertés (CNIL)
https://www.cnil.fr
ISO – Comité technique JTC 1/SC 42
https://www.iso.org/committee/6794475.html
...
Cet article est réservé aux abonnés
Cet article est réservé aux abonnés. Il vous reste 92 % à découvrir.
Déjà abonné ?
Se connecter