3. Intégrer la gestion aux étapes du cycle de vie
La première phase consiste à définir :
la finalité du système (quelles décisions, quel rôle de
l’IA) ;
les parties prenantes (utilisateurs, personnes affectées,
fonctions métiers, DPO ou responsable de la protection des renseignements
personnels) ;
les contraintes réglementaires et normatives.
Une pré-analyse des risques et impacts permet de classer le projet
selon des niveaux de criticité, d’identifier les grandes familles
de risques et de décider si une analyse d’impact formelle est requise.
Comme le montre le cas Amazon, cette phase doit inclure une réflexion
sur la représentativité des données d’entraînement envisagées et sur
les biais potentiels qu’elles peuvent véhiculer.
...
Cet article est réservé aux abonnés
Cet article est réservé aux abonnés. Il vous reste 92 % à découvrir.
Déjà abonné ?
Se connecter
Lecture en cours
Intégrer la gestion aux étapes du cycle de vie
Sources bibliographiques
-
(1) - ANGWIN (J.), LARSON (J.), MATTU (S.), KIRCHNER
(L.) - Machine Bias. There’s software used across
the country to predict future criminals. And it’s biased against blacks. - ProPublica, 23 mai 2016.
-
(2) - DASTIN (J.) - Amazon scraps secret AI recruiting tool that showed
bias against women. - Reuters, 11 octobre...
À lire également dans nos bases
-
RACOCEANU (D.), OUNISSI (M.), KERGOSIEN (Y.L.) - Explicabilité en Intelligence Artificielle ; vers une
IA Responsable – Instanciation dans le domaine de la santé -
Normes
- Quality
management systems – Requirements. ISO - ISO 9001 - 2015
- Management
du risque – Lignes directrices - ISO 31000 - 2018
- Information security, cybersecurity and privacy protection – Information
security management systems – Requirements - ISO/IEC 27001 - 2022
- Security techniques – Extension to ISO/IEC 27001 and ISO/IEC 27002
for privacy information management – Requirements and guidelines - ISO/IEC 27701...
Réglementation
L.Q. 2021, c. 25. Québec – Loi modernisant des dispositions législatives
en matière de protection des renseignements personnels (Loi 25)
Règlement (UE) 2024/1689 du Parlement européen et du Conseil
du 13 juin 2024 établissant des règles harmonisées concernant l’intelligence
artificielle (AI Act)
Annuaire
Commission d’accès à l’information du Québec
https://www.cai.gouv.qc.ca
Commission nationale de l’informatique et des libertés (CNIL)
https://www.cnil.fr
ISO – Comité technique JTC 1/SC 42
https://www.iso.org/committee/6794475.html
...
Cet article est réservé aux abonnés
Cet article est réservé aux abonnés. Il vous reste 92 % à découvrir.
Déjà abonné ?
Se connecter