2. Paysage conceptuel de l’explicabilité
2.1 Paradoxes de la transparence
Les systèmes intelligents sont souvent traités de boîtes noires, ce qui est péjoratif tout comme l’opacité qui relève de la même métaphore. La transparence semble être l’antidote à ce défaut, mais elle peut aussi bien signifier l’invisibilité, comme dans « ce changement de solution est transparent pour l’utilisateur » que la visibilité totale, comme celle de l’accès au code source d’un logiciel. Or même les réseaux de neurones profonds dont le fonctionnement semble le plus opaque donnent souvent un accès complet à toutes les caractéristiques (structure et fichier des poids du modèle) qui permettent d’en reproduire les résultats. L’explication de leur fonctionnement nécessite plutôt une véritable construction comme pour la compréhension d’un code...
Cet article est réservé aux abonnés. Il vous reste 92 % à découvrir.
Déjà abonné ? Se connecter
Paysage conceptuel de l’explicabilité
Grandes familles de méthodes pour l’explicabilité
Sources bibliographiques
Cet article est réservé aux abonnés. Il vous reste 92 % à découvrir.
Déjà abonné ? Se connecter
Quiz et tests de validation présents dans cet article
Entraînez-vous autant que vous le voulez avec les quiz d'entraînement.
Article inclus dans l'offre
"Technologies logicielles Architectures des systèmes"
(
408 articles
)
Actualisée et enrichie d’articles validés par nos comités scientifiques.
Quiz, médias, tableaux, formules, vidéos, etc.
Opérationnels et didactiques, pour garantir l'acquisition des compétences transverses.
Un ensemble de services exclusifs en complément des ressources.
![Écoutez notre podcast Cogitons Sciences : Intégrer l’IA dans votre entreprise, pour un usage utile et raisonné [L’IA s’invite dans nos métiers #2]](https://www.techniques-ingenieur.fr/actualite/wp-content/uploads/2024/01/CS-IA-ep2.png)
![Écoutez notre podcast Cogitons Sciences : Comment l’IA révolutionne notre façon de travailler ? [L’IA s’invite dans nos métiers #1]](https://www.techniques-ingenieur.fr/actualite/wp-content/uploads/2024/01/IA-ep1.png)
![Écoutez notre podcast Cogitons Sciences : Pour une intégration éthique et règlementée de l’IA [L’IA s’invite dans nos métiers #3]](https://www.techniques-ingenieur.fr/actualite/wp-content/uploads/2024/04/CS-IA-ep3.png)
