Extrait court
L’explicabilité permet d’expliquer de manière compréhensible les fonctionnalités du système, le contexte d’utilisation ainsi que les résultats obtenus, limitant ainsi l’effet de la boîte noire.
Définition courte
Capacité à justifier de manière compréhensible, claire et sans ambiguïté le fonctionnement, le contexte d’utilisation et les décisions produites par un système d’intelligence artificielle. Ce principe vise à garantir la confiance du public en s’assurant que les résultats automatisés puissent être compris et retracés.
Définition longue
Dans le domaine de l’intelligence artificielle, l’explicabilité est le principe éthique et technique qui exige de pouvoir fournir des explications claires sur la façon dont un système parvient à ses conclusions. Elle s’oppose directement à l’opacité (l’effet de « boîte noire »), dont le processus interne de traitement des données pour obtenir un résultat final est souvent impossible à décrypter.
L’explicabilité est une condition préalable essentielle, particulièrement lorsque l’IA soutient des décisions sensibles ou à fort impact pour les individus (santé, éducation, finances, justice), car elle permet de comprendre les interactions algorithmiques et leurs conséquences réelles. Elle peut être favorisée dès la conception des systèmes, par l’intégration d’un jugement humain continu dans le processus décisionnel ou par l’utilisation de moyens techniques spécifiques. Les directives gouvernementales recommandent notamment de privilégier les modèles d’IA ouverts, car ceux-ci facilitent la compréhension et la reproductibilité des résultats en permettant aux parties prenantes de vérifier directement les critères mathématiques appliqués. Enfin, l’explicabilité ne doit pas être perçue comme un simple résultat technique, mais comme un processus collaboratif de création de sens entre l’être humain et la machine.
Éléments clés
- Lutte contre l’opacité : Vise à limiter l’effet de « boîte noire » en rendant compréhensibles les fonctionnalités du système et les résultats obtenus.
- Clarté des décisions : Obligation de fournir une explication sans ambiguïté lorsqu’une décision, une prédiction ou une action de l’IA affecte directement des individus.
- Privilège aux modèles ouverts : Recommandation d’utiliser des modèles ouverts qui permettent d’auditer les critères appliqués par l’algorithme pour fournir des explications claires.
- Processus collaboratif : Approche qui considère l’explicabilité comme une interaction constante entre l’humain et la machine pour construire du sens.
Exemple d’application
Si un établissement utilise un système d’intelligence artificielle pour approuver ou refuser l’admission d’un étudiant à un programme contingenté (ou pour l’octroi d’un prêt), l’interface doit permettre au personnel d’expliquer précisément quelles informations ont été utilisées par l’algorithme et comment elles ont été interprétées pour prendre cette décision, évitant ainsi un sentiment d’injustice ou de discrimination arbitraire.
Sources d’inspiration
- Ministère de la Cybersécurité et du Numérique (MCN). (2025). Arrêté numéro 2025-02 : Énoncé de principes pour une utilisation responsable de l’intelligence artificielle par les organismes publics. Gouvernement du Québec.
- Observatoire international sur les impacts sociétaux de l’intelligence artificielle et du numérique (Obvia). (2025). État de la situation sur les impacts sociétaux de l’intelligence artificielle et du numérique – 2025.
- Observatoire international sur les impacts sociétaux de l’intelligence artificielle et du numérique (Obvia). (2025). Glossaire de l’Obvia.