Extrait court
La traçabilité d’un système d’IA consiste à offrir de l’information transparente sur les données, les étapes et les processus utilisés par le système pour arriver à un résultat.
Définition courte
Capacité à conserver un historique clair, documenté et chronologique des données, des processus de développement et des décisions d’un système d’intelligence artificielle. Ce principe fondamental permet de comprendre le cheminement d’un algorithme, d’identifier les responsabilités en cas de problème et de faciliter la détection ainsi que la résolution des erreurs.
Définition longue
Dans le domaine de l’intelligence artificielle (IA) et de la gouvernance numérique, la traçabilité fait référence à la possibilité de connaître l’origine, l’utilisation et le chemin parcouru par les données et les processus tout au long du cycle de vie d’un système automatisé. Concrètement, cela implique de documenter rigoureusement chaque phase de l’IA, de la collecte et du traitement initiaux des ensembles de données, jusqu’à l’exploitation, la prise de décision et le suivi du système.
La traçabilité est la condition technique préalable pour assurer une véritable reddition de comptes. En effet, si un algorithme génère un résultat inattendu, biaisé ou préjudiciable, une documentation détaillée permet aux personnes responsables et aux auditeurs de remonter à la source du problème afin d’y apporter des mesures correctives. Sans cette capacité de retracer l’historique d’un système (une démarche qui est d’ailleurs facilitée par l’utilisation de modèles ouverts), il devient extrêmement difficile de déterminer la responsabilité humaine ou institutionnelle lors d’un incident. En ce sens, la traçabilité agit comme le pilier soutenant la transparence et l’explicabilité, garantissant ainsi le maintien de la confiance du public envers les technologies déployées par les établissements d’enseignement et les organismes publics.
Éléments clés
- Historique documenté : Conservation rigoureuse et transparente des informations concernant les données d’entraînement, les étapes de conception et les paramètres du système.
- Soutien à la reddition de comptes : Mécanisme essentiel pour déterminer et assumer les responsabilités éthiques ou juridiques lorsqu’un système automatisé pose problème.
- Facilitation des audits et des correctifs : Permet aux analystes de retrouver l’origine d’une anomalie, d’une fabulation ou d’un biais algorithmique afin d’ajuster le système.
- Lien avec l’explicabilité : Fournit la base de documentation technique nécessaire pour pouvoir expliquer clairement comment un modèle d’IA est parvenu à une décision ayant un impact sur les personnes.
Exemple d’application
Un organisme public conserve un registre détaillé des ensembles de données initiaux et de toutes les étapes de paramétrage utilisées pour entraîner son algorithme, ce qui permet aux auditeurs de retrouver facilement l’origine d’une erreur si le système se met à produire des résultats biaisés.
Sources d’inspiration
- Gouvernement du Québec. (2018). Plan d’action numérique en éducation et en enseignement supérieur.
- Ministère de la Cybersécurité et du Numérique (MCN). (2025). Arrêté numéro 2025-02 : Énoncé de principes pour une utilisation responsable de l’intelligence artificielle par les organismes publics. Gouvernement du Québec.
- Observatoire international sur les impacts sociétaux de l’intelligence artificielle et du numérique (Obvia). (2025). Glossaire de l’Obvia.