Extrait court
La reddition de comptes repose sur des mécanismes clairs et traçables permettant aux organisations d’assumer l’entière responsabilité des décisions, des actions et des impacts générés par leurs systèmes d’intelligence artificielle.
Définition courte
Processus par lequel une institution documente, justifie et assume de manière transparente la responsabilité éthique, juridique et sociale des systèmes d’intelligence artificielle qu’elle déploie, afin de maintenir la confiance du public.
Définition longue
Dans le contexte de la gouvernance du numérique et de l’intelligence artificielle (IA), la reddition de comptes est un mécanisme essentiel garantissant que les institutions demeurent imputables de leurs choix technologiques. Face à la complexité et à l’autonomie croissante des systèmes algorithmiques, un simple encadrement éthique risque de se révéler cosmétique ou purement symbolique s’il n’est pas soutenu par de véritables mécanismes d’institutionnalisation et de reddition de comptes.
Concrètement, ce principe stipule que, même lorsqu’un système d’IA fonctionne de manière autonome pour prendre des décisions, formuler des recommandations ou générer du contenu, l’organisme public ou l’établissement d’enseignement demeure entièrement et ultimement responsable de ses actions et de ses impacts. Pour rendre cette imputabilité effective, l’organisation doit s’appuyer sur un cadre de gouvernance adéquat impliquant des processus documentés clairs, assurer la traçabilité des données, et accepter de soumettre ses systèmes à des évaluations rigoureuses ou des audits. Cette démarche est la condition essentielle pour garantir une utilisation responsable des technologies et promouvoir la confiance de la communauté.
Éléments clés
- Imputabilité inaliénable : L’institution demeure ultimement et entièrement responsable des impacts et des décisions pris ou assistés par les systèmes d’IA qu’elle utilise.
- Mécanismes traçables : Nécessité de mettre en place des processus documentés, clairs et auditables pour justifier les choix technologiques et retracer le fonctionnement des algorithmes.
- Opérationnalisation de l’éthique : Permet de dépasser les simples déclarations de principes en instaurant de véritables processus de vérification, évitant ainsi le risque de blanchiment éthique.
- Maintien de la confiance : Objectif fondamental de la démarche, visant à rassurer le public et les parties prenantes sur la rigueur de la gestion technologique de l’établissement.
Exemple d’application
La direction générale met sur pied un comité responsable de publier un rapport annuel détaillant de manière transparente quels systèmes d’intelligence artificielle ont été utilisés au cégep et assumant l’entière responsabilité institutionnelle des impacts de ces outils sur la communauté.
Sources d’inspiration
- Ministère de la Cybersécurité et du Numérique (MCN). (2025). Arrêté numéro 2025-02 : Énoncé de principes pour une utilisation responsable de l’intelligence artificielle par les organismes publics. Gouvernement du Québec.
- Observatoire international sur les impacts sociétaux de l’intelligence artificielle et du numérique (Obvia). (2025). État de la situation sur les impacts sociétaux de l’intelligence artificielle et du numérique – 2025.
- Observatoire international sur les impacts sociétaux de l’intelligence artificielle et du numérique (Obvia). (2025). Glossaire de l’Obvia.