Extrait court
L’utilisation de l’IA doit se faire dans le respect des droits fondamentaux, de la vie privée et de la diversité des personnes. Cette approche inclusive vise à prévenir toute forme de discrimination ou de biais, et à favoriser des environnements sécuritaires, équitables et respectueux.
Définition courte
L’EDI est un ensemble de valeurs éthiques et de principes fondamentaux qui visent à garantir que le développement et l’utilisation des systèmes d’intelligence artificielle (IA) assurent un traitement juste et impartial des individus, en reconnaissant et valorisant la diversité sociale, culturelle et linguistique, et en mettant en place des mesures proactives pour prévenir la reproduction et l’amplification des biais et des discriminations sociétales.
Définition longue
L’Équité, la Diversité et l’Inclusion (EDI) est une approche essentielle au développement et au déploiement responsables de l’intelligence artificielle (IA).
1. Équité : L’équité exige un traitement juste et impartial de toutes les parties prenantes. Cela n’implique pas nécessairement un traitement égal, car un traitement équitable pourrait nécessiter d’accorder plus de ressources à un individu pour compenser une situation de handicap ou une inégalité existante, assurant ainsi l’égalité des chances ou l’égalité réelle. Le gouvernement du Québec encourage d’ailleurs la recherche à tenir compte des critères EDI.
2. Diversité : La diversité est l’un des piliers de l’EDI. Elle implique de reconnaître et de valoriser la diversité sociale, culturelle et linguistique de la population. L’UNESCO insiste pour que les systèmes d’IA soient conçus en tenant compte de la diversité culturelle et linguistique, un bien commun de la connaissance.
3. Inclusion : L’inclusion vise à favoriser des environnements dans lesquels chaque personne se sent valorisée et en mesure de développer un sentiment d’appartenance.
Enjeux liés à l’IA :
L’EDI est fondamental pour contrer les risques de l’IA, car les systèmes algorithmiques ont une forte propension à reproduire, à amplifier et à systématiser les biais et les stéréotypes existants (relatifs au genre, à l’origine ethnique ou au statut socio-économique). Les données utilisées pour entraîner les modèles d’IA générative sont souvent problématiques ou biaisées (par exemple, la représentation stéréotypée des rôles masculins et féminins). De plus, le manque de représentativité des données (concernant notamment les communautés autochtones ou les minorités linguistiques) fait en sorte que le contenu généré par l’IA ne tient pas compte de leurs perspectives et risque de les marginaliser davantage.
Afin de pallier ces risques, l’EDI doit être pris en compte à toutes les étapes du cycle de vie de l’IA, dès la conception. Au Canada, l’acronyme EDIA (Équité, Diversité, Inclusion et Accessibilité) est utilisé par Innovation, Sciences et Développement économique Canada (ISDE) comme principe stratégique pour les consultations publiques sur l’IA, afin d’assurer l’inclusion de toutes les composantes de la population.
Éléments clés
- Valeurs fondamentales visant un traitement juste et impartial
- Nécessite la reconnaissance et la valorisation de la diversité
- Lutte contre la reproduction et l’amplification des biais (sexistes, raciaux, etc.)
- Exige la représentativité des données d’entraînement (Autochtones, minorités)
- Est un principe de gouvernance centré sur l’humain et les droits
Exemple d’application
Lors de l’acquisition d’un nouveau système d’apprentissage adaptatif basé sur l’IA, le collège s’assure que la reconnaissance vocale de l’outil fonctionne de manière égale pour tous les accents régionaux et que l’interface est totalement accessible aux personnes étudiantes en situation de handicap visuel.
Sources d’inspiration
- Comité école et société (FNEEQ-CSN). (2023). Intelligence artificielle en éducation : De la mission à la démission sociale : replaçons l’humain au cœur de l’enseignement.
- Conseil de l’innovation du Québec (CIQ). (2024). Prêt pour l’IA, Répondre au défi du développement et du déploiement responsables de l’IA au Québec.
- Conseil supérieur de l’éducation et Commission de l’éthique en science et en technologie (CSE et CEST). (2024). Intelligence artificielle générative en enseignement supérieur : enjeux pédagogiques et éthiques.
- Ministère de l’Éducation (MEQ). (2025). L’utilisation pédagogique, éthique et légale de l’intelligence artificielle générative : Guide destiné au personnel enseignant.
- Organisation des Nations Unies pour l’éducation, la science et la culture (UNESCO). (2024). Orientations pour l’intelligence artificielle générative dans l’éducation et la recherche.
- Cégep de Trois-Rivières. (2025). 9 principes directeur en IA – Cégep de Trois-Rivières.
- Observatoire international sur les impacts sociétaux de l’intelligence artificielle et du numérique (Obvia). (2025). État de la situation sur les impacts sociétaux de l’intelligence artificielle et du numérique.
- Organisation des Nations Unies pour l’éducation, la science et la culture (UNESCO). (2021). Recommandation sur l’éthique de l’intelligence artificielle.
- Innovation, Sciences et Développement économique Canada (ISDE Canada). (2022). Apprendre ensemble pour une IA responsable : Rapport du Groupe de travail sur la sensibilisation du public.