Extrait court
Les systèmes d’IA, particulièrement l’IA générative (IAg), sont souvent imparfaits et loin d’être entièrement robustes.
Définition courte
Les défauts inhérents et contraintes techniques, éthiques et cognitives des systèmes d’intelligence artificielle (SIA) les empêchent d’atteindre une fiabilité, une transparence ou une équité totale. Ces limites incluent la production de résultats erronés (fabulations), le manque de justification des décisions (opacité ou « boîte noire »), la reproduction des biais sociétaux, et l’incapacité à remplacer la conscience ou le jugement humain.
Définition longue
Les limites des systèmes d’IA désignent l’ensemble des contraintes qui nuisent à leur performance et à leur usage responsable. Ces limites sont de nature diverse :
1. Fiabilité et exactitude : Les systèmes d’IA, en particulier l’Intelligence Artificielle Générative (IAG), sont souvent imparfaits et loin d’être entièrement robustes. Ils ne visent pas l’exactitude ou la vérité factuelle, mais prédisent la séquence la plus probable basée sur leurs données d’entraînement. Il en résulte la production fréquente de fabulations (ou hallucinations), soit des réponses incorrectes, erronées ou absurdes, mais présentées comme des faits plausibles. Il est difficile de valider le contenu généré, car l’IA ne fournit pas toujours les sources et les références précises.
2. Opacité et biais algorithmiques : Les grands modèles d’IA sont si complexes que leur processus de traitement interne reste souvent opaque, un phénomène connu sous le nom de « boîte noire ». Cette opacité empêche l’explicabilité et la traçabilité des décisions. De plus, si les données d’entraînement initiales sont erronées ou partiales (principe du “garbage in, garbage out”), l’IA a tendance à reproduire et amplifier les biais et stéréotypes sociétaux (relatifs au genre, à l’origine ethnique ou au statut socio-économique). Le manque de données représentatives (notamment en français ou en langues autochtones) fait en sorte que les résultats générés ne tiennent pas compte de toutes les perspectives et risquent de marginaliser davantage certains groupes.
3. Limites cognitives et humaines : Les systèmes d’intelligence artificielle ne sont ni dotés d’une conscience, ni d’intentions, ni de sensations. L’IA générative n’est pas fondée sur une observation du monde réel et n’est pas alignée sur des valeurs humaines ou sociales. L’utilisation non critique de l’IA peut conduire au biais d’automatisation (surestimation de la machine) et à la dépendance technologique, menaçant l’esprit critique et l’autonomie des apprenants. L’intégration de l’IA en éducation peut potentiellement nuire aux capacités de réflexion et à l’agentivité humaine en réduisant la pensée critique.
4. Enjeux systémiques : Le développement de l’IA soulève des préoccupations légales et environnementales. La violation des droits de propriété intellectuelle par l’utilisation massive d’œuvres non consenties pour l’entraînement est un risque majeur. L’entraînement des grands modèles est extrêmement énergivore, ce qui génère des impacts environnementaux significatifs. De plus, le déploiement de l’IA, souvent piloté par des intérêts privés, tend à exacerber la fracture numérique en concentrant les bénéfices et la puissance entre les mains de quelques grandes entreprises.
Éléments clés
- Manque de fiabilité et fabulations (hallucinations)
- Opacité des algorithmes (“boîte noire”) et non-traçabilité
- Amplification des biais et reproduction de la discrimination
- Absence de jugement, de conscience ou d’empathie
- Risques d’impacts environnementaux (empreinte carbone) et de dépendance
Exemple d’application
Lors d’une recherche documentaire sur un sujet scientifique précis, une personne étudiante se rend compte que le robot conversationnel a inventé de fausses références bibliographiques (une fabulation), démontrant que la machine prédit des mots sans comprendre la notion de vérité factuelle.
Sources d’inspiration
- Observatoire international sur les impacts sociétaux de l’intelligence artificielle et du numérique (Obvia). (2025). Glossaire de l’Obvia.
- Comité école et société (FNEEQ-CSN). (2023). Intelligence artificielle en éducation : De la mission à la démission sociale : replaçons l’humain au cœur de l’enseignement.
- Conseil de l’innovation du Québec (CIQ). (2024). Prêt pour l’IA, Répondre au défi du développement et du déploiement responsables de l’IA au Québec.
- Conseil supérieur de l’éducation et Commission de l’éthique en science et en technologie (CSE et CEST). (2024). Intelligence artificielle générative en enseignement supérieur : enjeux pédagogiques et éthiques.
- Organisation des Nations Unies pour l’éducation, la science et la culture (UNESCO). (2021). IA et éducation : guide pour les décideurs politiques.
- Ministère de l’Éducation (MEQ). (2025). L’utilisation pédagogique, éthique et légale de l’intelligence artificielle générative : Guide destiné au personnel enseignant.
- Organisation des Nations Unies pour l’éducation, la science et la culture (UNESCO). (2024). Orientations pour l’intelligence artificielle générative dans l’éducation et la recherche.
- Nations Unies. (2024). Gouverner l’IA au bénéfice de l’humanité : Rapport final.
- Observatoire international sur les impacts sociétaux de l’intelligence artificielle et du numérique (Obvia). (2025). État de la situation sur les impacts sociétaux de l’intelligence artificielle et du numérique.