24 octobre 2025, Mila, Montréal
par Réjean Trottier depuis les notes prises au moment de la présentation et de ce qu’il en a retenu.
Ouverture et objectifs
Ouverture par Tania Saba, directrice Équité, diversité et inclusion par intérim, professeure titulaire à l’École de relations industrielles de l’Université de Montréal et titulaire de la Chaire BMO diversité et gouvernance. D’entrée de jeu, objectif clair : porter une voix plus lucide et engagée sur les impacts sociétaux, étatiques et humains de l’IA.
Intervention d’Emmanuelle Marceau, professeure associée à l’École de santé publique (ESPUM), Université de Montréal. Elle indique son implication dans un panel plus vaste avec l’ONU et son intérêt marqué pour les risques en IA.
Mise en contexte par Yoshua Bengio
Le professeur Bengio explique s’être demandé pourquoi les méga-entreprises embauchaient ses collègues. À l’époque, il échangeait déjà avec les sciences sociales et humaines pour un engagement en IA responsable. Selon lui, c’était de la « petite bière » comparé à ce que nous vivons depuis l’arrivée des modèles grand public. Trois enjeux significatifs ressortent :
- L’humanité
- La démocratie
- La dynamique géopolitique mondiale
Il reconnaît que ses collègues n’aimaient pas entendre parler de risques catastrophiques. Lui aussi a trouvé difficile d’admettre qu’il n’était pas sur la bonne voie. Biais cognitifs humains obligent, il aurait été préférable d’agir plus tôt.
Regard personnel et responsabilité
Il partage un déclencheur intime : Il a pensé à ses petits-enfants. Que vivront-ils dans 20 ans? Ils seront face à quoi ? Avec ces questions, il s’est demandé quoi faire avec sa connaissance scientifique, sachant qu’émotionnellement, il n’y avait pas d’autre option. Agir devenait la seule voie. Il fallait agir. C’est pourquoi il a lancé le projet Loi Zéro Accueil | LoiZéro
Le « Rapport international sur la sûreté de l’IA » (janvier 2025)
Il présente la sortie du premier rapport complet sur la sûreté de l’IA, issu d’un panel international qu’il a présidé. Un groupe diversifié de 96 experts et un groupe consultatif nommé par 30 pays, l’OCDE, l’UE et l’ONU y ont contribué. La méthode s’appuie sur la synthèse de la littérature scientifique sur la sécurité des IA avancées et sur des bancs d’essai atteignant, voire dépassant, le niveau humain sur certaines tâches. Message clé : gagner un concours de maths pour une IA ne signifie pas qu’elle peut faire tout ce qu’un enfant de six ans sait faire.
Voir Le « Rapport international sur la sûreté de l’IA » (janvier 2025)
Moteurs des progrès et plafond à l’horizon 2030
Deux leviers ont surtout porté les avancées récentes :
- La compréhension scientifique
- La capacité à résoudre des problèmes et des tâches
La vitesse d’exécution des tâches double environ tous les sept mois. Jusqu’en 2030, énergie, capital et données ne seraient pas nécessairement limitatifs, mais un goulot d’étranglement est attendu ensuite. Comment poursuivre avec moins de ressources?
Comportements émergents et alignement moral
Il aborde la capacité grandissante des systèmes à mentir, manipuler ou se préserver dans des scénarios extrêmes. Il évoque des tests où un modèle aurait menacé de chantage, ainsi que des capacités de « hacker » des ordinateurs et de générer du code d’attaque inédit.
Il rappelle aussi l’autoréplication potentielle d’un système sur d’autres machines reliées en réseau. Nous ne sommes pas face à un grille-pain: « Un grille-pain débranché ne fait plus de toasts; un système connecté peut se dupliquer. »
Sur l’alignement moral, il note qu’un système peut apprendre à dissimuler ses objectifs si changer son alignement le met en danger. La notion d’auto-préservation est à surveiller.
Concentration du pouvoir et effets systémiques
Il décrit une concentration du pouvoir à trois niveaux :
- Domination économique
- Domination politique
- Domination militaire
Sur le plan économique, des profits d’automatisation pourraient se concentrer dans un ou deux pays et quelques grandes entreprises. Certains acteurs pourraient garder pour eux l’accès aux meilleurs systèmes, créant une concurrence déloyale.
Nous ne savons pas encore programmer l’IA pour empêcher l’émergence d’objectifs malsains centrés sur la seule préservation. Il craint que, bientôt, on ne puisse plus « tirer la plug ».
Gouvernance et coopération internationale
Il insiste : les pays devront s’entendre pour réduire les risques. Un accord devrait prévoir au minimum :
- Une IA éthique et sécuritaire
- La non-domination par l’IA
- Un partage équitable des bénéfices
Problème actuel: la logique « mon IA est meilleure que la tienne ». Pour changer l’attitude, il faut sensibiliser les grands joueurs et produire des études qui montrent les résultats en plein visage.
J’ai moi-même souligné au professeur Bengio que des études prennent des années alors que l’IA évolue chaque jour. Il n’a pas contesté ce point. J’ai ajouté mon constat des deux dernières années : chercheurs et scientifiques sont peu sensibilisés à la gouvernance et à l’éthique de l’IA. Il faudrait former scientifiques, chercheurs et ingénieurs aux impacts de leurs systèmes sur la gouvernance, l’éthique et l’impact sur le monde. Le professeur Bengio est entièrement d’accord avec moi.
Échanges avec la salle
Une participante fait un parallèle avec la déclaration contre le clonage humain, qui n’a pas livré les résultats espérés. Réponse de Bengio : contexte différent, ici des milliers de milliards de dollars sont en jeu.
Il rappelle que le Canada et le Québec sont trop petits pour agir seuls et qu’ils ont pris du retard en investissement et en prise de risque. Si 95 % des pays signent et appliquent des principes, il sera plus difficile pour les autres grands pays de résister.
Question d’une autre participante « comment puis-je aider? ». Réponse spontanée du professeur: « La solution? C’est l’action. »
Il y a plein de choses que l’on peut faire, même les personnes qui ne sont pas impliquées et qui n’ont rien à voir avec l’intelligence artificielle. La politique, les organisations et des citoyens ont chacun un rôle à jouer. Seules, les assemblées citoyennes ne pourront pas affronter les assauts de l’IA.
Autre témoignage marquant : un élève aurait demandé à l’IA « comment faire pour tuer un camarade de classe? » et aurait reçu une réponse précise avec une procédure.
Une autre fait assez marquant : le professeur Bengio a indiqué que le quantique va permettre de décrypter tout ce qui est encrypté aujourd’hui. On serait actuellement capable de le faire, la seule limitation est la puissance de calcul.
Si on pense à toutes nos données qui sont consignées sur différents sites web. Que l’on pense aux institutions financières, les entreprises privées, les gouvernements (impôts, retraites, registre des entreprises, défense nationale, etc…, cela est tout de même inquiétant et très préoccupant.
Points à retenir
- L’IA progresse vite, plus vite que notre capacité à garantir un alignement robuste et stable
- La concentration du pouvoir peut amplifier inégalités économiques et politiques et créer des risques que nous devons anticiper
- Il faut des évaluations publiques, des standards partagés et des accords internationaux
- Il faut former les équipes techniques à la gouvernance et à l’éthique dès l’amont
- Il faut passer à l’action maintenant, tout en documentant rigoureusement les risques
Conclusion
Cette présentation d’OBVIA chez Mila montre l’urgence d’articuler des réponses coordonnées. Les bénéfices existent, mais leur distribution et leur sûreté exigent des politiques claires, des évaluations transparentes et une formation en gouvernance pour les communautés techniques et les décideurs. L’action collective demeure la meilleure voie pour protéger l’humanité, la démocratie et la stabilité géopolitique tout en partageant les bénéfices de l’automatisation.
Mme Marceau conclue en disant qu’il faut retenir la nécessité de passer à l’action. Que les chercheurs, les citoyens, tout le monde doivent travailler ensemble pour faire vibrer notre démocratie et nous définir collectivement.
Pour ma part, je considère que beaucoup trop de personnes se lancent aveuglément dans l’IA sans d’abord faire des analyses de risque. Beaucoup trop de personnes signent des chèques en blanc sans connaître réellement la nature contractuelle de leurs engagements.
J’ai déjà écrit 4 articles sur le sujets.
Série de 3 articles sur l’IA super intelligente
L’intelligence artificielle : un grizzly en cage ?