LE COMITÉ SÉNATORIAL PERMANENT DES AFFAIRES SOCIALES, DES SCIENCES ET DE LA TECHNOLOGIE
TÉMOIGNAGES
OTTAWA, le mercredi 25 mars 2026
Le Comité sénatorial permanent des affaires sociales, des sciences et de la technologie se réunit aujourd’hui, à 16 h 16 (HE), avec vidéoconférence, pour étudier, afin d’en faire rapport, des questions relatives aux répercussions de l’intelligence artificielle au Canada.
La sénatrice Rosemary Moodie (présidente) occupe le fauteuil.
[Traduction]
La présidente : Je déclare ouverte cette séance du Comité sénatorial permanent des affaires sociales, des sciences et de la technologie. Je m’appelle Rosemary Moodie. Je suis sénatrice de l’Ontario et présidente de ce comité. Avant de commencer, j’aimerais demander aux sénateurs de se présenter.
La sénatrice Burey : Sharon Burey, de l’Ontario.
La sénatrice McPhedran : Marilou McPhedran, sénatrice indépendante du Manitoba.
[Français]
Le sénateur Boudreau : Bonjour. Victor Boudreau, du Nouveau-Brunswick.
[Traduction]
La sénatrice Hay : Bonjour. Katherine Hay, de l’Ontario.
La sénatrice Arnold : Bonjour. Dawn Arnold, du Nouveau‑Brunswick.
[Français]
La sénatrice Petitclerc : Chantal Petitclerc, du Québec.
[Traduction]
Le sénateur Cuzner : Bienvenue. Rodger Cuzner, de la Nouvelle-Écosse.
La sénatrice Muggli : Tracy Muggli, de la Saskatchewan.
La sénatrice Senior : Paulette Senior, de l’Ontario.
La présidente : Aujourd’hui, le comité poursuit son étude des questions relatives aux répercussions de l’intelligence artificielle au Canada.
Cette étude porte notamment sur la gouvernance des données, la souveraineté, l’éthique, la protection de la vie privée et la sécurité, ainsi que les risques, les avantages et les conséquences sociales de l’intelligence artificielle au Canada.
Pour le premier groupe de témoins, nous accueillons aujourd’hui, par vidéoconférence, Glenda Crisp, présidente et cheffe de la direction de l’Institut Vecteur, et Stephanie Enders, dirigeante principale des résultats à l’Institut albertain de l’intelligence artificielle.
Vous disposerez de cinq minutes chacune pour faire votre déclaration préliminaire, après quoi les membres du comité vous poseront des questions.
Glenda Crisp, présidente et cheffe de la direction, Institut Vecteur : Merci, madame la présidente, et bonjour, honorables sénateurs.
Je vous remercie de me donner l’occasion de contribuer à cette étude cruciale sur les répercussions de l’intelligence artificielle au Canada.
Je m’appelle Glenda Crisp, et je suis présidente et cheffe de la direction de l’Institut Vecteur. J’ai plus de 35 ans d’expérience dans les domaines des technologies, des données et de l’adoption de l’intelligence artificielle, ou IA, principalement dans le secteur des services financiers.
L’Institut Vecteur est l’un des trois instituts nationaux d’IA du Canada. Il a été fondé en 2017 comme point d’ancrage de la Stratégie pancanadienne en matière d’IA.
Vecteur a son siège social à Toronto et compte plus de 960 chercheurs affiliés dans des universités partout au Canada. En Ontario, les programmes de maîtrise en IA reconnus par Vecteur produisent ensemble plus de 1 000 diplômés par année, dont plus de 90 % choisissent de rester et de travailler dans la province.
En termes simples, la mission de Vecteur consiste à mobiliser la recherche de pointe en IA afin de permettre aux organisations de l’adopter et de la déployer plus rapidement et plus facilement dans toute une gamme d’industries.
Vecteur compte plus de 300 partenaires, allant d’entreprises en démarrage à des entreprises d’envergure mondiale, en passant par des institutions plus vastes du secteur public.
Le modèle de parrainage industriel de Vecteur se classe au deuxième rang mondial, immédiatement après celui du MIT, si l’on se fie au nombre d’entreprises participantes.
Le Canada a réussi à bâtir une base de recherche de calibre mondial en IA. Nos trois instituts nationaux d’IA constituent l’un des bassins les plus concentrés au monde de chercheurs et de diplômés en IA. Chacun de ces instituts a élaboré des approches qui accélèrent le déploiement sûr, responsable et économiquement productif des technologies de l’IA dans de multiples secteurs.
Cependant, l’adoption de l’IA au Canada — tant dans le secteur privé que dans le secteur public — accuse un retard par rapport à celle d’autres pays comparables. En 2019, le Canada figurait au quatrième rang de l’indice mondial de l’IA de Tortoise, notamment parce qu’il avait été le premier pays à se doter d’une stratégie en matière d’IA. Or, depuis, sa position n’a cessé de reculer. Ainsi, en 2024, le Canada est passé au huitième rang mondial.
Comme on l’a souligné, ce recul n’est pas uniforme. Le Canada occupe toujours le troisième rang mondial pour la recherche en IA. Toutefois, il se classe 16e pour l’infrastructure, 18e pour l’environnement opérationnel et 10e pour la stratégie commerciale — voilà où se situent ses faiblesses.
Ce constat ne provient pas uniquement de groupes de réflexion internationaux; je l’entends aussi sur le terrain. Le message est toujours le même : le Canada excelle dans la production de talents et de recherches en IA, mais il accuse un retard au chapitre de l’adoption et du déploiement.
Je souhaite aujourd’hui vous faire part de trois réflexions principales. Premièrement, l’adoption de l’IA au Canada est freinée avant tout par un manque de confiance, et on ne peut faire confiance qu’à ce que l’on comprend. De récentes études montrent que 69 % des utilisateurs réguliers de l’IA font confiance à la technologie, comparativement à seulement 5 % des non-utilisateurs. Fait plus préoccupant encore, seulement 20 % des Canadiens se sentent bien préparés aux changements qu’apporte l’IA.
Deuxièmement, la Stratégie canadienne sur la capacité de calcul souveraine pour l’IA, annoncée en 2024 et dotée d’un budget de 2 milliards de dollars, était absolument essentielle, mais elle a deux ans de retard. Le problème n’est pas le manque d’engagement financier, mais plutôt la lenteur de la mise en œuvre concrète. À titre comparatif, le Royaume-Uni — une puissance moyenne comme le Canada — a mobilisé des ressources d’ampleur comparable, mais il dispose déjà d’une capacité opérationnelle plus avancée.
Il n’a fallu que trois semaines au Royaume-Uni pour mettre en place son infrastructure nationale de calcul pour l’IA. Sans un déploiement plus rapide de cette capacité de calcul, nos chercheurs de calibre mondial iront vers des établissements mieux équipés, et nos jeunes entreprises iront prendre de l’expansion aux États-Unis plutôt qu’ici.
Troisièmement, accroître la productivité grâce à l’IA est loin d’être simple. Pour ce faire, il faut repenser en profondeur les processus opérationnels, perfectionner les compétences de la main-d’œuvre et faire preuve d’un engagement organisationnel soutenu. Autrement dit, déployer l’IA sans transformer ses façons de faire revient à s’offrir une Ferrari pour ne rouler qu’en première vitesse.
Les petites et moyennes entreprises canadiennes, ou PME, spécialisées en IA se heurtent à une aversion au risque dans les processus d’approvisionnement. Elles doivent souvent présenter un « client de référence » américain avant même d’être considérées par des entreprises canadiennes à la recherche de solutions d’IA. C’est le monde à l’envers. Nous devrions être les premiers à adopter l’innovation canadienne, et non les derniers.
Honorables sénateurs, le Canada compte des chercheurs de calibre mondial et un écosystème de jeunes entreprises en pleine croissance. Nos banques figurent parmi les chefs de file mondiaux dans l’adoption de l’IA. Cependant, à défaut d’accélérer le déploiement de la puissance de calcul et de lever l’aversion au risque, nous risquons de voir cet avantage concurrentiel s’amenuiser.
Je vous remercie de votre attention. Je serai heureuse de répondre à vos questions.
La présidente : Merci, madame Crisp.
Stephanie Enders, dirigeante principale des résultats, Institut albertain de l’intelligence artificielle : C’est merveilleux. Merci, madame la présidente.
Bonjour, honorables sénateurs. Je vous remercie de me donner l’occasion de prendre la parole aujourd’hui :
Je m’appelle Stephanie Enders, et je suis la dirigeante principale des résultats à l’Institut albertain de l’intelligence artificielle, ou Amii, qui est aussi l’un des trois instituts canadiens de recherche sur l’IA.
Notre institut a, lui aussi, été créé en 2017 dans le cadre de la première Stratégie pancanadienne en matière d’IA. Il s’appuie sur plus de 20 ans d’excellence en recherche fondamentale sur l’IA à l’Université de l’Alberta, sous l’impulsion de notre conseiller scientifique en chef, M. Richard Sutton, lauréat du prix Turing en 2024, qui a véritablement jeté les bases d’un domaine appelé « l’apprentissage par renforcement ».
Nous soutenons une recherche de calibre mondial en intelligence artificielle et en apprentissage machine, puis nous transformons ces avancées scientifiques en solutions concrètes adoptées par l’industrie.
Nos activités reposent sur trois grands piliers : l’invention, pour repousser les frontières de l’IA; l’innovation, pour faire progresser l’IA spécialisée par domaine et établir des liens avec des retombées industrielles concrètes, notamment par la création de nouveaux modèles d’affaires; enfin, la diffusion, pour maximiser la portée de l’IA en établissant une capacité réceptrice pour que les entreprises et les gens puissent en tirer parti de manière responsable et en toute autonomie dans leur vie et dans leurs activités.
Pour concrétiser ces trois piliers au quotidien, nous concentrons nos efforts sur quatre axes d’action, qui permettent à Amii de jouer pleinement son rôle de premier plan.
Premièrement, il y a la recherche. L’intelligence artificielle en est encore à ses débuts. Il s’agit d’un champ scientifique, et de nombreux travaux scientifiques doivent encore être menés. Il reste beaucoup à découvrir, tant sur les fondements de l’IA que sur la manière dont ce domaine peut stimuler d’autres secteurs clés au Canada. La recherche permet de créer les connaissances et les talents nécessaires pour repousser les frontières de l’IA au bénéfice du Canada.
Deuxièmement, il y a l’acquisition de compétences en IA. Nous croyons fermement que l’intelligence artificielle constitue le savoir déterminant des décennies à venir. Il faut préparer les gens à un monde propulsé par l’IA et bâtir des entreprises prêtes à faire progresser et à adopter l’IA dans leurs activités et leurs modèles d’affaires.
Troisièmement, il y a l’adoption. C’est ainsi que l’impact commercial de cette technologie se manifeste et se concrétise dans la société.
Quatrièmement, et surtout, il y a les entreprises en démarrage. La capacité de l’IA à changer le monde de façon positive repose sur la présence de jeunes entreprises évolutives qui proposent des outils d’IA aux entreprises canadiennes.
La mission d’Amii se résume en une formule : « l’IA pour le bien et pour tous ». Cela signifie que nous réfléchissons et agissons dans une perspective de souveraineté canadienne, en renforçant la capacité des Canadiens à exploiter l’IA pour créer des avantages sociaux et économiques à long terme. À cette fin, nous misons entre autres sur des collaborations stratégiques avec des partenaires de confiance à l’échelle nationale, comme nos instituts frères, ainsi qu’avec des partenaires internationaux.
J’aimerais souligner quelques-unes de nos initiatives dans chacun des domaines clés afin de vous donner une meilleure idée du travail que notre institut accomplit au quotidien.
Tout d’abord, en ce qui concerne la recherche, dans le cadre de la plus récente expansion des chaires en IA de l’Institut canadien de recherches avancées, nous avons cherché à faire évoluer nos modèles qui combinent l’IA avec d’autres disciplines. Autrement dit, nous mettons l’accent sur la recherche interdisciplinaire et nous examinons comment l’intelligence artificielle peut repousser les frontières de la recherche dans des domaines comme la santé, l’énergie, la physique et les sciences humaines.
Pour nous, il s’agit là d’une nouvelle forme de bilinguisme : les chercheurs font avancer simultanément leur discipline et les frontières de l’intelligence artificielle, forgeant ainsi une nouvelle génération de talents dotés de compétences hybrides.
En ce qui a trait à l’acquisition de compétences en IA, Amii a formé plus de 250 000 personnes. Grâce à notre travail dans le domaine de l’éducation de la maternelle à la 12e année et grâce à notre programme de préparation de la main-d’œuvre en IA au sein des établissements postsecondaires, notre rayonnement s’est élargi de façon considérable. L’enjeu central reste toutefois la compréhension fondamentale de cette technologie et du rôle qu’elle joue pour renforcer la confiance de la société dans des organisations comme la nôtre et dans les outils que nous créons.
À cet égard, notre travail — surtout en matière de formation de la main-d’œuvre — intègre une approche à trois volets pour tous les objectifs d’apprentissage : le référentiel de compétences en IA de l’UNESCO pour les apprenants, les profils d’utilisation de l’IA adaptés aux rôles professionnels et l’évaluation du potentiel de rendement lié à l’adoption de l’IA.
Pour ce qui est de l’adoption et des entreprises en démarrage, l’IA crée de la valeur de deux façons. D’abord, ses usages sont multiples : prévision, production, prévention, promotion ou personnalisation.
Ensuite, l’IA peut générer un rendement du capital investi. Au‑delà des retombées économiques, l’IA améliore la productivité et l’efficacité, l’expérience et l’engagement, la résilience et l’optimisation, ainsi que l’adaptabilité et la transformation des activités. Au cours de la dernière année seulement, Amii a collaboré avec plus de 286 partenaires de l’industrie, dont 102 jeunes entreprises en pleine expansion.
En plus d’offrir des conseils et d’appuyer l’élaboration de stratégies en matière d’IA, nous réduisons les risques d’investissement et formons des bassins de talents en IA, tout en cherchant des moyens concrets de donner vie à notre mission.
En conclusion, comme l’ont souligné d’autres témoins avant moi, nous savons que l’IA sera au cœur de la prospérité future. Le Canada doit donc poursuivre son avancée dans ce domaine, sans perdre de vue les enjeux sociétaux liés à la compréhension, à la confiance, à l’autonomie et à l’égalité des chances.
Je vous remercie et je me ferai un plaisir de répondre à vos questions.
La présidente : Merci. Nous allons maintenant passer aux questions des membres du comité. Pour ce groupe de témoins, les sénateurs disposeront de quatre minutes pour poser leurs questions et entendre les réponses. N’oubliez pas de préciser à qui s’adresse votre question.
La sénatrice Burey : Bienvenue. Merci beaucoup d’être parmi nous aujourd’hui. Ma question s’adresse à nos deux distinguées invitées. Comme vous le savez, nous avons déjà entendu un certain nombre de témoins qui représentent le talent canadien.
Je me range de votre côté, madame Crisp, et du côté de l’Institut Vecteur. Selon une nouvelle étude, l’IA génère des retombées économiques de 100 milliards de dollars au Canada, et c’est l’Ontario qui mène la charge. Je viens moi-même de l’Ontario.
Nous avons entendu parler des promesses, des dangers et des mesures de protection et, aujourd’hui, vous nous avez parlé de la confiance et du manque d’adoption. J’aimerais que vous nous en disiez plus à ce sujet. Selon vous, quelles mesures pourrions‑nous prendre, en tant que législateurs, pour faire avancer ce dossier tout en tenant compte des dangers? Pouvez‑vous nous parler des promesses et des dangers?
Mme Crisp : J’aimerais revenir sur quelque chose que Mme Enders a mentionné. Je crois que l’acquisition de compétences en IA est essentielle. Le manque de confiance est à la base du problème en matière d’adoption. À mon avis, la mise en œuvre du programme d’éducation de la maternelle à la 12e année qu’Amii a élaboré à l’échelle du pays aurait une véritable incidence. Ce serait, selon moi, une bonne façon d’encourager l’adoption au sein des entreprises. Lorsque les enfants ramènent ces discussions à la maison, les parents s’y intéressent davantage, ce qui peut également favoriser l’adoption sur le marché du travail.
Mme Enders : En ce qui concerne les promesses et les dangers, il faut d’abord reconnaître qu’il existe des partenaires de confiance avec lesquels on peut avoir des conversations ouvertes, surtout dans le cas des chefs d’entreprise qui définissent une stratégie en matière d’IA. Il s’agit de comprendre que l’on peut compter sur des organisations et des collaborateurs dignes de confiance pour cerner les risques et les gérer en toute confiance.
En ce qui a trait à l’acquisition de compétences en IA, pour ceux qui ne le savent pas, le référentiel de l’UNESCO comporte quatre grandes catégories : une approche centrée sur l’humain, l’éthique de l’IA, les outils et les techniques d’IA et, enfin, les systèmes d’IA. Selon moi, la conversation est dominée par le troisième élément, c’est-à-dire les techniques et les outils d’IA. À nos yeux, l’acquisition de compétences en IA signifie que chacun maîtrise les bases de ces quatre dimensions afin que les questions de sécurité et de compréhension — qui sont essentielles à l’instauration de la confiance — ne soient pas dissociées de la technologie. Elles font partie d’un ensemble cohérent. Nous observons des liens étroits entre les discussions qui se font à la maison, dans les établissements postsecondaires, sur le marché du travail et dans les salles de direction.
Ce sont essentiellement les mêmes questions : que dois-je demander? Comment puis-je jeter un regard critique sur cette technologie? Quelles possibilités de déploiement sont les plus porteuses pour l’effet recherché? La productivité et la prospérité constituent sans doute deux des principaux leviers d’action.
La sénatrice Hay : Madame Crisp, je suis contente de vous revoir. Je vous remercie d’être des nôtres.
Ma question est très semblable à celle de la sénatrice Burey. J’aimerais simplement pousser un peu plus loin la réflexion.
Nous savons que l’IA est omniprésente dans pratiquement tous les aspects de notre vie — par exemple, au travail ou dans les soins de santé —, et pourtant, la confiance demeure très faible. Nous avons entendu « les parrains de l’IA », soit le professeur Hinton et M. Yoshua Bengio. Leurs témoignages nous ont fait prendre conscience de la rapidité fulgurante avec laquelle l’IA évolue et des inquiétudes que cela peut engendrer à plusieurs égards. Il y a des préoccupations légitimes, comme l’a illustré l’entretien entre le sénateur Bernie Sanders et le système Claude au sujet de la protection de la vie privée.
Si l’on élargit la réflexion au-delà des seules considérations économiques, comment pouvons-nous concilier les craintes et les risques réels qui appellent à la prudence — notre réflexe naturel de vouloir nous protéger et de suspendre l’élan —, tout en reconnaissant que le Canada doit aller de l’avant et assumer un rôle de chef de file? C’est indispensable.
Je vous pose la question à toutes les deux.
Mme Crisp : Ce sont des préoccupations légitimes. Cela dit, les trois instituts nationaux d’IA disposent de chercheurs qui se concentrent sur les enjeux de sécurité. L’Institut Vecteur, en particulier, œuvre dans le domaine de la recherche appliquée. Nous avons créé des technologies qui améliorent la protection de la vie privée, et nous continuons de les perfectionner.
L’un des messages qu’il faut faire passer, c’est que les instituts nationaux travaillent activement sur ces enjeux et qu’ils sont là pour aider les entreprises à adopter l’IA en toute sécurité.
J’estime que le principal risque pour le Canada, à ce stade-ci, c’est plutôt la crainte de se retrouver à la traîne par rapport au reste du monde, faute d’avoir adopté des outils d’IA plus traditionnels, comme la modélisation prédictive, et cetera.
Mme Enders : Du point de vue de l’IAIA, la collaboration entre les trois instituts au sein de l’Institut canadien de la sécurité de l’intelligence artificielle permet de continuer de développer les capacités de recherche en matière de confiance et de sécurité à un rythme soutenu. Ces capacités reposent ensuite sur les compétences de mise en application des instituts nationaux qui favorisent la concrétisation de ces avancées.
En pratique, nous avons mis en place des cadres et des méthodes qui permettent d’aborder la question du rapport entre les risques et les bénéfices. Nous le faisons de multiples façons.
Au sein de l’IAIA, lorsque nous décidons, dans le cadre de nos propres activités, quels types de projets avec le secteur privé nous souhaitons mener à bien, nous les replaçons dans le contexte des objectifs de développement durable pour 2030, et nous évaluons les répercussions positives ou négatives qu’ils pourraient avoir s’ils étaient entièrement mis en œuvre.
Il ne s’agit pas d’un cadre décisionnel. C’est un moyen de mettre en place un vocabulaire pour les discussions.
À partir de là, à mesure que nous nous employons à mettre en œuvre les projets, je pense que la gestion des risques et la transparence à ce sujet contribuent à instaurer la confiance. Nous utilisons des outils tels que les évaluations de l’incidence algorithmique, des fiches techniques pour les ensembles de données et des fiches de modèles, afin de documenter de manière exhaustive les discussions que les experts techniques et les experts du domaine ont lorsqu’ils travaillent sur l’IA, de manière à ce que ces outils puissent être éventuellement transmis ouvertement à une équipe ou à une organisation et, dans certains cas, au public. De cette manière, nous faisons preuve de transparence quant aux réflexions qui sous-tendent la manière dont nous déployons ces éléments « privés de par leur conception » ou fondés sur la technologie et liés aux garde-fous.
La sénatrice Hay : Je vous pose cette question à toutes les deux. Je trouve formidable que les trois instituts collaborent aussi bien. Cela me rassure.
Sur une échelle d’optimisme allant de 1 à 10, où vous situez‑vous à propos de l’avenir de l’IA et de la façon dont elle se développe?
Mme Enders : Je suis une optimiste invétérée, alors je me situe assurément au 10e niveau de cette échelle à 10 niveaux. Je ne suis moi-même pas une experte technique, mais j’ai confiance en cette technologie, et je suis très optimiste parce que je vois la passion et la diversité des personnes qui la développent, et leur volonté de servir l’intérêt public.
Mme Crisp : Je n’hésite jamais à m’exprimer, alors je dirais que je me situe assurément au 9e niveau de cette échelle à 10 niveaux.
La sénatrice Hay : Je vous remercie.
La sénatrice McPhedran : Je vous remercie toutes les deux d’être parmi nous aujourd’hui. Selon vous, quels types de déploiement de l’IA considéreriez-vous comme prématurés ou dangereux à l’heure actuelle?
Mme Enders : Je vais répondre à cette question en premier. Personnellement, j’estime que le problème est moins lié à la technologie en tant que telle qu’à la manière dont elle a été mise sur le marché. Les aspects technologiques qui me laissent perplexe sont ceux pour lesquels il n’y a pas eu de discussions ouvertes au sujet du rapport entre les risques et les bénéfices, et ceux pour lesquels il n’y a pas eu de dialogue approfondi sur la manière dont ces risques ont été atténués.
Je crois que le débat sur l’IA est souvent dominé par l’IA générative, et je crois que nous assistons à l’émergence de risques considérables liés à la désinformation. Les gens se demandent comment y faire face, mais j’estime que, quel que soit le type de technologie d’IA utilisé, le plus grand risque réside dans l’absence d’un débat approfondi sur les risques que ce type de technologie présente.
Mme Crisp : Je suis d’accord avec Mme Enders. Ce qui m’inquiète davantage, c’est l’utilisation inappropriée de l’IA. Par exemple, je ne pense pas qu’il soit judicieux de demander des conseils médicaux à ChatGPT. Je ne recommanderais pas que les gens aient recours à l’IA à cet effet. Je ne crois pas que les grands modèles de langage en soient encore au stade où ils devraient pouvoir faire ce travail.
Cela ne veut pas dire qu’en fin de compte, il ne pourrait pas y avoir un outil de diagnostic médical, mais je ne pense pas que cette fonctionnalité soit encore au point à l’heure actuelle. Ce qu’il faut surtout voir, c’est comment l’IA est utilisée et réglementée, et s’il y a un être humain aux commandes.
La sénatrice McPhedran : Merci. Puis-je vous demander si une hypothèse est avancée selon laquelle les avantages de l’IA se concrétiseront pendant que vous considérez les risques comme essentiellement gérables? J’aimerais le savoir, et je trouve que vos réponses avaient un caractère plutôt individuel. Ma question portait davantage sur la sécurité nationale de notre pays, alors permettez-moi donc de la recentrer en ce sens et de la formuler plus clairement.
Quelles seront les répercussions politiques de l’IA? Quelles seront les conséquences sur le plan humain et national si cette hypothèse s’avère erronée?
Mme Crisp : Je vais laisser Mme Enders s’exprimer elle‑même à ce sujet, mais je pars du principe qu’une gouvernance et une intervention humaine sont nécessaires. Si ces éléments ne sont pas présents, si nous lâchons le volant et laissons l’IA faire ce qu’elle veut, alors les risques sont considérables, mais je ne crois pas que ce soit ce que nous proposons ou que ce soit la direction que nous essayons de prendre au Canada.
Donc, sur le plan politique, cela suppose la mise en place obligatoire d’une gouvernance, d’une transparence et d’une surveillance. En toute franchise, les entreprises qui adoptent l’IA, qu’elles l’achètent ou la développent elles-mêmes, sont responsables des mesures prises par l’IA, qu’il s’agisse de la formulation d’une recommandation ou d’un passage à l’action en tant que tel. Il faut qu’il y ait une obligation de rendre des comptes.
Mme Enders : D’un point de vue national, lorsqu’il est question de gouvernance, de politiques ou de réglementation, je pense vraiment à la question de la responsabilité. À mes yeux, la responsabilité en matière d’IA repose sur trois grands piliers.
Le premier est lié aux données utilisées pour entraîner différents modèles, d’où la responsabilité de garantir la traçabilité de ces données, ainsi que les questions éthiques et les directives qui s’y rapportent. C’est là un des aspects de la question.
Le prochain pilier est lié aux résultats des modèles. Comme l’a mentionné Mme Crisp, il incombe à l’institution, à la personne ou à l’entreprise qui met ce modèle en circulation de diverses manières de comprendre ses résultats, d’être en mesure de les décrire et d’en assumer la responsabilité.
Le pilier suivant concerne la responsabilité de la gouvernance. Contrairement aux deux premiers piliers, c’est ici qu’intervient une responsabilité partagée entre l’industrie et les gouvernements, à laquelle s’ajoute la recherche qui vient éclairer les deux aspects suivants : d’une part, les systèmes officiels, et d’autre part, les systèmes internes de gouvernance qui régissent cette responsabilité partagée. J’aimerais pouvoir vous donner une réponse simple, mais mes propos vous permettent de mieux comprendre les différents piliers qui entrent en jeu dans cette discussion.
La sénatrice Senior : Merci beaucoup. Je vous suis vraiment reconnaissante de vos témoignages et de vos exposés. Je les ai trouvés excellents.
Je voudrais revenir sur la question de la confiance évoquée tout à l’heure. Madame Crisp, je crois que vous avez indiqué que 20 % des gens sont prêts à accepter les changements liés à l’IA. Il reste donc 80 % des gens, ce qui constitue un nombre considérable de personnes. Comment avons-nous réussi à obtenir ce pourcentage de 20 %? Et quels sont les aspects de l’IA qui suscitent la méfiance? Je suppose que vous avez mené des recherches à ce sujet. Vous avez une idée de la situation, et vous disposez de statistiques et de notes concernant ces 20 %. Ces recherches ont-elles révélé quelque chose concernant la question de la confiance dans ce domaine?
Mme Crisp : Nous pourrons vous fournir l’étude complète plus tard, mais l’une des questions essentielles est de savoir si les Canadiens l’utilisent régulièrement. Seuls 45 % des Canadiens utilisent l’IA de manière systématique et régulière, comparativement aux 55 % qui ne s’en servent jamais. Lorsque l’on ne se sert jamais de l’IA, on fait essentiellement partie des 5 % de la population qui n’ont absolument aucune confiance en cette technologie, ce qui réduit le nombre de personnes qui se sentent prêtes à l’adopter.
Il n’y a pas de déploiement cohérent de programmes d’initiation à l’IA dans les écoles de l’ensemble du pays, ce qui contribue également à cette situation. Nous pouvons également vous fournir davantage de données à ce sujet et vous transmettre les résultats de l’étude.
Mme Enders : En ce qui concerne l’IA et son utilisation générale, on peut distinguer deux grands domaines. D’une part, il y a l’IA avec laquelle les gens interagissent, et qui est souvent considérée comme la représentation type de ce qu’est l’IA. D’autre part, il existe de nombreuses applications de l’IA au sein des systèmes industriels : celles-ci peuvent exiger une intervention humaine ou prendre la forme de systèmes autonomes dont le grand public ne se rend pas toujours compte qu’ils sont rendus possibles ou améliorés par l’IA, ou qu’ils comportent des risques liés à cette technologie.
Sans vouloir rabâcher encore une fois le sujet de l’initiation à l’IA, l’un des phénomènes que nous observons, c’est que, pour résumer, les personnes qui ont le plus confiance en l’IA sont celles qui utilisent cette technologie. Elles utilisent un type très particulier d’IA qui a envahi le marché comme une véritable vague déferlante. Je pense que c’est en partie pour cette raison que l’initiation à l’IA est très importante : cette technologie se manifeste de nombreuses façons dans la vie des gens. Certaines de ces manifestations sont très explicites, comme l’interaction avec un outil de type ChatGPT, tandis que d’autres font partie du quotidien des gens depuis plusieurs années, mais ces personnes ne reconnaissent pas ces manifestations de l’IA.
La sénatrice Senior : J’aimerais approfondir un peu cette question, car je m’intéresse surtout à l’éducation publique et à ce qui semble être un manque dans ce domaine. Je n’ai pas observé une telle éducation. Pourriez-vous nous en dire davantage à ce sujet? Si la confiance et l’adhésion du public posent des problèmes, quelles mesures sont prises pour renseigner le public? Puis-je commencer par vous donner la parole, madame Crisp, et attendre la deuxième série de questions s’il ne reste pas assez de temps pour obtenir les réponses souhaitées?
La présidente : Veuillez donner des réponses très brèves.
Mme Crisp : En fait, je vais renvoyer la question à Mme Enders, car je crois que l’IAIA met en œuvre le meilleur programme.
Mme Enders : Je peux commencer par parler des plus jeunes membres du public, puis passer à ses membres les plus âgés. Dans le domaine de l’enseignement primaire et secondaire, c’est‑à-dire de la maternelle à la 12e année, nous mettons en œuvre un projet pilote de deux ans visant à intégrer l’initiation à l’IA dans les programmes scolaires existants, en nous appuyant encore une fois sur des pratiques de calibre mondial, afin de fournir des ressources aux enseignants. Alors, au lieu de nous concentrer sur ce qui devrait être une initiative majeure à venir en matière d’élaboration de programmes, nous cherchons à déterminer comment nous pouvons intégrer l’initiation à l’IA dans toutes les matières. Il ne s’agit pas d’encourager les élèves à utiliser l’IA pour tout, mais plutôt de nous poser la question suivante : quels sont les objectifs d’apprentissage essentiels adaptés à leur âge et liés à ces quatre compétences? À cet égard, nous avons travaillé directement avec les enseignants et les conseils scolaires au cours des deux dernières années. Environ 6 000 enseignants et 95 000 élèves sont touchés par cette initiative.
Vient ensuite le niveau des établissements d’enseignement supérieur qui offre de formidables programmes menant à un diplôme et des programmes de premier cycle et de maîtrise en informatique. Nous nous intéressons à toutes ces autres facultés où nous savons qu’il y aura un décalage quant à l’incidence que l’IA aura sur ces domaines. Ainsi, grâce à des financements privés, nous utilisons un modèle de consortium national, dans le cadre duquel nous travaillons avec 54 établissements d’enseignement supérieur, et nous apportons véritablement nos compétences en matière d’apprentissage automatique à l’élaboration de nouvelles lectures, activités et évaluations et à de nouveaux travaux pratiques dans ces domaines...
La présidente : Je vous remercie, madame Enders.
La sénatrice Arnold : Je vous remercie toutes les deux de votre présence. Nous ne cessons de parler d’initiation, et c’est vous qui maîtrisez le mieux ce sujet. Je trouve que vous faites preuve d’une excellente aptitude à communiquer lorsque vous essayez d’expliquer ce que vous faites.
Madame Enders, je vous remercie de cette précision concernant les 55 % qui ne participent jamais à l’IA. Je dirais qu’il y a des gens qui y participent mais qui, comme vous l’avez indiqué, ne savent même pas qu’ils le font. J’ai dirigé une ville dans le passé, et nous utilisions l’IA pour gérer nos terrains de stationnement. L’IA est partout, tout autour de nous, et nous n’en avons pas toujours conscience.
L’une de vous deux a-t-elle mené des études sur la manière dont d’autres pays ont amélioré l’apprentissage dans ce domaine? Ce que vous faites à l’IAIA semble formidable, mais on dirait que le problème est beaucoup plus généralisé. Comment en sommes-nous arrivés à un point où l’IA n’est pas accepté de la même manière que, peut-être, dans d’autres pays?
Mme Enders : Il existe plusieurs modèles différents. Dans certains pays où l’on observe, peut-être, une mise en œuvre plus rapide de certains aspects de l’initiation à l’IA, en particulier chez les enfants — ce qui est le cas, entre autres, à Singapour et en Malaisie —, ce processus s’inscrit dans le cadre d’une approche nationale en matière d’éducation. Il existe donc au Canada des défis structurels ou des différences qui font que la situation est différente.
L’autre aspect de cet enjeu est lié au fait que, dans le cadre de l’enseignement primaire et secondaire, les examens internationaux normalisés jouent un rôle moteur. Je pense que les premiers examens internationaux portant sur la maîtrise de l’IA verront le jour en 2029, et que les résultats seront publiés en 2030-2031. Je pense qu’il s’agira d’une évaluation de 10e année portant sur la capacité à repérer les contenus générés par l’IA. Là encore, il ne s’agit pas d’un débat exhaustif sur l’initiation à l’IA, mais du rythme auquel l’éducation évolue.
En ce qui concerne la sensibilisation de la main-d’œuvre, plusieurs modèles différents sont utilisés. La France et les Pays‑Bas ont adopté des approches quelque peu différentes, en fonction de leurs besoins. Des cours en ligne ouverts à tous sont également offerts. Cette forme d’enseignement généralisé présente à la fois des avantages et des inconvénients, mais c’est la tendance que l’on observe actuellement.
L’autre aspect concerne simplement la manière dont nous abordons l’initiation à l’IA. On constate certaines divergences entre les rapports. Parfois, cette notion fait allusion à la maîtrise d’un outil plutôt qu’à la compréhension de la technologie elle‑même. Il faut encore mener des recherches sur ces deux fronts.
La sénatrice Arnold : Je me demande si une partie des craintes des Canadiens ne vient pas du fait que la technologie n’est toujours pas élaborée très fréquemment dans notre pays. L’une de vous deux a-t-elle une opinion à ce sujet, ou a-t-elle mené des recherches sur l’IA en tant qu’infrastructure publique et sur ce que nous pourrions faire pour mieux préserver notre souveraineté? Une élaboration nationale changerait-elle la donne?
Mme Crisp : Nous n’avons pas encore abordé cette question sous l’angle de la recherche. Je ne suis pas sûre d’adhérer à cette hypothèse, car une grande partie de l’IA est en réalité élaborée ici, au Canada. Comme je l’ai déclaré, notre secteur d’IA occupe la troisième à l’échelle mondiale. J’estime donc qu’il s’agit davantage de trouver la façon de rendre compte de cela de manière à ce que les gens ordinaires, comme moi, puissent comprendre la technologie et lui faire davantage confiance.
La sénatrice Muggli : Je vous remercie toutes les deux de votre présence. Je vais commencer par interroger Mme Crisp. Pour changer un peu de sujet, pourriez-vous nous expliquer comment les entreprises en démarrage peuvent concilier rapidité et innovation avec la nécessité de mettre en place, dès le premier jour, des systèmes d’IA responsables et conformes à la réglementation? D’après votre expérience — si vous en avez une dans le domaine des entreprises en démarrage —, y a-t-il des domaines dans lesquels ces entreprises spécialisées en IA sont en réalité en avance sur les grandes organisations ou les grands pays du point de vue de l’adoption de pratiques responsables en matière d’IA? Dans l’affirmative, quels enseignements pourrions-nous tirer de ces pratiques responsables pour mettre en place des garde-fous? Je vais commencer par vous entendre, madame Crisp.
Mme Crisp : À l’Institut Vecteur, nous disposons en effet d’un programme appelé FastLane, destiné tout particulièrement aux entreprises en démarrage, aux entreprises en développement et aux petites et moyennes entreprises. Dans certains cas, nous travaillons directement avec elles; nos ingénieurs en IA collaborent alors avec les entreprises en démarrage. Dans certains cas, nous mettons également des ressources à leur disposition afin de les aider à superviser l’élaboration du produit, ce qui nous permet de nous assurer qu’il est conçu de manière sécuritaire, responsable et éthique. L’Institut Vecteur dispose de ses propres principes de confiance et de sécurité en matière d’IA, qui ont été parmi les premiers à être définis à l’échelle mondiale.
Nous allons donc collaborer activement et directement avec les entreprises en démarrage. Habituellement, nous proposons à la communauté des entreprises en démarrage une quantité importante de ressources afin qu’elles puissent trouver les moyens de réaliser ce travail, mais dans certains cas, nous nous impliquons davantage, et nous travaillons concrètement à leurs côtés pour nous assurer que ce travail est accompli.
La sénatrice Muggli : Dans ce domaine, sommes-nous des chefs de file mondiaux grâce à certaines de nos entreprises en démarrage?
Mme Crisp : Je ne sais pas si je dirais que nous sommes des chefs de file. Notre écosystème d’entreprises en démarrage ne cesse de croître. Je pense que le capital pose problème, tout comme la puissance de calcul, comme je le disais. Nous avons certes de grands partenaires technologiques qui accordent, pour ainsi dire, des crédits de calcul aux entreprises en démarrage, ce qui est utile. Cependant, nous devons réellement renforcer cette infrastructure afin de retenir ces entreprises ici et d’éviter qu’elles ne se délocalisent vers le sud.
La sénatrice Muggli : Comment le gouvernement pourrait-il aider les entreprises en démarrage à cet égard?
Mme Crisp : Il serait vraiment formidable que nous puissions réellement dépenser l’argent qui avait été promis pour la puissance de calcul.
La sénatrice Muggli : Merci. Madame Enders, souhaitez-vous ajouter quelque chose?
Mme Enders : Oui. Je suis d’accord. Nous avons un programme appelé Level Up. Il est différent de FastLane. Il offre plus précisément un accompagnement destiné aux dirigeants principaux de la technologie. Le responsable de l’intelligence artificielle le plus expérimenté d’une entreprise en démarrage passe du temps avec des experts en apprentissage machine pour aborder des questions très complexes, notamment celles liées à la responsabilité.
L’un des éléments essentiels à la création d’un plus grand nombre d’entreprises en démarrage spécialisées en intelligence artificielle — et au repérage des entreprises prometteuses capables de s’imposer à l’échelle mondiale — sont les ressources et la clientèle du calcul. L’intégration de pratiques responsables en matière d’intelligence artificielle dans la technologie rend les entreprises en démarrage canadiennes plus attrayantes pour les investisseurs et leur permet de conquérir plus facilement des clients de grande envergure.
L’approvisionnement au Canada par des organismes canadiens est soumis à des normes de conformité très strictes. Ainsi, lorsque vous vous demandez comment aider les entreprises en démarrage à devenir les meilleures au monde pour ce qui est des principes de confiance et de sécurité, vous devez expliquer les choses de la façon suivante au fondateur de l’entreprise : « Vous deviendrez ainsi plus attractif aux yeux des clients et des investisseurs. »
La présidente : Merci.
Le sénateur Cuzner : J’avais quelques questions, mais votre réponse à la dernière m’a en quelque sorte amené à les modifier. Pourriez-vous nous en dire plus sur cette incapacité à dépenser les fonds qui avaient été alloués à la puissance de calcul?
Mme Crisp : Les deux milliards de dollars alloués en 2024 à la capacité de calcul souveraine... Il n’y a pas eu de dépenses significatives dans ce domaine. Les choses avancent, mais extrêmement lentement. Le problème est que la capacité de calcul est de plus en plus difficile à obtenir. De plus, son coût ne cesse d’augmenter. Par exemple, en l’espace d’environ trois mois, le prix de certaines des infrastructures que nous souhaitions acquérir a augmenté de 30 %. Je ne sais pas exactement où se situe le problème, mais les appels d’offres ne progressent pas assez vite. La capacité de calcul n’est pas mise à la disposition des chercheurs assez rapidement.
Le sénateur Cuzner : Avez-vous quelque chose à ajouter à ce sujet, madame Enders?
Mme Enders : Non. Je pense que Mme Crisp a bien résumé la situation.
Le sénateur Cuzner : Vous avez évoqué la confiance, et celle-ci a été un thème récurrent dans bon nombre des témoignages que nous avons entendus. Ce manque de confiance s’explique-t-il principalement par l’absence d’une structure de gouvernance rigoureuse dans ce secteur? Est-ce de là que provient le manque de confiance des investisseurs?
Mme Enders : Quand on parle de confiance dans l’intelligence artificielle, plusieurs éléments entrent en ligne de compte. La gouvernance joue un rôle à cet égard. Le rythme auquel les structures officielles fournissent des directives en fait partie.
Je pense que l’autre aspect est que cette technologie couvre de nombreux domaines et peut avoir des répercussions très variées. Honnêtement, la plupart des gens ont découvert l’intelligence artificielle grâce à des références culturelles. Il s’agit là de l’une des premières technologies à usage général au sujet de laquelle les gens ont eu une idée de ce à quoi elle servait avant même d’y avoir eu affaire, et ce, pendant la majeure partie de leur vie.
En ce qui concerne les structures de gouvernance formelles, de nombreuses questions se posent, notamment: « Ce manque de structure va-t-il freiner mon activité ou ralentir le développement de mon entreprise en démarrage? » Ce sont là des questions légitimes à cet égard. Mais en ce qui concerne l’adoption générale de l’intelligence artificielle, les questions qui se posent sont les suivantes: « Quelles sont les protections dont je dispose? » et « Quelles mesures puis-je prendre? » et « Comment puis-je commencer à comprendre cette technologie afin de défendre mes intérêts et de jouer un rôle actif dans ma vie à cet égard? »
Mme Crisp : Je mentionnerais les banques, qui ont été parmi les premières à adopter l’intelligence artificielle; elles sont aujourd’hui des leaders mondiaux dans ce domaine. Cependant, elles disposaient également de pratiques bien établies en matière de gouvernance des modèles, car leurs modèles quantitatifs étaient soumis à un contrôle minutieux depuis des décennies. Elles disposaient déjà de certains éléments de base. Ainsi, lorsque l’intelligence artificielle a fait son apparition il y a une douzaine d’années, alors que je travaillais encore dans le secteur bancaire, la question était davantage de déterminer comment nous allions adapter la gouvernance des modèles à l’intelligence artificielle, et non comment mettre en place une gouvernance de l’intelligence artificielle à partir de zéro.
Le sénateur Cuzner : Merci.
Le sénateur Boudreau : Merci à vous deux de votre présence. Je suis peut-être le rabat-joie du groupe, mais j’ai encore du mal à adopter l’intelligence artificielle, même si je sais qu’elle s’impose rapidement. Je vous entends toutes les deux dire que nous sommes à la pointe de la recherche en matière d’intelligence artificielle et que les pionniers de ce domaine se trouvent au Canada. Pourtant, nous sommes passés de la quatrième à la huitième place au classement mondial, nous accusons un retard quant à l’adoption et au déploiement de ces technologies, notre stratégie a deux ans de retard, et nous n’investissons pas autant que nous le devrions dans la capacité de calcul. Que peut-on en déduire quant à la nécessité de disposer d’une réglementation solide et de garde-fous? C’est l’aspect dont j’estime qu’on ne parle pas assez.
Tout le monde veut être à la pointe de l’intelligence artificielle, mais j’ai l’impression qu’on ne parle pas assez de ce qu’il faudrait faire pour mettre en place des garde-fous et une réglementation adéquats. En tant que gouvernement, sommes‑nous seulement capables de suivre le rythme d’un secteur qui connaît une croissance et une évolution aussi rapides? Le gouvernement est-il seulement capable de suivre le rythme pour mettre en place une réglementation qui permette de protéger les citoyens?
Mme Crisp : Pour ce qui est de la réglementation, je vais parler de la base. L’intelligence artificielle repose sur les données. Sans données de qualité, l’intelligence artificielle ne peut pas donner de bons résultats. Je pense que nous devrions commencer par mettre à jour nos lois sur la protection des données. Si je ne me trompe pas, notre Loi sur la protection des renseignements personnels remonte à 1983. La Loi sur la protection des renseignements personnels et les documents électroniques date du début des années 2000. Beaucoup de choses ont évidemment changé depuis. Nous devons absolument nous pencher sur nos lois relatives à la protection des renseignements personnels et sur l’utilisation des données, car la manière dont l’intelligence artificielle les exploite n’avait pas été envisagée en 1983. Si je devais commencer quelque part, je commencerais par là.
En ce qui concerne la réglementation, de manière générale, nous devons trouver un équilibre entre les mesures de protection et l’innovation. Nous devons faire preuve de prudence des deux côtés, mais j’aimerais laisser quelques instants à Mme Enders pour qu’elle puisse répondre.
Mme Enders : J’ai dit tout à l’heure que j’étais une optimiste incurable et que je donnais une note de 10 sur 10 aux opportunités. L’un des aspects que l’on néglige souvent dans la discussion au sujet de l’acquisition et de la maîtrise des compétences liées à cette technologie, ainsi que sur le rythme de son développement, est la nécessité de veiller à ce que les gens acquièrent les connaissances nécessaires pour savoir quand dire non et quand l’intelligence artificielle n’est pas l’outil approprié.
Entre la réglementation et les systèmes formels, ce domaine évolue rapidement. Je pense toutefois que les aspects qui évoluent moins rapidement sont ceux liés à la réflexion critique, aux données et à notre compréhension du fait qu’une grande partie de l’acquisition des compétences liées à l’intelligence artificielle consiste à savoir quand nous devons dire non à l’intelligence artificielle. Ce n’est pas un outil malhonnête ou un moyen de pression que nous essayons d’introduire dans la société pour que les gens disent oui tout le temps. Nous devons vraiment renforcer la capacité des gens à avoir des conversations éclairées, de sorte que le débat sur l’équilibre entre réglementation et innovation s’appuie sur des concepts que tous les participants comprennent bien.
Le sénateur Cuzner : Brièvement, si vous deviez choisir un pays dont vous reprendriez la réglementation et les mesures de protection pour les appliquer au Canada, lequel choisiriez-vous?
Mme Enders : Je ne pense pas qu’il existe une solution unique. Le plus important pour la réglementation au Canada est qu’elle doit refléter les valeurs canadiennes.
La sénatrice Petitclerc : Merci beaucoup d’être parmi nous et de nous apporter votre aide dans le cadre de cette étude.
Depuis le début de cette étude, je pose des questions sur nos jeunes. En général, je pose des questions sur les mesures de sécurité; je suis un peu inquiète. J’aimerais toutefois aborder la question sous un angle différent, et me concentrer sur les jeunes, les opportunités qui s’offrent à eux et le manque éventuel d’équité dans l’accès à ces opportunités.
Madame Enders, vous avez parlé d’acquisition de compétences, et de maîtrise. Ma question, en bref, est la suivante : existe-t-il un risque que, si cette acquisition de compétences n’est pas offerte à tous nos jeunes, il en résulte plus tard, lorsqu’ils seront en âge d’être actifs et de travailler, des inégalités socio-économiques et, par conséquent, des disparités en matière d’opportunités? Devrions-nous nous en inquiéter?
Mme Enders : Nous y réfléchissons sérieusement, et nous estimons qu’il est très important que chacun puisse accéder de manière équitable à l’acquisition de compétences en intelligence artificielle. Nous pensons également qu’il est essentiel de veiller à ouvrir des voies pour la localisation culturelle et régionale, afin que cette éducation soit présente dans les salles de classe. Nous y travaillons au quotidien.
Nous réfléchissons à la manière dont nous servons les groupes dignes d’équité à mesure que nous avançons, et nous veillons à adopter une perspective inclusive dans l’élaboration de nos projets. Nous réfléchissons aux approches qui nous permettent de véritablement entendre les communautés que nous servons. Quel est l’élément unique qui permettra de mettre en pratique l’acquisition des compétences de base de manière significative?
Nous constatons également que le pays dispose d’un programme d’apprentissage intégré au travail très solide au niveau postsecondaire. Ce constat a sans aucun doute influé sur le travail que nous accomplissons pour garantir l’égalité des chances aux étudiants à tous les niveaux du domaine de l’intelligence artificielle.
La sénatrice Petitclerc : Merci.
Madame Crisp, souhaitez-vous ajouter quelque chose? Avons‑nous le temps?
La présidente : Oui.
La sénatrice Petitclerc : En clair, si quelqu’un ne parvient pas à acquérir ces compétences, ses chances dans la vie seront‑elles différentes de celles des autres personnes? S’agit-il d’un risque?
Mme Crisp : Il s’agit effectivement d’un risque. Les emplois de demain reviendront de plus en plus aux personnes qui comprennent l’intelligence artificielle et savent s’en servir.
Il s’agit bel et bien d’un risque. C’est justement pour cette raison que je devrais faire partie de l’équipe des ventes d’Amii. Je ne cesse de promouvoir leur programme d’enseignement de la maternelle à la terminale dès que j’en ai l’occasion.
La sénatrice Petitclerc : Merci.
La sénatrice Osler : Je m’excuse d’être arrivée en retard.
Ma question pourra paraître un peu étrange, mais je vais quand même la poser. J’ai récemment eu une réunion avec le Comité pour les services sans fil des sourds du Canada, et nous avons discuté de l’intelligence artificielle. Ce comité représente la communauté des personnes sourdes, la communauté des personnes sourdes-aveugles et la communauté des personnes malentendantes. Ces communautés sont distinctes sur le plan culturel et linguistique. Elles considèrent les systèmes et les technologies de l’intelligence artificielle comme une véritable occasion d’améliorer leur inclusion dans la société dans son ensemble.
Elles s’intéressent tout particulièrement à la manière dont on représenterait leurs langues, dont on percevrait leurs identités et dont on respecterait leurs droits.
Ma question s’adresse à vous deux. D’après ce que vous avez pu observer et vivre, comment ces différentes communautés — les personnes sourdes, sourdes-aveugles et malentendantes — participent-elles à la co-création et au co-développement des technologies et des systèmes d’intelligence artificielle?
Madame Crisp, je vais commencer par vous.
Mme Crisp : Le nom m’échappe, mais je crois qu’il existe quelques entreprises en démarrage qui travaillent dans le domaine des personnes sourdes, malvoyantes et aveugles, mais je n’ai personnellement pas connaissance de projets à grande échelle. Je pense que ce serait utile. Je suis d’ailleurs convaincue que plus le groupe de personnes qui développent et créent l’intelligence artificielle est diversifié, plus celle-ci s’améliorera. Plus précisément, j’ai toujours affirmé que je ne voulais pas d’une intelligence artificielle conçue exclusivement par des hommes blancs. Le résultat ne me représente pas, ni mes voisins, etc. Plus nous parviendrons à diversifier les personnes qui développent et créent l’intelligence artificielle, mieux ce sera pour nous tous.
Je vais assurément prendre note de cette remarque et m’informer auprès de la succursale pour savoir comment nous interagissons avec ces communautés.
Je vais laisser la parole à Mme Enders.
Mme Enders : Je n’ai pas non plus d’exemple concret à citer, mais je peux vous parler un peu de ce sur quoi nous avons travaillé d’arrache-pied ces cinq dernières années chez Amii, à savoir la constitution d’équipes interdisciplinaires. Dans le cadre de toutes les activités que nous menons chez Amii, nous faisons appel à des experts en apprentissage machine et à des collaborateurs qui ont appris à jouer un rôle de relais entre différentes communautés et à trouver les moyens d’instaurer un dialogue constructif pour le développement d’outils d’intelligence artificielle.
L’un des aspects essentiels, tant pour ce qui est des opportunités que des risques, consiste à mener de véritables discussions entre experts du domaine qui ont accès aux données, sur la signification de ces données et sur la manière dont elles ont été obtenues. Quel est l’héritage culturel de ces données, et à quelles fins acceptons-nous qu’on les utilise?
Par ailleurs, comment puis-je m’approprier cette technologie afin de mettre en place de nouveaux modèles économiques susceptibles de profiter à ma communauté, à mon village, à ma ville ou à ma famille?
Nous devons ensuite trouver des moyens de transformer les difficultés auxquelles nous sommes confrontés en problèmes d’apprentissage automatique, c’est-à-dire en problèmes hautement structurés comportant toutes sortes d’entrées et de sorties.
Ainsi, le travail que nous accomplissons — pas nécessairement avec les communautés de personnes sourdes ou malentendantes, mais aussi avec d’autres communautés — s’est révélé extrêmement enrichissant et a eu une incidence considérable. Je pense à un chercheur de notre équipe, Patrick Pilarski, qui travaille sur le projet BLINC, Bionic Limbs for Improved Natural Control. Nous étudions comment nous pouvons collaborer avec un organisme particulier pour y parvenir.
La sénatrice Hay : Qu’attendez-vous de la future stratégie en matière d’intelligence artificielle pour qu’elle fasse vraiment une différence?
Madame Crisp, je vais commencer par vous.
Mme Crisp : J’aimerais que le financement des chaires en intelligence artificielle de l’Institut canadien de recherches avancées soit maintenu, et qu’il soit même augmenté par rapport aux montants alloués par le passé, car nous sommes en concurrence avec l’Europe, et pas seulement avec les États‑Unis. Je souhaiterais également que l’on augmente le financement destiné à nos efforts visant à favoriser l’adoption de ces technologies par les petites et moyennes entreprises.
Ce sont là mes deux priorités. Je vais laisser la parole à Mme Enders.
Mme Enders : Je partage l’avis de Mme Crisp. De plus, nous avons constaté huit éléments dans le groupe de travail et une très large participation du public. J’aimerais que le rapport présente les pistes et les organismes qui, comme le nôtre, mènent ce type d’actions, afin que les personnes qui s’intéressent à cette stratégie puissent savoir à qui s’adresser si elles souhaitent adopter l’intelligence artificielle, ont une idée pour créer une entreprise axée sur l’intelligence artificielle ou cherchent à promouvoir l’acquisition des compétences au sein de leur communauté. Nous avons des partenaires de confiance, et nous avons beaucoup appris au fil du temps. Je pense que cette stratégie, qui englobe ces huit thèmes, ainsi que les éléments qui fonctionnent bien et les personnes vers qui vous pouvez vous tourner, est importante. Je pense que le public attend avec impatience une stratégie qui oriente les travaux, mais qui lui donne aussi immédiatement une idée concrète de la direction à prendre.
La sénatrice Senior : Pourriez-vous toutes deux nous recommander une ou deux mesures de protection pour le Canada?
Mme Crisp : Je tiens d’abord à rappeler que je mettrais d’abord l’accent sur la protection des données et les droits relatifs aux données, car ces aspects constituent le fondement de l’intelligence artificielle.
La sénatrice Senior : La protection des données et les droits relatifs aux données, je vois.
Mme Enders : Je rejoins Mme Crisp sur ce point.
La sénatrice Senior : Je vous remercie.
La sénatrice McPhedran : Je vais conclure par cette question : si nous ne suivons pas la voie que vous avez tous deux proposée et défendue avec tant d’enthousiasme, quelles en seront les conséquences pour le Canada et pour les Canadiens?
Mme Crisp : Selon une étude sur l’emploi réalisée l’année dernière par le Forum économique mondial, 170 millions de nouveaux emplois liés à l’intelligence artificielle devraient voir le jour, tandis que 92 millions d’emplois seront supprimés. Cela représente un gain net de 78 millions d’emplois.
Je souhaite que le Canada fasse partie des gagnants et tire un bénéfice net de cette situation. Si nous ne nous mettons pas activement à l’œuvre pour adopter ces mesures, nous serons laissés pour compte et nous aurons plus d’emplois perdus que d’emplois créés.
La sénatrice McPhedran : Je vous remercie.
Madame Enders, vous souhaitiez ajouter quelque chose?
Mme Enders : De mon côté, il s’agit d’un projet similaire, notamment en ce qui concerne la croissance des entreprises en démarrage. C’est l’un des domaines où nous pourrions avoir un impact considérable. Si ces entreprises en démarrage ne sont pas axées sur l’intelligence artificielle, elles ne pourront pas se développer pour proposer une intelligence artificielle canadienne fondée sur les valeurs canadiennes à nos partenaires sur la scène internationale.
La présidente : Merci beaucoup. Cela marque la fin de notre première série de questions. Je tiens à remercier tous nos invités pour leurs témoignages d’aujourd’hui.
Chers collègues, nous accueillons à présent deux nouveaux invités pour notre prochaine série de questions. Par vidéoconférence, nous avons le plaisir d’accueillir M. Jason Lewis, professeur et chercheur principal, Abundant Intelligences; et M. Gideon Christian, titulaire de la Chaire de recherche en intelligence artificielle et droit, Université de Calgary, qui s’exprimera à titre personnel.
Merci à vous deux d’être parmi nous aujourd’hui. Vous disposerez de cinq minutes pour vos déclarations liminaires, après quoi les membres du comité auront l’occasion de vous poser des questions.
Jason Lewis, professeur et chercheur principal, Abundant Intelligences : Merci, madame la présidente, et bon après-midi, mesdames et messieurs les sénateurs. Je vous remercie de me donner l’occasion de m’adresser à vous aujourd’hui.
Je suis professeur de design et d’arts numériques à l’Université Concordia, à Montréal. Je codirige Aboriginal Territories in Cyberspace, un groupe de recherche qui étudie la manière dont les peuples autochtones se servent de différentes technologies informatiques. Par ailleurs, je suis moi-même d’origine hawaïenne et samoane.
Je suis ici aujourd’hui en tant que chercheur principal du partenariat Abundant Intelligences, un projet de recherche international basé au Canada et dirigé par des Autochtones, qui met en relation des chercheurs, des communautés autochtones, des technologues et des décideurs politiques à travers le Canada, les États-Unis et la Nouvelle-Zélande afin de repenser l’intelligence artificielle sous l’angle des relations, de la réciprocité, et de la responsabilité.
Ce projet examine comment l’innovation en matière d’intelligence artificielle peut soutenir divers modes de connaissance et de vie. Pour ce faire, nous explorons les différents moyens d’intégrer l’intelligence artificielle dans les systèmes de connaissances autochtones afin de soutenir les communautés autochtones. Nous mettons ensuite en pratique les résultats de nos travaux pour enrichir la recherche générale sur l’intelligence artificielle au profit de tous.
Je tiens à préciser que je ne représente aucune communauté autochtone en particulier. Je suis ici pour présenter nos activités de recherche et nos résultats.
Les membres du comité avaient interrogé M. Hinton concernant son appel à développer un instinct maternel au sein de nos systèmes d’intelligence artificielle. En 2018, plusieurs d’entre nous, aujourd’hui membres d’Abundant Intelligences, avaient rédigé un article intitulé « Making Kin with the Machines » pour défendre une idée similaire. Nous nous sommes inspirés des pratiques autochtones consistant à nouer des liens de parenté avec des non-humains — animaux, arbres, pierres et rivières — pour souligner l’urgence de réfléchir à l’intelligence artificielle en termes relationnels. Quels types de relations entretenons-nous aujourd’hui et quels types de relations souhaitons-nous entretenir à l’avenir, à mesure que l’intelligence artificielle devient plus intelligente, plus performante, et plus autonome?
Mes collègues et moi-même estimons que la prochaine stratégie canadienne en matière d’intelligence artificielle doit dépasser une vision étroite axée uniquement sur la puissance de calcul pour s’orienter vers un leadership relationnel. Nous envisageons une technologie d’intelligence artificielle en mesure de renforcer l’autodétermination, le bien-être des communautés, et la gestion responsable de l’environnement. Cela implique d’élargir la notion de souveraineté nationale en matière d’intelligence artificielle afin d’y inclure l’autodétermination en matière de connaissances, et la capacité de définir ce que signifie le terme « intelligence » dans les contextes autochtones et canadiens.
Cela implique de développer une intelligence artificielle qui reflète les valeurs, les langues et les visions du monde des peuples autochtones et des Canadiens; de soutenir une gouvernance des données autochtones qui garantisse aux communautés le contrôle de leurs données, puis d’étendre ces cadres à l’ensemble du Canada; et d’intégrer la souveraineté culturelle et éthique dans l’infrastructure de l’intelligence artificielle afin que les investissements publics dans les ressources informatiques renforcent le contrôle démocratique.
Cette approche s’appuie sur les enseignements tirés par les peuples autochtones au cours de leurs longues luttes pour l’autodétermination afin de montrer comment la souveraineté peut englober l’innovation informatique, l’indépendance technologique, ainsi que l’autonomie culturelle.
La plupart des membres de notre équipe de recherche sont issus des peuples autochtones et proviennent de communautés dont l’intelligence a été niée pendant des siècles. Nos ancêtres ont été considérés comme moins intelligents et, par conséquent, comme moins qu’humains. Compte tenu de cette histoire, nous ne prenons pas à la légère la définition du terme « intelligence » dans l’expression « intelligence artificielle ».
Nous craignons que l’absence d’une réflexion critique sur toute la diversité de l’intelligence humaine ne conduise, une fois de plus, à privilégier les systèmes de connaissances de certaines communautés par rapport à d’autres.
Nos principales questions de recherche sont les suivantes : Qui a le pouvoir de définir l’intelligence? Qui a le pouvoir de valider les connaissances? Qui a le droit d’utiliser ces connaissances?
Nous travaillons avec nos partenaires des communautés Haudenosaunee, Anishinaabe et Niitistapi ici au Canada, ainsi qu’avec les communautés Lakota, hawaïennes et maories à l’étranger, afin d’apporter des réponses à ce genre de questions.
Voici quelques-unes des questions que posent nos partenaires
Comment pouvons-nous tirer parti de l’énorme potentiel des technologies d’intelligence artificielle tout en protégeant notre patrimoine culturel contre l’appétit insatiable de l’industrie de l’intelligence artificielle pour les données volées?
Comment pouvons-nous intégrer les principes de souveraineté des données — les principes de propriété, de contrôle, d’accès et de possession, ou PCAP —, au cœur même de nos systèmes d’intelligence artificielle?
Comment former nos jeunes pour qu’ils puissent participer activement à cette révolution technologique?
Comment concilier l’énorme coût environnemental de l’intelligence artificielle avec notre rôle de gardiens du territoire?
D’après nos recherches, nous pensons que le Canada dispose d’une occasion unique de s’inspirer des communautés autochtones pour envisager l’intelligence artificielle sous un angle relationnel.
Nous devons nous poser ces questions plus profondes : comment voulons-nous cohabiter avec cette nouvelle technologie alors qu’elle ne cesse de gagner en puissance et en influence?
Je vous remercie.
La présidente : Je vous remercie, monsieur Lewis.
Gideon Christian, titulaire de la Chaire de recherche en intelligence artificielle et droit, Université de Calgary, à titre individuel : Madame la présidente, mesdames et messieurs les sénateurs, je vous remercie vivement de m’avoir invité à comparaître aujourd’hui devant le comité afin de contribuer à votre étude sur l’impact de l’intelligence artificielle au Canada.
Ma présentation portera sur l’impact de l’intelligence artificielle sur la communauté noire. Je commencerai par un exemple tiré de la vie réelle.
Fin 2022, un jeune homme noir du nom de Randal Reid a été interpellé par les forces policières à Atlanta, puis mis en état d’arrestation. Il a ensuite été placé en détention pendant six jours. Il aurait été impliqué dans le vol de sacs à main dans une boutique de luxe en Louisiane. Mais il y avait un problème : M. Reid ne s’était jamais rendu en Louisiane et n’aurait donc pas pu voler des sacs à main de luxe dans un endroit où il n’avait jamais mis les pieds.
Pourquoi, alors, M. Reid a-t-il été arrêté? Il a été arrêté parce qu’il s’est avéré par la suite que la technologie de reconnaissance faciale basée sur l’intelligence artificielle avait, par erreur, associé son visage à celui d’un suspect. Cette erreur du système d’intelligence artificielle a suffi à priver M. Reid de sa liberté.
Même si cela aurait pu être pire, le cas de Randal Reid n’est pas un incident isolé. Aux États-Unis, on recense des cas bien documentés d’arrestations abusives résultant de l’utilisation par les forces de l’ordre de technologies de reconnaissance faciale basées sur l’intelligence artificielle. La grande majorité des victimes sont des personnes noires, et ce n’est pas un hasard.
Il est démontré que la technologie de reconnaissance faciale présente les taux d’erreur les plus élevés lorsqu’il s’agit d’identifier les visages noirs, en particulier ceux des femmes noires, certaines études indiquant des taux d’erreur allant jusqu’à 34 % chez les femmes noires comparativement à 0,8 % chez les hommes blancs. Ce n’est pas seulement une question technique; c’est une question d’égalité et de droits civils.
Ces dernières années, madame la présidente, mes recherches visaient à mettre en lumière les préjugés raciaux inhérents aux systèmes d’intelligence artificielle déployés dans de multiples secteurs.
Dans le domaine de l’immigration, j’ai étudié les litiges soumis à la Cour fédérale du Canada pour contester l’utilisation de preuves produites à l’aide de la technologie de reconnaissance faciale de l’intelligence artificielle pour révoquer le statut de réfugié de demandeurs d’asile acceptés au Canada. Dans presque tous les cas, il s’agit de personnes noires.
Dans le système de justice pénale, j’ai fait des recherches sur l’utilisation de l’intelligence artificielle dans l’évaluation des risques de récidive, qui consiste à déterminer la probabilité que des personnes condamnées dans le système de justice pénale récidivent. Cette évaluation est importante pour orienter la décision sur la mise en liberté sous caution ou les peines imposées aux criminels condamnés. Mes recherches dans ce domaine montrent systématiquement que les outils d’intelligence artificielle utilisés pour évaluer ce risque surestiment le risque que présentent les accusés noirs deux fois plus souvent que pour leurs homologues blancs.
Dans leurs prévisions, les services policiers utilisent des systèmes d’intelligence artificielle pour prédire l’emplacement géographique où le prochain crime est susceptible de se produire. Cependant, les outils d’intelligence artificielle utilisés dans ce domaine sont entraînés à partir d’archives policières qui se caractérisent par des décennies de surveillance policière excessive des communautés noires et autochtones.
Par conséquent, ces outils d’intelligence artificielle ont appris des modèles de présence policière plutôt que des modèles de criminalité réelle dans les collectivités, ce qui les pousse inévitablement à prédire que le prochain crime se produira dans les communautés marginalisées qui sont représentées de manière disproportionnée dans les données d’entraînement. Il en résulte une surveillance policière accrue des communautés noires et autochtones, qui sont déjà trop surveillées.
De même, dans le domaine médical, les outils d’intelligence artificielle sont entraînés à partir des données historiques sur les soins, qui proviennent de systèmes où les inégalités raciales ont toujours été légion, et des pratiques comme la « norme raciale » sont courantes. Cela finit par reproduire les biais historiques qu’on observe dans les données d’entraînement et par causer un sous-diagnostic systémique des problèmes de santé chez les patients noirs.
La prévalence des préjugés raciaux a également été mise en évidence dans les outils utilisés pour la gestion des ressources humaines et l’embauche, qui filtrent les curriculum vitæ des candidats noirs en fonction d’indicateurs de la race tels que les noms et les codes régionaux. Des biais raciaux semblables s’observent également dans les outils d’intelligence artificielle utilisés dans le secteur des services financiers pour évaluer la solvabilité des demandeurs de prêts hypothécaires ou autres.
De nombreux systèmes d’intelligence artificielle sont entraînés à partir de données générées par des sociétés caractérisées depuis longtemps par diverses inégalités. Sans intervention délibérée, ces systèmes d’intelligence artificielle vont encoder ou amplifier insidieusement ces problèmes plutôt que de les corriger.
Il est donc impératif d’examiner d’un œil critique les outils d’intelligence artificielle que nous adoptons et leur incidence sur les communautés marginalisées au Canada. C’est que le Canada a beaucoup cheminé, en tant que pays, pour tenter de corriger les injustices raciales du passé. Les leçons du passé doivent guider nos décisions pour l’avenir.
Nous devons nous assurer que nos avancées technologiques contribuent à une société plus juste et plus équitable. À cet effet, je formulerai trois recommandations.
Premièrement, le Canada devrait adopter une approche préventive à l’égard du déploiement de systèmes d’intelligence artificielle dans des environnements à risque élevé où les conséquences d’une erreur seraient graves et marginaliseraient davantage des communautés déjà touchées de façon disproportionnée.
Deuxièmement, les systèmes d’intelligence artificielle connus pour présenter des taux d’erreur élevés en fonction de la race doivent faire l’objet d’une évaluation rigoureuse des risques et des répercussions avant d’être déployés.
Troisièmement, il faut garantir aux Canadiens le droit à la transparence et à de véritables recours. Ils doivent notamment savoir quand l’intelligence artificielle est utilisée dans les processus décisionnels du secteur public qui les touchent, afin de comprendre comment les décisions sont prises et de pouvoir les contester.
La question dont nous sommes saisis aujourd’hui n’est pas de savoir si le Canada doit continuer d’adopter la technologie de l’intelligence artificielle, madame la présidente, comme il doit...
La présidente : Merci, monsieur Christian.
M. Christian : Merci.
La présidente : Nous allons maintenant passer aux questions des membres du comité.
Pour ce groupe de témoins, les sénateurs disposeront de quatre minutes pour la question et la réponse. Veuillez indiquer si votre question s’adresse à un témoin en particulier ou à tous les témoins.
La sénatrice Burey : Bienvenue à nos témoins, en personne et en vidéoconférence. Ces témoignages sont très percutants. Merci d’être ici pour témoigner aujourd’hui.
Je vais commencer par vous, monsieur Christian, mais ma question s’adresse à nos deux témoins. Vous avez dit qu’il fallait intervenir de façon délibérée. Quels sont les garde-fous législatifs et réglementaires que nous devons mettre en place?
M. Christian : À l’heure actuelle, il n’y a pas de loi spécialement conçue pour régir l’intelligence artificielle au Canada. La réglementation de l’IA au Canada aujourd’hui s’appuie sur une loi qui a été rédigée avant même l’avènement de l’IA. Essentiellement, nous en étirons les concepts à outrance pour essayer de les faire appliquer dans ce contexte. Ce n’est pas la meilleure façon de réglementer l’intelligence artificielle.
Le terme « IA » est très général et englobe divers aspects de la technologie. En matière de réglementation, il est souvent important de comprendre quel aspect de l’IA on cherche à réglementer. Il faudrait commencer par réglementer les outils d’IA présentant un risque élevé ou les outils d’IA déployés dans des environnements où le risque est élevé. Certains outils d’IA présentent un faible risque, comme celui que j’utilise pour déverrouiller mon téléphone. L’effet négatif de cette utilisation ne se compare pas aux conséquences possibles que lorsque la police ou les établissements correctionnels utilisent des outils d’IA dans le système de justice pénale.
Il est grand temps de nous doter d’une loi canadienne qui réglemente l’utilisation de l’intelligence artificielle.
M. Lewis : Je ne suis pas juriste, donc je ne peux pas parler de façon éclairée de la législation en vigueur. Je peux toutefois vous dire que la question intéresse beaucoup les membres de notre équipe de recherche, qui réfléchissent à la façon dont nous pouvons prendre des principes comme les principes de propriété, contrôle, accès et possession pour établir des normes, afin que ces normes puissent contribuer à façonner et à évaluer les systèmes d’IA qui sont utilisés un peu partout, surtout s’ils sont utilisés auprès des peuples et des communautés autochtones.
La sénatrice Burey : Merci.
La sénatrice Hay : Merci à vous deux d’être ici. Vos témoignages sont très convaincants et importants. Ma question s’adresse à vous deux. Hier, le ministre de l’intelligence artificielle, Evan Solomon, a fait un commentaire sur l’IA, la qualifiant d’intelligence artificielle, mais aussi d’intelligence ancestrale. Il pense que c’est les deux à la fois. J’ai beaucoup aimé l’image, mais j’aimerais savoir ce que cela signifie pour vous dans le cadre de votre travail. De plus, j’ai entendu dire qu’il y a eu des consultations record en vue de l’élaboration d’une stratégie sur l’intelligence artificielle, mais je ne connais pas les détails. J’aimerais savoir quelles consultations ont été menées auprès des communautés des Premières Nations, des Métis et des Inuits, ainsi que des communautés noires, africaines et antillaises du Canada.
M. Lewis : Je trouve très intéressant d’entendre que le ministre a dit cela. C’est un terme souvent utilisé dans les communautés autochtones avec qui nous travaillons pour parler des connaissances qui nous sont transmises par nos ancêtres et des façons dont ces connaissances sont transmises, qui ne sont pas nécessairement toujours perceptibles pour la science occidentale. Par exemple, elles peuvent être transmises par diverses pratiques culturelles qui encodent et intègrent des données sur des choses qui se sont produites dans le passé, sur le paysage, le territoire, les personnes, et cetera.
L’une des façons dont les gens avec qui nous travaillons, qui travaillent sur l’intelligence artificielle autochtone, en parlent, c’est sous l’angle de l’intelligence ancestrale. Je suis curieux. C’est peut-être là où il a pris l’idée. Mais le plus important, c’est de comprendre qu’il n’y a pas vraiment de définition généralement admise du terme « intelligence ». Il est certain que selon diverses recherches, il existe de nombreux types d’intelligence. Tout dépend de qui pose la question et de qui évalue ce qu’est une action intelligente. Je dis cela parce que ce qu’une culture ou un milieu peut considérer comme très intelligent — par exemple, l’accumulation de centaines de milliards de dollars de richesse — peut être considéré dans d’autres contextes culturels et d’autres communautés comme le summum de l’égoïsme et de la stupidité.
M. Christian : J’ai commencé dans le domaine comme avocat spécialisé en technologie au ministère de la Justice. Je déployais cet outil pour fournir des services juridiques dans le cadre de litiges très médiatisés impliquant le gouvernement du Canada. Or, j’ai lu un rapport d’un groupe de réflexion américain dans ProPublica intitulé Machine Bias, qui m’a refroidi. Pour la première fois, dans le cadre de mon travail dans le domaine, j’ai compris que l’intelligence artificielle pouvait être biaisée sur le plan racial. Au départ, je la pensais objective, et je ne voyais pas d’obstacle à l’utiliser. C’est ce qui m’a poussé à changer de carrière pour me consacrer à l’enseignement et à la recherche.
J’ai été embauché par l’Université de Calgary en 2019 comme professeur adjoint, puis j’ai été promu professeur agrégé et titulaire de la Chaire de recherche en intelligence artificielle et en droit en 2014, ce qui me permet d’étudier la question. Dans presque tous les secteurs, j’examine où des outils d’IA sont déployés, essentiellement pour détecter les préjugés raciaux, et on en trouve toujours : dans le domaine de la santé, des services financiers, du crédit ou des hypothèques. Je trouve cela troublant.
En ce qui concerne les consultations et les efforts de réglementation, je ne sais pas de combien de temps je dispose, si vous voulez bien me le dire.
La présidente : Veuillez conclure le plus rapidement possible. Il ne vous reste que quelques secondes.
M. Christian : C’est le projet de loi C-27 qui devait servir à réglementer l’intelligence artificielle au Canada. Ce projet de loi a été étudié par ce comité, et il n’y a pas eu une seule mention de biais raciaux. J’étais si outré que j’ai dû écrire une lettre à la présidente du comité pendant cette étude pour attirer son attention, mais ce projet de loi est mort au Feuilleton au moment de la prorogation.
Nous avons maintenant un nouveau ministre de l’Intelligence artificielle qui a créé le Groupe de travail sur la stratégie en matière d’intelligence artificielle. Au départ, ce groupe de travail comptait 27 experts. Or, lorsque ses membres ont été nommés, le groupe ne comptait pas une seule personne noire. J’ai assuré la coordination avec 60 universitaires noirs de partout au Canada pour rédiger une lettre à l’intention du premier ministre et du ministre de l’Intelligence artificielle pour porter cette question à leur attention. Après réception de notre lettre, un étudiant noir sans expérience en intelligence artificielle a été nommé pour représenter la communauté noire au sein de ce comité.
La présidente : Merci.
La sénatrice McPhedran : Avant de vous poser mes questions à tous les deux, je tiens à dire que nous vous sommes très reconnaissants d’être ici et de nous faire part de vos points de vue. C’était un peu troublant d’entendre l’une de nos témoins précédentes dire qu’elle comptait porter attention à l’identité des personnes participant aux travaux de son organisation. Vous nous dites qu’il s’agit nettement d’une tendance.
Ma question est la suivante : si chacun d’entre vous devait choisir une première étape à privilégier à partir d’aujourd’hui, est-ce que ce serait d’interdire certaines utilisations de l’intelligence artificielle? Serait-ce de définir, en droit, et de faire appliquer une obligation de diligence? S’agirait‑il d’établir un régime de responsabilité ou de reddition de comptes?
M. Christian : C’est une question très intéressante, et c’est une grande question. Presque tout ce que vous avez nommé jusqu’à maintenant fait partie de la solution. Il est difficile de dire par quoi il faudrait commencer, car tout est nécessaire.
Pour ce qui est de la réglementation, j’insiste toujours sur le fait qu’il faut commencer par les environnements où les risques sont les plus élevés, car ce sont les environnements les plus préoccupants pour l’instant. Je serais fortement en faveur d’une réglementation pour les environnements à haut risque, en premier lieu, et j’entends par là les utilisations en contexte juridique, qui établissent une responsabilité stricte.
Pourquoi je dis cela? Je ne sais pas de combien de temps je dispose, mais je vais vous donner un exemple pour illustrer ma réponse. Les outils d’IA sont conçus par des gens. Les concepteurs de ces outils sont de bonne foi et font de leur mieux pour en garantir la sécurité avant de les déployer, mais le problème avec les outils d’IA, c’est qu’une fois qu’on commence à les utiliser, ils se mettent souvent à différer de l’outil tel qu’il a été conçu. C’est que l’intelligence artificielle apprend des données qui l’alimentent, de sorte que même quand on a pris toutes les mesures de précaution nécessaires pour concevoir un outil fabuleux, une fois qu’on se met à l’utiliser et qu’elle commence à apprendre, elle peut présenter des caractéristiques qui n’apparaissaient pas dans les essais au moment où elle a été conçue. Je vais vous donner un très bon exemple.
La sénatrice McPhedran : Cela m’intéresse beaucoup, mais je veux aussi m’assurer d’avoir le temps d’entendre la réponse de l’autre témoin, s’il vous plaît. J’aimerais beaucoup y revenir un peu plus tard.
M. Lewis : Je suis d’accord avec ce que M. Christian a dit au sujet de la nécessité d’un ensemble de mesures.
Mais il y a un point sur lequel je ne suis pas d’accord, et c’est que je ne crois pas que les concepteurs de ces systèmes agissent de bonne foi. Même quand on leur montre les biais inhérents à leurs systèmes et qu’on constate qu’ils ont volé des données pour entraîner leurs systèmes, ils ne changent pas leurs façons de fonctionner.
Encore une fois, comme le disait M. Hinton, le spectre du capitalisme domine tout cela, et c’est ce qui motive l’adoption et le développement d’outils. Ce n’est pas particulièrement compatible avec la sécurité ou l’obligation de diligence dont nous parlons ici.
Nous nous concentrons sur le renforcement des compétences dans les communautés autochtones, sur la formation de scientifiques et d’ingénieurs en intelligence artificielle. Nous voulons que les Autochtones participent à la création de ces technologies et à l’innovation qui les entoure. Nous voulons que nos perspectives et nos façons de voir influencent le développement de ces technologies dès le début, au lieu de devoir constamment jouer au chat et à la souris et réagir à ce que d’autres personnes construisent pour nous.
La sénatrice Muggli : Je vous remercie de votre présence parmi nous. Je vais poursuivre avec M. Lewis, et cela pourrait nous mener à ce dont vous alliez parler.
Vous en êtes maintenant à la moitié de votre projet de recherche, je crois. Pendant le peu de temps qui s’est écoulé depuis que vous avez commencé, en 2023, comment avez-vous vu les Autochtones changer leur façon d’utiliser l’IA ou comment avez-vous vu l’IA s’adapter aux modes de connaissance autochtones?
M. Lewis : Pendant la première phase du projet, nous nous sommes surtout appliqués à renforcer nos relations avec les communautés autochtones avec lesquelles nous nous sommes lancés dans ce projet.
C’était très intéressant d’écouter le groupe de témoins précédent. Il s’agit beaucoup de littératie, de leur enseigner ce qu’est l’IA et ce qu’elle n’est pas, mais dans un contexte culturel et historique autochtone, parce que beaucoup de choses ont été mal faites avec les technologies occidentales; il y a donc cet angle particulièrement critique.
Jusqu’à présent, une grande partie de nos activités a consisté à établir une littératie de base à ce sujet dans les communautés et à leur laisser de l’espace pour rêver et réfléchir au type de technologie et d’intelligence artificielle qu’elles voudraient, au lieu d’avoir à réagir à ce qu’on leur donne.
L’un des grands changements qui s’observent par rapport à nos débuts, c’est que lorsque nous avons commencé, les questions étaient du genre « qu’est-ce que l’intelligence artificielle? » Les gens avaient entendu de mauvaises choses à ce sujet et n’étaient pas sûrs de vouloir y verser leurs connaissances culturelles.
Nous ne sommes plus là avec nos communautés, elles nous disent maintenant plutôt des choses comme : « Attendez une seconde. Nous sommes censés être les gardiens de notre territoire. » Elles entendent maintenant que l’intelligence artificielle est en train de détruire leur environnement. Elles se demandent comment elles peuvent participer à la création de cette technologie si elle va détruire leur territoire.
Les questions environnementales sont vraiment au cœur de leurs préoccupations en raison des obligations que nous avons à l’égard des terres sur lesquelles nous vivons.
La sénatrice Muggli : C’est très intéressant. Merci.
J’ai une brève question pour M. Christian. J’ai récemment pris connaissance d’un article que vous avez écrit en faveur du boycottage du Groupe de travail sur la stratégie du gouvernement en matière d’intelligence artificielle. Vous avez peut-être déjà répondu à cette question dans diverses réponses, mais y a-t-il quelque chose que vous aimeriez dire à ce comité et que vous auriez voulu exprimer lors des consultations avec ce groupe de travail?
M. Christian : Oui, il y a beaucoup de choses.
La sénatrice Muggli : Pourriez-vous peut-être nous présenter vos deux principales recommandations?
M. Christian : Mes deux principales recommandations? En tant que personne noire, je commencerais probablement par la base. Les biais raciaux dans l’IA posent un grave problème parce que ce n’est pas quelque chose dont on discute ouvertement. Ce n’est même pas encore une évidence dans le domaine public.
Je travaillais dans ce domaine comme avocat doctorant spécialisé en technologie, et je ne savais pas que l’IA pouvait induire des biais raciaux jusqu’à ce que je lise l’article que j’ai mentionné.
Ce n’est donc pas de notoriété publique, mais c’est pourtant quelque chose de bien réel. Les communautés noires et autochtones, en particulier, sont discriminées de manière disproportionnée dans notre système de justice, et on utilise les données particulièrement discriminatoires des services de police et de justice pénale pour entraîner les systèmes d’intelligence artificielle.
Ces modèles régurgitent essentiellement les biais historiques que nous cherchons à corriger. Il y a la Commission de vérité et réconciliation, ainsi que la Stratégie canadienne en matière de justice pour les personnes noires, qui ont été créées essentiellement pour essayer de nous sortir de ce passé sombre. Nous devrions vraiment essayer d’éviter maintenant que l’intelligence artificielle ramène tout cela d’une manière insidieuse que nous ne voyons pas.
La sénatrice Muggli : Merci.
La sénatrice Senior : J’aimerais reprendre là où vous vous êtes arrêté, monsieur Christian. Que devons-nous faire? Je comprends la position de M. Lewis. Nous ne pouvons pas arrêter ce qui se passe en matière d’intelligence artificielle. L’occasion de régler le problème réside dans une stratégie à plus long terme. Que faisons-nous dans l’intervalle?
M. Christian : Dans l’intervalle, nous devons concevoir des règlements et des politiques en collaboration avec toutes les personnes touchées par ces outils.
Les outils d’intelligence artificielle sont conçus principalement par des hommes blancs, et c’est pourquoi nous disons que la technologie de reconnaissance faciale a un taux d’erreur de 0,8 % lorsqu’il s’agit de reconnaître ce groupe racial et ce genre particulier; il est de 34 % pour les femmes à la peau foncée, parce qu’elles ne sont pas représentées.
Donc, lorsqu’il s’agit de réglementer ces outils ou de rédiger des politiques et des lois, il est bon d’entendre toutes les personnes touchées.
Et, bien sûr, cela signifie...
La sénatrice Senior : Qu’arrive-t-il s’ils ne le font pas? Je suis particulièrement préoccupée par la façon dont les trois instituts qui font de la recherche représentent les gens, les consultent, sont entendus et sont financés. Y a-t-il un lien avec ces instituts de recherche en ce qui concerne la question de la reconnaissance faciale?
M. Christian : Très peu de recherches sont menées au Canada sur l’incidence de l’intelligence artificielle sur les minorités raciales.
Nous avons beaucoup de femmes noires et de chercheurs noirs en technologie aux États-Unis qui travaillent dans ce domaine, mais le Canada semble être différent.
Ce qui est encore plus préoccupant, c’est que la plupart des personnes qui travaillent sur ce dossier aux États-Unis sont en fait des Canadiens. Certains d’entre eux sont allés à l’école ici. Quand ils ont terminé leurs études, ils avaient l’expertise et on les a maraudés.
La sénatrice Senior : C’est parce qu’ils n’ont pas été embauchés ici, n’est-ce pas?
M. Christian : Ils ont commencé ici. Deborah Raji a comparu devant votre comité. Elle vient du Canada; elle a fait ses études ici, à Ottawa, et à l’Université de Toronto.
Il n’y a donc pas vraiment de recherche qui se fait ici sur cette question particulière. Il se trouve que je fais partie du très petit nombre de personnes qui font des recherches sur les préjugés raciaux dans l’intelligence artificielle au pays.
Il faut donc faire plus de recherche, financer plus de recherche dans ce domaine et identifier les enjeux. C’est lorsque ces problèmes sont cernés que nous sommes en mesure d’élaborer des stratégies pour les résoudre. La recherche dans ce domaine est très importante.
La sénatrice Senior : J’aimerais poursuivre dans la même veine. La communauté noire reçoit-elle des fonds pour faire de la recherche? Parce que je n’ai pas beaucoup d’espoir que ces trois instituts placeront nos priorités en tête de leur liste — un peu comme le demandait la question de la sénatrice Osler sur ce qui se passe avec les membres des communautés sourdes et aveugles.
Est-ce que cela devrait être une stratégie?
M. Christian : Je n’ai pas vraiment réussi à obtenir du financement des trois principaux organismes de recherche fédéraux au Canada pour mes recherches dans ce domaine. La majeure partie du financement de mes recherches provient d’autres sources.
Outre les trois conseils, j’ai eu le privilège d’obtenir des fonds de recherche du Commissariat à la protection de la vie privée, qui a financé mes recherches sur la technologie de reconnaissance faciale.
Je suis sur le point de commencer des recherches sur les services de police prédictifs, ainsi que sur la technologie de reconnaissance faciale, parce que le service de police d’Edmonton vient de lancer un projet pilote qui intègre essentiellement la technologie de reconnaissance faciale dans les caméras corporelles de la police, sans même mener une évaluation des facteurs relatifs à la vie privée. J’ai eu la chance d’obtenir une subvention de la Fondation canadienne des relations raciales pour entreprendre des recherches dans ce domaine.
Pour ce qui est du financement de la recherche dans ce domaine, il n’a pas été facile d’en obtenir.
La sénatrice Arnold : Oh, mon Dieu. J’aimerais poursuivre sur cette lancée. Avez-vous réussi à faire en sorte que les gens vous écoutent à ce sujet?
M. Christian : Merci beaucoup de cette question. Permettez‑moi d’être sincère : j’ai une formation d’avocat spécialisé en technologie, mais en ce qui concerne cette question particulière, la défense de cette cause, j’ai dû acquérir une nouvelle compétence et me former sur la défense des intérêts.
J’ai fait des recherches dans ce domaine. En tant que chercheur, je suis vraiment inquiet et préoccupé par ce que j’ai découvert en ce qui concerne cet outil et la communauté noire.
C’est un peu troublant lorsque vous exprimez cette préoccupation et que les gens ne vous écoutent pas. C’est pourquoi je suis ravi d’avoir l’occasion de comparaître devant le comité. Je pense que c’est une très bonne occasion pour moi de défendre cette question. Nous pouvons probablement trouver une solution, mais c’est un gros problème.
Ce qui me préoccupe, c’est que, même si nous avons fait des progrès en matière d’équité raciale en tant que pays, l’intelligence artificielle va renverser la vapeur si nous ne nous attaquons pas à ces problèmes.
La sénatrice Arnold : Bonté divine. Votre troisième problème à ce sujet était la capacité de savoir quand l’intelligence artificielle est utilisée et les règlements qui s’y rapportent. Qu’aviez-vous en tête à ce sujet?
M. Christian : Donc, les organismes gouvernementaux — et le secteur public surtout, au Canada — déploient de plus en plus la technologie de l’intelligence artificielle. Le problème, c’est que cela se fait en grande partie en secret. Il y a un manque de transparence, et c’est problématique pour de nombreuses raisons. Premièrement, l’intelligence artificielle elle-même est une boîte noire. C’est une boîte noire en ce sens que les concepteurs de ces outils n’ont même pas une connaissance détaillée de leur fonctionnement, ce qui est préoccupant.
Deuxièmement, les concepteurs des outils protègent leurs renseignements exclusifs du public, de sorte que le public n’a même pas la possibilité d’examiner la boîte noire. C’est une autre couche de secret.
Troisièmement, lorsque les ministères déploient ces outils, on ne sait même pas qu’ils les utilisent. Mes recherches sur la technologie de reconnaissance faciale ont commencé lorsque j’ai appris, dans le cadre de litiges judiciaires, que le ministère de l’Immigration utilisait en fait des preuves provenant de la technologie de reconnaissance faciale pour révoquer le statut de réfugié. Je travaille dans ce domaine, et même moi, je ne le savais pas. Je l’ai appris dans le cadre de ce litige.
Donc, lorsque vous avez ces couches de secret, cela ne renforce pas vraiment la confiance du public à l’égard de l’utilisation des outils. Lorsque les ministères ou le secteur public déploient ces outils, il est important que le public, en particulier les personnes touchées par les décisions prises à l’aide de ces outils, puisse savoir que les décisions qui les touchent ont été prises par l’intelligence artificielle. Cela leur donne l’occasion de savoir s’ils doivent contester cette décision et comment le faire, et c’est important. Cela fait partie de ce que nous appelons en droit administratif « l’équité procédurale », le fait de savoir quelle décision a été prise, comment elle a été prise et comment vous pouvez contester cette décision venant d’un ministère, si vous devez le faire.
La sénatrice Arnold : Merci.
Le sénateur Cuzner : J’aimerais revenir sur l’histoire que vous nous avez racontée au sujet de M. Randal, qui a été accusé à tort. Je suis sûr qu’il a dû retenir les services d’un avocat. Il est allé en cour et cela lui a coûté de l’argent. Il a été déclaré non coupable. A-t-il pu réclamer des frais de justice ou des dommages-intérêts? La société de reconnaissance faciale était‑elle responsable?
M. Christian : Merci beaucoup de cette question. Aucune accusation n’a été portée contre lui. Il a été détenu pendant six jours. Pendant sa détention, des dispositions ont été prises pour qu’il soit extradé en Louisiane avant qu’il devienne évident que cet homme n’y était même jamais allé. C’est là que l’affaire s’est terminée.
Mais Randal n’est qu’un exemple. Il y en a eu beaucoup d’autres, y compris le cas de Porcha Woodruff, une femme enceinte de huit mois qui a été arrêtée pour détournement de voiture.
Dans la plupart de ces cas, des organisations comme l’American Civil Liberties Union, ou ACLU, ont poursuivi des services de police. Certains de ces litiges sont en cours; d’autres ont été réglés à l’amiable. Cependant, aucune des entreprises technologiques qui ont mis au point ces outils n’a eu à en assumer les coûts.
Le sénateur Cuzner : On pourrait penser que les services de police s’adresseraient aux entreprises de reconnaissance faciale avec lesquelles ils ont conclu des contrats et les pousseraient à le faire.
M. Christian : Pourriez-vous répéter, s’il vous plaît?
Le sénateur Cuzner : Je pense que les services de police devraient s’adresser aux entreprises de reconnaissance faciale et exercer des pressions sur elles.
M. Christian : Parlez-vous de les poursuivre en justice?
Le sénateur Cuzner : Oui, tout à fait.
M. Christian : Eh bien, cela ne s’est pas produit, et il est peu probable que cela arrive. Dans la plupart des cas, on a offert ces outils aux services de police en disant : « Cet outil est extraordinaire. Nous allons d’abord vous le fournir pour que vous puissiez l’utiliser gratuitement. » Lorsque cette utilisation commence, le service est le suivant — je suis désolé d’utiliser ce terme, mais c’est comme un vendeur de crack qui offre d’abord la drogue gratuitement, puis qui crée une dépendance et commence à la vendre. C’est ainsi que fonctionne la relation entre les communautés technologiques et la police. Il y a eu le scandale Clearview AI, qui a été un gros scandale ici au Canada. C’est aussi ainsi que cela a commencé. Clearview offrait ses services gratuitement en disant : « Allez tester nos outils et les utiliser, puis revenez nous en parler. »
C’est pourquoi j’ai plaidé en faveur d’une responsabilité stricte lorsqu’il s’agit du déploiement à haut risque de ces outils, afin de responsabiliser non seulement l’utilisateur, mais aussi le concepteur de l’outil — lorsque vous imposez ce genre d’obligation pour que ces outils soient bons dès le départ, ils surveilleront ces outils et s’assureront qu’ils ne font pas de ravages dans les collectivités touchées.
Le sénateur Cuzner : Excellent. Je vous remercie.
La sénatrice McPhedran : Je vais parler un peu comme une chambre d’écho, parce que je vais commencer là où je me suis arrêté. Donc, le premier choix d’action — puisque c’est une grande partie de ce à quoi nous devons prêter attention — concerne un régime de responsabilité.
M. Christian : C’est important d’avoir un régime de responsabilité.
La sénatrice McPhedran : Est-ce la première mesure à prendre?
M. Christian : Oui.
La sénatrice McPhedran : Vous avez dit qu’il fallait faire tout ce qui est possible, mais tout n’est pas possible. Donc, la première étape serait-elle d’adopter un régime de responsabilité?
M. Christian : Dans les environnements à haut risque, oui.
La sénatrice McPhedran : Monsieur Lewis, s’il vous plaît, faudrait-il adopter un régime de responsabilité ou autre chose comme première étape cruciale?
M. Lewis : Je suis d’accord en ce qui concerne un régime de responsabilité. Dans le contexte autochtone, nous devons trouver des moyens d’inscrire des choses comme le PCAP dans la loi pour traiter de ce genre de choses. Parce qu’il ne s’agit pas seulement de la responsabilité liée à la façon dont le produit est utilisé à l’autre bout. En ce qui concerne le point que M. Christian a très bien soulevé, il s’agit aussi des données. Cela commence vraiment par les données qui sont problématiques, oui, et qui sont sous le contrôle des développeurs. C’est à eux de déterminer quelles données ils vont utiliser. Comment vont-ils nettoyer ces données? Comment vont-ils les valider? Il y a toutes ces choses pour lesquelles il y a une sorte d’incitatif dans les systèmes pour accélérer le processus.
Encore une fois, je ne suis pas juriste, alors je suis l’exemple de M. Christian. D’après ce que je comprends de la responsabilité stricte, ces entreprises ne prêteront pas attention à ces choses en aval. Comme nous l’avons vu dans les exemples qu’il a donnés, Clearview et les autres entreprises technologiques qui fournissent des technologies qui causent des problèmes de maintien de l’ordre ne sont pas tenues responsables au bout du compte. Nous avons absolument besoin de quelque chose qui les tient responsables. Une partie de cette responsabilité concerne l’endroit où ils ont obtenu leurs données. En particulier, si ces données concernent des communautés autochtones, avaient-ils la permission d’obtenir ces données? Qui a validé ces données? Travaillent-ils à partir d’un ensemble de données centenaires truffé de préjugés de la part de missionnaires, d’anthropologues ou de fonctionnaires?
La sénatrice McPhedran : Merci.
La sénatrice Senior : Monsieur Lewis, je n’ai pas eu le temps de m’adresser à vous, mais j’admire vraiment votre approche pour ce qui est de faire le travail sur le terrain et de mobiliser la communauté, les Premières Nations et d’autres dans ce dossier. Cependant, en ce qui concerne l’utilisation de divers outils d’intelligence artificielle, êtes-vous préoccupé par les mêmes choses que la communauté noire?
M. Lewis : Mes collègues et moi sommes tout à fait préoccupés. C’est un moteur énorme du projet d’Abundant Intelligences. En fait, concernant l’essai que j’ai mentionné dans ma déclaration préliminaire, intitulé Making Kin with the Machines, nous avons commencé à écrire cela en 2017 précisément en raison de la recherche publiée sur les préjugés dont M. Christian a parlé plus en détail.
Donc, un facteur déterminant dans toute cette affaire a été de dire : « Voici une autre technologie qui sera utilisée contre nous. » Comment pouvons-nous prendre les devants? Dans le genre de recherche que je mène, qui tend à être une recherche à long terme sur l’adaptation culturelle des technologies, nous reconnaissons qu’il est nécessaire d’adopter une loi maintenant. Il faut maintenant des choses comme la responsabilité stricte. Il faut trouver des moyens de limiter les dommages qui sont causés en ce moment. Nous prenons cela en contexte, puis nous faisons un pas en avant et nous demandons : « Comment voulons-nous que cette technologie fonctionne? » Au lieu d’essayer de continuer à régler les problèmes, comment voulons-nous que cela fonctionne?
En général, nous nous concentrons beaucoup là-dessus, même si nous travaillons ou discutons avec des groupes comme le Centre de gouvernance de l’information des Premières Nations, ou CGIPN — Jonathan Dewar était ici il y a quelques semaines — qui se concentrent tout d’abord sur les mandats politiques très clairs des communautés autochtones. Nous ne sommes pas un service de politique. Nous ne sommes pas mandatés de cette façon. Nous sommes des chercheurs autochtones qui explorent quelque chose qui, selon nous, intéresse nos communautés.
Mais ce genre de travail stratégique doit absolument se faire à très grande vitesse. Le genre de travail que fait le CGIPN, par exemple, doit être financé 100 fois plus qu’il ne l’est actuellement en raison, encore une fois, de la question de la représentation. Ces réunions sont organisées, et il n’y a pas d’Autochtones ou de Noirs qui y participent. Ce sont les mêmes visages, les mêmes personnes à qui on a demandé l’opinion à maintes reprises. Franchement, ce sont les mêmes personnes qui, d’une certaine façon, ont créé le gâchis dont nous essayons de nous sortir.
La sénatrice Senior : Merci.
La sénatrice Hay : Ma question porte sur le profilage racial, et j’en aurais 17 autres à vous poser. Je prenais des notes pendant que vous parliez, monsieur Christian, et je vais commencer par une combinaison de ce que j’ai entendu au sujet du profilage racial. Je voudrais peut-être aussi aborder la question des données et de leur gouvernance, dont nous avons tous parlé, car il ne fait aucun doute que l’intelligence artificielle est assortie de préjugés parfois inconscients, mais parfois aussi pleinement conscients. Tout cela émane des données qui l’alimentent, des données produites par l’être humain. Mais, d’où viennent au juste ces données?
J’en reviens à l’exemple que vous avez cité. Cette personne vaque à ses occupations et se fait interpeller, victime de profilage racial. Tout cela doit ensuite être interprété, et ce sont encore des humains qui s’en chargent.
Je vous demande votre opinion à ce sujet parce que je ne connais tout simplement pas la réponse. Cela commence par les données produites par des êtres humains. L’intelligence artificielle intègre des préjugés et crache ses résultats qui sont ensuite interprétés par d’autres humains pouvant eux-mêmes avoir des préjugés — dans ce cas, je suppose qu’ils en ont.
Je pense donc que le problème ne se limite pas à l’intelligence artificielle en ce qui concerne le profilage racial et les préjugés. Cela commence par les données, la gouvernance de ces données et notre fragilité humaine en matière de racisme et de discrimination. Ce n’est peut-être pas la question à se poser aujourd’hui, mais c’est un peu le cas.
Que pourriez-vous nous dire pour guider notre travail de législateurs? Nous savons que nous devons le faire en ayant d’abord à l’esprit les populations à risque élevé; c’est ce qu’on m’a dit, en tout cas. Mais je pense que c’est plus que cela; c’est un problème plus important.
M. Christian : C’est effectivement un problème plus important qui commence par les données. Les données sont le carburant qui propulse l’intelligence artificielle. L’intelligence artificielle est donc essentiellement alimentée par les données. Mais l’intelligence artificielle n’est pas une machine à laver; elle est plutôt comme une éponge. Elle absorbe les données, dans toute leur beauté et leur laideur, et les reproduit sous forme d’extrants.
Cela dépend du secteur. Prenons le domaine de la justice pénale, par exemple. Par le passé, les membres des minorités raciales et les Autochtones ont fait l’objet d’une surveillance policière excessive et ont été surreprésentés au sein du système de justice pénale.
Les données utilisées pour entraîner l’intelligence artificielle dans ce secteur proviennent de cet historique de surveillance policière excessive et de surreprésentation dans le système de justice pénale. Lorsqu’on les utilise pour entraîner un outil d’intelligence artificielle aujourd’hui, on va essentiellement reproduire cet état de fait, même si nous essayons de rompre avec ce passé en élaborant des politiques et des lois pour faire changer les choses. Cette évolution n’a toutefois pas généré de données qui remplaceraient les données du passé, de sorte que l’intelligence artificielle reproduit essentiellement ce parti pris...
La sénatrice Hay : Comme il nous reste peu de temps, j’aimerais savoir ce que nous devrions, selon vous, inclure dans une stratégie ou une loi en matière d’intelligence artificielle pour améliorer les choses à cet égard.
M. Christian : Ceux et celles qui conçoivent les outils d’intelligence artificielle devraient tenir compte du fait que les données sont liées à des pratiques antérieures où les personnes issues de minorités raciales ont été victimes d’une telle surreprésentation. Il faut se demander comment l’outil mis au point pourra permettre de remédier à la situation. Ainsi, on pourra tout au moins avoir l’assurance que les concepteurs sont conscients du problème et qu’ils prennent des mesures pour le régler. Nous devons également savoir comment ils s’attaquent au problème afin que le passé ne soit pas reproduit.
La sénatrice Hay : Merci.
M. Lewis : Puis-je intervenir rapidement?
La présidente : Nous avons dépassé le temps prévu pour cette question, mais je vais vous donner une minute pour répondre, monsieur Lewis.
M. Lewis : Je voulais dire qu’il est très important de comprendre un peu l’historique du développement de l’intelligence artificielle. Particulièrement au cours des 20 dernières années, les efforts en ce sens proviennent principalement du secteur de l’informatique, lequel peut-être intégré ou non à l’ingénierie.
Nous avons ainsi déjà un système partiellement en place. Bon nombre des domaines du génie exigent différents types de certification pour exercer la profession d’ingénieur. On ne sort pas de l’université avec un diplôme de premier cycle en génie pour travailler directement comme ingénieur civil en construisant des ponts. Vous devez passer par une certification supplémentaire pour prouver que vous faites le genre de choses dont parle M. Christian — que vous vous acquittez des mandats qui vous sont confiés de manière responsable.
L’informatique s’apparente beaucoup plus au Far West. Il n’y a pas ce genre de normes ou de lignes directrices sur le plan professionnel. Nous pourrions donc réfléchir à la manière d’intégrer de telles exigences à la formation de ces professionnels de telle sorte qu’ils s’acquittent pleinement des responsabilités qui leur incombent lorsqu’ils mettent au point ces systèmes parce que, à l’heure actuelle, cela fait presque entièrement défaut.
La sénatrice Osler : Ma question s’adresse à Jason Lewis. Je suis sur le site Web d’Abundant Intelligences et je vois que votre première question de recherche est la suivante :
Comment pouvons-nous élaborer de nouvelles approches en matière d’intelligence artificielle qui soutiennent l’épanouissement des communautés autochtones en se fondant sur les systèmes de connaissances autochtones?
Pour vous donner une idée de mon parcours, je viens du monde des soins de santé. Bon nombre de mes questions ont donc porté sur l’intelligence artificielle dans le secteur de la santé et la façon dont elle sera utilisée pour aider à combler les lacunes et à prévenir les préjudices. Comme vous le savez, les résultats en matière de santé des Autochtones au Canada pourraient être améliorés à bien des égards.
Nous entendons parler des entrées de données qui mènent à des résultats biaisés. L’intelligence artificielle est utilisée dans les soins de santé, et je vois de plus en plus de gouvernements et de communautés autochtones prendre le contrôle de la mise en œuvre et de l’administration de leurs systèmes de santé, ce qui les amènera du même coup à recourir davantage à l’intelligence artificielle dans ce secteur.
Selon ce que vous êtes à même de constater, est-ce que les gouvernements et les communautés autochtones discutent de ces enjeux liés aux préjugés, aux données et à la responsabilité lorsqu’ils commencent à adopter ces nouvelles technologies?
M. Lewis : C’est une très bonne question, mais je ne sais pas vraiment si cette conversation a lieu au sein de la gouvernance autochtone. Il y a deux ou trois endroits où nous travaillons avec des organes gouvernementaux officiels. Dans bien des cas, nous collaborons plutôt avec des organismes sans but lucratif et des entités semblables, si bien qu’il m’est impossible de vous dire de quoi discutent exactement les instances locales.
Je peux toutefois vous indiquer que nous avons quelques chercheurs au sein de notre réseau qui se concentrent exactement sur cette question, même si, malheureusement, aucun d’entre eux ne se trouve au Canada. Il y a ainsi M. Keolu Fox, qui est Hawaïen, mais qui travaille à l’Université de la Californie, à San Diego; et Mme Melanie Cheung, une chercheuse maorie de la Nouvelle-Zélande. Ils s’intéressent en fait à une autre manifestation de ce problème de données. Ainsi, de la même façon qu’un grand nombre de produits de santé ne sont pas mis à l’essai de façon approfondie au sein d’une collectivité suffisamment diversifiée, certaines données ne sont pas nécessairement pertinentes à l’extérieur de la communauté ciblée. Ce genre de résultat se répercute à grande échelle.
M. Fox vient du domaine de la génomique et se penche sur les problèmes récurrents associés à l’examen des génomes de populations particulières pour permettre l’extrapolation à l’ensemble d’une population humaine. Pour sa part, Mme Cheung s’intéresse à la façon dont certaines maladies neurologiques qui sont plus endémiques dans la population maorie sont à la fois surdiagnostiquées et sous-diagnostiquées parce que les données ayant servi de base aux systèmes utilisés proviennent d’une population différente.
Je pense donc qu’il y a une prise de conscience à plusieurs niveaux. Je ne saurais vous dire exactement ce qu’il en est, mais, pour avoir parlé à ces deux collègues, je n’ai pas l’impression qu’il y a des incitatifs pour que les entreprises rectifient le tir. C’est parce que, essentiellement, elles croient que cela fonctionne pour une très vaste population, et elles ne sont pas incitées à recueillir les données pertinentes aux populations plus petites. Pour revenir aux conversations précédentes, c’est un problème permanent : les incitatifs sont alignés sur la collecte auprès de populations qui peuvent vous fournir des données à grande échelle. Si vous ne répondez pas à ces critères, vous avez un problème avec la forme actuelle d’intelligence artificielle fondée sur les grands modèles de langage.
Il en va de même pour les langues. Nous avons ce qu’on appelle des langues à faible densité — comme l’hawaïen, le mohawk et différentes langues autochtones — pour lesquelles il n’y a pas suffisamment de données pour utiliser les techniques auxquelles on a recours pour les systèmes à grande échelle, de sorte que nous nous retrouvons avec des traductions de très mauvaise qualité. Imaginez maintenant un scénario semblable, mais pour les soins de santé.
La présidente : Merci beaucoup.
La sénatrice Osler : Merci.
La présidente : Cela nous amène à la fin de la réunion.
Je tiens à remercier M. Lewis et M. Christian d’avoir été des nôtres aujourd’hui et de nous avoir permis de bénéficier de leurs incroyables connaissances. Nous vous en sommes très reconnaissants.
(La séance est levée.)