LE COMITÉ SÉNATORIAL PERMANENT DES AFFAIRES SOCIALES, DES SCIENCES ET DE LA TECHNOLOGIE
TÉMOIGNAGES
OTTAWA, le mercredi 25 février 2026
Le Comité sénatorial permanent des affaires sociales, des sciences et de la technologie se réunit aujourd’hui, à 16 h 15 (HE), avec vidéoconférence, pour étudier, afin d’en faire rapport, des questions relatives aux répercussions de l’intelligence artificielle au Canada.
La sénatrice Rosemary Moodie (présidente) occupe le fauteuil.
[Traduction]
La présidente : Bienvenue à cette réunion du Comité sénatorial permanent des affaires sociales, des sciences et de la technologie. Je m’appelle Rosemary Moodie. Je suis sénatrice de l’Ontario et présidente de ce comité.
Avant de commencer, je vais demander aux sénateurs de se présenter, à commencer par la vice-présidente, la sénatrice Burey.
La sénatrice Burey : Je m’appelle Sharon Burey et je suis sénatrice de l’Ontario. Bienvenue!
[Français]
Le sénateur Boudreau : Bonjour. Victor Boudreau, du Nouveau-Brunswick.
La sénatrice Arnold : Dawn Arnold, du Nouveau-Brunswick.
La sénatrice Petitclerc : Chantal Petitclerc, du Québec.
[Traduction]
La sénatrice Hay : Bonjour. Je m’appelle Katherine Hay et je suis sénatrice de l’Ontario.
La sénatrice Greenwood : Bonjour. Margo Greenwood, de la belle province de la Colombie-Britannique.
La sénatrice Muggli : Tracy Muggli, territoire du Traité no 6, Saskatchewan.
La présidente : Avant que nous entendions les témoins, j’aimerais remercier tous les sénateurs membres du comité pour leur réflexion approfondie tout au long de nos travaux sur le projet de loi C-12. Comme à son habitude, le comité a travaillé rapidement et avec diligence, dans les délais serrés imposés par la motion du gouvernement. La tâche qui nous a été confiée était difficile, et je crois que nous nous en sommes acquittés de manière très professionnelle. J’aimerais exprimer ma sincère gratitude à tout le personnel de soutien du comité.
Le travail que nous accomplissons au sein de ce comité ne se fait pas tout seul; toute une équipe nous soutient. Des interprètes, des techniciens multimédias et d’autres membres du personnel de soutien nous préparent et nous assistent tout au long de notre programme chargé, et je tiens à remercier chacun d’entre vous pour sa flexibilité.
Je tiens tout particulièrement à remercier les analystes de la Bibliothèque du Parlement qui ont dû rédiger le rapport dans un très bref délai. Même si vous n’avez pas eu beaucoup de temps pour compiler tous les renseignements dont nous disposions, le rapport que nous avons présenté était exceptionnel et reflétait bien notre professionnalisme. Bien sûr, rien de tout cela n’aurait été possible sans notre greffière, Ferda Simpson, qui a fait un travail exceptionnel pour faire comparaître les témoins et a fait preuve de souplesse avec la ministre et les fonctionnaires qui l’ont accompagnée.
Chers collègues, je suis fière de travailler avec vous et je suis fière de la collaboration dont nous faisons preuve au sein de ce comité. Merci encore.
Aujourd’hui, le comité entame son étude des questions relatives aux répercussions de l’intelligence artificielle au Canada. Cette étude portera notamment sur la gouvernance et la souveraineté des données, l’éthique, la protection de la vie privée, la sécurité et les risques, les avantages, ainsi que les répercussions sociales de l’intelligence artificielle au Canada.
Nous accueillons aujourd’hui, dans le cadre de notre premier groupe de témoins, d’Innovation, Sciences et Développement économique Canada, Mark Schaan, sous-ministre délégué, ministère de l’Industrie. Du Secrétariat du Conseil du Trésor du Canada, nous accueillons Dominic Rochon, dirigeant principal de l’information du Canada, ainsi que Kara Beckles, directrice exécutive, Division de la vie privée et des données. Merci de vous joindre à nous aujourd’hui.
Vous disposez de cinq minutes pour une déclaration liminaire, puis les membres du comité vous poseront des questions. Monsieur Schaan, vous avez la parole.
Mark Schaan, sous-ministre délégué, ministère de l’Industrie, Innovation, Sciences et Développement économique Canada : Madame la présidente, membres du comité, merci de me donner l’occasion de contribuer à votre étude sur les répercussions de l’intelligence artificielle au Canada.
L’intelligence artificielle présente à la fois des possibilités considérables et des défis complexes. Aujourd’hui, je vais vous parler des travaux actuels d’Innovation, Sciences et Développement économique Canada dans ce domaine, et j’attends avec impatience vos questions.
Innovation, Sciences et Développement économique Canada est responsable de la Stratégie pancanadienne en matière d’intelligence artificielle, première en son genre, lancée en 2017. La phase I de la stratégie comprenait un investissement de 125 millions de dollars et visait à établir les fondements de l’écosystème canadien en matière d’intelligence artificielle en créant trois instituts nationaux spécialisés dans ce domaine : Amii, à Edmonton, l’Institut Vector, à Toronto, et Mila, à Montréal.
[Français]
Dans le cadre du budget de 2021, le gouvernement a investi 443 millions de dollars supplémentaires dans la phase 2; ces fonds sont répartis en trois volets visant à accroître la capacité des instituts à commercialiser la recherche en IA, à attirer, retenir et former les talents en IA et à faire progresser l’élaboration et l’adoption de normes en IA.
[Traduction]
La phase II comprend l’octroi de 275 millions de dollars aux grappes d’innovation mondiales du Canada afin d’accélérer la commercialisation et l’adoption des technologies d’intelligence artificielle. Cela a donné lieu, en date du 31 décembre 2025, à l’annonce de 94 projets répartis dans les cinq grappes, réunissant plus de 427 partenaires et représentant un co-investissement, avec l’industrie, de plus de 372 millions de dollars dans l’écosystème canadien.
La phase II prévoyait également un investissement initial dans l’Alliance de recherche numérique du Canada afin de fournir une capacité informatique destinée aux chercheurs en intelligence artificielle.
L’Énoncé économique de l’automne 2024 prévoyait un financement supplémentaire de 174 millions de dollars pour soutenir la poursuite des activités de commercialisation de l’intelligence artificielle dans le cadre de la Stratégie pancanadienne en matière d’intelligence artificielle. Il annonçait également le lancement d’un programme de 500 millions de dollars à la Banque de développement du Canada afin d’offrir du financement et de l’expertise pour aider les petites et moyennes entreprises à adopter des technologies numériques, en mettant la priorité sur l’intelligence artificielle.
[Français]
D’autres ministères fédéraux soutiennent également activement la commercialisation et l’adoption de l’IA. À titre d’exemple, le Conseil national de recherches du Canada administre le programme Assistance IA, doté de 100 millions de dollars, qui a été lancé en 2024 et aide les petites et moyennes entreprises à relever les défis liés au développement et à l’intégration de solutions d’IA générative et d’apprentissage profond. Ce programme soutient les entreprises en matière de sensibilisation, de planification et de mise en œuvre afin que ces technologies soient développées et déployées de façon sécuritaire et éthique.
Il y a également l’Initiative régionale en matière d’intelligence artificielle, dotée d’un budget de 200 millions de dollars, mise en œuvre par les agences de développement régional. Cette initiative vise à appuyer la mise en marché de nouvelles technologies canadiennes en matière d’IA et à accélérer leur adoption dans des secteurs économiques stratégiques, comme l’agriculture, les soins de santé, les technologies propres, la fabrication et d’autres secteurs d’importance régionale à travers le pays.
[Traduction]
De plus, au cours des 10 dernières années, les trois organismes subventionnaires fédéraux — le Conseil de recherches en sciences naturelles et en génie du Canada, le Conseil de recherches en sciences humaines et les Instituts de recherche en santé du Canada — ont versé plus de 1 milliard de dollars pour financer des projets de recherche universitaire en intelligence artificielle.
Bien que le secteur canadien de la recherche en intelligence artificielle soit reconnu comme l’un des meilleurs au monde, le Canada accuse actuellement un retard par rapport à bon nombre de ses partenaires du G7 en ce qui concerne la capacité nationale en matière d’infrastructure de calcul haute performance. Pour combler ce déficit, le gouvernement a lancé, en 2024, la Stratégie canadienne sur la capacité de calcul souveraine pour l’IA, investissant dans une infrastructure publique de calcul informatique de pointe et élargissant l’accès à une capacité de calcul avancée pour l’intelligence artificielle de sorte que les chercheurs et les entreprises canadiens disposent de la capacité de calcul dont ils ont besoin pour être concurrentiels à l’échelle mondiale. De ce financement, 700 millions de dollars sont consacrés à la création de champions de l’intelligence artificielle dans le secteur privé, 300 millions de dollars, à la compensation des coûts des ressources de calcul pour les petites et moyennes entreprises, et 1 milliard de dollars, à la mise en place d’une infrastructure publique de calcul informatique de pointe.
Le 15 janvier, le gouvernement a invité les entreprises et consortiums canadiens admissibles à soumettre leur proposition pour l’établissement de centres de données d’intelligence artificielle de grande envergure conçus pour servir un large éventail de clients canadiens.
[Français]
L’approche du Canada en matière d’IA vise à trouver un équilibre entre la croissance économique et l’innovation rendues possibles par cette technologie, avec des mesures visant à garantir un développement, un déploiement et une utilisation sûrs et responsables, tout en apportant un soutien aux Canadiens à mesure que son adoption s’accélère dans l’ensemble de l’économie et de la société.
Lancé en 2024 avec un investissement initial de 50 millions de dollars, l’Institut canadien de la sécurité de l’intelligence artificielle travaille avec des partenaires nationaux et internationaux issus du gouvernement, de l’industrie et du milieu de la recherche afin de faire progresser la compréhension scientifique des risques associés aux systèmes d’IA les plus avancés. Ses travaux portent sur des risques comme les hypertrucages, les capacités cybernétiques, les utilisations malveillantes et les problèmes d’alignement de l’intelligence artificielle.
Une gamme de lois existantes offrent déjà des protections en ce qui concerne certains aspects du développement, du déploiement et de l’utilisation de l’IA. Il s’agit notamment du Code criminel du Canada, de la Loi sur la protection des renseignements personnels et des documents électroniques (LPRPDE), ainsi que des lois sectorielles applicables à des industries spécifiques, telles que le secteur de la santé et le secteur financier.
[Traduction]
Les membres du comité ont peut-être également pris note des déclarations du ministre de l’Intelligence artificielle et de l’Innovation numérique concernant l’intention du gouvernement de moderniser la loi canadienne régissant la protection de la vie privée dans le secteur privé, c’est-à-dire la Loi sur la protection des renseignements personnels et les documents électroniques, afin d’y renforcer les mesures visant à protéger la vie privée et de veiller à ce qu’elle tienne adéquatement compte des risques d’atteinte à la vie privée que présente l’intelligence artificielle.
Je termine en soulignant que nous vivons un moment intéressant alors que nous mettons la touche finale à la prochaine stratégie nationale du Canada en matière d’intelligence artificielle. Au cours de l’année dernière, nous avons organisé un sprint de consultation à l’échelle nationale qui nous a permis de dialoguer avec 11 300 Canadiens et les 28 membres du groupe de travail. Nous sommes impatients de présenter cette stratégie prochainement. Nous serons heureux d’en discuter à la période réservée aux questions et observations.
La présidente : Merci, monsieur Schaan. Monsieur Rochon, vous avez la parole.
Dominic Rochon, dirigeant principal de l’information du Canada, Secrétariat du Conseil du Trésor du Canada : Merci. Je suis ravi d’être ici avec mon collègue Mark Schaan et un membre clé de mon équipe, Kara Beckles, qui est directrice exécutive de la Division de la vie privée et des données. Mark Schaan vous a donné un bref aperçu de certaines des activités externes du ministère de l’Industrie en matière d’intelligence artificielle. Je vais vous présenter brièvement certaines des activités internes du gouvernement, du point de vue de mon poste de dirigeant principal de l’information du Canada au sein du Secrétariat du Conseil du Trésor du Canada.
J’aimerais souligner certains des principaux programmes et politiques mis en œuvre dans l’ensemble de la fonction publique fédérale afin de promouvoir l’adoption efficace et responsable de l’intelligence artificielle.
L’intelligence artificielle offre au gouvernement toutes sortes de nouvelles possibilités pour travailler plus efficacement et mieux servir les Canadiens, mais si elle n’est pas utilisée de manière responsable, elle pourrait également avoir des conséquences qui changeraient la vie des personnes que le gouvernement sert.
Voilà pourquoi les principales politiques du gouvernement sont axées sur une approche centrée sur l’humain. Autrement dit, nos politiques nous aideront à nous concentrer sur les besoins des personnes que nous servons et des fonctionnaires qui les servent pour décider dans quels domaines nous adopterons l’intelligence artificielle et comment nous l’intégrerons dans notre travail.
Prenons, par exemple, la Directive sur la prise de décisions automatisée, que nous avons instaurée en 2019 et qui a déjà été mise à jour quatre fois depuis. Elle oblige les ministères et les organismes à se soumettre à des évaluations rigoureuses. Cela garantit l’exactitude, l’équité et le respect des droits de la personne lorsqu’on envisage d’utiliser des systèmes automatisés pour appuyer des décisions qui touchent les citoyens, leurs droits et leurs interactions avec le gouvernement. Elle vise à favoriser le repérage précoce des risques et la prévention ou l’atténuation des répercussions ou préjudices imprévus.
Un autre exemple est l’outil d’évaluation de l’incidence algorithmique. Il aide les ministères à se conformer aux exigences de la directive. Il repose sur une approche fondée sur les risques : plus le risque est élevé, plus les mesures de protection doivent être détaillées et complètes. Le Guide sur l’utilisation de l’intelligence artificielle générative donne aux employés des conseils pratiques sur l’utilisation sûre, efficace et responsable des outils d’intelligence artificielle dans leur travail quotidien.
[Français]
Je tiens également à souligner le registre public de l’IA, qui a été lancé récemment et qui contribue à renforcer la confiance dans l’utilisation de l’IA par le gouvernement en montrant aux Canadiennes et Canadiens comment et où ces technologies sont utilisées dans l’ensemble du gouvernement. Ce registre est conçu pour s’assurer que l’IA est utilisée de manière responsable, transparente et fiable.
Toutefois, au cœur de tout cela se trouve la Stratégie en matière d’intelligence artificielle pour la fonction publique fédérale. Elle définit la manière dont le gouvernement tire parti de l’IA pour améliorer la productivité, renforcer ses capacités en matière de recherche scientifique et améliorer les services offerts à la population canadienne.
L’adoption de l’IA à l’échelle du gouvernement fédéral exige également une grande prudence et une grande responsabilité. C’est pourquoi la stratégie insiste sur la nécessité de déployer les systèmes d’IA de manière sécuritaire et éthique afin de prévenir les préjugés ou les répercussions involontaires sur les personnes ou les collectivités. Elle renforce également la nécessité d’une communication claire au sujet des domaines dans lesquels l’IA est utilisée et de l’incidence de cette utilisation sur les services.
Notre objectif est de mettre à jour cette stratégie tous les deux ans afin de garantir qu’elle reste pertinente et adaptée. La stratégie en matière d’IA s’inscrit dans un écosystème plus large de modernisation qui comprend la conception de services numériques, la cybersécurité et la gestion responsable des données. Cela inclut la Stratégie relative aux données de 2023-2026 pour la fonction publique fédérale, qui décrit les mesures prises au sein de la fonction publique afin de garantir que les données constituent un apport fiable, bien organisé, exempt de préjudices, et qui veille au respect de ces mesures, ce qui est nécessaire au fonctionnement de l’IA.
Cela m’amène à la question de la souveraineté des données. Lorsque les données gouvernementales sont stockées dans le nuage public, elles sont hébergées par des fournisseurs tiers qui peuvent être soumis à des lois étrangères. Il existe donc un risque qu’un autre pays puisse légalement exiger l’accès à ces données. Il est toutefois important de noter que le Canada et les États-Unis ont déjà conclu depuis longtemps des accords de partage d’information et des traités d’entraide judiciaire qui régissent l’échange d’information à des fins légales et sécuritaires légitimes. Ces cadres fournissent une structure, une prévisibilité et une surveillance, ce qui réduit la probabilité que des mécanismes juridiques étrangers soient utilisés d’une manière qui porte atteinte aux intérêts du Canada ou à la confiance du public.
[Traduction]
Afin de mieux protéger les renseignements de nature délicate, le gouvernement du Canada applique toute une série de mesures de protection, telles que la restriction des types de données stockées dans des environnements appartenant à des tiers, le chiffrement des données pour empêcher tout accès non autorisé et l’utilisation de clauses contractuelles normalisées qui énoncent des exigences strictes en matière de sécurité et de protection de la vie privée pour les fournisseurs tiers. Ensemble, ces mesures contribuent à garantir que, même lorsque les données sont hébergées par un tiers, elles restent protégées, contrôlées et gérées de manière à préserver la confiance des Canadiens et de ce comité.
En conclusion, madame la présidente, le gouvernement adopte l’intelligence artificielle afin d’améliorer les services offerts aux Canadiens et de soutenir les fonctionnaires, en mettant toutefois en place des mesures de protection rigoureuses. Nous protégeons les renseignements de nature délicate et rassurons les Canadiens quant à la façon dont leurs données sont gérées.
La présidente : Nous allons maintenant passer aux questions des membres du comité. Pour ce groupe de témoins, les sénateurs disposeront de quatre minutes pour poser leurs questions et obtenir une réponse.
La sénatrice Burey : Merci pour votre témoignage et votre comparution devant le comité aujourd’hui. Vous savez sans doute qu’en tant que sénateurs, nous sommes en quelque sorte tenus de rendre des comptes au public et de lui assurer que nous nous tenons informés des questions liées à l’intelligence artificielle, aux hypertrucages et à la souveraineté des données dans le contexte des logiciels malveillants et de tous les autres enjeux actuels. Vous avez mentionné certains des investissements effectués par le gouvernement, mais selon vous, quels sont, pour le Canada, les principaux risques et les principales possibilités qui se dégagent de l’adoption croissante de l’intelligence artificielle dans l’ensemble de la société?
M. Schaan : Merci pour la question. Je serai heureux d’y répondre le premier.
Je pense que les risques se divisent en deux catégories pour moi. L’un des risques est que nous ne parvenions pas à offrir aux citoyens des possibilités fiables et sécurisées pour le déploiement de l’intelligence artificielle. Le ministre aime à dire : « La technologie évolue au rythme de l’innovation, mais son adoption évolue au rythme de la confiance », et je pense que nous risquons réellement de ne pas avoir établi les bases de confiance nécessaires pour permettre le déploiement des possibilités offertes par l’intelligence artificielle. Cela signifie que nous devons remédier aux préoccupations réelles des citoyens concernant la perte de contrôle sur leurs données, la perte de leur emploi, la perte de leur souveraineté et, dans le pire des cas, la perte de notre monde. Je pense que le plus grand risque est de parvenir à établir cette base de confiance et de tracer une voie responsable et fiable vers un avenir qui intègre l’utilisation de l’intelligence artificielle.
Le deuxième risque est de ne pas saisir l’occasion qui se présente. Le Canada a des antécédents exceptionnels dans ce domaine technologique particulier, comme dans beaucoup d’autres d’ailleurs. Trois des universitaires les plus cités au monde dans le domaine de l’intelligence artificielle au cours des cinq dernières années sont canadiens. Bon nombre des sommités de l’intelligence artificielle sont canadiennes. Cependant, nous risquons à nouveau de ne pas récolter les fruits d’une technologie que nous avons inventée et déployée. À mon avis, c’est là que réside le danger.
Voici la possibilité qui s’offre à nous : lorsqu’elle est déployée de manière responsable et fiable, et assortie de contrôles efficaces, l’intelligence artificielle a la capacité d’augmenter considérablement notre productivité, notre efficacité et l’éventail des choix offerts aux consommateurs, tout en révolutionnant légitimement les services, notamment dans des domaines tels que la santé, l’agriculture, les transports et la logistique.
M. Rochon : Je suis tout à fait d’accord avec ce qu’a dit Mark Schaan dans sa réponse. J’ajouterais peut-être ceci : en gros, l’intelligence artificielle est importante, mais nous devons comprendre qu’il faut repenser notre façon de travailler, repenser tout notre mode de fonctionnement, car ces outils vont nous permettre d’être plus productifs, plus efficaces et plus rapides.
Toutefois, lorsque nous adoptons ces nouveaux outils, il ne faut pas perdre de vue la nécessité de mettre en place des garde‑fous, car, comme vous l’avez souligné, ils offrent des possibilités tout aussi intéressantes aux acteurs malveillants qui les utiliseront à des fins répréhensibles. Dans le monde de l’innovation, des sciences et du développement économique où évolue M. Schaan, il est nécessaire de mettre en place des garde‑fous pour la société dans son ensemble, de sorte que lorsque ces outils sont adoptés, ils le soient de manière très responsable afin de se prémunir contre certains de ces dangers et risques. Au sein du gouvernement, nous avons déjà mis en place de nombreux contrôles, mais l’important est de sensibiliser davantage les fonctionnaires, de les former et de mettre en place les garde-fous appropriés afin de garantir une adoption appropriée.
La sénatrice Burey : Merci.
La sénatrice Hay : Auparavant, j’étais présidente et directrice générale de Jeunesse, J’écoute et de l’accélérateur JJ’E, qui a été lancé à l’échelle nationale au festival Elevate, puis à l’échelle internationale à Davos, en 2025. Jeunesse, J’écoute a commencé à utiliser l’intelligence artificielle et l’apprentissage automatique en 2017, et j’ai plaisanté avec le président fondateur, Ed Clark, et la fondatrice et bailleuse de fonds, Heather Reisman, tous deux de l’Institut Vector, sur le fait que Jeunesse, J’écoute, un organisme à but non lucratif, utilisait l’intelligence artificielle avant même que Vector ne soit lancé. J’ai retenu l’expression « au rythme de » que vous avez utilisée, car cet organisme à but non lucratif devait évoluer au rythme des jeunes, et l’intelligence artificielle l’a aidé à augmenter sa capacité de 250 %. Nous étions en terrain inconnu, comme tout le monde, et je pense que c’est toujours le cas en ce qui concerne l’intelligence artificielle, notamment en ce qui concerne la gouvernance des données, la souveraineté de l’intelligence artificielle ou les piles technologiques en nuage de l’intelligence artificielle. Merci d’être ici.
Notre étude porte notamment sur les garde-fous en matière de gouvernance des données et l’utilisation éthique de l’intelligence artificielle. Je pense qu’il existe une croyance commune au Canada — juste ou fausse, perçue ou réelle — selon laquelle il y a peu ou pas de gouvernance ou de garde-fous en place au Canada qui soient spécifiques à l’utilisation de l’intelligence artificielle, notamment en matière de stockage, de transfert et de souveraineté des données. Vous avez abordé ce sujet, j’aimerais donc que vous le développiez. La majorité des grandes entreprises spécialisées dans les données et l’intelligence artificielle sont américaines, en particulier dans le domaine du stockage et du transfert des données. Anthropic, OpenAI, AWS et Microsoft en sont des exemples, et elles sont toutes régies par les lois américaines, même en territoire canadien, ce qui rend impossible, à mon avis, la défense de notre souveraineté numérique et de nos frontières numériques, mais peut-être que je me trompe.
Si un décret présidentiel du président Trump était publié et obligeait AWS à divulguer ses données — disons les données de Jeunesse, J’écoute stockées chez AWS à Montréal après avoir transité par les États-Unis par l’intermédiaire de Twilio — que ferions-nous? Nous assistons également cette semaine à une situation entre le secrétaire américain à la Défense et Anthropic, où le gouvernement exige que l’entreprise abandonne ses garde‑fous, mais celle-ci refuse en raison du risque que le gouvernement utilise les données en question à des fins militaires ou pour surveiller les citoyens américains.
J’ai deux questions : alors que le Canada met en place son nuage souverain, comment s’y prendra-t-on, selon vous, pour mettre en place des garde-fous afin de protéger les données et les Canadiens sans pour autant entraver l’innovation?
Je crois que vous allez répondre à cette question.
Pourriez-vous également nous renseigner sur les moyens de nous prémunir contre les tentatives d’ingérence et d’infiltration de la part des États-Unis?
La présidente : Avant que vous ne commenciez, sachez que je vous accorde trois minutes supplémentaires pour répondre à ces questions.
La sénatrice Hay : J’ai utilisé tout mon temps de parole pour dire ce que j’avais pourtant noté sur une seule page. Comment est-ce possible?
M. Schaan : Je vais essayer d’être bref afin de laisser un peu de temps. D’abord, il est important que le comité et les Canadiens sachent que l’intelligence artificielle, que l’on considère souvent comme un domaine non réglementé, est en réalité assujettie à de nombreuses lois nationales qui offrent des mesures de protection fondamentales aux Canadiens. Notamment, la loi qui régit la protection de la vie privée dans le secteur privé, que le ministre cherche à moderniser afin de garantir un régime d’application efficace, contrôle déjà l’utilisation des renseignements personnels par les acteurs du secteur privé et prévoit des mécanismes efficaces pour garantir que le citoyen conserve son droit de consentement, d’accès et de contrôle, et que des garde-fous efficaces sont en place. Doit-on moderniser cette loi? Absolument, et c’est pourquoi le ministre s’y emploie, mais cela s’ajoute aux obligations propres à certains secteurs, notamment le secteur financier, où l’organisme de réglementation a publié des directives précises sur l’utilisation de l’intelligence artificielle. Il en va de même pour les organismes de réglementation des transports et de la santé, notamment en ce qui concerne l’utilisation de l’intelligence artificielle dans les appareils médicaux.
Bien que nous ne disposions pas encore d’une loi générale portant précisément sur l’intelligence artificielle au Canada, nous avons en place un certain nombre de contrôles efficaces qui jouent un rôle très important en matière de protection.
Pour en venir à la deuxième question, cela ne nous rend toutefois pas invulnérables, en particulier face aux possibilités de coercition étrangère et d’utilisation abusive des données. C’est l’une des raisons pour lesquelles nous renforçons les capacités souveraines de notre pays, et c’est pourquoi nos investissements dans les infrastructures sont si importants. Je pense que le discours du premier ministre à Davos a souligné la nécessité de trouver une troisième voie entre les puissances hégémoniques et les fournisseurs à très grande échelle qui nous permette réellement de disposer d’une certaine autonomie stratégique dans ce domaine. Voilà pourquoi l’investissement de 2 milliards de dollars dans les infrastructures est vraiment essentiel.
Cela dit, des approches intéressantes se profilent à l’horizon, tant sur le plan juridique que technologique, qui pourraient aider à résoudre certains de ces problèmes, comme la coercition étrangère. L’une d’elles consiste à déterminer s’il est possible de transférer le panneau de contrôle qui sert notamment à gérer le nuage à un exploitant canadien qui serait en fait l’exploitant de facto. Il s’agit essentiellement d’une solution technologique qui transfère le contrôle du nuage, par exemple, à un exploitant canadien.
Ensuite, il faut déterminer s’il est possible d’utiliser des techniques telles que le chiffrement afin que, même si ce décret était adopté, l’entreprise ne dispose pas d’un contrôle absolu sur les données. En effet, si les deux clés de chiffrement — c’est‑à‑dire celle détenue par l’exploitant du nuage et celle détenue par l’intéressé — nécessitent un consentement, l’entreprise ne pourra jamais accéder aux données sans le consentement de l’intéressé.
Il existe donc des solutions technologiques qui peuvent accompagner certaines de ces solutions juridiques, mais je pense que la question plus générale qui se pose est : comment trouver une troisième voie qui permette au Canada d’avoir une autonomie stratégique dans ce domaine? Pour cela, nous essayons de former des champions canadiens, de mettre en place les infrastructures nécessaires et de veiller à ce que nos lois soient en phase avec la notion de souveraineté et soient assorties de contrôles et de capacités efficaces dans cette nouvelle ère moderne.
La sénatrice Hay : Je vais pousser un peu plus loin, sachant comment ces entreprises américaines ont réagi lorsque Donald Trump a déclaré qu’il pouvait exiger des données. Microsoft a d’abord refusé, puis a récemment capitulé.
Êtes-vous convaincu que si un décret était pris à l’encontre d’AWS — « A » signifiant Amazon, propriété de Jeff Bezos — les données en territoire canadien seraient en sécurité jusqu’à ce que nous construisions nos propres infrastructures?
M. Schaan : C’est là que ces solutions technologiques prennent tout leur sens. Il s’agit certainement d’un élément important à prendre en considération en ce qui concerne les données gouvernementales hébergées et gérées par les organismes gouvernementaux. Cela dit, les solutions technologiques telles que le chiffrement à deux clés et certains accès aux panneaux de contrôle sont de plus en plus utilisées.
Je ne peux pas vous donner aujourd’hui l’assurance que toutes les données canadiennes sont protégées, mais je pense que dans le cadre de l’application actuelle de la Clarifying Lawful Overseas Use of Data Act, ou CLOUD Act, qui exige l’obtention d’un mandat auprès d’une entité pour pouvoir demander l’accès à ces données, certaines mesures de protection ou de précaution sont en place et nous permettent de maintenir un contrôle important, même dans certaines situations anormales.
La sénatrice McPhedran : Merci d’avoir pris le temps de venir nous rencontrer en personne.
Comme vous le savez certainement, OpenAI et d’autres fabricants de robots conversationnels alimentés par l’intelligence artificielle font actuellement l’objet de plusieurs poursuites judiciaires aux États-Unis pour avoir prétendument causé préjudice à des jeunes en les poussant à s’automutiler, voire à se suicider. Nous savons que les dirigeants d’OpenAI ont récemment été convoqués à Ottawa. Vous avez peut-être participé à cette conversation concernant le fait qu’ils n’aient pas averti les autorités de l’activité sur les comptes de la personne responsable de la fusillade survenue dans une école, à Tumbler Ridge.
Vous parlez de confiance et vous établissez un lien avec les garde-fous. Pouvez-vous nous dire, s’il vous plaît, quels instruments juridiquement contraignants protègent actuellement les Canadiens et de quels instruments juridiquement contraignants les Canadiens ont besoin pour bénéficier d’une protection continue?
M. Schaan : Merci beaucoup.
Je vais développer la réponse que j’ai donnée à votre collègue. Les lois telles que la Loi sur la protection des renseignements personnels et les documents électroniques encadrent de manière fondamentale l’utilisation des renseignements personnels dans bon nombre de ces situations. Voilà pourquoi la modernisation proposée de cette loi comprend plusieurs nouveaux éléments. En vertu de la loi actuelle, le consentement est requis pour l’utilisation de renseignements personnels, et les entreprises sont tenues de mettre en place un certain nombre de mesures lorsqu’elles transmettent ou utilisent de tels renseignements ou y consentent, même dans le contexte d’un algorithme.
Nous estimons qu’il existe un réel besoin de modernisation dans plusieurs domaines. En ce qui concerne les robots conversationnels, il est important qu’ils signalent clairement à l’utilisateur qu’il interagit avec un système décisionnel automatisé. Lorsque je fournis des renseignements personnels à ce que je crois être un service tiers, suis-je informé au préalable qu’il s’agit en réalité d’un service automatisé? Lorsqu’il prend une décision me concernant, comment puis-je savoir quels renseignements personnels ont été utilisés pour en arriver à cette décision? C’est un autre aspect que nous jugeons important.
La troisième chose que je veux mentionner est la protection de l’identité numérique complète et des renseignements personnels en notre possession. Pensons aux hypertrucages. J’estime que chacun devrait pouvoir contrôler les images de soi et autoriser ou non leur diffusion, comme c’est le cas pour les manifestations analogiques ou physiques de son identité.
Ce sont là des lacunes que nous cherchons à combler, selon moi.
En ce qui concerne les plateformes en ligne et les robots conversationnels dans le domaine de la consultation, les Canadiens s’attendent à ce que les plateformes en ligne soient munies de protocoles de sécurité et de pratiques de signalement robustes afin de protéger les utilisateurs. Nous travaillons en collaboration avec nos collègues du ministère de la Justice du Canada, du ministère du Patrimoine canadien et de Sécurité publique Canada, qui étaient tous présents lors de la discussion que vous avez mentionnée et qui a eu lieu plus tôt cette semaine dans le but d’examiner les mesures actuellement en place pour protéger les Canadiens, en particulier les enfants, lorsqu’ils sont en ligne, notamment leur vie privée, mais aussi leurs interactions.
Nous avons des outils à notre disposition, notamment le Code criminel et un certain nombre d’obligations de diligence en matière d’information en cas de danger imminent, mais cela ne veut pas dire que tout est parfait. Je pense que le gouvernement se penche actuellement sur ces lacunes, en particulier à la suite des événements survenus récemment.
La présidente : Monsieur, je voudrais revenir sur la question de la sénatrice McPhedran. Je réfléchis aux préjudices avérés et potentiels, et l’un des domaines dans lesquels nous utilisons beaucoup l’intelligence artificielle est celui des soins de santé. Lorsqu’une personne donne son consentement avant d’utiliser un appareil personnel pour, par exemple, contrôler une maladie chronique, a-t-on prévu dans les modalités d’utilisation de cet appareil que, à mesure que se succèdent rapidement et à un rythme effréné les nouvelles versions de cette technologie, il faut demander à nouveau le consentement de la personne afin qu’elle soit informée des changements et sache à quoi s’en tenir?
M. Schaan : Dans le contexte de la Loi sur la protection des renseignements personnels et les documents électroniques, l’utilisation de renseignements personnels nécessite un consentement éclairé et doit se limiter aux tâches ou fonctions pour lesquelles ce consentement a été donné.
L’équilibre que nous essayons d’atteindre dans le cadre de la modernisation consiste à garantir que le consentement reste éclairé. Vous et moi avons mieux à faire que de passer notre temps à cliquer sur « Accepter » pour autoriser la communication ou l’utilisation de nos renseignements. Ce que nous recherchons pour trouver cet équilibre, c’est la mise en place de nouveaux mécanismes permettant aux particuliers de donner leur consentement actif en cas de nouvelles utilisations ou versions et d’étendre ce consentement aux utilisations justifiées par un intérêt commercial légitime, un aspect à l’égard duquel les Européens ont accompli un travail remarquable. Par exemple, si je commande un colis auprès d’un distributeur en ligne qui fait systématiquement appel à un service de messagerie pour expédier ses colis, mon autorisation de la transmission de mon adresse, de mon nom, de mes renseignements généraux et de mon numéro de téléphone devrait être implicite. Il s’agit là d’une extension de l’utilisation des renseignements fournis dans un intérêt commercial légitime.
Cependant, comme vous le soulignez, lorsque cela se manifeste dans un contexte totalement différent, une nouvelle demande de consentement s’impose. Par exemple, si un détaillant qui détient mes renseignements souhaite les fournir à un tiers qui vend un service complètement différent, il doit demander mon consentement explicite, car il ne s’agit pas d’une fonction connexe. C’est l’équilibre que nous voulons atteindre.
La sénatrice Greenwood : Ma question concerne Tumbler Ridge. Je viens de Colombie-Britannique, donc ce qui s’est passé là-bas me préoccupe évidemment beaucoup. Je vais simplement répéter quelques questions au cas où vous auriez quelque chose à ajouter, puis j’aimerais vous poser d’autres questions.
Quelles mesures le gouvernement prend-il pour créer et faire respecter un cadre juridique qui pourrait empêcher que des tragédies telles que celles de Tumbler Ridge et l’absence d’intervention d’OpenAI ne se reproduisent à l’avenir? Que faites-vous pour protéger les gens contre de telles situations? J’imagine que cela inclut des structures de gouvernance et l’encadrement juridique des entreprises.
Que fait le gouvernement pour tenir les entreprises responsables si elles négligent de signaler des situations comme celle-là ou de communiquer des renseignements qui risquent de mener à une tragédie?
Si vous souhaitez approfondir vos réponses aux questions précédentes, allez-y. Si vous n’avez rien à ajouter, j’accepterai également cette réponse.
M. Schaan : Tout d’abord, j’aurais dû mentionner dès le début la tragédie incroyable qui s’est produite à Tumbler Ridge, les nombreuses pertes humaines et à quel point c’était horrible de voir des jeunes souffrir à cause d’un agresseur. Évidemment, nous devons faire en sorte qu’une telle tragédie ne se reproduise plus jamais.
Comme je l’ai dit, je pense que les Canadiens s’attendent à ce que les plateformes en ligne soient munies de protocoles de sécurité et de pratiques de signalement robustes. Nous examinons notre boîte à outils actuelle avec tous nos partenaires, comme le ministère de la Justice du Canada, le ministère du Patrimoine canadien et Sécurité publique Canada. Nous disposons tous d’outils, qu’il s’agisse des lois régissant la protection de la vie privée dans le secteur privé, de la future loi visant à lutter contre les préjudices en ligne ou de certains aspects du Code criminel. Nous mettons tous ces outils à contribution. Plus précisément, je précise que le gouvernement a rencontré les responsables de la plateforme en question au sujet de ses protocoles de sécurité afin de souligner l’importance de faire appel aux forces de l’ordre lorsqu’il existe un risque crédible de préjudice.
Nous allons continuer de collaborer avec la plateforme et les fournisseurs de services en ligne sur cette question, et nous réfléchissons activement aux mesures nécessaires pour prévenir tout préjudice futur, en examinant à nouveau l’ensemble des outils potentiels afin de nous assurer que nous utilisons les bons. Je pense que certains d’entre eux doivent supporter une partie du fardeau. Les lois régissant la protection de la vie privée dans le secteur privé ont un rôle à jouer concernant la communication de renseignements personnels et l’obtention du consentement à cette fin. Je pense que le Code criminel a un rôle à jouer en ce qui concerne le risque de préjudice et le risque imminent de violence. Une loi visant à lutter contre les préjudices en ligne pourrait jouer un rôle en ce qui concerne le contenu et ce genre de considérations. Nous examinons toutes ces possibilités.
La sénatrice Greenwood : Nous n’avons pas beaucoup de temps. Nous ne pouvons pas laisser cela se reproduire. Quelles mesures comptez-vous mettre en place pour responsabiliser les entreprises? Comment allez-vous garantir la mise en place de ces mesures et des cadres juridiques correspondants?
J’ai une autre question. Je suis toujours très intéressée lorsque j’entends parler de « souveraineté des données ». Je suis nehiyaw, et la souveraineté des données autochtones est un domaine que nous continuons d’explorer et dont nous cherchons à déterminer la nature exacte. Cela ajoute une tout autre dimension à la propriété, au contrôle et à la possession des données ainsi qu’à l’accès à ces dernières, en particulier pour les Premières Nations, les Inuits et les Métis de ce pays. Pouvez‑vous me dire comment vous tenez compte de cet aspect dans vos activités?
M. Schaan : La consultation et la participation des peuples autochtones, y compris le rôle que jouent les nations dans l’affirmation de leur souveraineté numérique et leur capacité à le faire, ont été des considérations importantes dans l’élaboration de la stratégie nationale qui sera bientôt dévoilée.
Vous avez tout à fait raison de dire que cela complique les choses. Je dirais toutefois que cette complexité supplémentaire offre également des occasions uniques. Par exemple, l’aménagement des infrastructures numériques offre des possibilités intéressantes pour établir des relations entre les nations autochtones et construire de nouvelles infrastructures numériques plus souveraines afin de renforcer les capacités au pays pour ce qui est d’affirmer le contrôle, l’accès et la possession différemment de ce qui est actuellement possible.
Cela dit, je pense que nous avons compris la nécessité d’adopter une approche fondée sur les distinctions, car la situation varie selon les contextes et les communautés. La fourniture de renseignements numériques et la souveraineté dans le domaine des soins de santé varient considérablement selon l’endroit où l’on se trouve. Nous essayons de mener les prochaines étapes de manière réfléchie et concertée.
M. Rochon : M. Schaan a parlé, à juste titre, de la Loi sur la protection des renseignements personnels et les documents électroniques, qui régit la protection de la vie privée et s’applique aux entreprises. Au sein du gouvernement du Canada, nous avons la Loi sur la protection des renseignements personnels et la Loi sur l’accès à l’information, toutes deux rédigées en 1983. La Loi sur la protection des renseignements personnels n’a jamais été modernisée. Vous pouvez imaginer le type de règles qui sont en vigueur. Vous connaissez sans doute la Déclaration des Nations unies sur les droits des peuples autochtones, qui nous oblige à mettre à jour ces lois. Nous travaillons actuellement à mettre à jour ces deux lois. L’année dernière, nous avons déjà commencé à consulter les Autochtones au sujet de la Loi sur l’accès à l’information. Nous prenons cela très au sérieux et nous nous préparons à mener des démarches parallèles pour ces deux lois en ce qui concerne la consultation des communautés autochtones.
La sénatrice Senior : Je suis captivée par vos propos, alors merci. Je voudrais adresser cette première question à M. Rochon et, peut-être, à Mme Beckles au sujet du travail que vous effectuez à l’interne avec la fonction publique.
Nous savons que des réductions d’effectifs sont prévues dans la fonction publique, si elles ne sont pas déjà en cours. Y a-t-il un projet pilote ou autre initiative du genre en cours en matière d’intelligence artificielle? Avez-vous des preuves de l’efficacité potentielle de cette technologie? Pensez-vous que son utilisation remplacera une partie du personnel?
M. Rochon : Je vous remercie de la question. Je vais répondre à ma façon, et Mme Beckles voudra peut-être ajouter quelque chose à la façon dont je vais expliquer le cadre d’adoption de l’intelligence artificielle au sein de la fonction publique fédérale. Ce n’est pas un phénomène nouveau. Ce n’est pas comme si nous étions sur la ligne de départ à attendre le feu vert pour commencer à adopter l’intelligence artificielle. Elle est déjà couramment utilisée dans les domaines scientifiques depuis plus de 10 ans maintenant. Bien sûr, avec l’avènement et l’avancement de l’intelligence artificielle agentive, cette technologie est devenue plus accessible à l’ensemble des fonctionnaires.
J’ai mentionné dans ma déclaration préliminaire que nous avons créé le Registre de l’intelligence artificielle, qui demeure un produit minimum viable pour l’instant. C’est une version bêta de ce à quoi ressemblera la version définitive du Registre de l’IA, mais par souci de transparence, nous voulions le publier rapidement afin que les Canadiens puissent voir où l’IA est employée. Ce registre recense déjà plus de 400 projets, ce qui témoigne du fait que les ministères et organismes adoptent l’IA à un rythme élevé dans tous les types de services, comme les services des bureaux d’appui où les fonctionnaires font de la traduction ou de la transcription pour un comité comme celui-ci. Certains milieux commencent également à envisager des solutions pour améliorer les services aux citoyens.
À mesure que toutes ces solutions d’IA sont adoptées, nous devons nous occuper des questions suivantes : Les gens sont-ils formés? Les fonctionnaires comprennent-ils vraiment comment utiliser ces outils qui sont mis en place? Y a-t-il des chevauchements? Le Registre de l’IA sera très utile pour voir où les milliers de graines ainsi semées portent leurs fruits et pour s’assurer que ces changements sont adoptés de façon responsable. Nous menons actuellement des consultations sur cette version bêta du registre pour demander aux Canadiens sur quels aspects de l’adoption de cette technologie ils veulent être informés.
Ce qui n’est pas tout à fait clair, c’est l’ampleur des bénéfices et de la valeur que nous allons retirer de cette technologie. Intuitivement, on peut dire qu’il y aura des gains d’efficience et de productivité, mais on ne peut pas vraiment prévoir des chiffres précis en disant par exemple : « En adoptant telle solution d’IA, on pourra se départir de ces trois fonctionnaires. » C’est un peu comme si on me demandait quelle a été la valeur de l’arrivée d’Internet et si Internet a remplacé des fonctionnaires. Internet est un outil précieux qui permet aux fonctionnaires de travailler différemment, mais ça demeure un outil. De même, l’IA est un outil très puissant qui permettra aux fonctionnaires de penser différemment et d’offrir les services différemment. Comment emploieront-ils cet outil? Je ne pense pas que l’IA va remplacer un fonctionnaire, mais je pense qu’un fonctionnaire qui comprend comment exploiter l’IA va, lui, remplacer un fonctionnaire qui refuse de s’y adapter. Voilà comment je vois les choses.
L’examen exhaustif des dépenses qui est en cours a des répercussions sur les employés. Il y aura une réduction de l’effectif, mais cela n’a rien à voir avec l’adoption de l’IA. Cette transformation est en cours. L’IA ne remplacera pas les employés visés en ce moment par la réduction des effectifs, mais elle va faire partie du paysage de la fonction publique fédérale de demain.
La sénatrice Senior : Je vous remercie de votre réponse, et je comprends cette distinction, mais je ne peux m’empêcher de voir un certain rapprochement entre les deux. S’il y a des réductions importantes, il est possible que les employés qui sont remplacés parce qu’ils ne s’adaptent pas à ces nouveaux outils n’aient pas besoin d’être remplacés par d’autres employés, non?
M. Rochon : C’est logique, en effet. Il ne fait aucun doute qu’intuitivement, on peut croire que dans un contexte de réduction des effectifs, l’introduction de certains de ces nouveaux outils pourrait aider à compenser la perte d’employés, mais ce n’est pas le calcul qui est fait.
La sénatrice Senior : Je comprends cela, et je pense que ces changements ne font que commencer.
M. Rochon : En effet.
Kara Beckles, directrice exécutive, Division de la vie privée et des données, Secrétariat du Conseil du Trésor du Canada : Dans le Registre de l’intelligence artificielle, le premier cas d’utilisation de l’IA remonte à 1994, alors ce n’est pas quelque chose de nouveau que nous essayons d’apprivoiser. Dans bon nombre de ces cas d’utilisation plus anciens, il ne s’agissait pas de remplacer quelque chose. C’était plutôt : « Nous avons un problème. L’IA est un outil, et elle peut nous aider à résoudre ce problème particulier ». Voilà comment nous l’abordons aujourd’hui. Nous avons des situations où nous voulons offrir de meilleurs services aux Canadiens ou pour lesquels nous voulons analyser ou employer des données plus efficacement, et il se trouve que l’IA est le meilleur outil pour parvenir à nos fins.
Cette transformation aura des répercussions sur la fonction publique. Lorsque nous sommes passés de la dactylo à l’ordinateur, les sténographes ont disparu, mais nous avions besoin de plus de techniciens aptes à faire fonctionner les logiciels et le matériel. C’est la nature des emplois qui a changé.
Les préoccupations au sujet des répercussions sur la fonction publique étaient les mêmes à l’époque que ce que nous voyons aujourd’hui. C’est une période de transformation, et l’important, c’est la façon dont nous aidons nos employés durant cette période.
[Français]
Le sénateur Boudreau : Vous avez tous les deux fait allusion à ma question dans vos remarques d’introduction. Selon le peu de recherche et de lecture que j’ai fait en me préparant pour ce comité, il me semble qu’il y a deux camps divergents dans la société civile : ceux qui veulent aller de l’avant avec l’IA à tout prix et à toute vitesse pour en bénéficier davantage, et ceux qui veulent y aller au ralenti afin que la réglementation soit en place pour assurer une croissance plus contrôlée. Vous y avez fait allusion dans vos propos.
Si l’on compare le Canada à d’autres administrations, ma première question serait la suivante : où nous situons-nous sur cette échelle? Est-ce que nous sommes en première place, en dernière place? J’ai l’impression que nous voulons foncer un peu trop vite et que nous ne mettons pas assez d’accent sur la réglementation. J’aimerais savoir où nous nous situons mondialement comme société et comme gouvernement.
M. Schaan : Merci pour la question. Le développement de la gouvernance de l’IA et sa croissance dans une zone économique internationale sont très intéressants. [Difficultés techniques] de la situation aux États-Unis à l’heure actuelle, nous avions un parcours presque identique à l’Union européenne, aux États‑Unis, et à l’Australie, qui semblaient vouloir bâtir une gouvernance de l’IA de façon responsable avec des considérations de prudence et de sécurité pour leurs citoyens. C’est la raison pour laquelle le Canada a bâti le Partenariat mondial sur l’intelligence artificielle dans un ancien G7 et a fait de la coordination dans les organisations comme l’OCDE.
Avec la nomination du nouveau président des États-Unis et le Sommet pour l’action sur l’intelligence artificielle qui s’est tenu à Paris l’année dernière, le gouvernement des États-Unis a indiqué que maintenant, la réglementation et les considérations de sécurité sont une inhibition, un fardeau pour les organisations et les entreprises américaines; il a d’ailleurs affirmé qu’il souhaitait participer à une stratégie pour accélérer l’utilisation de l’IA.
Le Canada vise plutôt l’équilibre. L’Union européenne a continué ses efforts avec une zone de réglementation. On a un projet de loi pour bâtir une capacité, mais c’est vraiment peu. On en est au début de la réglementation. Les États-Unis sont maintenant vraiment obsédés par une IA sans réglementation. Le Canada est dans la moyenne. Nous avons une incroyable capacité en matière de recherche. Ce n’est pas vraiment clair que le Canada a la capacité de commercialiser et de procéder à l’adoption de l’IA à la même vitesse que les États-Unis; par contre, avec la stratégie nationale, le Canada a une occasion de développer une capacité réelle d’accélérer sa fonction dans le domaine de l’IA, mais avec une responsabilité et une prudence qui sont absentes des actions des autres. Voilà quelle est la place du Canada actuellement dans la zone mondiale de l’IA.
Le sénateur Boudreau : Ma deuxième question s’adresserait peut-être plutôt à M. Rochon. Tous les ministères et les agences du gouvernement souhaiteront utiliser l’intelligence artificielle à un moment ou un autre. On a tendance à développer plusieurs silos. Le gouvernement fédéral est construit verticalement et pas nécessairement horizontalement. Lorsqu’on veut réaliser des projets horizontalement, cela ne fonctionne pas toujours très bien. Je prends l’exemple de Phénix. Que va faire le gouvernement pour que le développement de l’intelligence artificielle au sein du gouvernement se fasse de façon systématique, contrôlée et uniforme partout dans les différents ministères plutôt que d’avoir 30 ou 40 différents silos?
M. Rochon : Merci pour la question. C’est très astucieux, et je suis d’accord avec la façon dont vous avez décrit l’environnement. Pour répondre à votre question, il faut comprendre que l’IA est basé sur tout un écosystème numérique. Ce n’est pas juste la question de l’IA, mais aussi de notre manière de gérer les projets numériques. Vous avez parlé de Phénix, par exemple.
Malheureusement, en tant que dirigeant principal de l’information pour le gouvernement, je remarque que, justement, la responsabilité est trop partagée. Il y a Services partagés Canada et il y a le Service numérique canadien dans un autre ministère. Il y a trop de ministères. Il n’y a pas vraiment de noyau qui fixe cette vision horizontale pour tous les projets numériques. On a une dette technique qui est assez sévère. Il faudra adopter une approche où nous pourrons prioriser les ressources — non seulement au point de vue de l’argent, mais aussi des capacités — afin de transformer et de moderniser nos systèmes, puis d’adopter l’IA de façon responsable.
De mon côté, ce que nous faisons pour le Secrétariat du Conseil du Trésor du Canada, c’est de mettre en place une stratégie. On a demandé à ce qu’il y ait un carrefour pour l’intelligence artificielle dans la stratégie justement pour qu’on puisse prendre ces décisions. De plus, le registre est un outil qui nous permettra de faire le suivi à cet effet.
La sénatrice Petitclerc : Merci d’être parmi nous. C’est fascinant. C’est très intéressant. On voit évidemment toutes les occasions favorables qui sont là. Je veux revenir sur les mesures de sauvegarde, les risques et la responsabilité du gouvernement. Ma question va un peu dans le sens de celles du sénateur Boudreau et de la sénatrice McPhedran. Elle vise les populations plus vulnérables, comme les enfants et les jeunes. Je m’intéresse beaucoup aux jeunes, aux enfants. Il y a un rapport d’UNICEF qui traite des occasions favorables pour les jeunes dans le domaine de la santé et aussi des risques. L’approche du gouvernement vise-t-elle à appliquer un principe de précaution ou est-ce une approche de réaction?
Je vais faire un parallèle qui est probablement très boiteux; si je regarde l’expérience des écrans, des médias sociaux et des jeunes, je crois qu’on peut dire qu’on est en mode réactif et qu’on n’a pas appliqué ce principe de précaution. On regarde les pays qui disent non — l’Australie vient d’ailleurs de légiférer là‑dessus —, on veut rattraper quelque chose parce qu’on n’a pas bien évalué les risques humains et on réagit. C’est ce qui m’inquiète avec l’intelligence artificielle : avons-nous cette capacité et ce désir? Fait-on le choix de dire qu’on ne prendra pas de risque? On va vraiment y aller avec un principe de précaution, surtout quand il s’agit de groupes vulnérables.
M. Rochon : C’est davantage une question pour le ministère de M. Schaan que pour le mien. Pour répondre à la question de votre collègue il y a une minute, il y a un enjeu économique qu’il ne faut pas oublier non plus. Aller lentement nuira justement à ces possibilités économiques. Je ne veux pas dire que les enjeux économiques doivent être la priorité, mais il faut tout prendre en considération et évaluer les risques.
Il y a justement des principes qu’il faut introduire; il n’y a pas de doute là-dessus. Or, votre exemple des médias sociaux est très à propos, je crois. Il faut trouver une solution où l’on peut faire avancer et adopter cette nouvelle technologie, sinon on aura des problèmes du point de vue concurrentiel envers nos partenaires mondiaux. Il faut absolument qu’on aboutisse à une solution où l’on va créer un écosystème au Canada et adopter cette technologie de façon très responsable. C’est là où est l’enjeu. Tous les outils et toutes les lois qu’il faut moderniser influencent l’enjeu, et il faut être en mesure d’instaurer des principes et des règles sans nécessairement savoir que...
Malheureusement, la technologie évolue très rapidement. On parle de l’IA. Dans deux ans, on parlera d’un nouvel ordinateur quantique qui changera complètement les enjeux une fois de plus. C’est très compliqué et, malheureusement, si l’on adopte une approche trop réfléchie et trop lente, on manquera le bateau sur beaucoup d’enjeux économiques. Mon collègue M. Schaan veut peut-être ajouter des éléments d’information.
M. Schaan : J’aimerais souligner quelques aspects de votre question. D’abord, il est important de noter que notre aspiration est d’avoir un régime qui a la capacité de répondre à la technologie ex ante et qui n’est pas lié seulement aux efforts ex post. C’est très difficile, quand une technologie existante a blessé les citoyens ou leur a causé des préjudices, de tout reprendre à partir du début pour lancer une nouvelle technologie. C’est difficile. Comme mon collègue l’a dit, c’est une technologie qui avance très rapidement.
Quelles sont les capacités du gouvernement pour ce qui est de développer des stratégies? Il y a quelques aspects intéressants et plus importants. Dans notre projet de loi, nous avons adopté des fonctions ou des façons de faire en étant guidés par des principes. Ce n’est pas une loi ou un projet de loi si particulier. Cela se trouve vraiment dans la zone des principes qui sont en mesure d’évoluer avec les technologies. Dans la modernisation de la législation sur la vie privée, il y a une possibilité d’inclure un code de conception pour les enfants visant à les protéger des risques accrus pour les renseignements relatifs à leur vie privée. C’est vraiment au début du concept de la technologie.
Deuxièmement, nous progressons aussi dans la zone de la recherche. Dès le début, il est important de pouvoir évaluer les préjudices possibles de la technologie. Il faut aussi collaborer avec les industries et les entreprises et utiliser les bons outils et les bonnes technologies. Cela inclut notre nouveau centre de sécurité sur l’IA, qui fait des recherches dans les zones d’évaluation de l’IA. Quelles sont les capacités et quels sont les outils permettant de bien évaluer d’avance les possibilités liées aux technologies et les algorithmes qui causent des préjudices aux citoyens?
Troisièmement, il s’agit d’établir une coopération avec les entreprises et de concevoir ensemble les normes et les protocoles afin de tous progresser au rythme de la technologie et de ne pas seulement être liés à une loi précise définissant des règles ou des fonctions plus précises.
[Traduction]
La présidente : Merci. Vous avez fini juste à temps. J’aimerais ajouter rapidement quelque chose.
Dans le monde de la recherche, il y a ce qu’on appelle le principe de précaution. Or, de nos jours, les innovateurs ont cessé d’appliquer ce principe aux nouvelles technologies. À mesure que nous avançons, nous constatons un écart temporel assez important par rapport à certaines choses dont vous parlez. Il est absolument impossible de suivre le rythme.
Que fait-on pour essayer de revenir à une mentalité davantage axée sur le principe de précaution?
M. Schaan : Il y a deux zones qui sont très utiles. La première consiste à faire progresser la science de l’évaluation. Il s’agit notamment d’avoir des outils qui, à partir de mesures et d’algorithmes, permettent de comprendre et d’anticiper les préjudices potentiels. Ce domaine comprend par exemple l’évaluation des risques chimiques ou biologiques liés aux algorithmes ou à la création, à l’utilisation ou à la propagation de produits synthétiques. Nous avons besoin de ces outils d’évaluation pour aider à la conception et au développement.
La deuxième, comme je l’ai mentionné, est l’intégration d’approches fondées sur des principes dans nos cadres législatifs, y compris la prise en compte et le concept d’une obligation de diligence et l’établissement de normes de responsabilité dans le cadre de l’application de cette obligation de diligence. Cela transcende les cas d’utilisation et les technologiques spécifiques, et repose plutôt sur le principe selon lequel un acteur doit assumer sa responsabilité dans les cas où il n’invoque pas ou ne transmet pas son devoir de diligence aux utilisateurs finaux des systèmes qu’il met sur pied.
Voilà comment nous pouvons espérer en arriver à un point où nous n’aurons pas à nous demander si la législation existante couvre telle nouvelle capacité ou tel nouvel outil en particulier. Ce que nous voulons, c’est établir des principes qui s’appliqueront à toute nouvelle innovation, quelle qu’elle soit, afin de garantir que les préjudices potentiels ont été pris en considération et que les mesures adéquates ont été mises en place pour aider les utilisateurs à déployer et à employer cette technologie correctement.
La sénatrice Muggli : Si nous avions à générer un nuage de mots à la fin de cette étude, le plus prévalent serait probablement « garde-fous », suivi de termes tels que « outils », « règles », « principes » et « LPRPDE ». Voilà ce à quoi cela ressemblerait.
J’aimerais revenir un peu en arrière, car nous ne faisons que commencer cette étude. Vous êtes les premiers témoins, en fait.
Dans le cadre de cette étude, nous voulons nous assurer de mettre l’accent sur les solutions. Pourriez-vous nous dire sur quoi nous devrions travailler le plus, selon vous? Devrions-nous mettre en place des garde-fous? Devrions-nous avoir de nouveaux instruments juridiquement contraignants? Que devrions-nous proposer au gouvernement pour répondre aux besoins les plus importants dans ce domaine?
M. Rochon : Il est important de se pencher sur les garde-fous, mais en contrepartie, il faut aussi trouver comment amener les Canadiens à adopter concrètement cette technologie. Au gouvernement, nous avons commencé à mettre en place des garde-fous dès 2019. En 2025, nous nous sommes rendu compte que nous devions modifier notre approche. Nous étions occupés à mettre en place des règles, des évaluations de l’incidence algorithmique et des avertissements, puis nous avons constaté que toutes ces règles faisaient peur aux fonctionnaires, qui pour la plupart n’osaient plus utiliser quoi que ce soit. Ce n’était pas une approche productive.
Cela a fait en sorte que, même si l’adoption de l’IA au sein du gouvernement avançait, cela ne se faisait pas à un rythme suffisamment rapide pour maintenir une main-d’œuvre concurrentielle. Il faut donc trouver un équilibre.
La sénatrice Muggli : La mise en place de garde-fous équivaut-elle à établir des principes?
M. Rochon : Entre autres choses, oui, absolument.
La sénatrice Muggli : Comment définissez-vous ces garde‑fous?
M. Rochon : Il y aura une certaine confusion en ce qui concerne les garde-fous pour la fonction publique fédérale par rapport à ceux pour le reste du Canada. Je vais céder la parole à Mme Beckles, la spécialiste de ces règles.
Mme Beckles : Les garde-fous qui sont actuellement en place pour le gouvernement du Canada découlent de la Directive sur la prise de décisions automatisée, qui dit essentiellement que chaque fois que nous utilisons l’IA d’une manière qui aura une incidence quelconque sur la façon dont une personne accède aux services du gouvernement, sur sa vie ou même sur la décision d’accorder à une personne l’accès à un service, il y a un ensemble de règles à respecter. Selon ces règles, il faut réaliser une évaluation de l’incidence algorithmique, et la technologie doit faire l’objet d’un examen par des pairs. Il ne faut pas que ce soit une boîte noire. Il faut faire preuve de transparence et il faut que les gens sachent qu’ils interagissent avec une IA ou qu’on a fait appel à l’IA au cours du processus. Il doit y avoir un mécanisme de recours. L’adoption de l’IA au gouvernement est encadrée par tous ces garde-fous.
La sénatrice Muggli : Ces garde-fous sont-ils des mécanismes prévus par la loi?
Mme Beckles : Au sein du gouvernement, ces garde-fous ne sont pas inscrits dans la loi, car le Conseil du Trésor a mis en place une série de politiques que les fonctionnaires ont l’obligation de respecter. Ils sont donc tous obligatoires au sein du gouvernement.
La sénatrice Muggli : Devraient-ils être inscrits dans la loi? Devrions-nous rédiger des mesures législatives pour y inclure ces garde-fous?
M. Rochon : Je dirais que oui, mais je vais laisser M. Schaan répondre pour ce qui est des services externes, dont les ramifications pourraient être un peu plus complexes.
M. Schaan : Je vais commencer par reprendre un point que M. Rochon a souligné : je ne crois pas que ce comité a le pouvoir ou le luxe de décider si l’IA sera employée ou non au Canada. L’IA est déjà présente. Son adoption est déjà commencée et, dans bien des cas, comme dans l’exemple de Jeunesse, J’écoute, l’IA est un outil remarquable pour améliorer les services aux citoyens et atteindre efficacement les résultats souhaités pour les Canadiens. Une question intéressante sur laquelle ce comité peut se pencher est : compte tenu de ce que nous savons sur ce qui retient les Canadiens de profiter au maximum de cette technologie, que faut-il mettre en place pour faciliter son adoption dans la vie de tous les jours? Parmi les facteurs, il y a la question de la confiance envers la technologie, et c’est là que les garde-fous entrent en jeu.
Une autre question intéressante est : faut-il réglementer la technologie de l’IA elle-même, ou devrait-on plutôt réglementer l’IA de façon verticale? Autrement dit, avons-nous besoin d’une loi qui porte spécifiquement sur l’IA et qui couvre tous les algorithmes et tous les cas d’utilisation, ou allons-nous plutôt intégrer des dispositions dans la réglementation sur la santé, le transport, les services financiers et l’utilisation des renseignements personnels afin d’encadrer l’utilisation de ces divers outils? Je ne vous pousserai pas dans l’une ou l’autre de ces directions, mais fondamentalement, il serait utile d’avoir des recommandations qui précisent ce sur quoi il faut se pencher, peu importe la voie qui est adoptée.
À mon avis, ce que les Canadiens craignent de perdre par l’adoption de cette technologie peut être regroupé en quatre catégories : leurs données, leur emploi, leur souveraineté et l’humanité dans son ensemble. Comment pouvons-nous aider concrètement à apaiser ces préoccupations pour les Canadiens? En ce qui concerne la perte de données, nous devons mettre à jour nos lois sur la protection des renseignements personnels et réfléchir aux conditions et aux principes qui doivent être mis en place. Nous devons également trouver comment adopter une approche plus positive à l’égard de la souveraineté des données, ce qui ne se fait pas a posteriori, mais plutôt en mettant en place les conditions nécessaires pour assurer la souveraineté des données. Comment pouvons-nous permettre aux gens d’avoir une plus grande influence et leur offrir de meilleurs mécanismes de contrôle?
En ce qui concerne les emplois, comment entrevoyons-nous le perfectionnement des compétences pour nous assurer d’être prêts? Sans vouloir revenir trop sur les réponses aux questions précédentes, l’impact que l’IA aura sur la main-d’œuvre profitera d’abord aux individus avant de profiter aux entreprises, et nous devons réfléchir à la façon de transposer ces avantages individuels à la prochaine génération de travail à valeur élevée.
En ce qui concerne la perte de souveraineté, quelles sont les conditions préalables à mettre en place pour avoir les capacités souveraines dont nous pensons avoir besoin? Pour ce qui est du risque pour l’humanité dans son ensemble, quels sont les risques découlant d’une technologie comme l’intelligence artificielle générale ou d’un mauvais alignement des systèmes d’IA? La portée des enjeux que je viens de vous présenter est très vaste.
La sénatrice Muggli : Merci de nous avoir présenté ces quatre garde-fous.
La sénatrice Arnold : Je vous remercie d’être ici aujourd’hui. Je pense que mon cerveau est en train d’exploser. Vous avez mentionné à quelques reprises la fin de l’humanité dans son ensemble. Je crois que c’est effectivement quelque chose qui inquiète les Canadiens, mais qu’ils ne savent même pas vraiment de quoi il s’agit.
Nous parlons d’intelligence artificielle et d’outils, qui peuvent par exemple permettre à votre dermatologue de découvrir un mélanome. Super.
Mais qu’en est-il de l’intelligence artificielle générative? Avons-nous ce type de capacité au Canada en ce moment? Avons-nous un de ces énormes centres qui fait ce travail en ce moment?
M. Schaan : Nous avons des capacités génératives intégrées dans un certain nombre de capacités industrielles au pays. Nous sommes l’un des quatre seuls pays au monde à avoir une entreprise qui possède un grand modèle de langage. Il y en a beaucoup aux États-Unis, beaucoup en Chine, une en France et une au Canada. Cohere, l’entreprise canadienne qui possède un grand modèle de langage, fournit dans ce domaine des solutions qui s’intègrent à la culture d’une entreprise afin d’offrir des solutions agentives et génératives. Au Canada, elle offre ses services à RBC et à Bell Canada, pour ne nommer que ces deux exemples.
La sénatrice Arnold : C’est déjà intégré?
M. Schaan : Oui.
La sénatrice Arnold : Ces solutions sont intégrées à des outils ordinaires?
M. Schaan : C’est exact.
La sénatrice Arnold : Merci.
La présidente : Il nous reste cinq minutes pour poser des questions. Veuillez prendre les questions en note, puis nous fournir vos réponses par écrit.
La sénatrice Hay : Sénatrice Arnold, Jeunesse, J’écoute est en train de bâtir une solution d’IA générative avec Cohere en ce moment même.
Ma question pourrait être controversée. J’aimerais revenir sur la question des médias sociaux, dont nous avons parlé plus tôt, et sur les algorithmes qui sont en train d’être créés, ainsi que sur les conseils de sécurité auxquels les grandes entreprises invitent les organisations à participer. Je vais être très cynique ici, mais je vois cela plus comme une mascarade que comme une véritable tentative de faire la bonne chose.
Comment tiendrons-nous ces entreprises à plusieurs billions de dollars de valeur boursière responsables de leurs actes lorsqu’elles créent des algorithmes qui font que les jeunes doivent ensuite faire appel à des services comme Jeunesse, J’écoute pour obtenir de l’aide? Si ces entreprises peuvent créer des algorithmes qui servent à atteindre leurs objectifs comme elles le font actuellement, elles peuvent assurément en créer qui mettent l’accent sur la sécurité. C’est sûr qu’elles ont la capacité de le faire, mais ce n’est pas ce qu’elles font.
Je suppose que c’est ma question. Comment pouvons-nous tenir ces entreprises responsables de leurs actes?
La sénatrice McPhedran : Ma question découle d’un examen du Règlement sur l’intelligence artificielle que l’Union européenne a adopté en 2024. Ce règlement propose une approche à plusieurs niveaux et est très clairement axé sur la protection des êtres humains. Où, parmi les ministères fédéraux, travaille-t-on à légiférer pour protéger les Canadiens? Je ne parle pas de politiques, de principes ou de garde-fous, mais bien de mesures législatives.
La sénatrice Burey : Je pense qu’il y a une tendance qui se dégage. Nous parlons de responsabilisation, et c’était ma question. J’aurais aimé avoir plus de précisions. Vous avez parlé du Code criminel, du devoir de diligence et du coût de ne pas faire ce qui est juste, et je pense que nous aimerions savoir quelles sont vos suggestions à cet égard.
Monsieur Rochon, vous avez abordé la question du rendement du capital investi. Pour ma dernière question, j’aimerais que vous nous donniez plus de détails à ce sujet et que vous nous expliquiez où vous en êtes à cet égard.
La sénatrice Senior : Merci beaucoup pour votre ouverture et pour les renseignements que vous nous avez transmis. C’est très apprécié. Dans le même ordre d’idées que les deux dernières questions, j’aimerais en savoir plus sur la stratégie. Je ne sais pas si vous pouvez en parler plus en détail, puisqu’elle est censée être publiée au cours du premier trimestre de cette année. La stratégie abordera-t-elle la question de la responsabilisation? Y aura-t-il peut-être une loi? J’aimerais avoir une meilleure idée de ce que la stratégie couvrira et, plus précisément, j’aimerais savoir si elle tiendra compte des groupes et organisations en quête d’équité ainsi que de la diversité des genres.
La présidente : Honorables sénateurs, cela nous amène à la fin de notre premier groupe de témoins. Je tiens vraiment à remercier M. Schaan, M. Rochon et Mme Beckles de leurs témoignages d’aujourd’hui. Cette étude promet d’être très excitante. Merci.
Mesdames et messieurs les sénateurs, nous accueillons aujourd’hui par vidéoconférence, de l’Institut canadien de recherches avancées, Elissa Strome, directrice générale, Stratégie pancanadienne en matière d’intelligence artificielle. Merci beaucoup, madame Strome, de vous joindre à nous aujourd’hui, et merci de votre patience pendant ce retard. Vous disposerez de cinq minutes pour présenter votre déclaration préliminaire, après quoi les membres du comité vous poseront des questions. Madame Strome, la parole est à vous.
[Français]
Elissa Strome, directrice générale, Stratégie pancanadienne en matière d’IA, Institut canadien de recherches avancées : Merci beaucoup, madame la présidente. Bonjour, mesdames et messieurs les sénatrices et sénateurs. Je vous remercie de me permettre de discuter avec vous aujourd’hui.
[Traduction]
Je m’appelle Elissa Strome, et je suis la directrice générale de la Stratégie pancanadienne en matière d’intelligence artificielle à l’Institut canadien de recherches avancées, le CIFAR. Le CIFAR est une organisation de recherche mondiale basée au Canada. En activité depuis 1982, le CIFAR joue depuis maintenant plus de 40 ans un rôle central dans la mobilisation des chercheurs parmi les meilleurs au monde pour relever les défis les plus pressants de la société, y compris ceux liés à l’intelligence artificielle.
En 2017, le gouvernement du Canada a chargé le CIFAR d’élaborer la première stratégie nationale en matière d’IA au monde. Cette stratégie avait pour objectif d’attirer et de retenir les meilleurs talents en matière d’IA afin de faire avancer le leadership du Canada en matière de recherche, de formation et d’innovation dans le domaine de l’IA et d’ainsi placer le Canada sur la voie du succès à long terme. À ce jour, la Stratégie pancanadienne en matière d’IA a attiré plus de 130 chercheurs de premier plan dans le domaine de l’IA par l’entremise du programme des chaires en IA du CIFAR. Cette grappe de recherche sur l’IA est maintenant la troisième en importance au monde.
Cette incroyable base de recherche et de talents contribue à nos ambitions nationales d’accroître l’adoption et la commercialisation de l’IA, et de renforcer notre leadership mondial en matière de sécurité de l’IA. Depuis 2017, le Canada a fait des progrès importants dans la mise en place d’un écosystème d’IA. Nous avons une communauté dynamique de jeunes entreprises d’IA qui attire d’importants investissements en capital de risque. Nous constatons une croissance importante des emplois en technologie dans nos grands centres et, dans l’ensemble, le Canada se classe au huitième rang de l’indice mondial en matière d’IA. Avec le lancement de l’Institut canadien de la sécurité de l’IA, à la fin de 2024, la nomination récente du tout premier ministre de l’Intelligence artificielle et de l’Innovation numérique et l’élaboration d’une nouvelle stratégie nationale en matière d’IA très attendue ce printemps, le Canada est sur la bonne voie pour faire avancer son objectif de concrétiser les véritables avantages sociaux et économiques de l’IA. Il faudra toutefois adopter une approche coordonnée, ciblée et couvrant l’ensemble de l’écosystème pour réaliser la vision du Canada en matière d’IA. Au CIFAR, nous avons toujours cru qu’il est tout aussi important de comprendre les répercussions de l’IA sur la société que de faire évoluer ses capacités techniques, et nous accueillons très favorablement le travail du comité sur les risques sociaux et les répercussions sociétales de l’IA. Permettez-moi de m’arrêter un peu sur vos trois principaux domaines d’enquête.
Le premier domaine porte sur la gouvernance et la souveraineté de l’IA. La souveraineté de l’IA consiste à renforcer la capacité du Canada à mettre à profit l’IA pour en retirer des avantages sociaux et économiques à long terme. Il faut renforcer les capacités nationales en matière de recherche, de talents, d’infrastructures et de gouvernance, tout en collaborant stratégiquement avec des partenaires internationaux de confiance. Le Canada ne peut pas réussir en faisant cavalier seul. L’ampleur et la complexité de l’IA font en sorte que la collaboration internationale est une condition nécessaire à la souveraineté, et non une menace. Les travaux du Canada au sein du réseau international des instituts de sécurité de l’IA sont un excellent exemple de la façon dont nous faisons avancer notre souveraineté en partenariat avec des alliés de confiance comme le Royaume-Uni, l’Australie, Singapour et la Corée. Le Canada a beaucoup à apprendre de ses partenaires et alliés à l’étranger. D’autres juridictions, comme l’Union européenne, ont déjà élaboré et mis en œuvre des lois sur l’IA et apprennent activement quelles approches sont les plus efficaces. Le Canada a l’occasion d’apprendre de ces efforts à mesure qu’il prépare sa propre approche en matière de réglementation de l’IA.
Le deuxième domaine porte sur l’éthique, la protection de la vie privée et la sécurité de l’IA. Pour être efficaces, ces considérations doivent être fondées sur des résultats de recherche. La recherche n’est pas un complément facultatif à la gouvernance. C’est le fondement qui rend la gouvernance crédible, flexible et applicable. Dans le cadre du programme de recherche de l’Institut canadien de la sécurité de l’IA au CIFAR, nous mobilisons des experts interdisciplinaires pour faire avancer la sécurité de l’IA et relever les défis sociotechniques des systèmes les plus avancés. Ces travaux permettent de transformer des préoccupations concrètes en observations fondées sur des données probantes afin d’éclairer les politiques.
Enfin, le troisième domaine porte sur les risques, les avantages et les répercussions sociales de l’IA. L’IA a le potentiel de transformer les industries, de renforcer les économies et d’améliorer considérablement la prestation des services publics. Toutefois, le degré d’impact que l’IA pourra avoir sur la société repose fondamentalement sur la confiance du public. Or, la confiance ne vient pas automatiquement, comme nous l’avons entendu aujourd’hui.
Pour y parvenir, il faut comprendre les fondements de cette technologie, mobiliser la population et veiller à ce que le processus décisionnel soit inclusif. Or, le Canada a encore beaucoup de chemin à faire pour renforcer la confiance du public à l’égard de l’IA.
En conclusion, l’IA sera à la base de la prospérité future, et le Canada doit poursuivre ses progrès dans le domaine tout en demeurant lucide quant aux risques et aux compromis qui l’accompagnent. La recherche permet de maintenir cet équilibre en éclairant les politiques, en orientant son déploiement de manière responsable et en maximisant les avantages pour le public. Alors que le gouvernement fédéral modernise sa stratégie nationale en matière d’IA en l’appuyant sur le principe de l’IA pour tous, il doit éviter les fausses dichotomies entre la recherche et la commercialisation. Dans les faits, nous avons besoin des deux. Il est essentiel de continuer à mener des activités de recherche rigoureuses et à attirer des talents pour veiller à ce que tous les Canadiens puissent bénéficier de l’IA. Sur ce, je vous remercie, et c’est avec plaisir que je répondrai maintenant à vos questions.
La présidente : Merci, madame Strome.
Nous allons maintenant passer aux questions des membres du comité. Les sénateurs disposeront de cinq minutes pour poser leurs questions et recevoir les réponses.
La sénatrice Hay : Merci, madame Strome, de votre participation.
Le Canada a été l’un des premiers pays à se lancer dans l’IA et à mener des travaux de recherche dans ce domaine. On pourrait penser que nous sommes maintenant à la traîne, que d’autres ont pris de l’avance sur nous. Nous faisons face à une concurrence intense en provenance d’autres régions comme les États-Unis, l’Europe et l’Asie, où l’on procède à d’importants investissements et où le cadre réglementaire est de mieux en mieux établi. Vous avez parlé de tout cela.
Je remarque également qu’au Canada, des entreprises établies et d’autres en démarrage réalisent des projets remarquables, puis quittent le Canada pour profiter des débouchés, possibilités de financement et occasions de croissance qui, bien souvent, sont plus intéressants dans d’autres pays, notamment aux États-Unis. À ce sujet, je tiens à souligner le cas de Cohere, qui est toujours ici au Canada.
À votre avis, que devrait faire le Canada pour demeurer concurrentiel à l’échelle mondiale et traduire l’excellence des travaux de recherche qu’on y réalise en avantages économiques durables?
Mme Strome : Merci beaucoup pour votre question, sénatrice Hay. C’est une question très importante, et nous devons en discuter afin de l’explorer plus en profondeur.
Nous avons un écosystème de jeunes entreprises d’IA plutôt robuste et dynamique au Canada. Il y a plus de 400 jeunes entreprises d’IA à fort potentiel au Canada, ce qui signifie qu’elles ont déjà généré des investissements d’au moins 1 million de dollars et qu’elles continuent d’attirer de l’attention. Notre écosystème de jeunes entreprises en IA au Canada attire également du capital de risque. En fait, environ 30 % de tous les investissements en capital de risque au Canada sont destinés aux entreprises en démarrage dans le secteur de l’IA. Elles sont donc très présentes dans le monde des investissements en capital de risque.
Votre question est toutefois extrêmement importante : comment pouvons-nous aider ces entreprises à réussir sur la scène mondiale? Elles ne peuvent pas réussir en se limitant au Canada, car notre marché est trop petit. Nous devons aider ces entreprises à croître et à prendre de l’expansion au Canada, et pour ce faire, il faut mettre en place quelques conditions essentielles. Il faut tout d’abord leur fournir l’expertise dont elles ont besoin pour passer de la phase de démarrage à celle d’une entreprise beaucoup plus sophistiquée et dynamique. Nous n’avons pas beaucoup de cette expertise au Canada, car ce n’est pas quelque chose que nous avons fait souvent. Nous n’avons pas beaucoup de bons exemples d’entreprises canadiennes qui ont pris de l’expansion de cette façon.
Pouvons-nous former une partie de cette expertise? Pouvons‑nous rapatrier une partie de cette expertise qui s’est déplacée vers d’autres pays comme les États-Unis? Pouvons‑nous offrir des services, de la formation et du soutien à ces entreprises? Ce ne sont là que quelques pistes de solutions.
Malgré le niveau élevé d’investissements en capital de risque au Canada, il y a de la place pour les augmenter considérablement. Plus tôt cette semaine, une étude a été publiée sur la situation des entreprises canadiennes en démarrage dans le domaine de l’IA par rapport à d’autres pays, et nous pourrions assurément afficher un meilleur bilan. Nous devons offrir plus de financement d’amorçage pour nos entreprises en démarrage et plus de financement de phase A.
Enfin, ces entreprises ont besoin de clients. Beaucoup d’entreprises en démarrage me disent qu’elles ont de la difficulté à avoir accès à des clients au Canada, qu’il s’agisse des pouvoirs publics fédéraux, provinciaux ou municipaux ou des entreprises canadiennes. Nous avons besoin de mettre en place des politiques, des débouchés et des incitatifs pour que les organisations canadiennes achètent l’IA canadienne. Nos entreprises doivent aussi avoir accès aux marchés mondiaux. Elles ont besoin d’aide pour s’implanter dans d’autres pays afin d’y vendre leurs produits et services.
La sénatrice Hay : J’aimerais aborder la question de la gouvernance et des garde-fous. Les lois et les garde-fous qui servent à protéger la population canadienne contre l’IA et à garantir que celle-ci aura des répercussions positives risquent également de freiner l’innovation dans le domaine. Qu’est-ce qui vous préoccupe à cet égard? Comment peut-on trouver le juste équilibre?
Mme Strome : Oui, ce sera essentiel, et j’en ai d’ailleurs parlé dans ma déclaration préliminaire.
Il ne s’agit pas de parvenir à une sorte de compromis entre la gouvernance des données et l’innovation; en réalité, ces deux objectifs sont intimement liés. La souveraineté des données est un sujet que le comité étudie en profondeur, et qui a déjà été abordé lors de la séance d’aujourd’hui. Il ne faut pas oublier que les données représentent le carburant indispensable au fonctionnement de l’IA. Par conséquent, nous devons nous assurer que nous avons accès à des ensembles de données particulièrement volumineux, robustes et diversifiés, représentatifs des communautés auxquelles les solutions d’IA sont destinées.
Les balises qui restreignent inutilement l’accès aux données pourraient constituer un obstacle à l’innovation. Nous devons donc veiller à ce que toutes les considérations relatives à la vie privée et aux données personnelles soient prises en compte, mais nous devons également nous assurer que les innovateurs aient accès à un bassin de données suffisant.
La sénatrice Burey : Madame Strome, je tiens d’abord à vous remercier pour votre présence aujourd’hui.
Vous avez évoqué l’importance de la recherche sur l’impact social de cette technologie. En fait, je ne pense même pas que « cette technologie » soit le terme approprié. Vous avez également déclaré qu’il nous restait encore beaucoup à faire pour renforcer la confiance de la population à l’égard de ces avancées technologiques. Je pense que cela répond en partie à la question de la sénatrice Hay concernant l’utilisation de l’IA par les entreprises en démarrage.
Quel est le portait de la recherche portant sur les répercussions sociales de l’IA? Quelles lacunes pensez-vous qu’il faudrait combler? Pourriez-vous nous fournir un simple aperçu de l’état de la recherche dans ce domaine, et des principales lacunes?
Mme Strome : Très bien, merci pour cette question, sénatrice.
L’un des principaux domaines de recherche que nous soutenons actuellement à l’Institut canadien de recherches avancées, en collaboration avec ISDE via l’Institut canadien de la sécurité de l’intelligence artificielle, est un programme de recherche universitaire. De fait, plusieurs de nos travaux portent sur l’impact sociétal des systèmes d’IA avancés. Nous venons par ailleurs de publier un bilan annuel sur le sujet. Nous continuons de réfléchir à l’impact des systèmes d’IA avancés, notamment en matière de mésinformation et de désinformation. Plusieurs de nos chercheurs s’intéressent à l’impact des systèmes d’IA avancés sur la démocratie, et à la manière dont ces systèmes peuvent être utilisés de manière positive, mais également à des fins malveillantes, en période électorale par exemple.
Nous examinons l’impact sociétal de l’IA au sein du système de santé, et notamment les approches technologiques de l’IA susceptibles de profiter à la société de manière concrète. De même, l’IA a des répercussions sur l’environnement, les changements climatiques, ainsi que la biodiversité. Ce sont là quelques-uns des effets positifs de l’IA qui, à terme, pourront être bénéfiques à l’ensemble de la société.
Néanmoins, certaines lacunes subsistent dans nos domaines de recherche. Étant donné que la technologie évolue rapidement, et que les politiques tentent de suivre le rythme de l’IA, il me paraît nécessaire d’intensifier la recherche concernant la manière dont nous pouvons développer des approches novatrices en matière de réglementation de l’IA, et de politiques publiques.
Nous comptons publier au printemps prochain un numéro spécial de la revue Analyse de Politiques afin d’aborder plusieurs de ces enjeux. Nous allons notamment réfléchir aux politiques canadiennes en matière d’IA, un domaine en constante évolution. Je tiens également à souligner qu’il faut travailler encore davantage sur plusieurs aspects de ce domaine.
La sénatrice Burey : Pensez-vous que suffisamment de fonds sont consacrés à l’étude des impacts sociétaux de l’IA?
Mme Strome : Je pense qu’il y a encore matière à amélioration. Depuis longtemps, le financement du gouvernement canadien est axé sur le développement technique de l’intelligence artificielle, ce qui représente une grande partie des travaux de l’Institut canadien de recherches avancées. Nous commençons maintenant à réfléchir à des investissements visant à étudier les répercussions sociétales de l’intelligence artificielle. Il y a toute une génération d’étudiants, de chercheurs et d’experts que nous devons également former par rapport à ce type d’enjeux.
Bien que nous soyons très performants sur le plan technique, et que nous disposions d’une grande expertise sur le plan social, il existe encore beaucoup d’avancées possibles dans ce domaine.
La sénatrice Burey : J’en comprends qu’il s’agit d’une recommandation pour l’étude du comité?
Mme Strome : Je pense que oui, ce serait fort apprécié. Il y a beaucoup de chercheurs ambitieux au Canada pour répondre à ce type d’enjeux, et il y a encore tant à faire.
La présidente : Madame Strome, pourriez-vous nous faire parvenir les références des deux articles que vous avez évoqués tout à l’heure?
Mme Strome : Oui, avec plaisir.
La sénatrice McPhedran : Merci beaucoup d’être avec nous, madame Strome. Je vous écoute attentivement, et je pense au Dr Fraser Mustard et à la Dre Reva Gerstein.
Mme Strome : Génial.
La sénatrice McPhedran : J’étais avec eux pendant les premiers jours de l’institut, alors c’est incroyable d’être assis ici toutes ces années plus tard.
Ma question est très simple. Dans le cadre des travaux que mènent vos équipes, avez-vous envisagé d’établir un principe directeur consistant à adopter une perspective fondée sur les droits de la personne?
Mme Strome : Il s’agit d’une excellente question. C’est une approche typiquement canadienne de la réflexion sur l’intelligence artificielle responsable. Le Canada a une longue et solide tradition en matière d’intelligence artificielle responsable, tant dans la recherche technique que dans la recherche sur l’impact sociétal de l’intelligence artificielle. C’est une culture qui imprègne notre communauté de recherche et qui s’est exportée au sein de nombreuses entreprises commerciales, ainsi qu’au sein du gouvernement fédéral. Le Canada demeure un chef de file en matière de réflexion sur les politiques, la réglementation, et la législation relatives à l’intelligence artificielle.
L’intelligence artificielle responsable est une caractéristique clé de l’écosystème canadien en matière d’intelligence artificielle. Je l’appelle parfois la marque du Canada. Cela repose en grande partie sur notre forte tradition et notre engagement en faveur des droits de la personne. Ma collègue, la professeure Catherine Régis, est juriste et travaille à l’Université de Montréal. Ses travaux portent sur les politiques internationales en matière d’intelligence artificielle. Elle aborde ce type d’enjeux sous l’angle des droits de la personne, en particulier lorsqu’elle réfléchit à la manière dont l’intelligence artificielle est mise en œuvre dans le domaine des soins de santé.
Un autre domaine dans lequel nous pouvons envisager d’ajouter une perspective des droits de la personne est celui des garde-fous à mesure que nous avançons. À quoi ressembleraient les futures lois ou réglementations? Vous constaterez que dans le prochain numéro de la revue Analyse de politiques, l’une des recommandations d’un chercheur avec lequel nous travaillons à la faculté de droit Osgoode Hall préconise une approche de réduction des risques pour la législation sur l’intelligence artificielle et suggère de s’inspirer de certains principes qui ont fait leurs preuves dans le domaine de la santé publique et dans d’autres domaines politiques et législatifs, afin de voir comment les appliquer à l’intelligence artificielle. Il s’agit là d’une approche très centrée sur les droits de la personne.
La sénatrice McPhedran : Je vous remercie.
La sénatrice Senior : Merci beaucoup. J’apprécie particulièrement votre réponse à la dernière question. Juste pour que je comprenne bien, le financement de projets de recherche fait-il partie des missions de l’institut que vous dirigez?
Mme Strome : Oui, c’est effectivement le cas.
La sénatrice Senior : D’accord, je vous remercie. Compte tenu de ce contexte, avez-vous financé des recherches traitant de sujets liés à ce dont vous venez de parler? L’une des préoccupations concerne la question de l’équité et de l’inégalité des données par rapport à l’IA. Cela m’intéresse, tout comme l’existence éventuelle de recherches visant à recommander des moyens de sensibiliser la population aux différents enjeux en matière d’IA.
Mme Strome : Très bien. Merci beaucoup pour ces excellentes questions, madame la sénatrice. Nous finançons effectivement la recherche au sein de l’Institut canadien de recherches avancées. L’un des programmes phares que je dirige à l’institut est le programme des chaires de recherche en intelligence artificielle. Il nous a permis de créer une communauté très dynamique de chercheurs en IA de calibre mondial à travers le pays. Ces chercheurs sont affiliés aux trois instituts nationaux d’IA et travaillent principalement dans les domaines techniques de l’IA, mais ils réfléchissent également à la manière dont celle-ci peut être adoptée de manière à bénéficier à l’économie, et à la société de manière générale. Par ailleurs, un petit groupe de chercheurs travaille sur les questions sociotechniques et les répercussions sociales.
Lorsque nous réfléchissons à la question de l’équité, c’est quelque chose qui me tient particulièrement à cœur et qui est profondément ancré dans cette culture de l’IA responsable que j’ai décrite précédemment, et nous menons sans relâche des recherches dans ce domaine. Nous avons organisé de nombreuses formations avec nos chercheurs pour leur expliquer ce que cela signifie. Que signifient concrètement l’équité, la diversité et l’inclusion? Que signifient-elles dans le contexte de leurs équipes et des personnes qu’ils recrutent et forment? Que signifient-elles dans le contexte de l’IA qu’ils développent? Nous essayons de travailler avec nos chercheurs et de nous assurer qu’ils comprennent ces principes et ces concepts et qu’ils les intègrent dans leurs recherches. C’est en fait un élément que nous évaluons lorsque des chercheurs nous soumettent leurs propositions.
Ensuite, en ce qui concerne le rôle de l’éducation publique, c’est également un sujet sur lequel nous nous concentrons à l’Institut canadien de recherches avancées. Nous proposons un cours accessible à tous les Canadiens, en français et en anglais. Il s’agit d’une introduction à l’IA intitulée Destination IA. Il s’agit simplement d’une introduction de base, mais elle permet aux gens de saisir les concepts fondamentaux et de commencer à comprendre et à réfléchir de manière critique aux systèmes d’IA.
Cela leur donne un aperçu des aspects techniques, mais aussi de l’impact social. Le programme aborde l’IA générative et les amène à réfléchir à l’impact de l’IA sur leur propre vie. C’est quelque chose que nous avons mis à la disposition de tous, mais il reste encore beaucoup à faire, et il n’est pas facile d’atteindre tout le monde. Bref, il s’agit d’un domaine qui nécessite des investissements beaucoup plus importants, ainsi qu’une approche à l’échelle nationale.
La sénatrice Senior : Je vous remercie. Il me reste deux brèves questions complémentaires: quel est le niveau d’accès à ce type de renseignements au sein de la population canadienne? Quelles sont les méthodes de diffusion utilisées par votre institut?
Mme Strome : Oui, je dois admettre qu’il s’est avéré assez difficile pour nous de diffuser nos idées auprès des Canadiens. Il s’agit d’un défi qui nous préoccupe depuis environ trois ans, c’est-à-dire depuis l’essor de l’IA générative. Nous essayons vraiment de démocratiser ce type de connaissances. Par ailleurs, il existe d’autres programmes de sensibilisation à l’IA à travers le pays, qui sont donc complémentaires aux programmes mis en place par l’institut que je dirige. Bref, il ne s’agit pas de notre mandat principal.
Mes collègues de l’Amii, l’Alberta Machine Intelligence Institute, situé à Edmonton, se sont engagés de manière proactive dans une mission de sensibilisation à l’IA, et ils se concentrent particulièrement sur l’enseignement supérieur. Tous les étudiants de l’Université de l’Alberta doivent suivre un cours d’introduction à l’IA. Par ailleurs, l’Amii collabore avec plus de 40 établissements d’enseignement supérieur à travers le pays — des universités, des collèges et des cégeps —, afin d’introduire un cours d’éducation à l’IA destiné à l’ensemble des étudiants. Nous menons donc un véritable effort collectif en matière d’éducation à l’IA, mais nous n’en sommes qu’au début, car nous ne disposons pas de fonds suffisants, et il n’existe aucune organisation clairement mandatée pour dispenser ce type de formation aux Canadiens.
La sénatrice Senior : Et quelle serait votre recommandation?
Mme Strome : Nous devons tout d’abord mettre en place une approche nationale en matière d’éducation à l’IA. Il existe de nombreuses activités et programmes en ce sens, mais ils ne sont pas coordonnés. Nous formons pour le moment un groupe hétéroclite de personnes qui partagent leurs idées et leurs actions, mais il n’existe aucune coordination ni aucun financement pour les travaux que nous menons. Il faut vraiment adopter une approche matricielle afin de promouvoir l’éducation à l’IA, de renforcer la confiance à l’égard des nouvelles technologies, et d’engager la population canadienne dans tous ces débats. C’est l’un des principaux facteurs qui expliquent pourquoi les Canadiens ne font pas vraiment confiance à l’IA. En réalité, nous ne les incluons pas de manière très efficace dans ce type de discussions. Nous avons donc besoin de mettre en place toute une stratégie à l’échelle nationale.
La présidente : Je vous remercie. J’en profite d’ailleurs pour rappeler aux sénateurs que la professeure Catherine Régis sera présente lors d’une prochaine réunion.
Le sénateur Boudreau : Pour être honnête, vos deux dernières phrases sont celles que je viens de prendre en note pour formuler ma prochaine question. L’invité précédent a déclaré que nous devons nous concentrer sur l’adoption de l’IA au sein de la population canadienne. Lorsque vous avez pris la parole tout à l’heure, vous avez évoqué l’impact social de l’IA et la nécessité de gagner la confiance de la population. Le Canada compte une population vieillissante qui est mal à l’aise face aux nouvelles technologies. Il sera difficile de la convaincre d’adopter l’IA. Les réseaux sociaux suscitent déjà beaucoup d’inquiétudes, et les gens ne savent plus quoi croire. Il y a toute une génération qui n’effectue probablement encore aucune activité en ligne, que ce soit pour ses opérations bancaires, les réservations, ou tout autre type d’activité. Je pense qu’il existe bien des craintes par rapport à ces nouvelles technologies, et qu’il sera donc difficile de renforcer la confiance de la population.
De manière réaliste, que peut faire le gouvernement fédéral pour remédier à cette situation? Force est de constater que notre population vieillit, et je pense qu’il sera très difficile de la convaincre que l’IA est la voie à suivre.
Mme Strome : Il s’agit d’une observation fort pertinente. Je vous remercie, monsieur le sénateur.
Je pense que les Canadiens âgés sont en droit d’être méfiants face à toutes ces nouvelles technologies. Après tout, il s’agit souvent de personnes vulnérables, et plusieurs ont déjà été victimes d’escrocs. Nous entendons sans cesse parler de personnes âgées victimes de différents stratagèmes d’exploitation, et il me paraît donc légitime que ces personnes soient sceptiques et méfiances envers les nouvelles technologies.
Dans ce contexte, comment réussir à impliquer nos aînés dans les débats entourant l’IA? Selon moi, il est essentiel que les personnes âgées aient voix au chapitre, car même si pour le moment leur opinion sur l’IA est plutôt négative, toutes les perspectives sont valables et susceptibles d’enrichir nos débats.
Soyons réalistes: je ne pense pas que les Canadiens âgés constituent le principal groupe démographique susceptible d’adopter l’IA, mais nous tenons à ce qu’ils se sentent à l’aise avec cet outil faisant désormais partie intégrante de notre société.
À mon avis, l’un des moyens les plus efficaces d’impliquer les aînés canadiens consiste à leur proposer des cours conçus et adaptés à leurs questions et à leurs appréhensions. Nous pourrons leur montrer des situations où la méfiance envers l’IA est effectivement de mise, et leur permettre d’acquérir de nouvelles habiletés et d’apprivoiser de nouveaux outils. En résumé, ma recommandation est de mettre en place des programmes d’éducation à l’IA adaptés aux besoins spécifiques des Canadiens âgés.
Je pense par ailleurs que les aînés peuvent apporter une contribution importante au débat. En collaboration avec nos partenaires chez Mila, nous sommes en train de réfléchir à la création d’assemblées citoyennes axée sur l’IA. Notre objectif principal est de rassembler les Canadiens au-delà des différents segments démographiques. Si ma mémoire est bonne, il y aura une assemblée citoyenne de ce genre à Montréal le mois prochain, et nous comptons y participer. Cette assemblée vise à rassembler des jeunes pour écouter leurs opinions par rapport à l’IA, et leur donner l’occasion d’interpeller directement les décideurs politiques sur les enjeux qu’ils jugent les plus importants. Voilà donc le plan de match.
Pourrions-nous également organiser des assemblées citoyennes avec des Canadiens plus âgés? Je pense que c’est une opportunité importante pour l’avenir. Comme je l’ai dit, il s’agit d’un moyen efficace d’inclure davantage de personnes dans les débats actuels entourant l’IA. Nous devons permettre à tout un chacun de faire entendre sa voix.
La présidente : Nous vous invitons à cet événement que j’aurai l’honneur d’animer le mois prochain.
La sénatrice Muggli : Je vous remercie d’être ici aujourd’hui. J’espère que vous n’avez pas déjà répondu à cette question, car en consultant votre site Web, pendant que vous parliez, je suis un peu tombée dans un puits sans fond. Je viens de voir qu’une des titulaires de votre chaire en IA Canada-CIFAR, Reihaneh Rabbany, a créé avec un collègue « une application utilisateur qui permet de vérifier l’authenticité de l’information véhiculée en ligne ».
On peut lire que la sortie du prototype est prévue pour mars 2025.
Où en est ce projet?
Mme Strome : Vous avez dit mars 2025? Je pense que c’est plutôt en mars 2026. C’est sans doute une coquille.
C’est un projet formidable. La professeure Rabbany est l’une des spécialistes mondiales de la mésinformation en ligne et du développement d’outils qui permettent de repérer l’information véridique au moyen de l’intelligence artificielle. Parfois, l’intelligence artificielle est un problème, mais parfois, elle est aussi une solution. Son travail va en ce sens.
Cette application de contrôle de la véracité est toujours à l’essai. Nous avons récemment alloué des fonds aux collaborateurs de la professeure Rabbany pour qu’ils mènent des activités publiques, lancent l’application et prennent le pouls de différents groupes démographiques au sujet de son utilisation.
C’est toujours un projet de recherche, mais je crois que la version bêta sortira le mois prochain.
La sénatrice Muggli : Cette application semble être un excellent outil pour aider les gens. Si la pensée critique n’est pas le fort de quelqu’un, l’application peut lui être utile.
C’est tout pour moi. Merci.
La sénatrice Greenwood : Je n’ai que quelques questions. J’ai pris des notes pendant que vous parliez.
Je me demande comment la Déclaration des Nations unies sur les droits des peuples autochtones — puisqu’elle fait partie des lois fédérales et provinciales au Canada — influence une partie de la recherche. Vous avez parlé de politiques et de lois tout à l’heure.
Je sais que toutes ces choses ont besoin de données. Je m’interroge sur la souveraineté des données dans le cas des peuples autochtones au Canada, car dans le monde des données, cette question n’a toujours pas de réponse, du moins à ma connaissance.
Mme Strome : En effet.
La sénatrice Greenwood : J’ai posé cette question au groupe de témoins précédent, parce que je crois que travailler avec cette population en particulier ajoute un tout autre degré de complexité, surtout en ce qui a trait à la santé.
Mme Strome : C’est vrai. Merci, sénatrice, ce sont d’excellentes questions.
En ce qui a trait à la Déclaration des Nations unies sur les droits des peuples autochtones, je suis très fière du travail que l’Institut canadien des recherches avancées, le CIFAR, a fait pour penser de manière stratégique, la main dans la main avec les dirigeants et les collectivités autochtones, aux répercussions de l’intelligence artificielle et aux possibilités que celle-ci offre. C’est une chose à laquelle nous pensons beaucoup.
Évidemment, notre mandat concerne la recherche, l’éducation et la formation. C’est donc ce sur quoi nous nous sommes concentrés. Au fil des ans, nous avons soutenu des programmes de formation sur l’intelligence artificielle s’adressant à des élèves autochtones du secondaire. Nous offrons en ce moment des bourses d’études à tous les étudiants autochtones qui sont acceptés dans nos programmes de formation qui se déroulent chaque été, et nous soutenons leur participation dans ces programmes.
Je crois que la plus grande activité que le CIFAR a menée pour intégrer et prendre en compte les perspectives autochtones dans l’intelligence artificielle est un programme de formation que nous avons créé. Ce programme est gratuit pour tous les Canadiens et disponible en français et en anglais. Il s’appelle Perspectives autochtones en IA. Il est destiné aux personnes qui n’ont pas déjà acquis cette expérience ou ces perspectives.
Chaque été, tous les étudiants qui participent à nos programmes nationaux de formation sur l’intelligence artificielle — soit entre 250 et 300 étudiants chaque été dont la plupart sont des étudiants canadiens, mais parmi lesquels il y a aussi des étudiants étrangers — doivent s’inscrire à un module spécial du programme sur les perspectives autochtones en intelligence artificielle. Ce n’est pas simplement du travail qu’ils font à la maison sur leur ordinateur. Nous organisons un cercle de partage et un atelier sur ces perspectives à mesure que nous progressons.
La souveraineté des données est un élément réellement important. Les principes de propriété, de contrôle, d’accès et de possession, ou PCAP, doivent réellement être au cœur de nos préoccupations quand on réfléchit à des applications d’intelligence artificielle conçues avec, pour et par les collectivités autochtones et qu’on exploite des données relatives aux Autochtones.
Selon moi, c’est le principe « rien de ce qui nous concerne ne doit se faire sans nous ». Si des données relatives aux Autochtones sont utilisées pour des outils d’intelligence artificielle, ce devrait être à la demande des collectivités autochtones et parce qu’elles le souhaitent, en respectant les principes de PCAP d’abord et avant tout. Les données relatives aux Autochtones devraient être utilisées pour le bien de ces collectivités. C’est là que les avantages socio-économiques devraient se concrétiser.
Il y a de plus en plus de jeunes entreprises autochtones en intelligence artificielle et d’organismes qui travaillent dans ce domaine. Je suis heureuse de continuer de collaborer et de travailler en partenariat avec ces groupes et de soutenir leurs activités.
La présidente : Merci.
La sénatrice Petitclerc : Merci, madame Strome, d’être ici. C’est vraiment fascinant, mais un peu effrayant.
J’ai une question. C’est une question simple. Je suppose que j’essaie de mieux comprendre le secteur de l’intelligence artificielle au Canada et dans le monde. Vous nous avez parlé de désinformation. Je veux parler de ce que nous avons lu au sujet des biais dans le contenu généré par intelligence artificielle, comme le sexisme, le racisme et le capacitisme. J’ai trois ou quatre questions.
Voici la première : à quel point est-ce préoccupant, et existe‑t‑il des solutions à ce problème? Y a-t-il un moyen de contourner cela, et qui en a la responsabilité? Qui détient le leadership? Qui le fait? Quel est le rôle du Canada?
Je pense aussi à l’exposition à ces biais, surtout dans le cas des jeunes. Ma dernière question est donc la suivante : existe-t-il des études sur l’impact de ces biais sur les jeunes, notamment sur le plan psychologique et social?
C’est une question à plusieurs volets.
Mme Strome : Merci beaucoup, sénatrice Petitclerc. Malheureusement, les biais constituent un problème grave dans les applications d’intelligence artificielle, et ce problème est antérieur à l’intelligence artificielle générative. Nous parlons de l’intelligence artificielle générative comme d’une approche moderne dans ce domaine, mais même l’approche traditionnelle était truffée de biais. Malheureusement, les biais s’introduisent dans les ensembles de données qui sont utilisés pour entraîner les modèles d’intelligence artificielle. S’il y a des biais, c’est souvent parce que l’ensemble de données n’est pas suffisamment représentatif. Il n’est pas assez grand, il ne contient pas assez d’échantillons ou il n’est pas assez diversifié. Parfois, les biais s’insinuent en raison de la façon dont les concepteurs humains abordent la conception de l’outil.
Nous avons essayé d’atténuer les biais de l’intelligence artificielle par le passé en sensibilisant les développeurs d’intelligence artificielle, nos étudiants et le milieu, et en établissant des principes solides sur la façon de créer des ensembles de données robustes, car si l’on dispose de meilleurs ensembles de données, on obtient de meilleurs outils d’intelligence artificielle. Nous concentrons donc nos efforts sur la qualité des ensembles de données, car c’est la base pour concevoir de bons outils d’intelligence artificielle. Nous considérons que l’une des façons d’atténuer les biais dans l’intelligence artificielle est de diversifier les équipes qui participent à la conception de ces outils. Il a été démontré que la participation de personnes ayant des expériences de vie différentes dans la conception, les tests et la réflexion sur les besoins des utilisateurs lors de la conception de ces outils est absolument essentielle pour atténuer les biais dans les systèmes d’intelligence artificielle. À l’Institut canadien des recherches avancées, nous faisons cela en diversifiant les talents au sein de l’écosystème de l’intelligence artificielle, en offrant des bourses aux étudiants qui s’identifient comment étant membres de groupes sous-représentés, en pensant au genre et à la diversité, et en ayant des politiques en place qui favorisent l’équité, la diversité et l’inclusion dans l’intelligence artificielle. Ainsi, nos écosystèmes sont plus diversifiés et les personnes qui conçoivent nos outils viennent d’horizons plus variés. C’est l’une des solutions.
Qui en a la responsabilité? C’est une excellente question. Pensons aux produits commerciaux d’intelligence artificielle. En l’absence d’une culture de recherche universitaire qui pousse en ce sens, comment atténuer les biais dans les produits commerciaux?
Les outils d’intelligence artificielle que les gens veulent acheter sont ceux dont l’efficacité, l’approche responsable de l’intelligence artificielle et les efforts pour atténuer les biais ont été démontrés. Ce sont d’entrée de jeu de meilleurs outils d’intelligence artificielle. Ils font plus efficacement ce pour quoi ils ont été conçus, et ils plaisent davantage aux consommateurs. Les entreprises qui ont su démontrer qu’elles respectent des principes fiables en matière d’intelligence artificielle et montrer comment leur outil a été amélioré grâce aux approches qu’elles ont mises en place sont celles qui ont le plus de succès.
Ai-je le temps de répondre à votre dernière question sur l’exposition des jeunes et les impacts que cette exposition a sur eux?
C’est une question plus difficile. Aucune étude précise ne me vient à l’esprit. Il faudra que je vous communique l’information plus tard. Cela dit, nous savons que les jeunes sont influencés par leur utilisation des outils d’intelligence artificielle. Nous l’avons vu. Il y a les exemples de Jeunesse, J’écoute, ainsi que d’autres exemples de recherche dans ce domaine. Nous savons évidemment que l’exposition aux médias en général et aux réseaux sociaux en particulier a une influence sur les jeunes. Quant à savoir s’il existe des études sur les impacts des biais de l’intelligence artificielle sur les jeunes, il me faudra vous revenir sur ce sujet.
La sénatrice Petitclerc : Merci.
La présidente : Merci. Nous sommes maintenant à la fin de la réunion. J’aimerais vous remercier, madame Strome, du temps que vous nous avez consacré et d’être ici aujourd’hui. Vous pouvez envoyer à notre greffière tout renseignement que vous souhaitez transmettre à la sénatrice Petitclerc.
(La séance est levée.)