La nécessité d’un développement et d’une utilisation sûrs et productifs de l’intelligence artificielle

Honorables sénateurs, je tiens d’abord à remercier la sénatrice Moodie d’avoir lancé cette interpellation et d’avoir attiré notre attention sur la nécessité de développer et d’utiliser l’intelligence artificielle de manière sûre et productive au Canada.

L’intelligence artificielle est devenue omniprésente dans la société. Chaque jour, nous consommons de l’information générée par l’intelligence artificielle ou nous parlons avec des robots conversationnels. L’intelligence artificielle résume nos rendez-vous médicaux pour les médecins et effectue des recherches pour les étudiants. On dit aussi qu’elle lance des missiles en Iran.

Le 8 juin, le magazine Forbes a publié un article rapportant que des rivaux technologiques s’étaient unis pour prévenir la création d’armes biologiques par intelligence artificielle. On y explique que les dirigeants des grandes entreprises technologiques, comme OpenAI, Anthropic, Google DeepMind, Microsoft AI et Meta, avaient tous signé une lettre ouverte au Congrès. En résumé, selon Forbes, les garde-fous techniques qui empêchent les armes biologiques de tomber entre de mauvaises mains s’érodent rapidement. En effet, sénatrice Moodie, cette interpellation est opportune, pertinente et importante.

Je voulais attendre un peu pour participer à cette interpellation. En attendant, j’ai pu participer à d’importantes discussions sur les recoupements entre l’intelligence artificielle et les perspectives des Premières Nations, ainsi qu’à une conversation sur l’intelligence artificielle et la protection de la démocratie. J’ai pris connaissance de la nouvelle Stratégie nationale en matière d’intelligence artificielle du Canada, appelée L’IA pour tous, et bénéficié des excellentes séances d’information de la sénatrice Hay à ce sujet.

La semaine dernière, j’ai assisté à un événement à Mila, l’Institut québécois d’intelligence artificielle et le plus grand centre de recherche en intelligence artificielle au monde. Après la réunion, j’ai eu une conversation fascinante sur le concept de l’intelligence artificielle agentique avec Hause Lin, chercheur scientifique au MIT et à l’Université Cornell. Il est également fellow à Mila.

Ce type d’intelligence artificielle, comme on me l’a décrit, poursuit un objectif et prend ses propres décisions en cours de route, un peu comme un assistant ou un agent à qui on confie une tâche et qu’on laisse s’en occuper. Ces agents d’intelligence artificielle existent déjà et sont très populaires, mais ils comportent des risques.

En 2024, Iason Gabriel et Arianna Manzini ont publié un article intitulé « The ethics of advanced AI assistants » qui postule que le contrôle humain doit être maintenu afin que notre moralité et notre éthique restent au cœur de la prise de décisions.

Voici un passage de l’article :

Les assistants en intelligence artificielle jouiront probablement d’une grande autonomie pour planifier et exécuter des séquences de tâches dans un éventail de domaines. Pour cette raison, les assistants en intelligence artificielle présentent de nouveaux problèmes de sécurité, d’harmonisation et d’utilisation abusive.

Plus il y a d’autonomie, plus il y a de risques d’accidents causés par des instructions imprécises ou mal interprétées, et plus il y a de risques que les assistants posent des gestes qui ne correspondent pas aux valeurs et aux intérêts de l’utilisateur.

La prolifération des assistants autonomes en intelligence artificielle risque d’entraîner des formes d’utilisation abusive ayant de lourdes conséquences, comme la diffusion de mésinformation ou la participation à des cyberattaques. Pour atténuer ces risques, nous soutenons qu’il faut fixer des limites à cette technologie et que les valeurs des assistants avancés en intelligence artificielle doivent être plus conformes aux valeurs humaines. Elles doivent être compatibles avec les idéaux et les normes sociales.

Le pilier 1 de la nouvelle stratégie canadienne en matière d’intelligence artificielle s’intitule « Protéger les Canadiens et préserver notre système démocratique ».

Pour que ce pilier se concrétise, je crois que toute mesure législative doit adopter une approche avant-gardiste et pérenne à l’égard de cette technologie qui évolue rapidement. Nous ne pouvons pas adopter une mesure législative qui la traite comme si elle était statique plutôt qu’en pleine évolution.

Il y a deux ans, je n’aurais pas pu imaginer à quel point l’intelligence artificielle serait intégrée à tout ce que nous faisons. De même, dans deux ans, l’intelligence artificielle ne sera plus la même que celle que nous connaissons aujourd’hui.

L’intelligence artificielle est en train de devenir rapidement la voie de l’avenir, que le Canada soit prêt ou non. Nous devons également nous pencher sur les mesures législatives qui portent sur le recours aux logiciels de surveillance des employés, à la tarification personnalisée et autres tendances troublantes, des problèmes dont bon nombre d’entre nous commencent à peine à prendre connaissance.

La protection de la démocratie nécessitera une réforme des lois et des politiques pour contrer les campagnes de mésinformation et de désinformation qui utilisent les hypertrucages créés par l’intelligence artificielle et des robots conversationnels pour manipuler les points de vue des électeurs. Il nous obligera à investir davantage dans la recherche et à veiller à ce que nos chercheurs aient accès aux données clés que détiennent actuellement de grandes entités comme les entreprises de médias sociaux.

En vertu de la loi sur les services numériques de l’Union européenne, les très grandes plateformes en ligne et les moteurs de recherche sont légalement tenus de partager les données des plateformes avec des chercheurs qualifiés et approuvés. Cependant, selon certains chercheurs, très peu de données, voire aucune, ont été partagées. Il faudra une volonté politique pour que les chercheurs disposent des ressources et des données nécessaires pour étudier les risques systémiques, comme la manipulation des élections, le contenu illégal et la propagation de la mésinformation.

Le pilier 2 consiste à « donner aux Canadiens les moyens de réussir » au moyen de programmes d’études et d’investissements ciblés, tandis que le pilier 6 consiste à « établir des partenariats et des alliances fiables dans le monde ».

Fait important, en octobre 2025, une lettre conjointe a été signée par plus de 160 universitaires, experts, défenseurs des droits, membres de la société civile et organisations de défense des droits de la personne de partout au Canada qui estimaient que la période de consultation de 30 jours était terriblement inadéquate. M. Fenwick McKelvey, professeur agrégé en politique des technologies de l’information et des communications à l’Université Concordia, m’a invité à consulter le site de l’initiative « Consultation populaire sur l’IA », qui se décrit comme « un processus parallèle et indépendant ».

D’après les textes proposés, il semble que l’approche du gouvernement inspirait très peu confiance même avant la publication de la stratégie. Quand la confiance n’est pas déjà en place, il est difficile d’établir des partenariats de confiance.

Après la publication de la stratégie, le Walrus a publié, le 6 juin, un article intitulé Canada Finally Has a National AI Strategy. Experts Hate It, c’est-à-dire « Le Canada a enfin une stratégie nationale en matière d’intelligence artificielle et les experts la détestent ». Presque toutes les personnes qui ont contribué à cet article dénoncent l’approche du gouvernement, qui consiste à faire avancer avec audace l’adoption de l’intelligence artificielle, puis à mobiliser le public, plus tard, au moyen d’initiatives de sensibilisation en supposant que la confiance viendra naturellement.

Comme l’a écrit Alissa Centivany, du Starling Centre for Just Technologies and Just Societies : « La stratégie considère à tort la confiance du public comme un moyen de parvenir à une fin. »

L’article dit aussi ceci :

Selon une analyse récente que nous avons entreprise, l’Agence du revenu du Canada met à l’essai et utilise, à elle seule, plus de 218 applications d’intelligence artificielle. Les licences liées à bon nombre de ces outils sont entre les mains d’entreprises privées dont les intérêts commerciaux sont opaques même pour les fonctionnaires qui les mettent en œuvre.

Même si je ne pense pas que le Canada puisse se permettre de prendre du retard par rapport à d’autres pays qui adoptent rapidement de nouvelles technologies pour simplifier leurs processus internes, nous ne pouvons pas aller trop loin trop rapidement.

L’article comprend une mise en garde au sujet d’un robot utilisé par l’Agence du revenu du Canada qui a ensuite été retiré lorsqu’on a découvert que les renseignements qu’il fournissait étaient inexacts dans 67 % des cas, et ce genre de situation confirme que beaucoup font maintenant confiance à des systèmes qui sont encore en développement.

J’ai entendu l’histoire d’une personne qui a pris en photo une coupure qu’elle venait de subir à un doigt et qui a demandé à l’intelligence artificielle ce qu’elle devait faire. Le Dr Lin a dit ceci lors d’un échange de courriels :

Comme l’intelligence artificielle agentive peut penser, décider, garder des choses en mémoire et même offrir du réconfort, il est facile de s’en remettre à elle, mais, comme un muscle inutilisé, toute faculté que nous cessons d’exercer finit par s’affaiblir.

Le pilier 4, « Bâtir les fondements de l’IA souveraine au Canada », et le pilier 5, « Favoriser l’expansion de champions canadiens », visent tous deux à accroître la souveraineté en matière d’intelligence artificielle.

Pour assurer notre souveraineté, nous devons être attentifs à chaque mesure. Le Toronto Star a révélé des faits troublants dans le cadre d’une série de rapports d’enquête sur les dizaines de millions de dollars que le ministère de la Défense nationale a dépensés avec l’entreprise étatsunienne de données et d’intelligence artificielle Palantir. Il s’agit de la même plateforme que l’armée des États-Unis utilise pour alimenter et coordonner des systèmes d’armement.

L’article du Walrus dit également ceci :

[...] [I]l est difficile de voir comment le gouvernement pourra remédier de sitôt aux préjudices causés par la consolidation du pouvoir et de la richesse dans le secteur technologique.

Cette situation soulève une question souvent posée par ceux qui critiquent l’adoption généralisée de l’intelligence artificielle : quelles politiques, quelles lois, quels règlements et quels investissements devons-nous mettre en place pour garantir que les avantages de l’intelligence artificielle ne soient pas réservés à une élite restreinte? Comment pouvons-nous veiller à ce que le troisième pilier, « Favoriser l’adoption de l’IA pour garantir une prospérité partagée », soit mis en œuvre?

Un rapport publié par l’Université d’Oxford, intitulé Agentic Inequality, met en lumière le risque que l’intelligence artificielle agentive entraîne des inégalités en matière de pouvoir, d’occasions et de résultats. La puissance de calcul et les infrastructures associées ont toutes un coût. Les entreprises spécialisées dans l’intelligence artificielle ont rapidement accumulé des richesses et leur valeur atteint de tels sommets que certains se demandent si la bulle de ce secteur ne va pas bientôt éclater.

Le résumé du rapport explique ce qui suit :

Ce rapport présente et examine la notion d’« inégalités agentives » — c’est-à-dire les disparités potentielles en matière de pouvoir, d’occasions et de résultats — découlant des différences d’accès aux agents d’intelligence artificielle et de leurs capacités.

Ce concept a déjà été soulevé par les Premières Nations, qui soulignent que l’« IA pour tous » n’est pas une réalité pour les communautés qui ne parviennent pas à surmonter le fossé en matière d’infrastructures. Sans investissements ciblés ni stratégies élaborées conjointement autour de la gouvernance des données, de la souveraineté des données et des capacités de calcul, on risque de laisser tomber délibérément les Premières Nations dans cette nouvelle ère de l’intelligence artificielle, ce qui ne ferait qu’accentuer les disparités déjà marquées entre les Premières Nations et les communautés non autochtones.

Cela dit, tout n’est pas sombre pour autant. Michael Henry Tessler et ses collègues ont publié en 2024 un article intitulé « AI can help humans find common ground in democratic deliberation » dans Science. Ils y présentent des recherches montrant comment les systèmes d’intelligence artificielle peuvent aider divers groupes à parvenir à un consensus.

Je crois que la technologie elle-même est neutre. Cependant, le développement sans garde-fous est dangereux. Des recherches bien financées seront essentielles.

Ces conversations, ces événements et ces lectures m’ont amené à une conclusion : il y a beaucoup d’autres choses que je devrais savoir avant de voter en toute confiance sur un projet de loi concernant l’intelligence artificielle. Cette technologie a de nombreuses implications éthiques, sociales et autres qui ont une grande portée; j’espère que nous pourrons mettre en place les garde‑fous dont nous avons besoin assez rapidement.

Merci, wela’lin.

(Sur la motion de la sénatrice Kingston, le débat est ajourné.)