Ayant donné préavis le 13 juin 2024 :

Qu’elle attirera l’attention du Sénat sur la nécessité d’un développement et d’une utilisation sûrs et productifs de l’intelligence artificielle au Canada.

 — Honorables sénateurs, je prends la parole pour lancer cette interpellation sur le développement et l’utilisation sûrs et productifs de l’intelligence artificielle au Canada.

L’intelligence artificielle est l’ensemble des technologies qui permettent aux machines d’effectuer des tâches généralement associées à l’intelligence humaine, comme l’apprentissage, la perception et la création. L’intelligence artificielle a le potentiel de changer notre société et notre économie à bien des égards en libérant la productivité et l’innovation, suscitant de l’enthousiasme et évoquant un avenir prometteur pour beaucoup.

Nous craignons toutefois de plus en plus de perdre le contrôle de cet outil très puissant, de laisser des gens de côté et même de nuire à certains en raison de l’évolution incontrôlable de cette technologie émergente.

Chers collègues, c’est la raison pour laquelle j’ai proposé cette interpellation. L’intelligence artificielle a déjà une incidence majeure et omniprésente sur tous les aspects de notre vie. Nous ne pouvons pas nous laisser abattre par l’inaction. Nous ne pouvons pas laisser cette technologie progresser en restant sur la touche et en espérant le meilleur.

En tant que sénateurs, législateurs et leaders, nous avons le devoir et les moyens d’examiner, de comprendre et d’influencer le développement et l’utilisation de l’intelligence artificielle, en particulier pour veiller à ce qu’elle soit sûre et productive.

Nous devons réfléchir aux leçons du passé. Nous savons maintenant à quel point les effets des médias sociaux sont dangereux. Malgré tous les avantages qui en découlent, les médias sociaux ont une influence extraordinaire et, dans certains cas, une incidence négative sur notre culture, notre démocratie, notre santé physique et mentale, notre économie et plus encore.

Que ce serait-il passé si des efforts avaient été déployés il y a 20 ans pour comprendre la manière dont cette technologie pourrait évoluer et quelles mesures de protection et mises en garde s’imposaient? Que feraient les gouvernements et les Parlements s’ils avaient l’occasion de recommencer? Bien que nous ne puissions retourner en arrière, nous pouvons nous concentrer sur l’avenir. Nous convenons tous que l’intelligence artificielle est une technologie révolutionnaire comparable à l’électricité, aux antibiotiques ou à Internet. Elle changera complètement notre mode de vie.

Tandis que nous travaillons à exploiter le potentiel de l’intelligence artificielle au profit de l’économie et de la société, nous devons comprendre où se trouvent les occasions de protéger les Canadiens des préjudices de l’intelligence artificielle.

Cette interpellation est une étape importante de notre dialogue pour comprendre collectivement l’incidence que nous souhaitons avoir en tant que parlementaires. J’exhorte le maximum de sénateurs à y participer.

L’intelligence artificielle a des effets sur la santé, la culture, les droits de la personne, les parlements, les démocraties, les soins de santé, les arts, l’éducation, la recherche scientifique, la croissance économique, la défense et la sécurité nationales, les relations internationales et bien d’autres secteurs. J’espère que vous aurez beaucoup de choses à dire, chers collègues, à propos des effets de l’intelligence artificielle sur ces secteurs et d’autres domaines, ainsi que sur les avantages et les risques que présente cette technologie qui marque un tournant dans l’histoire.

Pour le reste du temps dont je dispose, je me concentrerai sur la gestion de l’intelligence artificielle. Les progrès rapides de cette technologie s’accompagnent de défis de taille en ce qui a trait à l’éthique, à la responsabilité et aux effets perturbateurs sur la société. La gestion de l’intelligence artificielle est devenue un domaine d’intérêt essentiel. Son objectif ultime consiste à atténuer les risques de l’intelligence artificielle tout en maximisant ses avantages.

Tout le monde est responsable de la gestion de cette technologie : les gouvernements, les organismes de réglementation, l’industrie et les développeurs. On constate que des mécanismes de gestion font actuellement leur apparition. Par exemple, les technologies de l’intelligence artificielle peuvent être soumises aux lois et aux règlements existants. Il y a déjà des lois qui portent sur la discrimination, la protection des données et la vie privée. De plus, l’intelligence artificielle est déjà soumise à une réglementation à laquelle elle doit se conformer. Par ailleurs, l’industrie cherchera à régir elle-même l’intelligence artificielle afin de gérer et d’atténuer les risques, pour que ses produits garantissent la protection de ses intérêts commerciaux et le bon fonctionnement de ses services de base.

Beaucoup ont cherché à examiner la question de l’intelligence artificielle à travers la lunette éthique. Par exemple, l’UNESCO voudrait que l’on adopte une approche de l’intelligence artificielle reposant sur les 10 principes liés au respect des droits de la personne, comme la transparence, l’explicabilité, la surveillance humaine ainsi que la gouvernance et la collaboration multipartites et adaptatives. De grandes sociétés technologiques, comme Microsoft, Lenovo et Salesforce, ont adopté le cadre éthique sur l’intelligence artificielle recommandé par l’UNESCO. Pourtant, la transparence et la reddition de comptes doivent être au cœur de tout mécanisme efficace de gestion de l’intelligence artificielle.

S’agissant des technologies d’intelligence artificielle, il est important de poser les questions suivantes : d’où viennent les données servant à alimenter les systèmes d’intelligence artificielle? Quels contrôles sont effectués pour garantir l’exactitude, la qualité et la confidentialité? Qui participe au développement et à la création des systèmes d’intelligence artificielle? Des représentants de divers groupes de la société participent-ils aux prises de décision? Les organisations intègrent-elles l’analyse critique? Il est essentiel de prévoir les mécanismes nécessaires pour garantir la transparence et la reddition de comptes dans le développement et la mise en service des systèmes d’intelligence artificielle.

Il est aujourd’hui de plus en plus évident pour nous tous que le recours à l’intelligence artificielle pose des problèmes énormes. Comment allons-nous gérer une technologie d’une aussi grande complexité, qui est omniprésente et dont le développement se fait très rapidement à l’heure actuelle? Nous pouvons dire sans l’ombre d’un doute que nous n’avons certainement pas le choix de ne rien faire, mais il est clair que la gestion de l’intelligence artificielle sera aussi complexe que la technologie elle-même.

Que fait le Canada? Le gouvernement du Canada a pris quelques mesures pour réglementer l’intelligence artificielle dans le cadre des activités de l’État fédéral et dans la société canadienne en général. Il a créé le Guide sur l’utilisation de l’intelligence artificielle générative, qui est une ressource primordiale pour les organismes du secteur public fédéral. Ce guide décrit les principes et les pratiques clés qui devraient être suivis lorsqu’on met en service un système d’intelligence artificielle générative. Il souligne l’importance des considérations éthiques et de la reddition de comptes. Il met l’accent sur les principes d’équité, de sécurité et de pertinence.

Parmi les mesures prises par le gouvernement relativement à la gestion de l’intelligence artificielle, mentionnons la présentation du projet de loi C-27. Officiellement intitulé Loi de 2022 sur la mise en œuvre de la Charte du numérique, il constitue une mesure législative appréciable pour aborder la nature complexe des technologies numériques et émergentes ainsi que les défis qu’elles posent au Canada. Dans le but d’améliorer la protection de la vie privée des Canadiens tout en encourageant l’innovation dans l’économie numérique, le projet de loi C-27 propose des mesures de renforcement de la responsabilité et des lignes directrices pour atténuer les risques. Il cible des préoccupations précises sur l’intelligence artificielle générative et cherche à protéger les droits et les valeurs individuels tout en mettant l’accent sur l’importance d’encourager l’innovation. Il représente un important pas en avant pour notre cadre de gouvernance.

Le gouvernement a également présenté le Code de conduite volontaire visant un développement et une gestion responsables des systèmes d’IA générative avancés, qui vise à orienter les entreprises qui créent des technologies d’intelligence artificielle générative et met l’accent sur l’importance, là encore, des principes éthiques et de l’innovation responsable. Les signataires du code de conduite s’engagent à viser la responsabilisation, la sécurité, la justice et l’équité, la transparence, la surveillance humaine et la validité et la fiabilité des systèmes. Plusieurs entités d’importance sont déjà signataires du code de conduite, notamment TELUS, Lenovo, le Conseil canadien des innovateurs et IBM.

Tout juste ce mois-ci, le gouvernement canadien a inauguré l’Institut canadien de la sécurité de l’intelligence artificielle, un nouveau centre de recherche dont l’objectif est d’améliorer notre compréhension des risques associés à l’intelligence artificielle et d’implanter des mesures pour s’y attaquer. Dans le cadre de ses travaux, l’institut collaborera avec d’autres instituts de sécurité partout dans le monde.

À l’échelle planétaire, la gouvernance de l’intelligence artificielle est également une nouvelle priorité. Les organisations internationales sont de plus en plus impliquées dans l’examen des considérations éthiques dont nous avons parlé. L’Organisation de coopération et de développement économiques a un outil de surveillance des incidents liés à l’intelligence artificielle, et je vous encourage tous à le consulter. Il rapporte tous les événements où un système d’intelligence artificielle a produit un résultat négatif, que ce soit en raison de préjugés, d’erreurs ou d’un décalage avec les valeurs humaines. De tels outils sont précieux, parce que suivre les incidents permet aux organisations d’apprendre de leur expérience et de peaufiner en conséquence leurs politiques et leurs pratiques en matière d’intelligence artificielle.

Plus tôt cette année, le Forum économique mondial a publié un rapport sur la gouvernance de l’intelligence artificielle générative, où il présente les meilleures pratiques de gestion pour cette technologie. En fait, cette organisation a fait beaucoup de travail sur la gouvernance de l’intelligence artificielle et a créé des outils pour aider les personnes intéressées à tenir compte des répercussions complexes de cette technologie sur les divers secteurs de la société.

En septembre, l’Organe consultatif de haut niveau sur l’intelligence artificielle des Nations unies a publié son rapport final intitulé Gouverner l’IA au bénéfice de l’humanité. Ce rapport est un appel à l’action en faveur d’une approche équilibrée pour exploiter le potentiel de l’intelligence artificielle tout en relevant les défis qu’elle pose. Rédigé par une équipe diversifiée — des représentants gouvernementaux, des chefs de file du secteur technologique et des sommités des droits de la personne, qui ensemble ont consulté plus de 2 000 experts partout sur la planète —, il insiste sur la nécessité d’établir un cadre mondial pour garantir le développement responsable et éthique des technologies.

Enfin, divers gouvernements travaillent à réglementer l’intelligence artificielle. L’Union européenne en est un exemple important, puisqu’elle a récemment adopté une loi sur l’intelligence artificielle. À l’heure actuelle, il s’agit probablement du développement juridique le plus important au monde en matière de réglementation de l’intelligence artificielle. La loi établit un cadre complet pour l’intelligence artificielle et prévoit la création d’un bureau de l’intelligence artificielle de l’Union européenne, qui supervisera la mise en œuvre et l’application de cette loi, en plus d’avoir le pouvoir d’imposer des sanctions importantes lorsque la réglementation ne sera pas respectée.

Chers collègues, pour conclure, la gouvernance de l’intelligence artificielle est une tâche colossale, mais essentielle. Aujourd’hui, je vous ai donné un aperçu très général de certains des efforts en cours, mais j’aimerais conclure en vous faisant part de mes plus grandes préoccupations.

Premièrement, le développement de l’intelligence artificielle exclut des gens de manière significative. L’accès à cette technologie et à ses avantages est jusqu’à présent réservé aux pays très riches de l’hémisphère Nord. Cela me préoccupe parce que cela signifie que l’intelligence artificielle aura presque certainement des conséquences imprévues qui toucheront ceux qui souffrent déjà de marginalisation et de racisme systémiques. Cela signifie également que ces personnes ne bénéficieront pas de manière équitable des avantages en matière d’efficacité et d’innovation qui découleront de l’intelligence artificielle.

Deuxièmement, je suis préoccupée par le manque de transparence dans l’industrie. Dans un article publié en 2022 dans la MIT Sloan Management Review, où plus de 1 000 cadres chargés du développement et du déploiement de l’intelligence artificielle dans le monde ont été interrogés, on apprend que seuls 25 % d’entre eux estiment avoir mis en place des processus de gouvernance parfaitement au point. Cela illustre une réalité troublante, à savoir que l’industrie privée — les principaux générateurs et utilisateurs de ces outils — a beaucoup de choses à améliorer et un long chemin à faire. Nous devons être en mesure d’examiner ces processus d’une manière qui respecte et préserve les intérêts commerciaux de l’industrie tout en veillant à ce qu’elle soit mise au défi de garantir que son travail est accompli de manière responsable.

Enfin, je suis préoccupée par la mise en œuvre des politiques en matière d’intelligence artificielle au Canada et dans le monde entier. Nous avons besoin de politiques conformes, cohérentes et assorties de sanctions appropriées en cas d’inobservation. Sans cela, nous risquons d’étouffer l’industrie ou de la laisser se développer librement à notre propre détriment.

Chers collègues, il est presque l’heure d’aller se coucher. Je vous remercie de votre attention. Le développement sûr et productif de l’intelligence artificielle est l’un des enjeux les plus importants de notre époque. J’espère que vous serez aussi nombreux que possible à prendre la parole dans le cadre de cette interpellation, et j’attends avec impatience la suite du débat.