LE COMITÉ SÉNATORIAL PERMANENT DES DROITS DE LA PERSONNE
TÉMOIGNAGES
OTTAWA, le lundi 20 avril 2026
Le Comité sénatorial permanent des droits de la personne se réunit aujourd’hui, à 16 heures (HE), avec vidéoconférence, afin d’examiner, pour en faire rapport, l’impact de l’intelligence artificielle sur les droits de la personne et la sécurité économique au Canada, en particulier en ce qui concerne les groupes vulnérables et le droit international de la personne au travail.
La sénatrice Paulette Senior (présidente) occupe le fauteuil.
[Traduction]
La présidente : Bonjour, chers collègues. Je tiens tout d’abord à rappeler que nous sommes réunis sur le territoire traditionnel, ancestral et non cédé de la nation algonquine Anichinabe. Je m’appelle Paulette Senior, je suis sénatrice de l’Ontario et présidente de ce comité.
J’invite maintenant mes collègues à se présenter.
Le sénateur Arnot : Je m’appelle David Arnot. Je suis sénateur de la Saskatchewan.
La sénatrice McCallum : Mary Jane McCallum, territoire du Traité nᵒ 10, région du Manitoba.
La sénatrice Robinson : Bienvenue. Je m’appelle Mary Robinson et je représente l’Île-du-Prince-Édouard.
La sénatrice Arnold : Bonjour. Je m’appelle Dawn Arnold et je suis du Nouveau-Brunswick.
Le sénateur K. Wells : Kristopher Wells, Alberta, territoire du Traité n° 6.
La sénatrice Pate : Bienvenue. Je m’appelle Kim Pate. Je vis ici même, sur le territoire non cédé, non abandonné et non restitué de la Nation algonquine anichinabée.
[Français]
La sénatrice Hébert : Bonjour. Martine Hébert, division de Victoria, au Québec.
[Traduction]
La présidente : Merci chers collègues et bienvenue à toutes celles et à tous ceux qui suivent nos délibérations.
Nous allons poursuivre notre étude de l’impact de l’intelligence artificielle sur les droits de la personne et la sécurité économique au Canada, en particulier en ce qui concerne les groupes vulnérables et le droit international du travail.
Cet après-midi, nous accueillerons trois groupes de témoins que nous entendrons tour à tour avant de passer aux questions des sénateurs. Je vais maintenant vous présenter nos premiers témoins, à qui nous avons demandé de faire des déclarations liminaires de cinq minutes chacun.
Nous accueillons par vidéoconférence Martin Kwan, juriste et membre affilié au Centre d’information, de technologie et de vie publique, Université de la Caroline du Nord à Chapel Hill. Bienvenue, monsieur. Et en personne, nous aurons David Lie, professeur, titulaire de la Chaire de recherche du Canada et directeur de l’Institut Schwartz Reisman à l’Université de Toronto.
J’invite maintenant le professeur Kwan à faire son exposé; il sera suivi du professeur Lie.
Vous avez la parole, monsieur Kwan.
Martin Kwan, juriste et membre affilié, Centre d’information, de technologie et de vie publique, Université de la Caroline du Nord à Chapel Hill, à titre personnel : Honorables sénateurs, je vous remercie sincèrement de m’avoir invité à m’adresser à vous. Je me présente à vous comme une personne profondément préoccupée par l’impact de l’intelligence artificielle sur les milieux du travail et de l’enseignement, ainsi que sur la cybercriminalité.
La quatrième révolution industrielle qui est en cours nous contraint à mener une course contre les machines. L’IA n’est plus seulement un logiciel puissant imitant notre raisonnement, puisqu’elle prend la forme de robots et d’humanoïdes. Le remplacement progressif des humains est inévitable. De nombreuses pertes d’emploi seront définitives. Nous constatons déjà un taux de chômage élevé chez les jeunes, car les emplois de premier échelon disparaissent. La vitesse de remplacement est plus rapide que l’acquisition de nouvelles compétences. Le concept de parcours professionnel stable appartient désormais au passé, de plus en plus de personnes doivent se tourner vers le travail à la tâche et accepter d’être sous-employées. Personne ne peut échapper à ce cauchemar qui touchera davantage les groupes vulnérables, provoquera des problèmes sociaux et creusera les inégalités.
Le caractère inéluctable de l’IA ne doit cependant pas nous pousser à rester les bras croisés. Les lois, les valeurs et les principes canadiens commandent l’adoption de mesures politiques pour protéger l’emploi et à défendre les groupes vulnérables. La Cour suprême du Canada a mainte fois souligné dans ses arrêts que le travail est l’un des aspects les plus fondamentaux de la vie d’une personne ainsi qu’une composante essentielle de son identité, de son estime de soi et de son bien‑être émotionnel.
En tant que signataire du Pacte international relatif aux droits économiques, sociaux et culturels, le gouvernement canadien est tenu de garantir le droit international du travail.
Sur le plan juridique, la Cour suprême a statué que les obligations internationales du Canada en matière de droits de la personne doivent éclairer l’interprétation de la Charte des droits, et elle a spécifiquement renvoyé au droit international du travail.
L’emploi est au cœur de nombreux droits garantis par la Charte. Il est lié à notre dignité, à notre vie familiale et à notre capacité à nous intégrer dans la société canadienne. Les tribunaux canadiens ont affirmé que le « droit de gagner sa vie » présente un intérêt d’importance fondamentale qui s’inscrit dans les limites de la protection constitutionnelle et qui ne devrait pas être écarté à la légère.
Il ressort clairement que le travail est indispensable, mais la pénétration de l’IA va exactement dans le sens inverse. L’IA est bien sûr porteuse de nombreuses possibilités, mais ses fruits ne seront pas automatiquement répartis de manière équitable. Certains groupes subiront un préjudice net au cours de cette douloureuse transition vers l’IA. Ils ont besoin que les décideurs politiques prennent des mesures de sécurité pour protéger leurs droits.
Il convient désormais d’accorder une priorité absolue à la littératie en IA, ce qui devrait aider la population canadienne à mieux saisir les opportunités. Cependant, comme le coût des outils d’IA risquent d’être prohibitifs pour les groupes vulnérables, il incombe au gouvernement de faire en sorte que l’accès à ces outils soit aussi inclusif que possible.
Pour ma part, je préfère parler de « sensibilisation à l’IA » plutôt que de « culture de l’IA », car, en réalité, cette culture ne peut pas consister à exiger de chacun qu’il devienne un utilisateur expert. L’objectif politique réel est plutôt de garantir une compréhension à l’échelle nationale des capacités de l’IA et de la manière dont elle transforme structurellement le paysage du marché du travail, afin que les Canadiens puissent ajuster leurs attentes en matière de carrière, planifier plus minutieusement et agir sans tarder.
Par principe, le pacte international n’exige pas seulement une formation professionnelle, mais prévoit également, de manière explicite, une orientation professionnelle. Le gouvernement a le devoir d’accompagner les Canadiens dans cette période de changements sans précédent.
Il est très important de noter que la littératie en IA ne concerne pas uniquement le travail. Elle remplit en réalité des fonctions plus larges pour la sécurité économique du Canada. L’IA a été détournée pour des escroqueries en ligne extrêmement sophistiquées, qui reposent sur l’usurpation d’identités à coup d’imitations de la voix et des traits des victimes. Cela constitue une menace à la sécurité économique, parce que des victimes d’escroqueries ont perdu les économies de toute une vie et que des entreprises canadiennes ont été prises pour cibles. Tout le monde peut être exposé à des escroqueries commises grâce à l’IA. C’est pourquoi la littératie en IA et la sensibilisation au sujet sont importantes pour nous tous, et pas seulement pour les travailleurs vulnérables, car nous sommes tous confrontés à des menaces accrues en matière de cybersécurité.
Cela dit, il est également important de garder à l’esprit le rôle limité de la littératie en IA, car celle-ci n’empêchera pas le remplacement des emplois ni la réduction des effectifs. Force est de constater que des entreprises à but lucratif ont choisi de remplacer des employés par l’IA et par l’automatisation pour des raisons de coût et d’efficacité.
À plus long terme, le gouvernement devra donc explorer d’autres options et plans de contingence que la seule littératie en IA. Il est par exemple temps de réexaminer le rôle de la responsabilité sociale des entreprises sous l’angle de leurs contributions à l’emploi. Par analogie, dans tout ce qui touche à l’ESG, soit l’environnement, l’aspect social et la gouvernance, nous nous demandons s’il est justifié et proportionné que les grandes entreprises recherchent la maximisation des profits au détriment de l’environnement et de l’éthique. Je pense qu’il est possible d’appliquer la même logique aux entreprises à l’origine des suppressions massives d’emplois, ainsi qu’à la responsabilité éthique des fournisseurs d’IA qui ferment les yeux sur les éventuels usages détournés de leurs produits d’IA à des fins criminelles, telles que les escroqueries.
Je vais m’arrêter là pour l’instant. Merci beaucoup.
La présidente : Merci. J’allais justement vous interrompre, et je vous remercie de vous être arrêté de votre propre initiative. Je donne maintenant la parole à M. Lie.
David Lie, professeur, titulaire de la Chaire de recherche du Canada et directeur de l’Institut Schwartz Reisman, Université de Toronto, à titre personnel : Merci. Je vous suis très reconnaissant de m’avoir donné l’occasion de m’adresser à vous. Je m’appelle David Lie, je suis professeur d’ingénierie électrique et informatique et je suis titulaire d’une chaire de recherche du Canada à l’Université de Toronto, où j’occupe également le poste de directeur du Schwartz Reisman Institute for Technology and Society. Mes travaux portent sur l’impact des technologies majeures sur la vie quotidienne des gens. Au fil des ans, j’ai constaté qu’une des préoccupations les plus pressantes est de savoir comment garantir que les systèmes numériques protègent la sécurité des utilisateurs et la fiabilité de leurs données.
Par exemple, en 2021, en pleine pandémie de COVID-19, l’autorité sanitaire provinciale de Terre-Neuve-et-Labrador a été victime d’une des pires cyberattaques de l’histoire du Canada. Une attaque malveillante par rançongiciel a paralysé les systèmes de soins de santé de la province, obligeant les hôpitaux à annuler des interventions médicales cruciales, notamment des opérations chirurgicales et des traitements de chimiothérapie. Les informations personnelles de plus de 100 000 Canadiens ont été compromises, et cette attaque a coûté au moins 16 millions de dollars à la province. Bien qu’il soit heureux que personne n’ait perdu la vie en conséquence directe de cet incident, de tels événements nous rappellent à quel point la sécurité et la sûreté de notre infrastructure numérique sont importantes.
Nous sommes aujourd’hui confrontés à un nouveau défi. L’intelligence artificielle est de plus en plus présente dans les systèmes numériques dont nous dépendons tant. Or, l’IA est une technologie qui évolue à un rythme qui dépasse notre capacité à la contrôler et à la surveiller. Si le contrôle demeure un défi technique majeur, nous pouvons dès à présent renforcer la surveillance grâce à une transparence accrue. Au début du mois, Anthropic, une entreprise de premier plan dans le domaine de l’IA, a annoncé que son dernier modèle, Claude Mythos, avait découvert des milliers de failles dans des logiciels utilisés par des millions de personnes. Inquiète, Anthropic a jugé qu’il serait trop dangereux de rendre Mythos public et a préféré le réserver à un petit nombre d’organisations. Bien que cette décision soit responsable à certains égards, elle empêche également tout le monde d’avoir accès à des informations essentielles sur l’étendue de ses capacités. Si nous ne sommes pas en mesure d’évaluer le niveau de danger, comment savoir si de telles avancées rendront les défaillances telles que l’attaque par rançongiciel de 2021 plus ou moins fréquentes?
Le Canada doit se doter d’une stratégie nationale cohérente en matière d’IA afin de faire face à l’émergence de nouvelles capacités de ce type, ce qui ne manquera pas de se produire. Compte tenu de ces circonstances, je vais maintenant vous présenter trois domaines prioritaires dans lesquels, selon moi, il est urgent de protéger les droits des Canadiens.
Premièrement, nous devons protéger les enfants. Il est absolument essentiel de les protéger contre les risques potentiels des systèmes d’IA. L’IA pourrait avoir un impact négatif sur l’éducation de nos enfants et nuire à leur santé mentale. Nous avons déjà relevé des cas d’hypertrucages impliquant des mineurs et de dépendance excessive à l’IA chez les élèves. Une solution possible serait de limiter, voire d’interdire carrément l’exposition de nos plus jeunes enfants à l’IA jusqu’à ce que nous comprenions mieux les effets de l’IA sur leur développement.
Deuxièmement, l’humain doit conserver son agentivité pour prendre des décisions. À mesure que les systèmes d’IA gagneront en performances, la tentation sera grande de croire qu’ils sont plus fiables que les êtres humains. Nous devons résister à cette tentation. Si les systèmes d’IA peuvent faire preuve d’une rapidité, d’une mémoire et d’une résistance à la fatigue impressionnantes, il ne faut pas pour autant les assimiler à une intelligence ou à un jugement supérieurs. Pour toutes les décisions importantes, en particulier celles qui impliquent des considérations morales ou éthiques, les humains doivent continuer à prendre les décisions ultimes et en assumer la responsabilité. Si les Canadiens perdent ce rôle essentiel, ils risquent de perdre leur agentivité et ils pourraient finir par perdre leur capacité à participer de façon significative à la vie économique.
Troisièmement, comme je l’ai mentionné, nous avons besoin de plus de transparence. Les organismes de réglementation, les experts indépendants et le public doivent disposer d’informations suffisantes pour évaluer et anticiper les risques et les méfaits. Les systèmes d’IA continueront à se développer à un rythme effréné, et il est essentiel de bien en cerner les capacités. Nous avons tous le droit de savoir comment nous serons affectés. Tout comme cela est arrivé à des entreprises de médias sociaux, telles que Meta, certains acteurs seront tentés de dissimuler les informations qui ne servent pas leurs intérêts. Nous ne pouvons l’accepter, et nous devons créer les conditions propices à une plus grande transparence.
Cela étant posé, je vous invite instamment à considérer les trois axes prioritaires que j’ai exposés, soit la protection des enfants, la garantie de l’agentivité humaine et la promotion de la transparence, comme des priorités dans une charte des droits adaptée à l’ère de l’IA. Les technologies que je vous ai décrites ont déjà un impact sur des millions de personnes. Or, le Canada ne dispose toujours pas d’une législation complète en matière d’IA, et nous ne pouvons tout simplement pas attendre qu’un incident tragique et de grande ampleur, comme celui de 2021, se produise avant d’agir. Nous devons prendre des mesures décisives pour doter les Canadiens des outils et des ressources nécessaires afin qu’ils puissent exercer un contrôle sur la manière dont l’IA nous affecte tous. Le moment est venu d’élaborer un cadre réglementaire applicable en matière d’IA, un cadre fondé sur les droits, qui soit conforme aux engagements internationaux du Canada en matière de droits de la personne et qui s’inscrive dans une stratégie nationale cohérente en matière d’IA.
Merci de votre attention.
La présidente : Merci à vous deux pour vos présentations. Nous allons maintenant passer aux questions.
Le sénateur Arnot : Ma question s’adresse à M. Kwan. Monsieur, pensez-vous que le droit au travail soit en passe de devenir une question relevant de la compétence des tribunaux, dans le contexte de la prise de décision algorithmique? Deuxièmement, si les tribunaux deviennent le principal mécanisme de redressement des préjudices, cela revient-il à accepter que la protection soit assurée uniquement lorsque le préjudice est survenu?
M. Kwan : Merci, sénateur, pour vos questions.
En ce qui concerne le premier point, comme l’a indiqué la Cour suprême, le droit au travail sera une composante persuasive et puissante de l’interprétation de la Charte des droits et libertés. Je pense donc que ce droit peut s’appliquer dans le contexte des algorithmes et qu’il est possible de protéger, par exemple, le droit à la vie privée des citoyens, ainsi que de nombreux autres droits inscrits dans la Charte.
En ce qui concerne la deuxième question, à savoir s’il s’agira d’une protection a posteriori, je pense que ce ne sera pas le cas, car le droit au travail impose au gouvernement canadien une obligation, l’obligation préalable de prendre des mesures pour intervenir et veiller à ce que les personnes bénéficient d’une formation comme celle en IA et, comme je l’ai dit, d’une orientation professionnelle sur la manière dont l’IA transforme le marché du travail. Le droit au travail s’applique tant a priori qu’a posteriori devant les tribunaux et en tant que mandat politique. Je pense qu’il peut servir de base politique solide et puissante pour intervenir.
Le sénateur Arnot : Merci. Ma question s’adresse à M. Lie. Dans quelle mesure les systèmes actuels peuvent-ils être expliqués dans la pratique? Par ailleurs, si ces systèmes ne peuvent pas être expliqués de manière satisfaisante, comment les gens peuvent-ils exercer leurs droits les concernant?
M. Lie : Vous demandez comment les systèmes peuvent être expliqués dans la pratique. Il existe de nombreux systèmes différents pouvant être considérés comme relevant de l’IA. Pour bon nombre des modèles de pointe les plus complexes et les plus performants à l’heure actuelle, nous ne disposons pas des technologies ni des méthodes nécessaires pour pouvoir les expliquer. Ce problème ne cesse de s’aggraver.
Pouvez-vous répéter la deuxième partie de votre question?
Le sénateur Arnot : Si les systèmes ne peuvent pas être expliqués de manière claire, comment les gens peuvent-ils exercer leurs droits les concernant?
M. Lie : Ce n’est qu’une hypothèse, mais il pourrait exister des moyens de limiter l’utilisation des systèmes qui ne peuvent pas être expliqués, afin d’éviter qu’ils portent atteinte aux droits. Je pense que c’est une meilleure approche que d’essayer de les expliquer, compte tenu des trajectoires que suivent actuellement nos technologies.
Le sénateur Arnot : Merci.
La sénatrice McPhedran : Ma première question s’adresse à M. Lie. Je voudrais revenir sur ce que vous disiez à propos de la protection des enfants. Je pense qu’avant que vous puissiez répondre à ma question, je devrais sans doute vous demander de nous expliquer brièvement la différence entre les abus commis sur Internet et les abus ou les risques liés à l’IA.
M. Lie : La question principale portait sur la différence entre les abus commis par l’IA et ceux commis en ligne, ou sur Internet. Même si, aujourd’hui, les systèmes sont principalement accessibles via Internet, l’IA peut prendre de nombreuses formes. Elle peut utiliser des véhicules de plus en plus autonomes ou des systèmes matériels. Elle peut également être présente au sein d’une institution, comme une institution financière, et servir à la prise de décisions qui n’ont pas d’impact direct sur des personnes qui sont lésées par ailleurs par le même genre de décisions sur Internet. L’IA s’intègre donc dans bon nombre des systèmes que nous percevons comme numériques ou technologiques, mais pas dans toutes les décisions auxquelles nous sommes confrontés sur Internet ou en ligne.
La sénatrice McPhedran : La distinction que je vous ai demandé de nous expliquer — et je vous remercie de nous éclairer à ce sujet — découle en partie d’une des affirmations selon lesquelles la protection des enfants ou leur défense constitue une priorité absolue, ce avec quoi nous sommes absolument d’accord. Cependant, dans des pays comme l’Australie, où l’on a véritablement tenté d’utiliser la loi pour faire exactement ce que vous avez décrit, nous constatons aujourd’hui que, dans les faits, la proportion des enfants de la tranche d’âge ciblée qui trouvent le moyen d’y accéder dépasse de loin les 50 %. La question se résume en réalité à ceci : quelle est, selon vous, la capacité des législateurs à répondre efficacement aux préoccupations tout à fait légitimes que vous soulevez?
M. Lie : Vous soulevez un point intéressant. Je suis de près ce qui se passe en Australie et dans d’autres pays concernant les interdictions des médias sociaux. Il y a des enseignements à tirer de ces expériences. Ce n’est pas parce qu’elles n’ont pas fonctionné dès le départ qu’il s’agit nécessairement d’une mauvaise idée. Elles nécessitent une étude plus approfondie et des ajustements. L’idée de limiter ou de restreindre les effets de l’IA sur les enfants est un sujet auquel nous devrions accorder une grande attention.
La sénatrice McPhedran : Dans quelle mesure les législateurs peuvent-ils y arriver?
M. Lie : Les règlements et les lois constituent effectivement un moyen de mettre en place ces limites.
La sénatrice McPhedran : Vous reconnaissez en quelque sorte le rôle des législateurs en indiquant qu’il s’agit d’une solution possible. Quels autres moyens envisagez-vous? Pensez-vous qu’il faille combiner d’autres approches pour assurer une meilleure protection?
M. Lie : L’autre solution consiste à améliorer l’éducation et la littératie, afin qu’effectivement, les forces du marché puissent également renforcer, voire compléter, les règlements ou les lois adoptés pour protéger les enfants.
Le sénateur K. Wells : Ma première question s’adresse à M. Lie, qui est présent dans la salle. Merci d’être parmi nous. D’après vos travaux et vos recherches, quels sont les pays qui mènent la marche en matière de littératie en IA et qui mettent en place les garde-fous et les mesures de protection appropriés que nous estimons nécessaires? Y a-t-il des pays qui sont en avance sur le Canada et dont nous devrions nous inspirer? Le ministre Solomon a d’ailleurs indiqué que le Canada était sur le point d’annoncer sa propre stratégie en matière d’IA.
M. Lie : C’est une bonne question. Je connais plusieurs pays qui ont pris des initiatives intéressantes et efficaces dont nous pouvons nous inspirer. Par exemple, la Suisse a décidé d’entraîner son propre modèle, dans le cadre d’un projet piloté par le gouvernement et les citoyens, plutôt que par une entreprise privée à but lucratif. Il y a donc, en quelque sorte, une plus grande responsabilité.
Un autre exemple est celui de Singapour, qui s’est fixé pour objectif de rendre l’IA largement accessible à tous ses citoyens et de réduire les obstacles à son accès. Je ne connais pas les détails précis de la manière dont ils comptent s’y prendre, mais c’est un objectif louable.
Enfin, l’Union européenne a, dans l’ensemble, adopté une législation complète en matière d’IA. Tout cela n’est pas parfait, mais c’est un pas dans la bonne direction.
Le sénateur K. Wells : Merci pour ces exemples. Ma question s’adresse à nos deux intervenants. Pour ce qui est des jeunes, d’une certaine façon, l’IA n’est peut-être pas une si mauvaise chose si elle est utilisée à bon escient. Je m’exprime ici en tant qu’éducateur. Existe-t-il des moyens de mettre l’IA au service du bien? Par exemple, pourrait-on l’utiliser pour les élèves qui présentent des difficultés d’apprentissage ou des défis particuliers, ou encore pour ceux qui ont des capacités exceptionnelles, ce que l’on appelait autrefois les élèves surdoués? Peut-être pourraient-ils bénéficier d’un enrichissement pédagogique avec l’aide de l’IA ou acquérir une maîtrise des contenus de base, dans les cas où un enseignant, face à une classe de 40 à 45 élèves de la maternelle à la 5e secondaire, n’est tout simplement pas capable de s’occuper de chacun individuellement. C’est particulièrement vrai dans les cas où de nombreux apprenants aux capacités différentes sont regroupés dans une même classe. Des projets pilotes ont été menés, mais davantage aux États-Unis qu’au Canada. Ces modèles sont pilotés par l’IA. J’aimerais connaître votre avis à ce sujet. Avez-vous observé des cas où l’IA peut réellement contribuer à la réussite scolaire des jeunes?
M. Lie : Merci. Je vais vous répondre brièvement pour ne pas prendre trop de temps. L’IA peut notamment contribuer à l’éducation en comblant les lacunes lorsque les ressources humaines sont insuffisantes. On ne parle pas ici de la capacité de l’IA à se substituer à celle des êtres humains pour enseigner. En revanche, l’intelligence artificielle offre des capacités complémentaires. Elle permet de récupérer des informations beaucoup plus rapidement et peut également être disponible 24 heures sur 24, 7 jours sur 7, lorsque l’enseignant ou le tuteur ne l’est pas.
Le sénateur K. Wells : Merci. Monsieur Kwan?
M. Kwan : En Asie, les gouvernements encouragent les étudiants universitaires à recourir à l’IA agentique pour accroître leur productivité, afin qu’ils puissent se lancer dans l’entrepreneuriat individuel. Il s’agit là d’un excellent modèle permettant aux étudiants d’acquérir des aptitudes à l’emploi, tout en concrétisant leur créativité sous forme de produits, grâce à l’efficacité de l’IA, ce qui leur permet de réduire les coûts et les obstacles liés à la création d’une entreprise et au développement de produits. C’est un exemple intéressant.
La sénatrice Pate : Merci à nos deux témoins d’être parmi nous. Ma question fait suite aux deux dernières. Nous savons que le Canada a signé la Convention-cadre du Conseil de l’Europe sur l’intelligence artificielle et les droits, la démocratie et l’état de droit. Nous savons également que la signature d’une convention n’est pas juridiquement contraignante pour les pays. Y a-t-il des éléments tirés de la convention et des mesures prises par d’autres pays — au-delà de ce que vous nous avez déjà conseillé — que nous devrions recommander au gouvernement d’inclure dans la législation, la réglementation et les politiques qu’il pourrait mettre en œuvre? Cette question s’adresse à vous deux. Nous pourrions peut-être commencer par M. Lie.
M. Lie : Je ne connais pas les détails par cœur, mais d’après le règlement de l’Union européenne, les dispositions utiles sont celles qui imposent un niveau de surveillance accru. En fonction du mode de déploiement de l’IA, et compte tenu des préjudices pouvant découler de ce déploiement, il existe un système de surveillance graduée ou des exigences visant à évaluer la sécurité du système d’IA avant son déploiement, en fonction du niveau de préjudice qu’il pourrait potentiellement causer.
La sénatrice Pate : Y a-t-il autre chose?
M. Kwan : Je ne suis pas un expert des règlements de l’Union européenne, mais l’une des préoccupations majeures concerne la manière de mettre en œuvre davantage de règlements calqués sur le modèle européen. Cela pourrait entraîner des mesures de rétorsion de la part des États-Unis sur le plan commercial, et exacerber les tensions à ce chapitre. C’est là aussi une considération légitime à prendre en compte lorsque l’on examine comment s’inspirer du modèle européen.
La sénatrice Pate : Très bien. Ma prochaine question est pour vous, monsieur Lie. Le modèle suisse, qui repose sur l’idée d’une stratégie nationale, plutôt que de laisser le secteur privé prendre cela en charge, semble correspondre à ce que vous recommanderiez. Est-ce quelque chose que vous recommanderiez tous les deux? Comment envisagez-vous la mise en œuvre d’une telle approche? Le gouvernement fédéral devrait-il élargir les attributions du ministère, maintenant que le ministre Solomon doit s’occuper de ce genre de questions?
M. Lie : Pour parvenir à un résultat similaire à celui de la Suisse, deux types de ressources sont nécessaires. Il faut de l’expertise humaine, ce dont nous disposons. D’une certaine manière, l’IA a été inventée au Canada, et nous comptons encore aujourd’hui parmi nous de nombreux experts mondiaux dans ce domaine. Il faut ensuite avoir accès à des ressources informatiques. Comme beaucoup d’entre vous le savent sans doute, la génération et les technologies actuelles liées à l’IA nécessitent une bonne quantité de ressources informatiques. De nombreux experts s’efforcent de réduire ces besoins, et nous espérons qu’ils y parviendront. À l’heure actuelle, il s’agit encore d’un domaine qui nécessite d’importantes capacités de calcul et composantes, et c’est un obstacle majeur auquel mes collègues et moi-même sommes confrontés.
M. Kwan : Je n’ai rien à ajouter à l’approche de M. Lie.
La sénatrice Arnold : Merci à nos témoins d’aujourd’hui. Ma question s’adresse à M. Lie. Votre deuxième recommandation portait sur la nécessité de préserver l’agentivité humaine, ce qui deviendra de plus en plus difficile avec le temps, au fur et à mesure que le niveau de confiance augmentera.
J’ai remarqué que, dans certaines de vos recherches, vous évoquiez un programme d’initiatives d’éthique et d’ingénierie intégrées mis en place dans votre établissement, et je me demandais si vous pourriez nous en dire un peu plus à ce sujet, car ce thème revient souvent. Comment enseignons-nous l’éthique et la morale aux personnes qui conçoivent certains de ces systèmes?
M. Lie : Merci beaucoup. Je tiens à rendre à César ce qui est à César. Il s’agit d’un programme lancé par ma collègue, Sheila McIlraith, qui fait également partie du Schwartz Reisman Institute for Technology and Society, dont je suis le directeur.
L’éthique intégrée est une nouvelle approche d’enseignement de l’éthique, plus précisément aux ingénieurs et aux informaticiens qui seront amenés à concevoir des technologies numériques. Cette approche consiste à intégrer véritablement le concept d’éthique et l’analyse éthique au cœur même du processus de conception. Dans bon nombre de ces cours, les étudiants apprennent ce concept et le mettent en pratique en développant des systèmes miniatures. On peut considérer cela comme des travaux pratiques. Normalement, la méthode utilisée consisterait à fixer des objectifs, à construire le système miniature en fonction de ceux-ci et à apprendre à travers ce processus.
L’approche éthique intégrée ajoute des considérations éthiques à cette méthode et en fait un objectif et quelque chose dont il faut tenir compte lors de la conception, ce qui permet aussi de comprendre qu’il n’est pas nécessaire de rechercher à tout prix le maximum de performance ou de profit. Ces aspects sont pris en compte et pondérés en fonction des considérations éthiques.
La sénatrice Arnold : Avez-vous des exemples concrets de la manière dont cela se traduit — de quels sont les résultats? Avez-vous constaté une différence grâce à ce programme?
M. Lie : Je peux vous donner un exemple de la manière dont cela s’est fait. Je ne dispose pas de statistiques. Je pourrais vérifier auprès de ma collègue plus tard, si cela vous intéresse, pour voir si nous en avons recueilli. Par « concrets », vous entendez des statistiques quantitatives? Oui, je peux vérifier cela.
Pour illustrer concrètement comment cela pourrait se faire ou comment nous avons procédé, prenons l’exemple des étudiants — cela remonte à l’époque de la COVID-19 — à qui l’on a demandé de concevoir une application permettant de suivre les expositions au virus. Comme vous vous en souvenez peut-être, nous en avons effectivement déployé une. Le gouvernement canadien en a également déployé une. Lors de sa conception, divers compromis ont dû être faits. Nous voulions des notifications précises et rapides, mais il fallait également trouver un équilibre avec la protection de la vie privée et la possibilité que quelqu’un soit à tort identifié comme atteint de la COVID-19, avec la stigmatisation pouvant en découler.
Il s’agit donc d’un exemple, et je peux vous dire, d’un point de vue qualitatif, que les étudiants ont trouvé cette expérience bien plus intéressante et qu’ils ont eu le sentiment d’avoir beaucoup plus appris qu’avec la façon classique de faire les choses, mais je n’ai pas de données quantitatives à vous fournir spontanément.
La sénatrice Arnold : Merci.
La sénatrice McCallum : Comment le Canada peut-il s’assurer que sa stratégie en matière d’intelligence artificielle soit en adéquation avec les valeurs de la société, en protégeant les personnes contre les risques potentiels, comme l’utilisation abusive des données et les biais algorithmiques, tout en encourageant l’innovation au service de l’humanité? Est-ce seulement possible?
Vous évoquez l’intégration d’une analyse éthique. Est-il possible de la supprimer même si quelqu’un l’a intégrée? Existe‑t-il un moyen de la supprimer? Dans quelle mesure la souveraineté des données est-elle nécessaire pour la sécurité de l’IA au Canada?
M. Lie : D’accord. Il y a donc trois questions ici. Je vais commencer par la dernière, si vous le voulez bien.
La question de la souveraineté des données est importante. Les données constituent l’un des moyens qui nous permettent d’améliorer les systèmes d’intelligence artificielle. Par conséquent, la capacité à conserver ces données et à les utiliser dans l’intérêt des Canadiens sera un aspect essentiel dont nous devrons nous préoccuper. Je pense qu’il s’agit d’une question très nuancée. Cela ne signifie pas que nous ne pouvons pas partager de données, mais nous devons reconnaître que celles-ci revêtent une grande importance et qu’elles doivent être traitées avec beaucoup de prudence.
En ce qui concerne la deuxième question, à savoir l’intégration de l’éthique dans les systèmes et la possibilité de la supprimer — cette question ayant un lien avec la première, qui portait sur la manière de garantir que les systèmes protègent les droits de la personne et renforcent les valeurs sociétales —, je pense que, dans ces deux cas, il est important que les systèmes d’intelligence artificielle soient transparents, tant au niveau de leur conception et de leur intention que de leur fonctionnement dans les faits.
Il y a une tendance — surtout dans le cas des entreprises à but lucratif, mais cela vaut également pour de nombreux autres cas — à ne pas dévoiler tous les aspects ou à n’en présenter qu’un seul, celui des avantages, sans nécessairement évoquer les inconvénients ou les aspects plus risqués. Même lorsqu’il s’agit de systèmes conçus dans un souci d’éthique, au fil du temps, leur utilisation peut dériver ou ils peuvent continuer à évoluer, et certains aspects éthiques peuvent perdre de leur force ou ne plus fonctionner comme prévu à l’origine.
J’en reviens à mon troisième point, à savoir que nous avons besoin de transparence, afin de pouvoir, tous ensemble, comprendre l’impact que les systèmes d’intelligence artificielle auront. Nous ne pouvons pas nous contenter de croire sur parole les créateurs de ces systèmes lorsqu’ils affirment : « Voici les avantages, vous en tirerez profit, et peu importe les inconvénients potentiels. »
M. Kwan : J’ai quelques remarques très brèves à formuler. Pour protéger les Canadiens, il est important de fonder notre action politique sur les droits de la personne. Je pense que le poids, le pouvoir et la pertinence des droits de la personne ne cessent de croître dans le contexte de l’intelligence artificielle. Prenons, par exemple, un cas récent qui s’est produit au Canada et qui impliquait une entreprise appelée Clearview AI. Il s’agit d’une société américaine qui recueille des photos de personnes sur Internet, afin d’utiliser l’intelligence artificielle pour les comparer aux bases de données des forces de l’ordre, dans le cadre d’un modèle commercial. Le tribunal a estimé que ces pratiques portaient atteinte aux droits de la personne, et je pense que nous pouvons nous appuyer sur les droits de la personne et le droit à la vie privée, car les tribunaux se sont montrés disposés à défendre ces droits, même dans le contexte de l’intelligence artificielle.
.
La sénatrice McCallum : Merci.
La présidente : Merci. Avant de passer à la deuxième série de questions, j’aimerais poser moi-même une ou deux questions.
Monsieur Kwan, vous avez évoqué l’importance de la littératie en intelligence artificielle pour sensibiliser le public, et c’est un sujet qui me tient également très à cœur. Je me demandais s’il y avait des régions que vous pourriez citer où la littératie en intelligence artificielle porte ses fruits en termes de sensibilisation? Vous avez mentionné que cela concernait également la sécurité économique. Pourriez-vous nous faire part de ce que vous savez à ce sujet?
M. Kwan : Je vais à nouveau m’appuyer sur des exemples provenant de l’Asie. Par exemple, à Hong Kong et ailleurs en Asie, comme à Singapour et en Thaïlande, nous sommes confrontés à des problèmes de cyberarnaques. Les cyberarnaques en provenance de l’Asie du Sud-Est utilisent l’intelligence artificielle pour rendre les choses très réalistes, et les gens ne parviennent pas à faire la distinction. Mais, grâce à la promotion de la vigilance liée à l’intelligence artificielle par les gouvernements, et du fait que les gens commencent à comprendre l’importance de la littératie en intelligence artificielle, ils savent désormais que les photos et les messages qu’ils reçoivent peuvent facilement être fabriqués de toutes pièces. Par conséquent, la littératie consiste à sensibiliser le public au fait que l’intelligence artificielle dispose de nombreuses capacités et qu’elle est susceptible d’être utilisée à des fins criminelles et frauduleuses.
Je pense que l’aspect lié à l’éducation du public est très important. Il ne s’agit pas seulement de l’éducation de la maternelle à la 5e secondaire et de l’apprentissage par les étudiants des outils d’intelligence artificielle, mais aussi d’une approche plus large, à l’échelle nationale, qui s’adresse à tout le monde. J’espère que cela répond à votre question.
La présidente : Oui, merci. Je m’interroge également sur l’efficacité. Disposez-vous de données concernant l’efficacité de cette approche en Asie ou ailleurs?
M. Kwan : Je ne dispose pas de statistiques pour l’instant, mais nous constatons que le nombre d’escroqueries est en baisse constante en Asie Sud-Est et dans l’ensemble de la région asiatique, car les gens commencent à développer la vigilance liée à l’intelligence artificielle dont j’ai parlé. Techniquement, on ne peut pas parler de « littératie », car il ne s’agit pas d’utiliser des outils d’intelligence artificielle, comme l’intelligence artificielle générative, mais de comprendre comment celle-ci peut être détournée et comment d’autres outils d’intelligence artificielle peuvent être utilisés à des fins frauduleuses. Je pense donc que la vigilance est cruciale.
La présidente : Merci.
Monsieur Lie, je voudrais vous interroger sur l’éthique intégrée dont vous avez parlé et savoir comment les étudiants en génie ont réagi à cela. On n’associe pas toujours les étudiants en génie à l’éthique, malheureusement.
M. Lie : À la défense de la profession, je dois dire que pour obtenir le titre d’ingénieur, il faut suivre un cours d’éthique. Cela veut au moins dire que la profession se soucie de l’éthique, mais, pour être honnête, bien souvent, les étudiants se sont plaints de devoir suivre ce cours d’éthique, car il était programmé à la toute fin ou donné en parallèle.
D’après ce que j’ai entendu dire par les étudiants, ceux-ci préféraient de loin que ce contenu soit intégré aux autres matières techniques. J’ai compris que cela rendait le sujet plus pertinent et, par conséquent, plus intéressant et plus facile à apprendre et à assimiler. Ils avaient également le sentiment que, dans l’ensemble, et peut-être en lien avec cela, ils bénéficiaient d’une meilleure formation, car ils pouvaient constater à quel point les réflexions éthiques étaient importantes dans le contexte de la conception technique.
La présidente : J’ai juste une dernière petite question à poser à chacun d’entre vous. Monsieur Lie, avez-vous été ou votre établissement a-t-il été consulté au sujet de la stratégie que le gouvernement s’apprête à lancer?
M. Lie : Nous avons reçu la même invitation à faire part de nos commentaires et suggestions que tout le monde, mais nous n’avons pas été consultés de façon particulière, non.
La présidente : Monsieur Kwan, avez-vous été consulté, ne serait-ce que par les États-Unis?
M. Kwan : Les États-Unis ne m’ont pas consulté.
[Français]
La sénatrice Hébert : Je voudrais vous entendre sur l’aspect économique lié à l’intelligence artificielle.
On sait que le Canada fait face à des défis importants actuellement — notamment en matière de démographie — qui créent des pénuries de main-d’œuvre importantes dans plusieurs régions à l’échelle canadienne.
On sait aussi que la population canadienne s’attend à ce que les gouvernements soient plus efficaces dans le déploiement des services gouvernementaux, alors que l’on voit des processus d’attrition dans les différents ministères et organismes. J’ajouterais que, en matière de productivité, on accuse un retard important et on fait face à des défis importants.
Par rapport à ces trois phénomènes, il est clair que l’intelligence artificielle représente une solution alternative, un outil que les gouvernements et les entreprises doivent considérer pour faire face à ces défis, qui sont bien réels et qui minent notre capacité à nous développer en tant qu’économie.
J’aimerais vous entendre sur les manières de concilier cela avec une approche qui permettrait de mettre des balises ou des remparts sur les éléments que vous soulevez, en matière d’éthique, par exemple, parce qu’on a besoin de cet outil.
Qu’est-ce qu’on peut faire par rapport à cela, et comment tout concilier?
[Traduction]
M. Lie : Vous soulevez à juste titre qu’il existe une tension entre, d’une part, l’augmentation de la productivité et la nécessité de combler les lacunes en matière de compétences et de main-d’œuvre, et, d’autre part, la protection des travailleurs contre le risque d’être remplacés par l’intelligence artificielle. L’intelligence artificielle semble capable de résoudre le premier problème, mais nous ne voulons pas que le second se produise. C’est précisément le défi que nous devons relever.
Il existe un dogme qui est évoqué sans cesse dans les médias, et même chez les chefs d’entreprise, à savoir que des agents d’intelligence artificielle pourraient remplacer les travailleurs tout en permettant de maintenir le même niveau de productivité avec moins de personnel. Je pense qu’il s’agit d’un manque de perspective et de créativité.
Nous devrions nous demander la chose suivante : si nous conservons le même nombre de travailleurs et que nous améliorons leur productivité grâce à l’intelligence artificielle, que pouvons-nous accomplir? Je n’ai pas encore entendu beaucoup de gens parler de cela, mais je pense que nous pouvons promouvoir l’idée selon laquelle les gens devraient envisager les instructions sous un angle différent. Nous pouvons nous demander comment agir en complément du travail que font nos employés ou rendre leur travail plus efficace grâce à ces outils, plutôt que de réfléchir à la manière de les remplacer.
[Français]
La sénatrice Hébert : Dans plusieurs régions du Canada, la question n’est pas de remplacer les travailleurs, mais bien d’essayer de continuer d’offrir des services, parce qu’il n’y a justement pas de travailleurs et qu’on a de la difficulté à en avoir.
J’essaie de voir comment on peut se doter de balises ou de paramètres qui éviteraient les dérives auxquelles on est exposé avec l’intelligence artificielle, mais qui permettraient aussi de faire face à ces défis économiques qui sont bien réels dans plusieurs régions à l’échelle canadienne.
[Traduction]
M. Lie : Je ne sais pas comment mettre en place ces garde‑fous correctement. Je sais toutefois qu’ils sont nécessaires. Je pense qu’il est important, comme vous le dites, lorsque le besoin est réel et qu’il y a un manque de services, que nous comblions ce manque avec les outils dont nous disposons, et l’IA pourrait en faire partie.
Dans les trois domaines sur lesquels j’ai mis l’accent dans mon intervention, je dirais qu’un point est important — et vous pouvez peut-être considérer cela comme une sorte de garde-fou. Si l’intelligence artificielle est utilisée pour fournir un service qui implique encore des conséquences morales ou un jugement moral, elle ne peut pas s’en charger entièrement. Nous devrions réfléchir à des moyens permettant d’éviter qu’une personne doive être physiquement présente, ou à des solutions où cette personne pourrait peut-être utiliser l’intelligence artificielle pour fournir ces services à distance. S’il s’agit d’un service médical, cela pourrait peut-être être combiné à une forme de télémédecine ou de robotique, si la technologie devient disponible, afin que nous puissions compléter les services fournis par les personnes pour augmenter l’offre là où c’est nécessaire.
La présidente : Merci. Nous passons maintenant au deuxième tour. Vous avez trois minutes chacun.
Le sénateur K. Wells : Je pense que ma question s’adresse plutôt à M. Kwan. Nous avons constaté que les systèmes d’IA sont de plus en plus utilisés dans les décisions liées à l’emploi, mais la responsabilité reste souvent très floue. Aujourd’hui encore, je parcourais LinkedIn — et vous savez comment apparaissent ces publicités susceptibles de vous intéresser? J’ai vu une mention au bas d’une offre d’emploi disant que l’intelligence artificielle n’était pas utilisée pour filtrer les candidatures. Cela m’a un peu déconcerté de voir cette nouvelle formulation qui a émergé pour rendre explicites les pratiques de recrutement.
Selon vous, au Canada, comment la responsabilité juridique devrait-elle être attribuée lorsque des systèmes d’intelligence artificielle entraînent des conséquences discriminatoires ou préjudiciables dans le cadre de décisions liées au recrutement ou à l’emploi? Cette question revêt une importance particulière, car comme nous l’avons entendu, il se peut que les modèles utilisés ou la manière dont ces systèmes parviennent à cette conclusion filtrée ne soient même pas connus. Nous savons également que les modèles sur lesquels ils reposent comportent souvent leurs propres préjugés raciaux. Nous pourrions peut-être commencer par M. Kwan, puis passer à M. Lie.
M. Kwan : Il est important de replacer tout cela dans le contexte des droits de la personne. Les tribunaux sont tout à fait disposés à appliquer les dispositions relatives aux droits de la personne à ces situations, afin de prévenir toute violation de ces droits, mais la difficulté pour les groupes vulnérables réside dans le fait qu’ils ne savent peut-être pas que leurs candidatures ont fait l’objet de préjugés. C’est pourquoi il est important de ne pas se concentrer uniquement sur les mesures juridiques. Nous devons également mettre l’accent sur la responsabilité sociale des entreprises et sur les questions éthiques en jeu, afin que les entreprises considèrent comme une responsabilité sociale d’adopter des algorithmes et des systèmes d’IA équitables et transparents, car les tribunaux ne seront pas toujours là pour les aider, et les groupes vulnérables ne pourront pas toujours compter sur les tribunaux.
Cela ne se limite pas à une cause. Nous avons besoin d’une culture d’entreprise qui met l’accent sur le respect des droits de la personne et qui veille à ce que ces droits soient observés.
J’espère que cette suggestion vous sera utile.
Le sénateur K. Wells : Merci.
M. Lie : En ce qui a trait à l’annonce que vous avez vue sur LinkedIn, ce qui est un bon point de départ, je pense qu’il faut garder à l’esprit qu’il n’est pas du tout certain que le simple fait qu’une décision soit évaluée par un être humain garantit qu’elle est nécessairement exempte de tout préjugé.
C’est là que mon argument concernant la transparence va, selon moi, prendre toute son importance. Un système d’intelligence artificielle peut améliorer l’équité de ces décisions lorsqu’il est complété par l’intervention humaine, car les systèmes d’intelligence artificielle peuvent être plus transparents que les humains. Ce que je veux dire par là, c’est que je peux demander à un système IA d’examiner la candidature à différents moments de la journée, dans différents contextes. Si la candidature est sur du papier jaune ou rouge, ou si tel mot a été remplacé par tel autre, quelle est la conséquence? Je ne pourrais peut-être pas demander à une personne de faire cela, et elle pourrait m’en vouloir si je la chargeais d’effectuer tout ce travail pour une seule candidature.
Les systèmes d’intelligence artificielle offrent également la possibilité de réduire les préjugés et de prendre des décisions plus équitables lorsqu’ils sont déployés de manière transparente et complétés par le jugement humain.
Le sénateur K. Wells : Juste pour clarifier les choses, au cas où les algorithmes seraient à l’écoute, je ne suis pas à la recherche d’un nouvel emploi.
Le sénateur Arnot : Cette question s’adresse aux deux témoins. Quelle est la réforme juridique la plus importante que les législateurs canadiens devraient mettre en œuvre au cours des deux prochaines années dans ce domaine?
M. Lie : Je ne peux pas me prononcer sur l’ensemble des réformes législatives, mais je pense que le projet de loi C-27 constituait une avancée importante en matière de protection de la vie privée et de réglementation de l’intelligence artificielle. Malheureusement, je sais qu’il n’a pas abouti. Je pense que certaines dispositions de ce projet de loi devraient être remises à l’ordre du jour et réexaminées.
Le sénateur Arnot : Monsieur Kwan, avez-vous des commentaires à faire sur cette même question?
M. Kwan : Il est absolument nécessaire de mettre en place des interdictions indirectes concernant l’intelligence artificielle et les technologies disruptives. Les interdictions touchant les médias sociaux représentent une bonne initiative, car il ne s’agit pas seulement de protéger les enfants, mais aussi d’envoyer un signal fort aux entreprises pour qu’elles assument la responsabilité de leurs outils et de leurs produits. Si ceux-ci sont préjudiciables, il incombe aux entreprises de remédier à la situation.
Une législation qui équivaut à une interdiction indirecte ou à une interdiction des médias sociaux peut sembler relever d’un domaine de niche, mais elle joue en réalité un rôle plus large pour l’ensemble du pays et pour le développement de l’intelligence artificielle, car elle envoie un signal aux entreprises. Il est important de mettre en place certaines interdictions. Une interdiction complète ne serait pas envisageable en raison des tensions géopolitiques avec les États‑Unis, mais il convient de prendre des mesures indirectes et de mettre l’accent sur le rôle de la responsabilité sociale des entreprises.
Le sénateur Arnot : Merci pour cette réponse, monsieur.
La sénatrice McCallum : Comment définiriez-vous la souveraineté en matière d’intelligence artificielle? Quelle est l’importance de cette définition, étant donné que la souveraineté s’inscrit dans un continuum comportant différents seuils? On pense à la sécurité nationale, à la défense, aux systèmes critiques et à l’exigence selon laquelle l’intelligence artificielle doit être développée et déployée entièrement à l’intérieur des frontières canadiennes. Il existe ensuite des seuils moins élevés, qui garantissent que les systèmes développés par des entités étrangères respectent les normes canadiennes. Comment définiriez-vous l’intelligence artificielle dans cette optique, et comment serait-elle utilisée dans différents contextes?
M. Lie : Pour revenir à ce que j’ai dit, il y a deux choses qui nous font défaut actuellement en ce qui concerne les systèmes d’intelligence artificielle : le contrôle et la capacité à les examiner de près. Ces éléments constituent la base de notre souveraineté sur les systèmes d’intelligence artificielle dans notre pays.
Il est certain que le contrôle et la transparence seront plus faciles à garantir si les systèmes relèvent de notre contrôle et s’inscrivent dans nos cadres juridiques.
En ce qui concerne le contrôle, j’ai indiqué qu’il s’avère difficile, étant donné qu’il s’agit d’une technologie encore en pleine évolution et que certaines de ces capacités restent à développer. Un aspect connexe du contrôle consiste à limiter l’utilisation et les capacités, ce qui est peut-être plus simple. On peut considérer le contrôle comme une intervention sur le système d’intelligence artificielle visant à lui faire adopter un comportement bénéfique. Les contraintes consistent à lui imposer des limites ou à l’enfermer dans un cadre, afin qu’il ne puisse causer aucun préjudice.
Ces deux aspects seront plus faciles à mettre en œuvre si ces systèmes s’inscrivent dans nos cadres juridiques. Cela ne signifie pas nécessairement que ces systèmes doivent être entièrement développés au Canada, mais c’est néanmoins un moyen de garantir qu’ils sont entièrement régis par nos cadres de gouvernance.
La sénatrice McCallum : Merci.
La sénatrice McPhedran : Ma question s’adresse à nos deux témoins. Dans quelle mesure avez-vous connaissance d’initiatives de recherche portant spécifiquement sur les garde‑fous? Si vous êtes au courant de telles recherches, estimez-vous que leur financement est suffisant? Accorde-t-on la priorité à la coordination entre les organismes de recherche plutôt qu’à la création de silos concurrents?
M. Lie : Je peux répondre. J’ai mené des recherches directement dans le domaine des garde-fous et je dirige un projet financé par le Conseil de recherches en sciences naturelles et en génie. J’ai la chance de disposer de ressources et de pouvoir les partager avec mes collègues dans ce domaine. Néanmoins, ces ressources peuvent, à certains égards, s’avérer insuffisantes pour rivaliser avec celles dont disposent certaines entreprises. Il arrive également que des étudiants et des chercheurs soient tentés de quitter le domaine de la recherche pure à vocation sociale pour travailler dans une entreprise à but lucratif, et c’est là un défi auquel nous devons faire face.
Ce n’est pas blanc ou noir. Je dispose de certaines ressources, et je suis très reconnaissant au gouvernement canadien pour cela. Toutefois, il s’agit d’une course très compétitive où les concurrents sont nombreux, et nous avons souvent l’impression d’être dépassés.
La sénatrice McPhedran : Merci. Avez-vous d’autres éléments à ajouter concernant la coordination entre les initiatives de recherche? La question s’adresse également à vous, monsieur Kwan, si vous souhaitez y répondre.
M. Kwan : Merci. Je n’ai aucun commentaire à faire à ce sujet.
M. Lie : Il y a une certaine coordination. Dans le cadre du projet sur lequel je travaille, un groupe composé de 19 professeurs et de 40 étudiants se réunit, et il y a une certaine coordination à ce niveau-là.
Je dirais que, d’une certaine manière, nous sommes livrés à nous-mêmes pour coordonner tout cela. Ce qui serait plus utile, c’est un cadre plus structuré permettant de réunir différentes personnes. Je travaille uniquement avec celles qui ont sollicité cette subvention avec nous. Nous sommes reconnaissants d’avoir obtenu ce financement. Nous avons collaboré sur ce projet. Quant à ceux qui travaillent sur d’autres projets, nous ne disposons d’aucun cadre pour coordonner notre action avec eux.
La sénatrice McPhedran : Merci.
La sénatrice Pate : Ma question s’adresse à vous deux et fait suite à la réponse de M. Kwan concernant les raisons pour lesquelles des interdictions sont nécessaires. Dans un contexte où vous évoquez des activités axées sur le marché et où les entreprises ont une optique d’affaires capitaliste — je crois vous avoir entendu dire cela, mais n’hésitez pas à me corriger si je me trompe, ce qui est fort probable, car je suis vraiment nulle en technologie —, comment parvenez-vous à mettre en place ce genre de garde-fous? Si vous laissez cette responsabilité aux entreprises ou si vous interdisez aux entreprises d’agir ainsi, elles mettront alors en place des structures éthiques, morales ou juridiques qui les contraindront et les empêcheront de faire précisément ce qu’elles souhaitent faire. Les entreprises influencent les jeunes, parce qu’elles tirent profit de cette pratique et souhaitent continuer à le faire. Je ne vois pas très bien comment une interdiction seule, sans autres mécanismes, permettrait réellement d’atteindre l’objectif d’une meilleure boussole éthique et morale pour le processus d’intelligence. Aidez-moi à comprendre ce que vous vouliez dire, monsieur Kwan, et ensuite, monsieur Lie, si vous avez quelque chose à ajouter, je serais ravie de vous entendre.
M. Kwan : J’ai fondé ma proposition sur le cadre environnemental, social et de gouvernance, ou ESG, qui porte sur la manière dont une entreprise parvient à maximiser ses profits, sans pour autant sacrifier l’environnement ou l’éthique, par exemple, le recours au travail des enfants, pour y parvenir. L’ESG est un mécanisme du marché qui non seulement incite l’entreprise à se conformer à ses propres engagements, mais envoie également des signaux aux consommateurs et au public quant au caractère éthique ou non de l’entreprise. L’objectif de ma proposition sur la responsabilité sociale des entreprises et d’une sorte d’interdiction indirecte est d’influencer non seulement l’entreprise, mais aussi le public, afin qu’ils comprennent et sachent distinguer quelle intelligence artificielle est éthique et ce qu’est une utilisation irresponsable ou compétente de l’intelligence artificielle, de sorte que nous utilisions les forces du marché ou celles des consommateurs ou, dans le cas des enfants, que nous permettions aux enseignants, aux parents et aux enfants eux-mêmes de comprendre ce qui est bon et ce qui est contraire à l’éthique.
La sénatrice Pate : Merci.
M. Lie : Je voudrais apporter une précision. Dans mon intervention, j’ai évoqué la possibilité d’interdictions ou de restrictions, non pas nécessairement comme un moyen d’imposer un certain comportement aux entreprises, mais plutôt pour mieux protéger les enfants jusqu’à ce que nous comprenions mieux l’impact de l’intelligence artificielle sur eux. Il s’agit davantage d’une pause dans le déploiement et la mise en place de l’IA dans nos écoles ou sur Internet, afin que nous ayons le temps d’en comprendre et d’en étudier les effets. Pour encourager ou créer les conditions d’une meilleure transparence, je pense qu’il existe de nombreux mécanismes, et les interdictions ne sont peut-être pas la meilleure solution, mais je crois qu’il est important que nous encouragions la transparence et que nous nous interrogions sur les effets de l’intelligence artificielle sur les populations vulnérables avant qu’elle soit déployée. Si c’est le cas, tant mieux. Nous encouragerons alors le déploiement ou nous le faciliterons. Si ce n’est pas le cas, les entreprises devraient peut‑être revenir en arrière pour le faire et nous montrer toutes les données, et pas seulement celles qui servent le mieux leur cause.
La présidente : Parfait. Merci beaucoup. Les questions ont été nombreuses aujourd’hui. Je tiens à remercier chacun d’entre vous d’avoir accepté de participer à cette réunion. Nous vous sommes très reconnaissants de votre aide dans le cadre de notre étude.
Je vais maintenant vous présenter notre deuxième groupe de témoins. On leur a demandé de prononcer une déclaration liminaire de cinq minutes chacune. Cette déclaration sera suivie des questions des sénateurs.
Nous avons aujourd’hui parmi nous, en personne, Teresa Scassa, titulaire de la Chaire de recherche du Canada en droit de l’information à l’Université d’Ottawa, qui est ici juste à côté. Par vidéoconférence, je vous invite à accueillir Jennifer Pybus, titulaire de la Chaire de recherche du Canada en données, démocratie et intelligence artificielle au département de sciences politiques de l’Université York.
J’invite maintenant Mme Scassa à faire son exposé, suivi de Mme Pybus.
Teresa Scassa, titulaire de la Chaire de recherche du Canada en droit de l’information, Université d’Ottawa, à titre personnel : Merci beaucoup. Je vous suis très reconnaissante de m’avoir invitée ici aujourd’hui.
Je travaille dans les domaines de la protection de la vie privée et de la gouvernance de l’intelligence artificielle, l’IA. Nous constatons aujourd’hui que les technologies de l’IA ont des répercussions considérables sur l’ensemble de la société, et le monde du travail ne fait pas exception. Je vais vous présenter brièvement certaines de ces répercussions liées aux droits de la personne et au travail, avant d’évoquer brièvement quelques domaines qui méritent une attention particulière de la part des décideurs politiques.
L’IA aura sans aucun doute des répercussions sur l’emploi au Canada. Étant donné que les choses ont évolué très rapidement en très peu de temps et que nous sommes confrontés à de multiples répercussions qui se chevauchent — par exemple, la pandémie, les technologies de l’IA et les mésententes commerciales avec les États-Unis —, il est difficile de prédire avec certitude quelles seront la nature et l’ampleur exactes de ces répercussions.
De plus, à mesure que les capacités de l’IA évoluent, leurs répercussions pour le monde du travail changent elles aussi. Le passage des formes d’automatisation plus conventionnelles à l’utilisation de l’IA générative a constitué une véritable révolution. Nous sommes à l’aube d’un nouveau tournant décisif avec l’IA agentive, et tout cela rend très difficile de prédire ce qui nous attend.
Ces répercussions sur le marché du travail surviennent à un moment particulièrement difficile pour la jeunesse canadienne. Les étudiants de certaines filières constatent une baisse significative des possibilités d’emploi dans leur champ. L’avenir du travail et la disponibilité des postes de débutants sont marqués par l’incertitude. Nos jeunes sont aujourd’hui confrontés à d’autres défis majeurs, liés au moins en partie aux technologies d’intelligence artificielle, notamment la dépendance aux médias sociaux, l’aliénation sociale, la polarisation, la désinformation et la mésinformation, ainsi que le harcèlement par le biais d’hypertrucages toxiques. Nous savons que la santé mentale des jeunes se détériore gravement. Bien que certaines de ces préoccupations puissent sembler s’éloigner du contexte du travail, les jeunes représentent notre avenir, et ils sont en difficulté.
Les systèmes d’intelligence artificielle auront des répercussions qui vont bien au-delà de la simple question des emplois disponibles et de leur nature. Les algorithmes d’IA constituent souvent le premier maillon du processus de recrutement, ces outils étant utilisés pour présélectionner et évaluer les candidats. Une fois sur le lieu de travail, les technologies d’IA agentive sont de plus en plus utilisées pour gérer et évaluer les employés. Elles permettent d’évaluer leur participation, de surveiller les télétravailleurs, de suivre les employés hors site, d’analyser le ton des communications, d’évaluer la productivité des employés et même d’évaluer leur bien-être émotionnel. Les systèmes d’IA agentive peuvent aller encore plus loin, en automatisant les réponses des ressources humaines aux données issues de la surveillance par l’IA.
Les inconvénients liés à l’utilisation des systèmes d’IA sur le lieu de travail vont des répercussions négatives sur le moral des employés à un traitement automatisé inéquitable, comme lorsqu’un système d’IA agentive inflige une sanction pour rendement insuffisant sans tenir compte de circonstances personnelles, comme la maladie d’un enfant.
Le droit à la vie privée peut être bafoué par une collecte excessive ou une utilisation abusive des données personnelles. La discrimination constitue également un risque important lorsque les données utilisées pour entraîner les algorithmes sont biaisées, ou lorsque la conception des algorithmes ne tient pas compte de la diversité ou intègre des stéréotypes.
Certaines catégories d’emplois liés à l’IA soulèvent des enjeux particuliers en matière de droits de la personne. Certains milieux de travail, comme les centres d’appels, peuvent faire l’objet d’une surveillance étroite, ce qui accroît le stress et l’anxiété des travailleurs. Certains emplois impliqueront un travail à la pièce lié à l’IA. Il existe déjà des plateformes qui proposent de faibles rémunérations pour des tâches répétitives, comme l’étiquetage de données. La modération de contenu est souvent effectuée par des humains, qui sont tenus d’examiner et d’évaluer de grands volumes de contenus perturbants, voire horribles, sans bénéficier d’un soutien psychologique, ou très peu. Dans certains cas, ce travail est sous-traité à des pays du Sud, ce qui fait peser les conséquences de certaines technologies d’IA sur les personnes les plus démunies sur le plan économique.
Ce sont là autant de points de convergence entre les technologies d’IA, le monde du travail et les droits de la personne. Quelles sont les options stratégiques envisageables?
Les provinces auront clairement un rôle à jouer, car certains problèmes devront être réglés dans le cadre de la législation sur les normes du travail. Les problèmes de discrimination dans l’emploi relèvent souvent de la compétence des commissions des droits de la personne. Tant au niveau fédéral que provincial, il faudra déterminer s’il y a lieu de modifier la législation relative aux droits de la personne pour s’attaquer à la discrimination algorithmique, et il sera complexe d’enquêter à ce sujet et d’établir le diagnostic. Outre la question de savoir si les lois doivent être modifiées, il est nécessaire de doter les commissions des droits de la personne de ressources suffisantes pour mener des enquêtes complexes sur le plan technologique en ce qui a trait aux algorithmes sous l’angle des droits de la personne.
Les lois relatives à la protection des renseignements personnels jouent déjà un rôle de premier plan dans la réglementation de l’IA au Canada, mais la protection qu’elles offrent varie d’une région à l’autre. J’espère qu’il y aura bientôt un projet de loi fédéral visant à réformer la Loi sur la protection des renseignements personnels et les documents électroniques, ou LPRPDE, et que ces réformes permettront de renforcer sensiblement la protection de la vie privée.
Au Canada, il n’existe pas de réglementation préventive en matière de risques liés aux technologies d’IA. La Loi sur l’intelligence artificielle et les données, qui faisait partie du projet de loi C-27, est morte au feuilleton, et le gouvernement a indiqué qu’il n’avait pas l’intention, pour l’instant, de la relancer. S’il est évident que la réglementation de l’IA peut constituer un obstacle commercial important, l’absence de réglementation appropriée expose les Canadiens à des risques.
J’espère que votre étude permettra de faire la lumière sur de nombreux enjeux fondamentaux dans ce domaine et d’explorer des solutions possibles. Je vous remercie de votre attention et je me tiens à votre disposition pour répondre à vos questions.
La présidente : Merci, madame Scassa. À vous, madame Pybus.
Jennifer Pybus, titulaire de la Chaire de recherche du Canada en données, démocratie et intelligence artificielle, Département de sciences politiques, Université York, à titre personnel : Merci, mesdames et messieurs les sénateurs, de m’accueillir parmi vous aujourd’hui.
Aujourd’hui, je vais vous présenter quelques éléments tirés d’une étude de cas sur laquelle mon équipe de l’Université York travaille actuellement et qui porte sur les préjudices fondés sur le sexe dans le domaine de l’IA, en accordant une attention particulière à la gouvernance des données sur la santé. J’entends par là les données non cliniques que les personnes partagent volontairement au sujet de leur corps via des plateformes numériques, des applications, des appareils intelligents et l’IA générative. Cette difficulté est encore aggravée par le fait que ces données sur la santé peuvent être réutilisées par les systèmes d’IA tant en amont — où l’on accède aux données des utilisateurs finaux — qu’en aval, lorsque des inférences et des prédictions sont effectuées à grande échelle.
Compte tenu de l’accent mis par le comité sur le travail, je souhaite replacer ce défi dans un contexte de plus en plus courant : les systèmes d’IA assument de plus en plus des tâches relevant du domaine de la santé et du bien-être émotionnel, qui étaient traditionnellement réservées à des professionnels agréés. Ce faisant, ils sont en passe de remplacer une main-d’œuvre agréée par des systèmes largement non réglementés.
Pour le comité, il s’agit en matière de droits de la personne d’un enjeu crucial qui nécessite une attention immédiate.
Mon étude de cas s’appuie sur mes travaux de recherche dans le domaine des technologies liées à la santé des femmes, notamment deux audits de protection des renseignements personnels sur des applications mobiles, comme les applications consacrées à la ménopause et celles de suivi des bébés, ainsi que sur mes recherches actuelles, financées par le Conseil de recherches en sciences humaines, ou CRSH, concernant les préjudices informationnels intersectionnels.
Dans le cadre de ces travaux, nous avons interrogé plus de 300 Canadiennes se trouvant à différentes étapes de la ménopause afin de mieux comprendre comment et où les femmes accèdent aux informations concernant leurs symptômes et leurs expériences. Nos conclusions concordent avec celles du plus récent sondage Abacus Data, selon lequel les Canadiens se tournent de plus en plus vers des outils numériques et basés sur l’IA pour combler les lacunes de leur système de santé. Près de 89 % des Canadiens se connectent à Internet pour accéder à des informations sur leur santé, et ceux qui utilisent l’IA générative pour leurs besoins en matière de santé sont cinq fois plus susceptibles de subir des préjudices que ceux qui ne le font pas. Alors que les recherches montrent que les milléniaux et les jeunes sont plus enclins à utiliser l’IA en ce qui concerne leur santé, les résultats préliminaires de notre étude indiquent que les femmes se tournent vers ChatGPT, parmi d’autres grands modèles de langage, pour obtenir une explication sur leurs symptômes et pour gérer les difficultés en matière de santé mentale liés à cette étape de transition dans leur vie.
L’intérêt croissant pour l’IA agentive s’inscrit dans le contexte plus large des lacunes en matière d’accès aux soins de santé. Par exemple, 6 500 000 Canadiens n’ont pas accès à un médecin de famille, et bon nombre de ceux qui en ont un ne sont pas pris en charge à temps. De même, la Fondation canadienne de la ménopause souligne que 4 femmes sur 10 consultent un omnipraticien au sujet de leurs symptômes, et que parmi celles‑ci, 70 % jugent les informations fournies peu utiles.
La santé des femmes ayant longtemps été négligée, il n’est pas surprenant que l’IA agentive soit de plus en plus en passe de devenir un intermédiaire de facto dans le domaine de la santé, comblant déjà une pénurie de main-d’œuvre à laquelle notre système de santé ne répond pas comme il se doit. Si certaines formes d’IA agentive sont développées de manière responsable dans des contextes cliniques, de nombreux systèmes d’IA vers lesquels les femmes se tournent à la place de leur omnipraticien fonctionnent en réalité en dehors de toute forme significative de norme, de surveillance ou d’obligation redditionnelle.
Cette évolution entraîne un domaine d’utilisation où émerge toute une série de préjudices importants et cumulatifs, dont cinq que je voudrais mettre en avant à la lumière de mes recherches. Premièrement, il y a la mésinformation et l’inexactitude : des recherches récentes, notamment une étude publiée dans Nature, suggèrent que plus de 20 % des informations sur la santé générées par les grands modèles de langage pourraient être inexactes ou trompeuses.
Deuxièmement, on trouve le profilage et la souveraineté des données : les données relatives à la santé peuvent être réutilisées à des fins publicitaires ou pécuniaires, ou pour l’établissement de profils. Cela comporte des risques en matière de souveraineté numérique, car de nombreuses applications examinées dans le cadre de nos audits traitaient directement les données aux États-Unis, et non au Canada.
Troisièmement, il y a les risques liés aux inférences : les systèmes d’IA peuvent générer des prévisions concernant l’état de santé et les comportements des utilisateurs, souvent à leur insu et sans leur consentement.
Quatrièmement, on observe les préjudices intersectionnels : ces systèmes peuvent générer des informations biaisées, culturellement inadaptées ou erronées, qui touchent de manière disproportionnée les groupes marginalisés, quels que soient leur sexe, leur origine ethnique, leur âge ou leur statut socio-économique.
Cinquièmement, il y a les atteintes potentielles à la vie privée, qui peuvent être inégales : il existe des risques potentiels pour la vie privée qui touchent de manière disproportionnée les personnes ayant un accès limité aux soins de santé, ce qui les expose davantage à la collecte, à l’utilisation et à la diffusion de leurs données de santé sensibles.
Dans l’ensemble, cela signifie qu’une part croissante de la population canadienne, en particulier les femmes, se tourne vers les systèmes d’IA pour trouver des renseignements essentiels liés à la santé, au bien-être émotionnel et à la gestion de l’information, alors même que ces systèmes fonctionnent sans les mesures de sécurité et les protections qui régissent habituellement ce type de renseignements.
Merci.
La présidente : Merci pour vos déclarations.
Le sénateur Arnot : Ma question s’adresse à Mme Scassa. La LPRPDE est-elle, d’un point de vue structurel, en mesure de réglementer les systèmes d’IA, en particulier ceux qui reposent sur l’inférence plutôt que sur la collecte de données? Vous avez déjà répondu à cette question dans une certaine mesure, mais j’aimerais savoir quelles sont, selon vous, les lacunes importantes auxquelles il importera de remédier en matière d’application de la loi et dont notre comité devrait être informé. À quoi ressemblerait, sur le plan juridique, un cadre fédéral minimalement suffisant?
Mme Scassa : En ce qui concerne l’inférence, les commissaires à la protection de la vie privée, partout au Canada, ont entamé une collaboration très fructueuse afin d’harmoniser, dans la mesure du possible, leurs approches respectives vis-à-vis de leurs lois, y compris en matière d’IA. Selon la position qui se dégage actuellement à l’échelle du pays, les données obtenues par inférence peuvent constituer une nouvelle forme de données personnelles. Elles sont donc visées par la loi et seraient soumises à celle-ci, ce qui est important et utile, et cela suggère qu’il reste une grande marge de manœuvre dans la législation fondée sur des principes.
Cependant, c’est précisément en matière d’application, comme vous l’avez souligné, que la législation présente des lacunes. Ce que nous constatons, en particulier avec les géants du Web américains, c’est qu’il y a des enquêtes et des recommandations, puis c’est le silence radio. Ces recommandations ne suscitent aucune réponse, sinon des réponses pour ainsi dire insultantes. Nous avons donc besoin, et ce depuis longtemps déjà, d’une bien meilleure application des lois relatives à la protection des données. Ce sera l’un des axes de la réforme de la protection des renseignements personnels.
L’autre point qui me préoccupe concernant la réforme de la protection des renseignements personnels, c’est l’importance de ne pas céder trop de terrain. Il y a là un risque. Nous disposons d’une législation souple, fondée sur des principes. Le risque est que, dans le désir de débloquer davantage de données à des fins d’innovation — car nous constatons cette tension entre innovation et gouvernance —, les droits à la protection des renseignements personnels soient compromis et que nous assistions à un rétrécissement des principes inscrits dans la législation. C’est l’une de mes préoccupations dans le cadre de ce processus de réforme.
Le sénateur Arnot : Merci.
La sénatrice McPhedran : Merci à nos deux témoins. Je vous suis particulièrement reconnaissante d’avoir évoqué la jeunesse. Je souhaite formuler ma question en termes de principes directeurs, car nous élaborons souvent les lois en partant de certains principes directeurs. À ma connaissance, au Canada, il n’y a pas — y compris dans les textes législatifs qui ont échoué jusqu’ici — de principes directeurs qui mettent clairement l’accent sur les droits de la personne et qui en font un principe directeur clé. Pensez-vous que cela soit nécessaire? Si oui, pourriez-vous nous expliquer brièvement, en termes concrets, à quoi ce principe ressemblerait si l’on devait l’ajouter à la loi?
Mme Scassa : Lors de nos débats autour du projet de loi C-27, la question de savoir si ce texte devait reconnaître le droit à la vie privée comme un droit humain fondamental a fait l’objet de nombreuses discussions, et le gouvernement a manifesté une forte résistance à cet égard. Cette résistance tenait en grande partie à une « phobie constitutionnelle » : la crainte qu’un projet de loi fondé sur une compétence en matière de commerce qui traite de droits de la personne ne soit considéré comme ne relevant pas de la compétence fédérale et comme empiétant sur les compétences des provinces.
Dans une certaine mesure, vers la fin, le gouvernement est revenu sur sa position. Cette marche arrière évitera que l’intégration des droits de la personne soit perçue comme étant au cœur de la législation, avec la même orientation que celle que l’on retrouve, par exemple, dans le Règlement général sur la protection des données, ou RGPD de l’Union européenne. En effet, cette législation s’appuiera sur les compétences en matière de commerce, et sa constitutionnalité a déjà fait l’objet de remises en question par le passé, ce qui est regrettable. Cela dit, le droit à la vie privée est un droit humain fondamental. Les tribunaux ont qualifié cette législation de quasi constitutionnelle. Dans bon nombre de leurs décisions interprétant cette législation, les tribunaux s’expriment de manière beaucoup plus directe quant à la dimension des droits de la personne que recouvrent les droits protégés par ces lois.
Nous devons véritablement ancrer ce type de principes et d’approches dans la législation nécessaire. Par exemple, en ce qui concerne les enfants, il existe des concepts de « protection des données dès la conception » et de « protection des données par défaut ». Le code britannique de conception adaptée à l’âge rend la protection des données dès la conception et par défaut incontournable pour les applications développées à l’intention des enfants. Nous pourrions en faire autant. Nous pourrions le faire dans le cadre de cette législation, et nous pourrions le faire de manière constitutionnelle. Il suffit de passer à l’action. Une partie de la frustration tient au fait que nous allons devoir tenir tête à certaines de ces industries et plateformes, et leur dire que, lorsqu’il s’agit des enfants, ce sont là les nouvelles règles. Au moins, ce code prend de l’ampleur à l’échelle internationale, ce qui est utile pour le Canada.
La sénatrice McPhedran : Merci beaucoup.
Mme Pybus : Dans le cadre de l’une de nos études, nous avons audité des applications de suivi des bébés. Quelle que soit l’application considérée, dans tous les audits que nous avons menés, il existe un écart considérable entre ce à quoi les utilisateurs pensent consentir — à supposer qu’ils lisent réellement la politique de confidentialité, qui est très longue et dont la lecture intégrale prendrait jusqu’à trois jours — et ce qui se passe réellement quand l’application est utilisée. L’un des principaux défis réside dans le fait que la notion de consentement est extrêmement contraignante et difficile à mettre en œuvre pour quiconque doit assurer son respect.
Ensuite, en ce qui concerne le sort réservé à ces données, à quoi les utilisateurs consentent-ils réellement? Quand on réfléchit à ce que font les systèmes d’IA en coulisses, quand on observe comment s’effectue l’établissement des profils d’utilisateurs, comment ces données sont utilisées, comment elles alimentent un système d’IA et comment ces inférences sont générées, on constate une transformation complète par rapport à notre point de départ. Personne n’accepte de fournir les données qu’il introduit effectivement dans le système. C’est là un défi de taille.
Du point de vue de la plateforme, en ce qui concerne les applications de suivi des bébés, par exemple, nous avons constaté que l’IA analysait les données relatives aux moments où les femmes allaitent, où elles font une fausse couche, où elles doivent changer une couche, ainsi qu’aux médicaments et toutes sortes d’autres informations ayant fait l’objet d’un accès et du partage avec des tiers dont les publicités commanditent chacune des applications que nous avons examinées.
Il semblerait qu’il existe une politique familiale chez Google stipulant que, dès lors que les données d’enfants sont concernées, elles doivent être protégées. Je pense que c’est à ce niveau que le Canada a un rôle à jouer. Du point de vue des responsables de plateformes, les enfants doivent effectivement utiliser l’application pour que leurs données soient protégées. Si le parent saisit activement des données concernant son enfant dans cette application, la responsabilité de leur protection incombe alors aux parents, et les plateformes peuvent accéder à ces données, ce qui leur permet de disposer de données allant du moment de la conception jusqu’à la croissance de l’enfant. Je pense qu’il s’agit là d’un aspect très important dont il faut tenir compte pour la législation future.
La sénatrice McCallum : On observe une tendance inquiétante selon laquelle chaque nouvelle avancée technologique crée des barrières supplémentaires pour des communautés qui sont déjà en difficulté. Cette préoccupation est partagée par Natiea Vinson, première dirigeante du First Nations Technology Council, qui souligne qu’il est rare que des systèmes d’IA conçus selon des modèles occidentaux correspondent aux besoins des communautés.
Les acteurs du secteur social canadien brossent le tableau d’un pays où les progrès de l’IA, qui pourraient contribuer à lutter contre les inégalités, menacent au contraire de créer une société à deux vitesses au sein de laquelle les inégalités à grande échelle sont susceptibles d’être aggravées : d’un côté, une frange de la population disposant des outils et des capacités les plus récents en matière d’IA; de l’autre, une frange de plus en plus laissée pour compte par des systèmes auxquels elle ne peut accéder, sur lesquels elle ne peut exercer d’influence, et dont elle ne peut tirer profit.
Quelles recommandations pourriez-vous formuler pour remédier à cette situation, en gardant à l’esprit que chaque nouvelle avancée technologique s’appuie sur les inégalités existantes, ce qui, dans certains cas, fait qu’il est de plus en plus difficile pour les groupes défavorisés de rattraper leur retard sans une intervention ciblée?
Mme Scassa : C’est une excellente question, et je ne pense pas qu’il y ait de réponse facile. Il s’agit d’un lourd fardeau pour la gouvernance en général, mais pour les communautés où existent déjà des inégalités structurales, des ressources limitées et des capacités mises à rude épreuve, c’est un poids tout simplement écrasant. Les enjeux sont également différents; ainsi, la manière dont les cultures dominantes se penchent sur les défis posés par l’IA peut certes être importante dans ce contexte, mais elle ne répond pas nécessairement à toutes les préoccupations.
Je pense que cela devient tout simplement un défi insurmontable. Si l’on considère l’énorme travail qui a été accompli en matière de souveraineté des données autochtones et celui qui reste encore à faire — et je ne parle ici que des données —, on constate que tout cela a nécessité une somme de travail et des moyens considérables. C’est très complexe, et l’IA vient s’ajouter à tout cela, soulevant toutes sortes de nouveaux problèmes et exigeant de nouvelles capacités.
En ce qui concerne les solutions stratégiques, je pense que nous devons renforcer les capacités, et c’est là un aspect extrêmement important. Nous devons également développer les connaissances et les capacités au sein des communautés afin de soutenir la recherche et de donner aux gens les outils dont ils ont besoin pour comprendre ces problèmes, y réfléchir et s’en faire leur propre idée et leur propre cadre de référence. Je pense que c’est un élément essentiel.
Au-delà de cela, il existe certaines synergies entre les travaux menés sur les préjugés et la discrimination et le raisonnement en cours sur les données et leur intégration dans l’IA, entre autres, qui permettent de tirer parti de ces efforts. Oui, je pense qu’il s’agit là d’un défi absolument colossal. Je suis désolée, j’aimerais vraiment pouvoir proposer une solution simple, mais la question des capacités va jouer un rôle prépondérant dans ce domaine.
La sénatrice McCallum : Madame Pybus, souhaitez-vous intervenir?
Mme Pybus : Pour être honnête, je n’ai pas de réponse à votre question, mais je pense qu’il est extrêmement important qu’elle soit soulevée.
Une chose qui m’a frappée chez les femmes avec lesquelles nous avons discuté dans le cadre de la recherche, des ateliers et des enquêtes que j’ai menées, c’est que l’une des raisons pour lesquelles beaucoup d’entre elles se sont tournées vers l’IA, tant pour se faire expliquer leurs symptômes que pour s’en servir comme journal de bord où pour ventiler, c’est pour se sentir en pleine possession de leurs moyens. C’est en fait un signe d’autonomisation pour elles. Elles ont le sentiment de « pouvoir maîtriser la situation » et de « comprendre leurs symptômes », ce qui n’est pas nécessairement une mauvaise chose. La question est la suivante : vers quoi se tournent-elles, et comment pouvons-nous garantir que leur source est sûre, que leurs données seront en sécurité et que leurs démarches ne se retourneront pas contre elles de manière inattendue? Par exemple, ces démarches pourraient avoir un impact sur leur emploi, comme l’ont montré certaines données, ou des répercussions sur différents aspects de leur vie, ou encore se traduire par la diffusion de mésinformations.
Il est essentiel de réfléchir aux raisons pour lesquelles les communautés ou les personnes vulnérables pourraient se tourner vers ces technologies, sur ce qu’elles y trouvent, puis sur les mesures de sécurité que nous pouvons mettre en place pour garantir que leurs démarches ne causent pas davantage de préjudice à long terme.
Le sénateur K. Wells : Je voudrais revenir sur certaines des discussions que nous avons eues au cours de cette session. Lorsque nous voyons les systèmes d’IA collecter et diffuser en continu des données personnelles, et en tirer des déductions, je vous demande, à toutes deux, s’il ne faudrait pas considérer le droit de disparaître ou de se faire oublier comme droit humain fondamental?
Votre silence m’indique que c’est une bonne question. Nous allons commencer dans la salle, s’il vous plaît.
Mme Pybus : À cela, je vous répondrais que ce n’est pas possible.
Je pense que si l’on examine une application, par exemple, on peut identifier et analyser tous les problèmes qui s’y trouvent. Vous avez un développeur, une personne sérieuse qui souhaite gagner de l’argent et créer quelque chose, mais pour créer une application, il n’est pas question d’écrire le code à partir de zéro. Il faut faire appel à toutes ces différentes entreprises qui fournissent divers outils de développement et de monétisation, et ainsi de suite, et il faut commencer à examiner l’infrastructure dorsale, qui appartient principalement à toutes les plateformes. Google est présent dans 99 % des applications sur nos téléphones. Meta est présent dans environ 66 % de ces applications, et ce sont eux qui fournissent ces éléments, tandis que le développeur sollicite certains services. Ces tiers partis fournissent ces services, et cela s’inscrit dans cette économie des données contre services.
Le défi réside dans le fait qu’il existe des outils comme Google Analytics, qui en est un bon exemple, et qui offrent différentes façons de suivre la manière dont les utilisateurs se servent des applications. Google, par exemple, dispose de 500 « actions dans l’application » permettant de surveiller chaque micromouvement au sein de l’application et de l’intégrer à son propre système d’IA, qui aboutit à la plateforme Vertex AI. C’est là qu’ils créent différentes caractéristiques relatives à l’utilisateur, qui sont ensuite stockées dans le Feature Store de Google et qui peuvent alors être utilisées à tout moment. Le défi que cela pose est qu’une fois que ces données ont intégré l’univers de Google, on ne peut plus les récupérer. Une fois que ces entreprises ont créé une caractéristique, celle-ci fait partie de leur propre infrastructure, et c’est pourquoi elles ont tant de valeur. Car plus elles disposent de caractéristiques, plus elles ont de moyens à leur disposition pour créer ce genre de profils comportementaux variés, ce qui explique pourquoi tout le monde les consulte en premier lieu.
La manière dont vous abordez cette question est, à mon avis, un élément essentiel pour comprendre le rôle que jouent ces entreprises; il s’agit donc de trouver des moyens de limiter le type d’accès dont elles disposent et ce qu’elles font de ces données.
En bref, il n’est pas possible de disparaître complètement. La question qui se pose alors est la suivante : comment ces entreprises utilisent-elles ces différents actifs qu’elles créent à partir des données personnelles de chacun, et comment pouvons-nous limiter cette utilisation?
Mme Scassa : Il existe certes des défenseurs de la vie privée qui estiment que l’accent mis sur le consentement et le contrôle des données n’est désormais plus mis à la bonne place, et que l’on devrait plutôt s’attacher à lutter contre les utilisations inappropriées des données et à contrôler les pratiques abusives et inappropriées.
Il y a beaucoup à faire dans ce domaine, cela ne fait aucun doute, tout simplement parce que le contrôle est devenu pratiquement impossible. J’ajouterais à cela le fait que nous sommes omniprésents dans ce monde numérique et qu’il est très difficile de contrôler ou de limiter la collecte de nos données par les entreprises du secteur privé en raison de la manière dont l’écosystème fonctionne. Ajoutez à cela le fait que si vos données y sont absentes, vous vous privez de certaines possibilités et de certains avantages, ce qui représente également un problème.
Ajoutez à cela le fait que, tandis que le secteur privé collecte, organise et exploite toutes ces données, nous sommes confrontés à un problème croissant lié aux relations entre le gouvernement et le secteur privé en ce qui concerne ces données. Ainsi, la question de la surveillance étatique, de l’accès à ces données, ainsi que la qualification, en vertu de la Loi sur la protection des renseignements personnels, de certaines de ces données comme étant accessibles au public — et donc comme des données pour lesquelles on ne peut prétendre à aucune attente de confidentialité — posent des défis considérables. Malheureusement, ces aspects viennent aggraver la situation.
Le sénateur K. Wells : Disons qu’un enfant naît aujourd’hui. Il vit sa vie, une longue vie. Presque chaque instant de son existence pourrait maintenant être suivi par des algorithmes, et les données ainsi recueillies seront facilement accessibles, c’est bien cela?
Mme Scassa : Ces informations seront en partie privées, certaines seront transmises au gouvernement et d’autres se retrouveront sur le Web obscur.
Le sénateur K. Wells : Où l’on peut payer pour les obtenir.
Mme Scassa : Exactement.
Mme Pybus : Puis-je ajouter quelque chose? C’est vraiment important pour... Je voudrais dire d’emblée que je ne suis pas avocate. C’est le travail de Teresa Scassa. Toutefois, lorsque nous réfléchissons au fonctionnement de ces systèmes, nous considérons normalement la protection des renseignements personnels en fonction de données sur une seule personne. Jennifer a fait un truc, l’entreprise est au courant de ce truc qu’a fait Jennifer, puis elle ciblera Jennifer. En fait, l’intelligence artificielle ne fonctionne pas du tout de cette façon. L’entreprise saura ce que j’ai fait en fonction de mes activités dans l’application, mais dès qu’elle entreprendra de créer des traits à mon image, l’IA devra prendre un certain nombre de décisions : « Comment comprendre qui est Jennifer? Combinons ses traits avec ceux de toutes les personnes qui lui ressemblent un peu, et en fonction de ces nouvelles informations, nous serons en mesure d’établir son profil. »
En réalité, la protection de la vie privée, au lieu d’être établie sur une base personnelle, se fonde sur la comparaison de l’un par rapport aux autres et devient une problématique collective : plus ces entreprises recueillent de données, mieux elles comprennent qui je suis, puisque le ciblage lui permet de me connaître en fonction de sa connaissance de tous les autres.
On peut y voir un problème philosophique, mais en réalité, c’est un problème très concret du point de vue des lois sur la protection des renseignements personnels.
Le sénateur K. Wells : Nous entendons l’expression, déjà soulevée au Parlement, de tarification dynamique. Pour un même produit, une personne se voit proposer un prix modulé en fonction de son profil, sans qu’on lui donne le choix et sans qu’elle connaisse le véritable prix.
La présidente : Le temps file. S’il reste du temps, nous en parlerons au deuxième tour.
Je vais maintenant m’accorder quelques instants.
Madame Pybus, vos observations, particulièrement au sujet de l’intelligence artificielle, des conseils en matière de soins de santé et du 20 % que vous avez mentionné, m’incitent à réfléchir aux questions de reddition de comptes. Dans le paradigme médical actuel, les médecins paient des sommes importantes pour l’assurance-maladie et pour l’assurance responsabilité professionnelle, que ces assurances soient contractées par l’intermédiaire de l’hôpital ou par eux-mêmes. Mais si l’intelligence artificielle transmet de la désinformation ou des renseignements erronés susceptibles d’avoir des répercussions sur la santé, qu’en est-il de la responsabilité? Est-ce que la question se pose? Est-ce un facteur à considérer?
Mme Pybus : C’est une question très importante à poser et à laquelle il faut réfléchir.
On peut citer l’exemple d’AMIE. Google travaille au développement d’« AMIE » — une amie, je suppose. C’est un outil de diagnostic actuellement utilisé par Google qui doit être déployé pour la télésanté. En gros, un patient se présente et cet outil émet un diagnostic. J’ai assisté à une conférence donnée par le représentant de Google à Toronto. Selon lui, AMIE était supérieure aux médecins pour poser des diagnostics sur les patients.
La bonne chose, c’est que la mise au point d’AMIE est réalisée par des médecins et qu’elle fait l’objet de tests cliniques dans les hôpitaux, non pas dans l’aire publique. Beaucoup de médecins participent à la discussion.
En revanche, il est possible d’opter pour l’anneau Oura, que beaucoup de femmes dans notre enquête utilisent. Oura vient d’annoncer le lancement d’une toute nouvelle plateforme pour la santé des femmes, qui sera alimentée par un agent d’intelligence artificielle. Lorsque j’ai investigué, j’ai constaté qu’aucun professionnel de la santé n’avait participé à sa création, mais que des sociétés de capital-risque l’avaient fait. À l’origine, le produit était finlandais, mais voici qu’une entreprise américaine a lancé le plus récent projet.
Pareillement, il existe des versions personnalisées de ChatGPT, car il y a déjà quelques robots conversationnels spécialisés en santé des femmes qui leur promettent, eux aussi, des services de santé pointus et des conseils médicaux.
C’est là que la question de la responsabilité entre en jeu, car qu’arrive-t-il lorsqu’un nombre croissant de Canadiens fréquentent ces espaces numériques? Ils se sentent en sécurité et protégés parce qu’ils ont l’anneau Oura. Cette entreprise semble digne de confiance, mais où sont les garde-fous pour s’assurer que ses utilisateurs ne reçoivent pas de renseignements erronés et que les données des utilisateurs ne sont pas utilisées à mauvais escient? Du point de vue de la LPRPDE, il s’agit de données sur la santé sociale, mais si des personnes décident de leur propre chef de se renseigner sur leur corps, les réponses obtenues ne sont pas considérées comme des données cliniques, mais comme toutes les autres données. Elles peuvent ensuite être utilisées pour la publicité, elles peuvent être partagées et traitées n’importe où, sans qu’aucune des protections qui seraient offertes en milieu clinique ne s’appliquent.
Il y a là quelques problèmes, notamment sur le plan des politiques. La première est de savoir si les données sur la santé sociale doivent être considérées comme toute autre donnée. Je dirais que non, que c’est très intime et que les gens transmettent à l’IA des informations qu’ils ne donneraient normalement qu’à leur médecin. Comment avoir accès aux entités privées tierces qui fournissent tous ces conseils? Comment savoir s’ils sont en fait sûrs et bien entraînés, comparativement à la perspective mi‑amie mi-ennemie de l’AMIE de Google, où il y a au moins quelques médecins dans la salle pour assurer la sécurité?
La présidente : Merci de cette réponse. Madame Scassa, avez-vous quelque chose à ajouter?
Mme Scassa : La responsabilité constituera un enjeu très important dans ce contexte, et c’est une question très complexe car, même dans le cadre de soins de santé réglementés avec l’utilisation de l’IA, il peut être difficile de déterminer à qui reviendrait la responsabilité si quelque chose tournait mal. Est-ce l’hôpital qui a mis en œuvre cet outil? Est-ce le médecin qui utilise l’outil? Est-ce l’entreprise d’IA qui l’utilise pour son développement? C’était à cause de ses données? Ensuite, bien sûr, il y a la question de la transparence et de l’accès à ces informations. Des questions très intéressantes vont se poser en matière de responsabilité.
La responsabilité, civile ou professionnelle, peut constituer un outil brutal dans la réglementation de l’IA. On commence à en constater les effets dans le contexte des plateformes de médias sociaux, où l’on n’a pas réussi à réglementer et où l’on a tenté tant bien que mal de réglementer. On voit à présent d’importantes poursuites être intentées, en raison des préjudices causés, en particulier aux enfants. Ces poursuites entraînent un changement d’attitude, de pratique et incitent les plateformes à modifier leur comportement.
C’est là une façon terriblement lente et rétrograde de protéger des personnes et de résoudre des problèmes, pourtant, ce ne sera pas la première fois que les questions de responsabilité interviennent dans les résultats financiers des entreprises, entraînant des changements de politiques et de pratiques. Ce sera un élément complexe, mais aussi important.
[Français]
La sénatrice Hébert : J’ai une question pour Mme Pybus.
Vous avez abordé la question du secteur de la santé et cela soulève toute une série de problèmes, parce que le secteur de la santé est assez caractéristique de ce qui se passe dans l’ensemble de l’économie — je veux dire que, dans plusieurs communautés, l’accès à des soins de santé est difficile et il n’y a pas toujours un médecin disponible. Je prends l’exemple du Québec, où l’on a une situation problématique particulière, avec notre système de santé qui n’est pas toujours très accessible.
J’ai eu ma ménopause il y a plusieurs années, mais j’aurais peut-être aimé avoir accès à ChatGPT à l’époque. Je comprends en même temps les dangers qui y sont liés et que vous évoquez. Vous avez tout à fait raison par rapport aux paramètres auxquels il faut faire attention.
Certains témoins qui sont venus ici précédemment ont mentionné qu’une des façons de remédier aux problèmes que pose l’intelligence artificielle — le secteur de la santé est affecté, mais cela pourrait s’appliquer à d’autres secteurs — serait de se reposer sur un système similaire à celui des normes ESG, qui sont appliquées dans d’autres secteurs de l’économie.
En fait, il s’agit de normes qui prennent en compte l’environnement, l’aspect social et le système de gouvernance. Par exemple, en l’occurrence, dans le cas de l’environnement, on pourrait regarder quelle est l’empreinte environnementale.
En ce qui concerne l’aspect social, on pourrait examiner quel est l’impact sur l’humain, le fait qu’on donne accès à des soins, mais qu’on ne crée pas de biais, ou alors l’existence d’une forme de protection des données personnelles.
En ce qui concerne la gouvernance, on peut penser que le système pourrait s’appliquer aussi à plusieurs secteurs. Par exemple, vous avez mentionné que, dans le domaine de la santé, on pourrait exiger que ce soit développé au niveau clinique avec des médecins et qu’il y ait une supervision humaine dans le processus.
Si l’on pensait à un système de régulation de l’intelligence artificielle, est-ce que les normes ESG seraient une piste intéressante à explorer, avec des modifications selon les secteurs, évidemment?
[Traduction]
Mme Pybus : Je vais faire de mon mieux pour répondre à votre question. Merci. Je suis d’accord avec plusieurs de vos points. Effectivement, l’intelligence artificielle est attrayante pour beaucoup de gens : pour les personnes qui n’ont pas de médecin et qui habitent en zone rurale, il est difficile d’avoir accès à de bons soins de santé. C’est donc une solution idéale pour elles. Ce phénomène est très intéressant. Certaines femmes disent aimer clavarder avec le robot conversationnel, parce qu’avec lui, tout se déroule assez poliment. Elles le trouvent très compréhensif et éprouvent une sorte de lien affectif avec lui. Cette constatation est également celle de Google, qui a interrogé les utilisatrices d’AMIE au sujet de leur expérience avec le robot, et celles-ci ont affirmé qu’AMIE était beaucoup plus polie que tous les médecins à qui elles avaient parlé.
Il y a donc certaines leçons à tirer de cela. Mais le point important à considérer, c’est que ce genre de solutions rend les personnes plus autonomes. Je ne veux pas dire que c’est mauvais ou que nous ne devrions pas aller de l’avant, mais si c’est le cas, il faudra faire très attention.
Pour revenir à ce que vous disiez, l’État a peut-être un rôle à jouer : il pourrait proposer son propre outil d’intelligence artificielle ou l’intégrer aux soins de santé. Il y aurait alors certaines mesures de sécurité et de protection intégrées dès le départ, une certaine surveillance serait exercée. On pourrait ainsi s’assurer que l’utilisation de ces outils soit moins nuisible pour les Canadiens, plutôt que de laisser un agent conversationnel d’intelligence artificielle créé par des sociétés de capital de risque monopoliser cette conversation.
Il y a tellement d’éléments dans votre question, j’essaie simplement de bien cerner tous les enjeux. Il y a évidemment une foule de possibilités, mais il faut les examiner attentivement.
La sénatrice Hébert : Pourquoi ne pas utiliser l’analogie d’un système de gouvernance environnementale, sociale et corporative?
Mme Scassa : C’est une proposition valable. L’un des défis associés à l’intelligence artificielle est l’étendue des domaines où elle est présente — qu’il s’agisse des activités des géants du Web, des produits et services dont ils font la publicité, jusqu’aux applications conçues avec grand soin dans le contexte de l’arrivée de l’intelligence artificielle en soins de santé.
Le spectre est très large, et l’un des défis consiste à mettre au point des systèmes de façon plus réfléchie, car nous en avons la capacité. Nous avons la possibilité de le faire, d’appliquer ces principes au développement de l’IA, et des gens travaillent déjà sur ces systèmes dans le domaine des soins de santé. Pourtant, même si nous sommes capables d’y arriver, d’autres systèmes sont conçus en parallèle à toute vapeur et l’industrie à but lucratif des soins de santé fondés sur l’IA va de l’avant et va souvent à l’encontre de ce genre de principes.
L’époque historique dans laquelle nous vivons pose un énorme défi. Voici une technologie incroyablement puissante. Beaucoup de gens connaissent les possibilités incroyables qu’elle présente et savent qu’on peut réaliser de grandes choses grâce à elle. Ils travaillent discrètement et consciencieusement en portant une attention spéciale aux questions de gouvernance. Mais en parallèle, l’innovation évolue à vive allure avec très peu de contraintes, dans le but avoué de dominer le marché. L’un des défis importants consiste à savoir qui remportera la course, et c’est là une préoccupation très réelle que nous sommes nombreux à partager.
La sénatrice Hébert : Proposez-vous que nous concevions un système différent en matière de soins de santé?
Mme Scassa : La conception de ce système est déjà en cours au sein même du secteur de la santé. Il est fondé sur une bonne gouvernance des données sur la santé et sur le développement d’outils d’IA. Le domaine des soins de santé connaît un grand nombre d’innovations vraiment encourageantes et intéressantes, mais il y a aussi des défis très importants à relever pour ce qui est d’étendre ce travail au-delà d’un seul hôpital ou d’une seule étude de recherche. Certains gouvernements — les gouvernements provinciaux en particulier — s’y intéressent et cherchent à savoir comment adopter cette innovation et la déployer à grande échelle. Ce sera l’un de nos défis.
La sénatrice McPhedran : Merci beaucoup. L’une des observations émise plus tôt — je suis à peu près certaine qu’elle venait de vous, madame Scassa, mais j’ai l’impression que la professeure Pybus serait d’accord avec moi — portait sur l’importance de renforcer la compétence en matière d’IA dans les collectivités. J’aimerais pousser cet objectif, par ailleurs fort louable, un peu plus loin, en examinant ses aspects pratiques, de sorte que les personnes et les collectivités puissent réellement faire respecter leurs droits en matière d’IA, si jamais nous arrivions à les définir clairement dans la loi, ce qui touche également la notion de responsabilité. La revendication de ces droits relève essentiellement des tribunaux et certaines ressources sont associées à ce processus. Nous observons ce phénomène depuis longtemps dans le domaine des droits de la personne. En l’absence de mécanismes efficaces et financés par l’État permettant de faire valoir la revendication de ces droits, ils ne sont qu’un texte sur papier ou à l’écran.
Réfléchit-on aux aspects pratiques de la mise en place de moyens pour rendre possible ce type de poursuite?
Mme Scassa : C’est une excellente question. J’ai mentionné plus tôt que les commissaires à la protection de la vie privée partout au Canada ont réalisé un travail passionnant sur l’IA et sur la gouvernance de l’IA par l’entremise des régimes de protection des renseignements personnels. Ils verront cette responsabilité leur revenir de plus en plus souvent au fil des modifications législatives.
L’une des préoccupations concernant les commissions sur la protection de la vie privée et les commissions des droits de la personne tient au fait que ces organismes sont financés par les gouvernements. Ils effectuent dans l’ombre un travail crucial relativement aux questions de droits de la personne, mais leurs budgets ne sont pas à la hauteur de leur mandat et des responsabilités qui leur sont confiées. Vu le fardeau qui leur est imposé par les organismes de protection de la vie privée en matière d’IA, ils auront besoin de ressources accrues. En raison de la complexité de la détermination des préjugés ou de la discrimination dans les algorithmes, les diverses commissions des droits de la personne devront disposer de plus de ressources et compter sur certaines modifications législatives pour assumer ce fardeau.
Il faut plus d’investissements dans les mécanismes de protection des droits de la personne financés par l’État, mais j’ignore s’ils seront instaurés, bien qu’ils soient d’une importance critique.
Il faut également parler des litiges. Les recours collectifs et la protection de la vie privée ont pris une telle ampleur qu’ils ont attiré l’attention des entreprises. Les recours collectifs en matière de protection des renseignements personnels mettent en cause des sommes importantes, ce qui incite les entreprises à utiliser nos données avec plus de prudence, dans la mesure où cela leur est possible.
Au lieu des poursuites fondées sur les droits de la personne, on pourrait voir des recours collectifs être intentés contre des sociétés. Même si une affaire n’était pas portée devant les tribunaux, la simple menace d’une poursuite, le coût de la défense et le coût éventuel d’une entente vont attirer l’attention des entreprises et les inciter à une meilleure gouvernance de l’IA. Ce n’est pas l’idéal. C’est une façon maladroite de procéder. Cela coûte cher. Quand on en arrive là, le mal est déjà fait. Ce n’est pas la meilleure façon de faire les choses, mais c’est peut-être la seule encore possible.
La sénatrice McPhedran : Et un recours collectif ne rend pas moins pertinents les robustes arguments en faveur des droits de la personne.
Mme Scassa : Non, effectivement. Mais tout cela doit être appuyé et financé, car ce sera extrêmement ardu et coûteux, sans parler des nombreux obstacles à surmonter en matière de secret commercial, de renseignements confidentiels et de causalité, causalité qui sera très difficile à établir. Ces poursuites s’avéreront très complexes.
La sénatrice McPhedran : Quel est votre avis, madame Pybus?
Mme Pybus : Pas précisément en ce qui concerne les litiges, mais en ce qui a trait à la question du développement des compétences en matière d’IA que vous avez soulevée plus tôt, j’ajouterais simplement qu’il pose lui aussi un défi. Nous avons organisé beaucoup d’ateliers fondés sur le Cône des futurs, qui permettent essentiellement aux participants d’imaginer différents avenirs en fonction de profils qu’ils créent sur la base des données tirées de nos rapports. Cet exercice a illustré le degré de reconnaissance des personnes lorsqu’elles disposent d’un espace où elles sont amenées à comprendre les processus de suivi et de profilage, ce qui leur permet d’entrevoir différentes trajectoires futures.
L’un des meilleurs moyens de développer des compétences associées à l’IA consiste à aider les gens à imaginer la façon dont ces espaces fonctionnent réellement, afin de susciter leur intérêt et de les faire participer avec une plus grande agentivité.
C’est un peu secondaire, mais d’après nos propres recherches auprès d’un certain nombre de personnes, nous ne connaissons pas vraiment le fonctionnement de tout cela. Je ne le comprends pas non plus : j’appuie sur les boutons, je sais que je suis censée rédiger des consignes, mais je n’ai aucune idée de la façon dont ces systèmes fonctionnent.
Les gens — en tout cas ceux à qui nous avons parlé — souhaitent mieux comprendre les enjeux et leur propre position au sein de ces systèmes.
La sénatrice McPhedran : Merci. Il vous reste 30 secondes. Les réponses écrites sont les bienvenues. Entrevoyez-vous la possibilité que nous obtenions l’appui de l’État pour la sécurité, un appui qui s’apparenterait à une cote du Bureau d’éthique commerciale, afin d’aider les gens à prendre des décisions sur ce à quoi ils devraient risquer de fournir leurs renseignements?
Mme Scassa : Par exemple, dans le cadre de la réforme du droit relatif à la protection des renseignements personnels, je crois que le gouvernement a manifesté un certain intérêt — et je l’ai également démontré dans la Loi sur l’intelligence artificielle et les données — pour l’idée d’établir des normes et d’exiger des entreprises une certification en fonction de ces normes. Il s’agit là d’une conception plus privée, en vertu de laquelle le gouvernement fournirait l’infrastructure législative pour l’adoption de normes et prévoirait des conséquences pour les manquements en vertu de la certification. Dans ce contexte, les entreprises se conformeraient aux normes et demanderaient ensuite la certification.
La solution de la certification est la plus susceptible de prévaloir, car elle suscite la confiance, de sorte que les gens peuvent choisir des entreprises certifiées qui se soumettent à certaines normes en matière de gouvernance et dans d’autres domaines. Cette direction semble possible. Bien sûr, la Loi sur l’intelligence artificielle et les données a été abandonnée. Qui sait, il existe peut-être encore des normes et des évaluations de conformité appuyées en partie par la Loi sur l’intelligence artificielle de l’Union européenne. Les entreprises canadiennes pourraient être incitées à s’y conformer pour avoir accès à ces marchés.
La présidente : Merci beaucoup à vous deux pour vos exposés et vos réponses très convaincantes. Ils nous aideront certainement beaucoup dans nos délibérations et lors de la rédaction du rapport. Merci beaucoup.
Notre dernier groupe de témoins a été invité à faire une déclaration préliminaire de cinq minutes chacun. Les sénateurs leur poseront ensuite des questions.
Par vidéoconférence, nous accueillons M. Mark Daley, directeur de l’IA et professeur à l’Université Western. Soyez le bienvenu. Par vidéoconférence, nous accueillons Evelyn Forget, professeure distinguée à l’Université du Manitoba.
Bienvenue à vous deux. J’invite M. Daley à faire sa présentation, puis Mme Forget.
Mark Daley, directeur de l’IA et professeur, Université Western, à titre personnel : Madame la présidente, honorables sénateurs, je vous remercie de m’avoir invité à comparaître.
Pendant presque toute l’histoire de l’humanité, les êtres humains constituaient la seule source de grande intelligence. L’intelligence était incarnée : elle arrivait en personne, avec une histoire, une culture, une famille, un salaire, un besoin de repos et des droits. Nous pouvions l’éduquer, l’embaucher, l’accréditer, la faire passer d’un côté à l’autre de la frontière et, trop souvent, la gaspiller. Mais nous ne pouvions pas la fabriquer à volonté. Et c’est ce qui a changé. En créant des machines qui pensent, nous avons banalisé l’intelligence.
Je vais tenter de bien choisir mes mots. Je ne veux pas dire que nous avons banalisé la sagesse, la conscience, la responsabilité ou le jugement. Ce n’est pas le cas. Mais nous avons commencé à réifier une chose plus pointue, qui est profondément importante sur le plan économique : la capacité cognitive. La capacité de rédiger, de coder, de chercher, de résumer, de planifier, de tester, de suivre le raisonnement de certains documents et d’exécuter une tâche peut maintenant être louée, mesurée et reproduite à grande échelle. C’est là une nouveauté de notre monde.
Il y a une raison pour laquelle certains d’entre nous ont une impression de grande instabilité, et ce n’est pas simplement parce que ces performances sont plus perfectionnées cette année. Au cours de la dernière décennie, une tendance empirique en matière d’IA s’est avérée remarquablement constante : lorsque l’informatique est adaptée à grande échelle, les systèmes acquièrent de nouvelles capacités.
Il n’est plus question de petites réalisations sans importance. En mathématiques, par exemple, dans ma propre discipline, les systèmes d’IA ont récemment résolu des problèmes ouverts de longue date associés à Paul Erdős, l’un des grands concepteurs d’énoncés mathématiques du XXe siècle.
Cette même performance se note dans un travail plus ordinaire. Les agents d’IA sont différents du modèle habituel de robot conversationnel. Ils ne se contentent pas de répondre à la question. Ils peuvent inspecter des fichiers, exécuter des logiciels, modifier des codes, tester leur propre travail, utiliser des outils et vous revenir avec les résultats.
Quelle importance cela a-t-il en matière de sécurité économique et de droits de la personne? Les marchés du travail ne paient pas pour l’intelligence abstraite. Ils paient pour des ensembles de tâches. Lorsque certaines parties de ces ensembles de tâches seront disponibles sous forme d’intrants bon marché et évolutifs en location, les établissements se réorganiseront en fonction de ce fait.
En termes plus simples, si l’intelligence devient un intrant de base, le marché tentera de substituer les activités humaines coûteuses du travail intellectuel.
Les premiers emplois humains sous pression ne seront pas les postes de niveau supérieur. Les postes les plus vulnérables sont les postes d’apprentissage, comme ceux d’analyste débutant, de programmeur débutant, d’agent des politiques ou de coordonnateur administratif. Ce sont les emplois dans lesquels les jeunes Canadiens apprennent en exerçant les activités courantes d’une profession, sous supervision. Si ces tâches disparaissent, la profession peut demeurer, mais l’accès à la profession devient limité. Le premier signe ne sera peut-être pas une hausse spectaculaire du chômage. On constatera une absence plus sournoise : un poste jamais affiché, une cohorte de jeunes jamais embauchés.
Le droit au travail ne prévoit pas que toutes les tâches seront protégées des avancées technologiques. L’histoire ne nous a jamais garanti ce bouclier. Mais notre contrat social exige un parcours significatif vers un travail décent, la formation de compétences, la sécurité économique et la participation sociale.
Le fardeau ne sera pas réparti également. L’Organisation internationale du travail, l’OIT, estime que dans les pays à revenu élevé, les emplois les plus à risque d’automatisation par l’IA générative représentent à 9,6 % les emplois des femmes, comparativement à 3,5 % pour les emplois des hommes. Il ne s’agit pas d’une perturbation aléatoire. Elle est socialement définie.
La question qui se pose au Canada n’est donc pas de savoir si nous devrions adopter l’IA. Nous le ferons et nous devons le faire. La question est plutôt : à quelles conditions?
La réification de l’intelligence n’est pas que technologique. Elle se répercute sur le marché du travail, sur l’éducation et sur les droits de la personne. Si nous attendons que les dommages apparaissent dans les statistiques agrégées, il se peut que les échelons menant au travail intellectuel aient disparu en douce, laissant les jeunes Canadiens coincés au bas de l’échelle.
Merci.
La présidente : Merci, monsieur Daley. Nous passons maintenant à Mme Forget.
Evelyn Forget, professeure distinguée, Université du Manitoba, à titre personnel : Merci beaucoup. Honorables sénateurs, je vous remercie de m’avoir invitée à comparaître. J’aimerais soulever trois points centraux au sujet de l’IA, des droits de la personne et de la sécurité économique au Canada.
Tout d’abord, je ne crois pas que l’IA entraînera une réduction de l’emploi dans son ensemble, mais elle touchera différemment diverses industries. L’emploi total augmentera selon toute vraisemblance, mais les types d’emplois offerts changeront considérablement et les transitions seront à la fois longues et difficiles. Le problème n’est pas le chômage massif, mais plutôt l’évolution des exigences en matière de compétences, la multiplication des transitions d’emploi et une instabilité élevée du revenu. Il est fort probable que nous assistions au chômage structurel à grande échelle ainsi qu’à d’importantes pénuries de main-d’œuvre qualifiée dans certains domaines. Tout cela, bien sûr, exacerbe les inégalités.
Certains travailleurs réussiront à s’y adapter tandis que d’autres auront de la difficulté — surtout les travailleurs en milieu de carrière, pour qui le recyclage professionnel pose problème. Bon nombre d’entre eux ont des compétences limitées en littératie ou en numératie et d’autres sont profondément investis dans des secteurs en restructuration.
On le constate déjà dans les tâches administratives et dans des domaines comme le codage informatique. Les tâches de routine sont automatisées et celles qui restent nécessitent un niveau plus élevé de maîtrise du numérique. Les entreprises embauchent de nouveaux travailleurs possédant ces compétences, tout en supprimant les postes de premier échelon et en remerciant les travailleurs expérimentés en milieu de carrière qui se recyclent plus difficilement.
Mon deuxième point est que ni les préjudices ni les avantages de la transition ne seront répartis également. Les plus vulnérables, y compris certaines personnes handicapées et celles qui ont de faibles capacités de lecture, d’écriture et de calcul, seront les plus durement touchées. À bien des égards, l’intelligence artificielle exacerbera les inégalités qui existent déjà sur le marché du travail.
L’intelligence artificielle touchera ces groupes de deux façons très différentes. La première concerne la restructuration des postes sur le marché du travail et les restrictions d’accès. Mais la deuxième concerne l’accès à l’État lui-même. À mesure que les gens perdent leur emploi, ils deviennent de plus en plus dépendants des systèmes publics pour obtenir un revenu et du soutien. Cependant, les services publics sont aussi de plus en plus dépendants de systèmes automatisés, y compris pour la vérification de l’admissibilité, le contrôle de la conformité et la prestation axée sur le numérique. Pour les personnes ayant un niveau d’alphabétisation limité, des difficultés cognitives ou des conditions de vie instables, ces systèmes peuvent devenir des obstacles supplémentaires à surmonter.
Cela crée une forme d’exclusion administrative. Les gens ne se voient pas refuser explicitement du soutien, ils sont tout simplement incapables de naviguer dans les systèmes qui le fournissent. Ce sont les personnes le moins en mesure de gérer ces demandes qui sont les plus durement touchées. Ceux qui n’ont pas le temps, les ressources ou les connaissances nécessaires pour en appeler des décisions sont les plus vulnérables. Les systèmes censés aider les personnes dans de telles circonstances peuvent en fait renforcer les structures existantes d’inégalité.
Troisièmement, notre filet social actuel n’est pas conçu pour la transition à laquelle nous faisons face, et encore moins celles qui se profilent à l’horizon.
L’assurance-emploi suppose une participation stable au marché du travail et des transitions claires entre l’emploi et le chômage. Elle fonctionne beaucoup moins bien s’agissant de travail occasionnel. L’aide sociale est inadéquate, conditionnelle, lente et complexe. Les programmes de recyclage sont souvent difficiles d’accès et nécessitent que les personnes puissent absorber les coûts financiers et cognitifs de la participation.
À mon avis, nous avons besoin d’une réforme structurelle plutôt que d’ajustements graduels pour garantir un partage plus équitable des avantages et des inconvénients de l’intelligence artificielle.
On pourrait envisager un revenu de base garanti, qui devrait être considéré non seulement comme une mesure de lutte contre la pauvreté, mais aussi comme une solution de stabilisation économique qui assure une continuité face aux perturbations. Cela permettrait aux gens de faire face aux transitions sans tomber dans une crise.
L’intelligence artificielle signifie que les travailleurs pourront être amenés à se recycler plusieurs fois au cours de leur vie active, et un revenu de base garanti pourrait soutenir leurs revenus pendant ces transitions. Quel que soit le système que nous mettons en place, nous devons réduire la complexité administrative par l’inscription automatique et des règles simplifiées.
L’un des avantages de l’intelligence artificielle, c’est qu’elle pourrait remplacer certains des programmes spéciaux que les différents paliers de gouvernement aiment créer pour des groupes très précis de travailleurs lorsqu’une crise survient dans une industrie donnée. Ces programmes étroitement ciblés sont difficiles à anticiper et deviennent rapidement désuets et laissent presque toujours de côté certaines des personnes qui en ont le plus besoin.
Alors que l’IA transforme l’économie, la question centrale à laquelle nous sommes confrontés est de savoir si notre architecture sociale évolue en même temps que la technologie pour reconnaître les besoins et y répondre dans un monde où le travail et l’accès à l’État se font de plus en plus par l’intermédiaire des machines.
Merci. Je me réjouis de répondre à vos questions.
La présidente : Je vous remercie tous les deux de vos exposés. Nous allons maintenant passer aux questions des sénateurs. Honorables sénateurs, vous avez cinq minutes pour poser votre question, et écouter la réponse.
Le sénateur Arnot : J’aimerais que les deux témoins abordent cette question. L’intelligence artificielle est-elle plus susceptible d’accroître ou de diminuer la sécurité économique des populations vulnérables? Je pense que Mme Forget a déjà répondu à cette question, mais les soutiens sociaux existants sont-ils suffisants pour absorber les perturbations causées par l’intelligence artificielle? Le revenu de base universel est-il la seule politique publique qui permettra de garantir la sécurité économique, ou y a-t-il d’autres éléments qui pourraient entrer en jeu selon vous?
Mme Forget : Je suis tout à fait en faveur d’un revenu de base garanti parce qu’il n’exige pas beaucoup d’anticipation pour faire face à l’évolution rapide des conditions économiques. Il offre un soutien à tous ceux qui en ont besoin, quand ils en ont besoin. S’il est bien conçu et mis en œuvre, il peut constituer un filet de sécurité utile.
Est-ce suffisant? Absolument pas. Nous devons consacrer beaucoup plus de temps et d’énergie à réfléchir aux programmes de recyclage et à offrir ces possibilités d’évolution aux gens. De façon générale, notre système d’éducation a très mal préparé les nouveaux diplômés aux transitions professionnelles qu’ils devront faire.
M. Kwan a dit tout à l’heure qu’il s’agissait de la quatrième révolution industrielle. Prenez certaines des révolutions industrielles précédentes, vous constaterez que nous faisons face à des problèmes semblables. On peut remonter aussi loin que le XIVe siècle et la révolution agricole. Les changements technologiques ont déplacé un très grand nombre de personnes et entraîné des changements énormes dans la société. Des choses semblables se sont produites au XIXe siècle. À mon avis, il ne suffit pas d’apporter des changements graduels à des programmes conçus pour une économie industrielle très stable.
Le revenu de base est un défi qui nécessitera beaucoup de réflexion, mais à bien des égards nous devons réfléchir à la façon de rétablir la progressivité dans notre système d’imposition et de transfert. Si on prend les pays de l’OCDE, par exemple, les inégalités au Canada ne sont pas particulièrement élevées comparativement à d’autres pays avant la prise en compte du système d’imposition et de transfert, mais beaucoup d’autres pays, dont plusieurs pays européens en particulier, font un bien meilleur travail de redistribution des revenus. Ainsi, après les impôts et les transferts, nous sommes parmi les pires pays de l’OCDE. Nous devons réfléchir à comment composer avec les inégalités qui vont émerger, surtout si l’intelligence artificielle exacerbe les défis existants et augmente ces inégalités.
M. Daley : Je suis tout à fait d’accord avec ma collègue sur tous les points. J’ajouterais simplement que le droit de travailler c’est aussi le droit d’avoir un but. Pour le meilleur ou pour le pire, dans la société occidentale, nous trouvons du sens à notre travail. Le revenu de base universel pourrait être une intervention nécessaire, mais peut-être pas suffisante.
Le sénateur Arnot : Merci.
La sénatrice McPhedran : C’est précisément l’un des défis auxquels nous sommes confrontés en tant que législateurs au niveau national : nous sommes cantonnés au niveau national. Une grande partie de ce que vous et d’autres experts nous suggérez porte sur des solutions ou des protections qui exigent un degré élevé de coopération, et il faudrait que la division des pouvoirs soit moins marquée que ce qu’elle est.
Mme Forget sait déjà que je suis une fervente partisane de son travail et du projet de loi de la sénatrice Pate sur le revenu de subsistance, mais je suis également très touchée par votre commentaire, monsieur Daley, au sujet de la marchandisation de l’intelligence.
Vous avez tous les deux soulevé des questions si importantes que j’y réfléchis encore pendant que je vous parle. Je suppose que vous pouvez nous laisser le soin d’essayer de déterminer ce que nous pouvons et ne pouvons pas faire au niveau fédéral, mais comment notre société peut-elle aller de l’avant en sachant que si nous ne commercialisons pas l’intelligence de nombreuses personnes au Canada, nous en souffrirons probablement? On parle beaucoup de garde-fous. Je me demande si l’un d’entre vous a eu envie de s’aventurer sur ce terrain, tant du point de vue de la population en général que de celui des jeunes. Je m’intéresse vraiment aux jeunes et à leur apprentissage, ainsi qu’à leur capacité de travailler, aux possibilités qu’ils auront de travailler et à comment nous allons tenter de faciliter cela.
M. Daley : Je vais commencer par parler des jeunes dans le contexte de l’éducation, car cette technologie est incroyablement puissante pour l’éducation, mais elle pourrait aussi être extrêmement délétère. Le philosophe français Jacques Derrida a écrit au sujet du pharmakon, un mot grec qui signifie à la fois poison et remède. Il parlait des écrits de Platon sur l’écriture et des conséquences de l’écriture sur la mémoire. Si j’écris des choses, je peux me souvenir de plus de choses. Mais si j’écris quelque chose, il est aussi probable que je l’oublierai, mais on ne peut pas avoir d’écriture sans avoir aussi ses bons et ses mauvais côtés.
Nous avons maintenant des technologies qui permettent à nos jeunes d’avoir accès à des services intelligents, et cela leur donne la possibilité d’avoir un tuteur individuel sur n’importe quel sujet de leur choix, ce qui n’était accessible qu’aux plus riches il y a encore cinq ans. Cependant, ils ont aussi la possibilité de tout simplement demander à l’IA de rédiger leur devoir de Philosophie 101. Ainsi, le véritable changement dans le système d’éducation ne consiste pas seulement à adopter la technologie. Il s’agit de parler des valeurs. Si vous voulez utiliser cette technologie pour vous priver d’éducation ou de votre gagne-pain, vous le pouvez, mais vous pouvez aussi utiliser cette technologie pour vous guider, pour vous enseigner des choses auxquelles vous n’auriez pas accès autrement.
Cela nous ramène à une question humaniste fondamentale. Qui voulez-vous être? Utilisez-vous cette technologie pour vous aider à devenir qui vous voulez être? C’est vrai dans le domaine de l’éducation et c’est vrai aussi sur le marché du travail.
La sénatrice McPhedran : Pour poursuivre dans la même veine au deuxième tour, se pose encore la question des garde‑fous. Voulons-nous réglementer les choix précis que vous venez de résumer pour les jeunes?
Mme Forget : Je pense que nous autres, éducateurs, sommes tous aux prises avec ces problèmes à l’heure actuelle. J’ai été très intriguée par ce que vous avez dit tout à l’heure au sujet de l’éthique intégrée et du programme d’ingénierie. Je pense que nous voyons des choses semblables dans le domaine des soins de santé. J’enseigne dans un collège de santé communautaire et mondiale, et bon nombre de mes collègues s’efforcent de garantir la disponibilité des soins de santé, en particulier dans les collectivités éloignées et rurales. On met donc fortement l’accent sur les possibilités d’utilisation de l’intelligence artificielle pour apporter des changements positifs dans les salles de classe et dans le domaine de la prestation des soins de santé .
Nous avons surtout affaire à des étudiants de deuxième cycle et à des gens qui sont bien avancés dans le processus d’éducation. Je ne suis pas certaine que ce soit transposable à des niveaux de scolarité plus bas et je ne peux pas faire de commentaires sur ce qui s’y passe, mais nous y sommes tous confrontés et je n’ai certainement pas de réponse à cette question.
Cela m’intéresse, et beaucoup de mes étudiants s’y intéressent également.
[Français]
La sénatrice Hébert : Monsieur Daley, vous nous avez parlé des risques pour le marché du travail, particulièrement pour les jeunes Canadiens ou les femmes qui occupent des emplois plus précaires, qui sont à des niveaux d’entrée sur le marché du travail ou qui demandent moins de formation.
En même temps, le Canada est en proie à un important problème de main-d’œuvre. On sait qu’il y a des pénuries de main-d’œuvre dans plusieurs régions et dans plusieurs secteurs d’activité. On sait aussi que l’on cherche à augmenter la productivité de nos entreprises, parce qu’on a un important retard. C’est la même chose pour les différents ordres de gouvernement, où les citoyens exigent de plus en plus un accroissement de la productivité et un maintien du niveau de service. L’intelligence artificielle est un outil utilisé pour faire cela. Comment fait-on pour concilier tout cela? Ce que vous avez énoncé fait peur. Mon Dieu, où s’en va-t-on? Comment fait-on pour concilier tout cela, selon vous?
M. Daley : Merci de votre question.
[Traduction]
Je ne veux pas faire peur, mais je veux être honnête. Nous avons des machines qui réfléchissent, et elles ne remplacent pas entièrement les humains. Nous ne nous contentons pas de penser, nous agissons énormément. Mais l’une des conceptions fondamentales du monde occidental est que les humains sont intelligents, et c’est ce qui fait de nous ce que nous sommes. Il est difficile d’intégrer l’IA dans une société où nous sommes tellement conditionnés en ce sens. C’est loin d’être impossible. Cela n’a pas besoin d’être effrayant. C’est une occasion à saisir. Nous devons faire preuve d’humilité.
Je suis une théoricienne de l’informatique, et GPT-5 Pro est meilleur en théorie que moi. L’accepter a été difficile pour moi, mais une fois que j’ai dépassé ce stade, je me suis dit : « Très bien, cela me permet d’externaliser; je peux m’en servir pour me former davantage. » Nous devons voir cela comme une technologie habilitante. Il ne s’agit pas de me remplacer en tant qu’être humain, mais de remplacer certaines des choses que j’avais l’habitude de devoir faire seule. Cela m’augmente. On peut le constater sur l’ensemble du marché du travail.
Parlons de productivité. Avoir un assistant cognitif, si vous l’utilisez bien, si vous avez été éduqué et formé et si vous réfléchissez à la façon dont vous l’utilisez, ne peut qu’augmenter votre productivité d’une manière que vous ne pouviez auparavant obtenir qu’avec une équipe de 10 employés. On peut étendre cela aux services gouvernementaux et au secteur privé. D’ailleurs, nous constatons que cela se produit à l’heure actuelle, et ce n’est qu’un début.
[Français]
La sénatrice Hébert : Des experts qui sont venus témoigner au comité nous ont parlé d’un système similaire aux normes ESG, justement. C’est peut-être conforme à la philosophie que vous venez d’exprimer, toutes proportions gardées. Que pensez‑vous de cela? Cela a du sens quand on y pense. L’intelligence artificielle a des impacts environnementaux et sociaux, et aussi des impacts en matière de gouvernance. Est-ce une idée que vous trouvez intéressante, ou est-ce une piste à explorer?
M. Daley : Évidemment, je crois que c’est une bonne idée.
[Traduction]
Il s’agit de créer des séries de rubriques et de valeurs communes qui reflètent ce que veulent les Canadiens et la société canadienne. Donc, dans le cas des facteurs ESG, c’est à chaque société et à chaque entité de déterminer comment elles mettent en avant leurs valeurs et les décisions qu’elles prennent. L’intelligence artificielle est une technologie suffisamment complexe pour qu’il soit logique d’adopter cette approche multifactorielle. Je pense que c’est extrêmement judicieux.
La présidente : J’ai une question complémentaire au sujet des facteurs ESG, monsieur Daley. C’est un outil qui repose sur le volontariat. D’après l’expérience que j’en ai eue dans ma précédente carrière, c’était une façon pour les entreprises d’affirmer qu’elles sont socialement responsables.
M. Daley : Oui.
La présidente : Il y a aussi une motivation interne, car les employés choisissent les entreprises pour lesquelles ils travaillent en fonction de leurs engagements ESG.
Les règles du jeu semblaient plus équitables sans l’impact de l’intelligence artificielle, pensez-vous que son utilisation change la donne?
M. Daley : Je pense que c’est le cas, surtout en ce qui concerne la génération Z, et si vous regardez les opinions à l’égard de l’intelligence artificielle, elles ont évolué considérablement au cours des deux dernières années. Les personnes de cette génération vont chercher des employeurs qui partagent leurs valeurs. Les clients vont chercher des entreprises qui partagent leurs valeurs. Vous avez donc raison, les facteurs ESG ne sont pas réglementés. Ils reposent sur le bon vouloir des entreprises, mais nous avons un marché, un marché du travail et un marché de la consommation qui obligent les entreprises à rendre des comptes, et je pense que nous pouvons faire la même chose avec l’intelligence artificielle.
La présidente : Merci.
La sénatrice McCallum : C’est un sujet difficile pour moi. En fait, je ne connais pas grand-chose à l’intelligence artificielle, mais je lis beaucoup à ce sujet.
Le plan visant à remodeler le gouvernement des États-Unis et à mettre en œuvre des changements de politique de grande envergure dans de multiples secteurs, en mettant l’accent sur la déréglementation, pourrait transformer radicalement le secteur des technologies. De l’annulation du décret 14110 de M. Biden sur l’intelligence artificielle, qui imposait des exigences en matière de sécurité et de surveillance pour le développement de l’intelligence artificielle, au renversement de la réglementation sur la neutralité d’Internet de l’ère d’Obama, aux enquêtes antitrust qui ont réduit la surveillance des grandes entreprises technologiques, en passant par le décret qui pourrait compromettre le cadre de confidentialité des données entre l’Union européenne et les États-Unis, qui permet actuellement que les flux de données transatlantiques soient conformes à la réglementation et à la protection générale des données de l’Union européenne; ensemble, ces changements favorisent les géants américains de la technologie au détriment des préoccupations sociétales et environnementales aux États-Unis, au Canada et partout dans le monde.
L’assouplissement de la réglementation sur l’intelligence artificielle aux États-Unis pourrait désavantager les entreprises canadiennes en démarrage dans ce domaine.
Bien que le Canada maintienne des mécanismes de surveillance minimaux pour assurer le développement éthique de l’IA, les entreprises américaines peuvent accélérer l’innovation avec moins de garde-fous, ce qui pourrait faire en sorte qu’il soit plus difficile pour les entreprises responsables d’IA de soutenir la concurrence à l’échelle mondiale.
Quelles seront les conséquences pour le Canada?
M. Daley : C’est une question extrêmement pertinente, sénatrice. C’est une question géopolitique. Il y a actuellement une course entre les États-Unis et la Chine pour ce qui est du développement de la capacité. Nous constatons qu’à l’heure actuelle, les États-Unis utilisent ouvertement des modèles d’IA d’avant-garde dans la poursuite d’une guerre, et c’est donc plus qu’un simple problème de consommation. C’est vraiment un enjeu international.
Vous avez raison. L’élimination de toute forme de frein ou de réglementation a des répercussions profondes sur la course entre ces deux superpuissances et le Canada comme puissance moyenne. Notre premier ministre s’est exprimé avec éloquence par écrit et à l’oral sur la géométrie variable, où nous travaillons avec des puissances moyennes aux vues similaires qui ont des valeurs semblables, et ensemble nous avons une capacité de négociation bien supérieure à celle que nous aurions isolément.
Je pense que la meilleure solution pour le Canada réside au niveau mondial, au niveau des relations internationales et dans la recherche de ces partenaires. Nous construisons ces alliances avec des pays européens et d’autres qui partagent nos valeurs et dont la puissance économique combinée est suffisante pour résister aux superpuissances. En revanche nous ne pouvons pas modifier l’absence de réglementation dans d’autres pays. Nous devons trouver une solution à ce problème, et il n’y a pas de solution facile.
La sénatrice McCallum : Madame Forget, qu’en pensez-vous?
Mme Forget : Je ne suis pas sûre d’avoir grand-chose à ajouter. Je trouve cette situation terrifiante, et je suis tout à fait d’accord avec mon collègue.
La sénatrice Arnold : Merci à vous deux d’être ici aujourd’hui. Je ne peux pas dire que c’est très encourageant, mais nous vous sommes très reconnaissants de votre contribution.
Je suppose que vous travaillez tous les jours avec des étudiants des cycles supérieurs, ou des étudiants de façon générale, et notre dernier témoin a souligné que c’était une période difficile pour les étudiants. Que dites-vous à vos étudiants? Quel genre de conseils leur donnez-vous au sujet de leurs choix de carrière à l’heure actuelle?
Mme Forget : Je travaille principalement avec des étudiants des cycles supérieurs, et ils travaillent sur les questions appliquées dans le secteur canadien des soins de santé. Je pense que bon nombre d’entre eux prennent l’intelligence artificielle très au sérieux dans leurs travaux de doctorat et d’études supérieures, en général. Dans la plupart des cas, ils sont en avance sur moi en matière de compréhension et de vision prospective.
Je ne suis pas certaine que mes conseils leur soient particulièrement utiles à ce stade-ci, mais je constate qu’il y a beaucoup d’implication de la part de ces étudiants et une grande reconnaissance du fait que l’intelligence artificielle pourrait avoir des avantages réels à long terme, malgré les défis qui en font sans aucun doute partie.
Comme on l’a mentionné précédemment, il y a des régions du pays qui font face à de graves pénuries de main-d’œuvre, et l’intelligence artificielle est une façon de régler certains de ces problèmes. Il y a clairement des régions du pays où les soins de santé et les services sociaux sont inadéquats, et l’intelligence artificielle est un moyen d’apporter les changements nécessaires.
Nous avons besoin de gouvernance, cela ne fait aucun doute, mais je pense que, pour la plupart d’entre eux, mes étudiants considèrent que l’IA pourrait être avantageuse à l’avenir. Ils sont raisonnablement optimistes. Ils ne sont pas terrorisés par l’IA et elle sera une partie intégrante du monde auquel ils se préparent.
M. Daley : Je suis tout à fait d’accord avec ma collègue au sujet des étudiants de deuxième cycle, alors je vais parler du premier cycle. Je serais sceptique à l’égard de quiconque prétend savoir quels seront les meilleurs emplois dans 5 ou 10 ans. Je n’en ai aucune idée.
Quand les élèves du secondaire et des étudiants de premier cycle me demandent ce qu’ils doivent faire, je leur conseille de faire quelque chose qu’ils aiment, car ainsi au moins ils seront heureux. Je ne peux pas vous dire quels seront les 10 prochains emplois les plus importants. Personne ne le sait vraiment, alors étudiez quelque chose qui vous importe. Étudiez quelque chose qui vous passionne. Apprenez à apprendre. Apprenez comment vous adapter. Apprenez à penser. Honnêtement, c’est le meilleur conseil que je puisse vous donner en ce moment.
La présidente : Madame Forget, dans votre déclaration préliminaire, vous avez mentionné l’importance du fait que les soutiens sociaux actuels ne correspondent pas à ce qui s’en vient, et vous avez également parlé de la nécessité d’une réforme structurelle. Pourriez-vous nous en dire un peu plus sur les formes que pourrait prendre une réforme structurelle?
Mme Forget : Personnellement, je m’intéresse à une réforme fiscale beaucoup plus vaste. Nous devons repenser la façon dont nous imposons le revenu et la richesse au pays. Je pense que nous devons réfléchir à la façon dont nous exécutons les programmes sociaux, et c’est tout ce que je veux dire pour l’instant.
J’ai bien entendu mes propres préférences quant à la façon dont les choses pourraient se dérouler, mais je pense que nous avons vraiment besoin d’une conversation générale. Il me semble qu’au Canada, nous avons refusé de répondre à ces grandes questions pendant très longtemps. Je crois que nous reconnaissons que l’existant ne répond pas aux besoins actuels. Quoi qu’il en soit, je pense que nous devons en parler de façon beaucoup plus approfondie.
M. Daley : Je suis d’accord avec tout ce que ma collègue vient de dire.
La présidente : Nous devrions avoir un tel accord dans les deux chambres.
Mme Forget : Il suffit de suggérer une commission de réforme fiscale et d’attendre que l’accord n’ait pas lieu.
La sénatrice McPhedran : J’aimerais revenir sur certains points dont nous avons déjà discuté, mais je ne crois pas qu’on vous ait demandé s’il y avait des mesures de protection particulières. Je comprends les incertitudes, mais peut-être que, en vous inspirant d’autres expériences, vous pourriez discuter des types de mécanismes qui ont fonctionné pour aider à protéger les gens qui ont un grand besoin d’information et un grand besoin d’avenir, de possibilités, et peu de ressources pour obtenir ce qui est sécuritaire et productif pour eux.
Mme Forget : À qui posez-vous la question?
La sénatrice McPhedran : Quiconque veut répondre est le bienvenu.
M. Daley : C’est une question difficile, alors nous nous regardons l’un l’autre pour savoir qui va répondre.
Je ne sais pas. Je suis un informaticien, et vous cherchez des interventions sociales structurelles à une échelle que nous n’avons pas connue depuis plusieurs siècles. Et comme ma collègue l’a fait remarquer, nous n’avons pas géré la dernière révolution industrielle aussi bien que nous aurions pu le faire si nous avions voulu mettre au centre l’épanouissement humain, au sens aristotélicien du terme, mais selon moi, quand je considère mon devoir envers nos étudiants, c’est le plus important.
Je veux que les étudiants viennent à l’université et s’épanouissent. Je veux que ce soit un endroit où ils peuvent explorer, expérimenter et apprendre, et je veux que la technologie y contribue, mais je veux qu’elle soit fondamentalement centrée sur l’être humain. Je ne peux donc pas vous dire exactement quelles interventions stratégiques structurelles il faut faire. Il faut consulter un économiste pour cela. Mais je peux vous donner mon point de vue fondé sur mes valeurs : si nous plaçons l’être humain et son épanouissement au centre, je pense que nous pouvons prendre cela comme point de départ pour concevoir des mécanismes. C’est probablement un travail qui occupera beaucoup de gens.
La sénatrice McPhedran : Pardonnez-moi si c’est un peu trop personnel, mais avez-vous des idées ou une position sur le concept du revenu de base pour permettre aux gens, comme vous l’avez souligné, de chercher à faire ce qu’ils aiment?
M. Daley : Je suis en faveur de ce genre d’intervention économique, mais je pense qu’il faut aller au-delà. Les gens ont besoin d’une raison d’être. Nous avons un devoir fondamental envers nos citoyens de veiller à ce qu’ils puissent vivre et s’épanouir, mais ils ont besoin de plus que d’un simple revenu, et c’est là l’aspect délicat.
Mme Forget : De nombreux économistes ont posé cette question au fil des ans. Citons John Maynard Keynes et John Stuart Mill, qui posaient précisément la question suivante : au fur et à mesure que le monde avance et que la technologie évolue, comment pouvons-nous éduquer les êtres humains pour qu’ils trouvent un sens à leur vie?
Des gens très intelligents que j’ai rencontré au cours de ma vie m’ont dit qu’il y a deux sortes de personnes dans le monde, ceux qui travaillent pour vivre et ceux qui vivent pour travailler. Je pense que nous tous ici présents, qui participons à cette réunion, avons eu de la chance parce que nous avons le genre d’emplois qui donnent un sens à nos vies. Ce sont des choses qui nous tiennent vraiment à cœur. Je ne veux pas dénigrer d’autres types d’emplois. Il se trouve que j’ai eu des emplois qui n’ont pas donné un grand sens à ma vie, mais ils m’ont fourni un revenu qui m’a permis de vivre ma vie et de trouver un sens ailleurs.
Je pense qu’un des rôles de notre société est de reconnaître que nous ne sommes pas seulement des gens qui ont besoin de travailler; nous sommes des gens qui ont besoin de vivre et nous devons aller bien au-delà des emplois que nous exerçons pour trouver ce genre de sens dans notre vie.
S’agissant d’un revenu de base, il ne s’agit pas de donner du sens aux gens; il s’agit de leur donner suffisamment de stabilité pour qu’ils réfléchissent à la façon dont ils peuvent vivre leur vie. Je pense que cela fait partie intégrante de ce que nous devrions faire dans le système d’éducation, c’est-à-dire amener les gens au-delà de cette question et leur permettre de trouver un sens à leur vie. Il n’est pas nécessaire que cela passe par un emploi de neuf à cinq ou pour les moins chanceux par un emploi qui ne permet même pas de travailler de neuf à cinq.
La sénatrice McPhedran : J’ai une dernière question très rapide. Est-ce que l’un d’entre vous croit qu’au Canada, nous avons un droit de travailler légalement défini?
Mme Forget : Je ne crois pas.
M. Daley : Je ne sais pas.
La sénatrice McPhedran : Un tel droit n’existe pas parce qu’aucun droit social et économique ne figure dans la Charte canadienne des droits et libertés. Mais il est intéressant de voir le nombre de témoins qui ont parlé du droit au travail. Merci.
La présidente : Monsieur Daley, certains d’entre nous siègent à d’autres comités qui examinent la question de l’intelligence artificielle sous des angles différents. Nous avons entendu des témoignages beaucoup plus effrayants que les vôtres, parce que vous parlez beaucoup de valeurs et de sens. Je me souviens d’au moins un ou deux témoignages effrayants sur la façon dont les progrès en matière d’intelligence artificielle sont vraiment motivés par l’argent et ne placent pas nécessairement les humains au centre. Je pense que c’est là que ça devient vraiment effrayant parce que — contrairement à ce qu’on a dit autour de cette table, je crois que c’est vous, madame Forget, qui avez dit ne pas croire que l’intelligence artificielle remplacera nécessairement les travailleurs. Mais dans d’autres contextes on nous a expliqué qu’au contraire c’est l’intention si l’argent est la motivation principale.
Avez-vous des commentaires à ce sujet.
Mme Forget : Je voulais dire que le nombre total d’emplois après le début du déploiement de l’IA augmentera considérablement. Je ne voulais certainement pas dire que les gens ne seraient pas contraints de changer d’emploi. Je pense que cela fait partie intégrante du processus. Les gens sont chassés des emplois qui existent actuellement, mais de nouveaux emplois sont créés, et c’est pourquoi nous avons ou nous aurons simultanément un chômage structurel à grande échelle et des pénuries de main-d’œuvre.
Le défi, c’est de recycler ces gens pour qu’ils puissent occuper ces nouveaux emplois. Il y a des personnes beaucoup plus faciles à former que d’autres. Il est plus simple de former des jeunes, par exemple, que des gens âgés de 50 ou 45 ans pour qu’ils puissent s’adapter à de nouvelles formes de travail.
Mais je pense que le nombre total d’emplois, le rendement dans son ensemble et les productions de façon générale augmenteront avec l’intelligence artificielle. Je pense que ce sera un résultat extrêmement productif. Je ne pense donc pas qu’il y aura un chômage massif.
La présidente : Merci. Monsieur Daley, voulez-vous ajouter quelque chose?
M. Daley : Madame la présidente, je pense savoir de quels collègues vous parlez, et je connais leurs témoignages. À première vue, ils ne sont pas dans l’erreur. Ils savent de quoi ils parlent. C’est leur vision du monde. Mais je ne ressens pas le même sentiment apocalyptique. Au contraire, je ressens une grande capacité d’agir.
Nous sommes à un tournant. Si nous ne prenons pas les bonnes décisions, il est possible que nous nous retrouvions dans le monde qu’ils décrivent. Si nous laissons les choses se faire sans nous et que nous permettons aux incitatifs économiques de tout contrôler, comme vous l’avez dit, si le capital est le seul moteur — et nous avons mis en place un système qui facilite cela, surtout dans la Silicon Valley. Tout repose sur le capital de risque. Si vous permettez à ce système d’aller au bout de son fonctionnement, vous pourriez obtenir quelque chose qui ressemble à une dystopie cyberpunk. Et j’adore la fiction cyberpunk — William Gibson est formidable — j’ai lu ses ouvrages quand j’étais enfant. Mais je les ai interprétés comme une mise en garde, et non pas comme un mode d’emploi.
Il y a d’autres façons de voir le monde et de gérer cette technologie. Je pense que le Canada forme des coalitions avec des pays aux vues similaires et impose sur la scène mondiale une discussion sur les normes, car les États-Unis et la Chine veulent vendre leurs produits au reste du monde. Il y a des endroits où nous pouvons exercer notre pouvoir avec nos alliés pour faire avancer les choses vers un monde axé sur l’être humain plutôt que sur le capital. Mais ce sont des choix et des décisions stratégiques qui vous incombent en qualité de décideurs.
La présidente : C’est une excellente façon de nous renvoyer la balle. Merci. Encore une fois, je vous remercie de vos exposés et de la conversation très intéressante que nous avons eue. Au nom du comité, je tiens à vous remercier sincèrement d’avoir pris le temps de comparaître devant nous aujourd’hui. Vos témoignages nous seront très utiles dans le cadre de nos délibérations.
(La séance est levée.)