LE COMITÉ SÉNATORIAL PERMANENT DES DROITS DE LA PERSONNE
TÉMOIGNAGES
OTTAWA, le lundi 4 mai 2026
Le Comité sénatorial permanent des droits de la personne se réunit aujourd’hui, à 16 h 3 (HE), avec vidéoconférence, pour examiner, afin d’en faire rapport, l’impact de l’intelligence artificielle sur les droits de la personne et la sécurité économique au Canada, en particulier en ce qui concerne les groupes vulnérables et le droit international de la personne en matière de travail; et pour étudier une ébauche de rapport et un projet d’ordre du jour (travaux futurs).
La sénatrice Paulette Senior (présidente) occupe le fauteuil.
[Traduction]
La présidente : Bonjour, tout le monde. Mesdames et messieurs les sénateurs, j’aimerais commencer par reconnaître que nous nous réunissons aujourd’hui sur le territoire traditionnel, ancestral et non cédé de la nation algonquine anishinabe.
Je m’appelle Paulette Senior, je suis une sénatrice de l’Ontario et présidente de ce comité. J’invite maintenant les sénatrices et les sénateurs à se présenter.
La sénatrice Bernard : Wanda Thomas Bernard, sénatrice du territoire mi’kmaq, en Nouvelle-Écosse, et je suis la vice-présidente du comité.
La sénatrice Robinson : Bonjour. Mary Robinson, sénatrice de l’Île-du-Prince-Édouard.
La sénatrice Karetak-Lindell : Nancy Karetak-Lindell, sénatrice du Nunavut.
La sénatrice McCallum : Mary Jane McCallum, territoire visé par le Traité no 10, région du Manitoba.
Le sénateur K. Wells : Kristopher Wells, de l’Alberta, territoire visé par le Traité no 6.
Le sénateur Arnot : David Arnot, de la Saskatchewan, territoire visé par le Traité no 6.
[Français]
La sénatrice Arnold : Dawn Arnold, du Nouveau-Brunswick.
[Traduction]
La présidente : Bienvenue, mesdames et messieurs les sénateurs, et bienvenue à tous ceux qui suivent nos délibérations. Aujourd’hui, le comité poursuivra l’étude sur l’impact de l’intelligence artificielle sur les droits de la personne et la sécurité économique au Canada, en particulier en ce qui concerne les groupes vulnérables et le droit international de la personne en matière de travail.
Nous recevrons deux groupes de témoins cet après-midi. Pour chaque groupe, nous entendrons les témoins, puis les sénatrices et les sénateurs présents autour de cette table auront une période de questions et réponses.
Je vais maintenant présenter les premiers témoins, à qui on a demandé de présenter une déclaration préliminaire de cinq minutes chacun. Nous accueillons en personne Mme Tracy Luca‑Huger, directrice générale de Mentor Canada, et par vidéoconférence, Mme Kristen Thomasen, professeure agrégée et chaire principale de droit, robotique et société, de la Faculté de droit de l’Université de Windsor. J’invite Mme Luca‑Huger à présenter sa déclaration, suivie par Mme Thomasen.
Tracy Luca-Huger, directrice générale, Mentor Canada : Mesdames et messieurs les sénateurs, merci de me donner l’occasion de prendre la parole aujourd’hui dans le cadre de votre étude sur l’impact de l’intelligence artificielle sur les droits de la personne et la sécurité économique au Canada.
Comme l’a dit madame la présidente, je suis Tracy Luca‑Huger, et je suis la directrice générale de Mentor Canada, un organisme de bienfaisance national qui œuvre à la création d’un écosystème de mentorat robuste et qui s’efforce de combler le déficit en matière de mentorat afin que chaque jeune du pays puisse bénéficier des relations, des conseils et des compétences dont il a besoin pour s’épanouir.
Le message que nous voulons transmettre aujourd’hui est simple. Alors que le Canada se prépare aux perturbations économiques et sociales liées à l’intelligence artificielle, nous ne devons pas perdre de vue l’un des outils les plus puissants dont nous disposons déjà : les liens humains.
Permettez-moi de prendre un peu de recul pour vous replacer dans le contexte. Mentor Canada a mené le premier programme de recherche nationale de ce type sur le mentorat des jeunes dans notre pays. Nous avons examiné qui a accès au mentorat, qui en est exclu et quel impact le mentorat a sur la vie des jeunes. Les conclusions sont sans équivoque. Le mentorat favorise l’éducation, l’emploi, le perfectionnement des compétences, la santé mentale, le sentiment d’appartenance et le capital social.
Les jeunes qui avaient accès à un mentorat étaient plus susceptibles de déclarer être en bonne santé ou en excellente santé mentale et d’éprouver un fort sentiment d’appartenance; ils étaient plus susceptibles de terminer leurs études secondaires et de poursuivre leurs études. Les jeunes qui ont bénéficié d’un mentorat officiel étaient également plus susceptibles d’avoir un emploi ou de poursuivre leurs études. Cela est important parce que les jeunes Canadiens sont aux prises avec un marché du travail difficile. Une nouvelle étude de l’Institut Fraser, publiée jeudi, a révélé que le taux de chômage chez les jeunes était de 10 % en 2022, et qu’il a atteint 13,8 % en 2025. Il s’agit de la plus forte hausse sur trois ans jamais enregistrée en dehors d’une période de récession.
Ces chiffres ne sont pas abstraits. Si l’IA réduit ou transforme les perspectives d’emplois, les jeunes auront besoin d’autres moyens structurés pour acquérir les compétences humaines, sociales et pratiques nécessaires à leur réussite professionnelle.
C’est là que le mentorat joue un rôle essentiel. Le mentorat aide les jeunes à développer ces compétences fondamentales, que j’appellerais leur « atout humain » : l’adaptabilité, la communication, la collaboration, la résolution de problèmes, la capacité à défendre leurs propres intérêts, la confiance en soi et la capacité de demander de l’aide. Plus de 9 jeunes adultes racisés sur 10 interrogés dans le cadre de notre recherche ont indiqué que les mentors les aidaient à acquérir ces compétences, indispensables à la réussite professionnelle et personnelle.
L’IA soulève une question sociale profonde. Les jeunes n’utilisent pas seulement l’IA comme outil d’information. De plus en plus, certains se tournent vers les robots conversationnels pour trouver de la compagnie et un soutien émotionnel. Utilisée à bon escient, l’IA peut aider les jeunes à se préparer à un entretien ou à s’entraîner à mener une conversation difficile, mais lorsqu’elle se substitue aux relations humaines, elle peut renforcer le sentiment de solitude, aggraver l’isolement, retarder la recherche d’aide et affaiblir les relations réelles qui favorisent la résilience, le bien-être et les occasions.
Le mentorat permet aux jeunes de tisser des liens avec leur communauté et avec les autres. Il peut offrir ce que l’IA ne peut pas offrir : un véritable sentiment d’appartenance, de l’attention, de la confiance, une écoute attentive, la responsabilisation, le soutien et les relations humaines. Un mentor peut présenter un jeune à quelqu’un, lui ouvrir des portes, remarquer quand quelque chose ne va pas, repérer un trait de caractère ou une compétence naissante, ou aider un jeune à surmonter ses incertitudes et à prendre confiance en lui.
C’est pourquoi le mentorat devrait faire partie de l’approche du Canada face à l’IA. Il peut aider les jeunes dans leur transition vers le monde du travail, les aider à s’adapter à l’évolution du marché du travail et à protéger leur santé mentale en cette période de changement rapide. Nous nous réjouissons de l’engagement récent du gouvernement fédéral à développer des possibilités d’emploi, d’apprentissage en milieu professionnel et de renforcement des compétences, mais l’emploi et les compétences sont plus efficaces lorsque les jeunes bénéficient d’un accompagnement par des mentors pour réussir. C’est pourquoi nous demandons au gouvernement d’élaborer et de financer une stratégie nationale de mentorat pour les jeunes.
D’autres administrations ont déjà pris des mesures dans ce sens. Les États-Unis ont réalisé des investissements considérables, soit plus de 1 milliard de dollars, dans les infrastructures nationales de mentorat pour les jeunes. La France a lancé l’initiative 1 jeune, 1 mentor, afin de développer le mentorat en tant qu’outil de transition entre l’école et le monde du travail et d’inclusion sociale. Le Royaume-Uni a investi dans le mentorat des jeunes vulnérables.
Le Canada devrait faire la même chose. Une stratégie nationale permettrait d’élargir l’accès au mentorat, de soutenir la qualité et la sécurité, de renforcer la recherche et l’impact, et de veiller à ce que les jeunes qui rencontrent les obstacles les plus importants ne soient pas laissés de côté. Cette approche intégrerait le mentorat dans les domaines de l’éducation, de l’emploi des jeunes, du développement des compétences, de la santé mentale, de l’intégration des nouveaux arrivants et des programmes communautaires. L’OCDE a constaté que le mentorat est non seulement pertinent, mais également essentiel pour les programmes, les priorités et les services destinés aux jeunes. Une stratégie nationale permettrait de s’assurer que nous disposons d’initiatives de mentorat ciblées et fondées sur des données probantes, qui englobent les priorités, les services et les initiatives. Et nous en avons plus que jamais besoin.
L’IA changera notre façon de travailler; elle pourrait changer notre façon d’apprendre, et peut-être même notre façon d’interagir avec les autres, mais elle ne doit pas changer notre responsabilité envers les jeunes. Le mentorat n’est pas la solution à tout, mais c’est une approche éprouvée et concrète, qui repose sur des relations humaines solides. C’est l’une des rares stratégies capables d’accompagner les jeunes de tout horizon et de toute origine dans tous les aspects de leur vie, et elle devrait être au cœur de la réponse apportée par le Canada.
Merci. Je répondrai volontiers à vos questions.
La présidente : Merci, madame Luca-Huger.
Madame Thomasen, allez-y.
Kristen Thomasen, professeure agrégée et chaire principale de droit, robotique et société, Faculté de droit, Université de Windsor, à titre personnel : Merci de me donner l’occasion de participer. Je me joins à vous depuis les terres non cédées de la confédération Three Fires des Premières Nations, qui comprend les nations Ojibwe, Odawa et Potawatomi. En prononçant cette déclaration de reconnaissance du territoire, je suis consciente des liens étroits qui unissent le secteur de l’intelligence artificielle au colonialisme qui persiste à travers le monde.
Mes observations s’appuient sur plus d’une décennie de recherche consacrée à la réglementation de la robotique et de l’IA, visant à comprendre comment l’automatisation modifie les rapports de force, les avantages et les préjudices. Je serai très heureuse de répondre à toutes vos questions concernant la réglementation de l’IA, la sécurité, la pertinence de la responsabilité délictuelle, la protection de la vie privée et la surveillance.
Pour ma déclaration préliminaire, j’aimerais vous faire part de trois observations générales.
Premièrement, le battage médiatique et les promesses exagérées atteignent des sommets sans précédent autour de ce qu’on appelle communément l’« IA ». Les propos trompeurs et les descriptions erronées des systèmes informatiques sont trop fréquents dans les débats publics, voire réglementaires, y compris lors de certaines de vos précédentes séances. Toute technologie doit être évaluée en fonction de ce qu’elle fait réellement, et non de ce que ses promoteurs prétendent qu’elle pourrait faire un jour. Si je ne devais recommander qu’une seule chose pour votre étude, ce serait de faire preuve d’une précision méticuleuse. Il faut faire la distinction entre les différentes applications et les méthodes informatiques. Il faut préciser ce que fait en réalité une application. Il faut prendre note des éléments qui ne sont que des hypothèses. Vous devez fonder vos recommandations sur des faits, et non sur des conjectures.
Les discussions concernant les coûts-avantages de l’IA, en particulier, peuvent masquer des détails inquiétants. Par exemple, certains promoteurs affirment que l’IA pourrait, un jour, en théorie, guérir le cancer. Parallèlement, les recherches sur les centres de données dédiés à l’IA soulèvent des inquiétudes quant à l’augmentation des risques de cancer, entre autres préoccupations. Prétendre, comme le fait parfois le battage médiatique de l’industrie, que la santé publique est un compromis que nous devons accepter dans l’espoir de guérir un jour le cancer est une affirmation odieuse que l’on entend bien trop souvent. Si votre étude consiste à soupeser les avantages et les préjudices, vous donnerez un exemple clair en faisant la distinction entre les résultats hypothétiques ou conditionnels, qui relèvent du futur, et les preuves des préjudices, des risques et des avantages actuels. Il est tout à fait approprié que la Chambre de réflexion rejette le battage médiatique et les vantardises de l’industrie.
Je tiens également à aborder un sujet délicat, dont personne ne parle, à savoir que bon nombre des systèmes dont vous parlez, en particulier les grands modèles de langage, commercialisés pour des usages ambigus ou variés, sont développés dans le cadre d’un système économique capitaliste et en sont le reflet. Quand votre étude examine les répercussions des systèmes des géants de la technologie sur le droit du travail et les droits de la personne, veillez à ce que votre analyse tienne compte du contexte économique dans lequel ces outils sont créés. Des milliards d’investissements en capital n’ont toujours pas généré de bénéfices. La nécessité omniprésente de créer plus rapidement des outils toujours plus puissants afin de s’imposer sur le marché aurait conduit à des violations à grande échelle des lois relatives au consentement, au droit d’auteur et à la protection de la vie privée, à la souveraineté des données autochtones, aux normes communautaires et à l’échange au sein des biens communs informationnels; cette nécessité se traduirait également par une négligence manifeste en matière de pratiques de formation, de modération des contenus et de manipulation.
La course à la commercialisation rapide a pour conséquence que les ensembles de données sont mal gérés, voire pas du tout. Plutôt que d’investir dans des données d’entraînement sélectionnées de manière réfléchie et conforme à la loi, certaines entreprises ont recours à des pratiques abusives pour les essais et la modération des résultats, dont les conséquences néfastes pèsent souvent sur les personnes qui travaillent et vivent dans les pays du Sud, du Venezuela au Kenya en passant par la Palestine.
La volonté de former des modèles toujours plus puissants entraîne une expansion rapide des infrastructures ainsi que des chaînes d’extraction et d’approvisionnement mondial, ce qui aggrave la crise climatique. Tout cela est prévisible lorsque l’on examine le contexte économique dans lequel les systèmes des géants de la technologie sont financés et développés. Le droit peut servir d’outil pour réorienter l’analyse de rentabilité afin de prendre en considération les travailleurs et les droits de la personne à l’échelle mondiale. La protection du travail, la lutte contre la discrimination et la protection de l’environnement en sont des exemples. Souvent, ces protections ne voient le jour qu’après des pressions exercées par la société civile sur les gouvernements, après des années d’abus.
J’exhorte le comité et tous les représentants du public à agir de manière proactive à ce chapitre, à renforcer les droits et la protection juridique en prévision de l’évolution prévisible de l’innovation capitaliste.
Enfin, il faut s’opposer au déterminisme technologique, cette idée selon laquelle les technologies sont inévitables et que le droit et la société n’ont qu’un rôle mineur à jouer dans leur évolution. C’est manifestement faux. Le refus des produits dangereux doit toujours rester une option.
Vous avez entendu parler de la consultation de l’année dernière où l’on disposait de 30 jours pour soumettre des mémoires. Cela s’avère particulièrement difficile pour toutes les personnes touchées par l’automatisation, mais qui ne peuvent pas facilement mettre leur vie entre parenthèses pour rédiger une réponse réfléchie ou collaborative, comme les fournisseurs de soins, les enseignants, les étudiants, les groupes communautaires et les responsables syndicaux.
Je vous invite également à vous pencher sur la consultation populaire sur l’IA qui, grâce à un délai plus long et à un soutien en matière d’information, a permis de recueillir 65 mémoires supplémentaires. Dans ces mémoires, vous trouverez certains de vos propres questionnements et préoccupations. Il est évident que les gens souhaitent que les mesures prises par le gouvernement en matière d’IA ne soient pas uniquement motivées par le rendement de l’investissement des sociétés de capital de risque.
Merci de votre temps. J’ai hâte de répondre à toutes vos questions.
La présidente : Merci à vous deux de vos déclarations. Nous allons maintenant passer aux questions des sénateurs.
La sénatrice Bernard : Ma première question s’adresse à Mme Tracy Luca-Huger. J’aimerais en savoir davantage sur votre suggestion selon laquelle le mentorat pourrait constituer une riposte face à l’IA, ainsi que sur vos idées concernant une stratégie nationale de mentorat pour les jeunes. Est-ce une recommandation que vous formuleriez à notre comité?
Mme Luca-Huger : Il s’agit d’une recommandation importante parce qu’elle met l’accent, encore une fois, sur ces relations humaines. Je vais vous donner un exemple : un jeune peut tout à fait obtenir des informations et des conseils d’un outil d’IA. Quand il ferme cet outil, l’application ou l’appareil, qui est avec lui? Nous savons que la santé mentale et l’isolement des jeunes sont également en hausse. Comment allons-nous continuer d’encourager, de former et de soutenir des organisations afin qu’elles intègrent le mentorat dans leurs stratégies, que ce soit sur le lieu de travail, dans l’éducation ou dans la collectivité? Comment pouvons-nous former et outiller les concepteurs de pratiques fondées sur des données probantes pour qu’ils aident les jeunes à engager ces discussions sur le mentorat et à nouer ces relations?
C’est une stratégie que nous aimerions vraiment voir le comité soutenir, car elle est fragmentée. Nous savons qu’il est important de développer le mentorat à l’échelle nationale. Nous savons que les jeunes rencontrent encore des obstacles pour y accéder. Comment intégrer cela dans nos stratégies et nos initiatives?
En ce qui concerne les programmes, nous savons, d’après la déclaration et la mise à jour de la semaine dernière, que l’initiative Une Équipe Canada forte et l’emploi et les compétences des jeunes sont des priorités. Le monde du travail évolue, mais nous devons renforcer l’impact du mentorat tout au long de ce processus. Ce n’est pas la seule solution, mais elle doit être intégrée à des compétences clairement définies et à des possibilités pour les jeunes, et nous devons intégrer le mentorat dans les métiers, les compétences et l’apprentissage. Comment peut-on donner les moyens à ceux qui guident et encadrent ces jeunes afin qu’ils bénéficient du soutien nécessaire pour s’engager et persévérer?
La semaine dernière, nous avons appris que 100 000 jeunes apprentis avaient commencé leur formation, et que seuls 34 000, je crois, l’ont menée à bien. Et s’ils avaient eu des mentors pour les accompagner tout au long de ce parcours, surmonter certaines de ces difficultés et certains de ces défis, afin de les aider à se sentir à leur place non seulement dans ces secteurs, mais aussi sur leur lieu de travail?
Il faut également réfléchir à la manière dont nous allons mettre en place des outils et des pratiques efficaces, ainsi que des normes en matière de mentorat. C’est à ce chapitre que Mentor Canada dispose des connaissances, de la formation et des ressources pour équiper l’industrie et former les professionnels à comprendre ce qu’est le mentorat et ce qu’il n’est pas.
La sénatrice Bernard : Ensuite, ma prochaine question s’adresse à Mme Thomasen. Dans votre déclaration préliminaire, vous avez parlé du lien entre l’IA et le colonialisme. J’aimerais que vous nous en disiez davantage, et nous parliez un peu des personnes qui seront laissées de côté si nous ne réglons pas ces questions?
Merci.
Mme Thomasen : Assurément. Il y a plusieurs aspects à cette question, et je vais les aborder brièvement, mais je serais ravie d’y revenir en détail une autre fois.
D’abord, je dirais que ce qui est en cause, c’est l’épistémologie de l’intelligence artificielle — et je parle ici, à bien des égards, des géants de la technologie, comme la Silicon Valley et d’autres outils concurrents —, dont bon nombre sont conçus dans un esprit qui rappelle presque la mentalité de l’Europe des Lumières et la pensée dichotomique. Pour l’essentiel, on considère que cela est indispensable au bon fonctionnement de ces outils, mais il existe des exemples qui démontrent que ce n’est en réalité pas le cas.
La structure de l’outil et la manière dont les données ont été recueillies sont très intrusives. Il existe de nombreuses ressources de qualité qui expliquent en détail comment de nombreuses grandes entreprises technologiques se sont simplement emparées de l’ensemble du contenu d’Internet, ce qui signifie s’emparer des données et du savoir autochtone sans consentement et sans avoir obtenu le consentement requis ni pris en compte l’avis de la communauté. En fait, on trouve même des exemples où les géants de la technologie ont utilisé des données liées au langage recueillies spécifiquement par des communautés autochtones pour développer leur propre modèle de langage, dans le respect des principes du consentement, de collecte et de gestion.
Il y a ensuite les centres de données, et l’expansion de leurs infrastructures s’est déroulée à un rythme rapide... presque dans l’urgence. Dans de nombreux contextes, en particulier dans les pays du Sud, cela s’est traduit par des incursions sur des territoires autochtones ou des territoires contestés afin d’y implanter de grandes infrastructures qui ne créent aucun emploi — ou très peu — et qui ont de nombreuses répercussions négatives sur l’environnement et la santé publique.
En plus de cela, je pense qu’on peut également mettre de l’avant la mentalité de certains PDG de la Silicon Valley, si l’on peut dire, qui est très imprégnée d’une vision coloniale et impérialiste : si cela existe, c’est à prendre, et c’est à nous de le prendre. Si on n’en fait pas quelque chose de rentable, et que moi je le fais, alors, cela m’appartient. Ce genre de mentalité transparaît dans certains des grands outils dont on parle souvent.
Je vais citer un exemple de vision différente, à savoir un modèle de langage conçu par Te Hiku Media, qui vise à rendre la langue maorie à ses locuteurs et qui s’inscrit au sein de la communauté ainsi que dans les pratiques de collecte et de gestion des données de cette communauté.
Je vais en rester là pour le moment, mais je dirais que c’est une question à plusieurs niveaux, et qui revêt sans aucun doute une dimension mondiale. Lorsque vous demandez qui serait laissé de côté, il s’agit de toutes les personnes politiquement marginalisées, dans le sens où le gouvernement peut passer outre à ses revendications, et à ses liens avec ses terres, ses informations, ses données, sa culture et son savoir; ce sont elles qui se trouveraient menacées, ou, à tout le moins — si ce n’est pas déjà le cas — laissées de côté par les progrès de cette industrie.
Le sénateur Arnot : Cette question s’adresse à Mme Thomasen. Si les citoyens ne peuvent, dans la pratique, éviter d’être observés ou évalués par des systèmes automatisés, le consentement constitue-t-il encore un fondement valable pour la protection de la vie privée?
Ensuite, la transparence et l’information préalable suffisent‑elles, ou certaines pratiques de surveillance automatisée nécessitent-elles des restrictions ou des interdictions légales?
J’ai ensuite une question pour la deuxième série de questions.
Mme Thomasen : Le consentement, qu’il s’agisse d’un modèle individuel ou qu’il découle d’un choix personnel, va devenir de plus en plus fragile, précisément en raison de ce que vous avez souligné. Notre capacité à donner notre consentement — à titre individuel — à la surveillance, au suivi et à l’utilisation de l’IA sur les données nous concernant afin qu’on puisse en tirer des conclusions à notre sujet est, avant tout, pratiquement impossible. Cela deviendra éventuellement presque impossible en raison de la manière dont une grande partie de nos vies quotidiennes sont recueillies en tant que données — c’était un choix et cela n’avait pas à se passer ainsi —, et on peut imaginer un monde où ce n’est pas le cas. Mais pour répondre à votre question, c’est une caractéristique très importante.
De plus, en raison du fonctionnement des différents systèmes d’analyse des données, il n’est même pas nécessaire que des données me concernant soient recueillies ou fassent partie d’un ensemble de données pour qu’un système déduise des informations à mon sujet si je ressemble à d’autres personnes de cet ensemble; ainsi, quiconque exploite un système et procède à ce type de déduction ou d’évaluation pourrait conclure que je pourrais présenter ces mêmes caractéristiques ou traits, dans le cas des outils d’évaluation des risques, qui sont extrêmement dangereux. On déduirait cela parce que je ressemble, à certains égards, à quelqu’un d’autre, que je présente ou pas le même niveau de risque.
Je pense que vous avez raison de souligner que le consentement personnel ne nous sauvera pas. Dans la mesure où il nous faut recourir à certaines interdictions ou à une certaine résistance et à un certain refus, certaines technologies devraient être interdites, et je citerais notamment la surveillance biométrique faciale comme exemple. Lorsqu’un système est utilisé pour identifier par balayage des personnes dans une foule, ce qui met fin à l’anonymat, nuit aux relations publiques et nous empêche de nous déplacer en public sans ressentir la moindre crainte que cela puisse arriver, ce type de technologie devrait être interdit.
Il faudrait également mettre en place des orientations très fermes, sur le plan tant juridique que stratégique — et le gouvernement pourrait montrer l’exemple en s’abstenant d’adopter des technologies nuisibles —, tout en réfléchissant à nos droits collectifs, ce que notre système juridique n’a pas beaucoup fait jusqu’à présent, mais qui, à mon avis, serait une voie très intéressante à explorer, du moins en ce qui concerne le droit en tant qu’outil permettant de traiter de certaines de ces questions.
Le sénateur Arnot : La question s’adresse, encore une fois, à Mme Thomasen. Selon vous, quel est le plus grand risque pour les droits de la personne que représentent les technologies robotiques et automatisées? S’agit-il de la surveillance, de la prise de décisions, de la banalisation de la surveillance, ou d’autre chose?
Mme Thomasen : Je pense que ces choses sont incluses dans ce que je qualifierais de risque très sérieux d’aggravation des inégalités sociales. Cela risque fortement d’être amplifié par l’automatisation croissante des technologies de surveillance, mais la manière dont les gens vivent cette surveillance varie d’une personne à l’autre et n’est pas répartie de manière équitable. Je ne dis pas que je souhaite qu’il y ait une surveillance équitable, mais je pense qu’il faut reconnaître que toutes ces préoccupations sont légitimes du point de vue des droits de la personne, mais elles s’inscrivent dans un processus plus large de stratification de la société, visant à permettre à un groupe restreint et privilégié de profiter de l’espace public comme il l’entend, tandis que tous les autres sont soumis à des restrictions de surveillance éventuellement très répressives et dissuasives, à des contrôles et à un accès limité.
Je pense que cela se reflète dans une certaine mesure dans la robotique, mais les systèmes informatiques qui analysent les informations et dont le fonctionnement n’est souvent pas remis en question exacerbent considérablement ce risque à l’heure actuelle.
Le sénateur Arnot : Merci.
La sénatrice McCallum : Merci à vous deux de vos exposés. Ceci s’adresse aux deux intervenants.
Madame Luca-Huger, vous avez parlé du mentorat, cela m’a rappelé mon expérience au pensionnat, cette fracture avec la famille, le lien de parenté, la communauté, la traduction des connaissances relatives au patrimoine culturel éphémère, ce qui constitue un génocide culturel.
En ce qui concerne les Premières Nations, la colonisation avait pour but de tuer l’Autochtone dans l’enfant, et je vais vous le dire, c’est vrai. C’est en moi. En ce qui concerne l’IA, cela revient presque à tuer ou à diminuer l’humanité ou l’expérience humaine dans les personnes qui l’utilisent. Que peuvent faire les Canadiens ou le gouvernement, je suppose, pour contrer ces effets de l’IA?
Je trouve très inquiétant que nous semblions nous enfoncer plus en plus dans la perte de notre humanité. C’est la meilleure façon dont je peux l’exprimer. Pouvez-vous nous en dire plus à ce sujet? Que peuvent faire les Canadiens?
Parce que quelqu’un doit contrer cela. Il faut bien que quelqu’un le fasse. Du côté des Premières Nations, nous nous réunissons, nous discutons et nous renouons avec notre culture. Que peuvent faire les Canadiens?
Mme Luca-Huger : Merci de cette question, sénatrice McCallum. Il s’agit d’une question importante parce que les liens humains sont une compétence essentielle. C’est ce qui nous relie et nous rapproche. Nous sommes des êtres sociaux. C’est un élément essentiel.
La semaine dernière, j’ai eu le privilège de présenter un exposé lors d’une conférence avec le Dr Jean Clinton, un pédopsychiatre qui s’est intéressé de près au développement du cerveau et à sa capacité de se régénérer, mais les relations humaines constituent un élément essentiel. Nous avons eu une discussion fort intéressante sur l’IA et sur l’importance de ce lien humain, non seulement pour instaurer la confiance, mais aussi pour mettre en valeur le potentiel.
En tant que Canadiens, nous devons investir dans le mentorat.
À une époque, nous connaissions nos voisins. Nous misions sur ce jeune qui se trouvait à nos côtés. Nous devons intégrer cette démarche dans les possibilités et les lieux où se trouvent les jeunes, dans le tissu social, ainsi que dans les lieux d’apprentissage et de travail où ils évoluent. Ils ont énormément à apporter.
Nous savons aussi que le Forum économique mondial a également indiqué que le mentorat et le mentorat inversé étaient des éléments essentiels. Les jeunes savent que ce qu’ils vivent en ce moment peut aider les entreprises à façonner la culture qu’elles bâtissent et les compétences dont les jeunes ont besoin pour décrocher un emploi de premier échelon. Comment acquièrent-ils ces expériences au moment où ils sont formés et apprennent à bâtir ce capital social? Voici les éléments essentiels : leur histoire, leur vécu, leur cheminement commun et l’importance de se sentir vus, valorisés et entendus. Ce sont des choses essentielles pour tout jeune et pour chacun d’entre nous.
Il leur faut les éléments essentiels suivants : trouver le courage de saisir une occasion pour aller de l’avant et acquérir l’expérience potentielle leur permettant de connaître l’évolution de l’industrie, au lieu de dépendre de ce que leur dit un robot pour qu’ils se sentent toujours bien. Le robot leur dit toujours, « voici une excellente question. Vous avez raison. La façon dont vous avez posé la question est très intéressante. Permettez-moi de pivoter. Je vais modifier ma réponse. »
Comment les jeunes font-ils pour construire des relations, bâtir la confiance et se sentir en sécurité pour parler de leurs peurs et acquérir les compétences dont ils ont besoin pour l’avenir?
Mme Thomasen : Les modèles informatiques qui analysent les données peuvent être utiles pour analyser les données. À l’heure actuelle — c’est quelque chose qui a beaucoup à voir avec le contexte général dans lequel ces différents outils émergent —, on essaie d’inciter les gens, en utilisant le marketing — et c’est une technique très efficace — à imaginer que différents outils, comme ChatGPT, par exemple, peuvent être utilisés pour toutes sortes de choses différentes, mais c’est une façon d’analyser les données.
Ce que le gouvernement peut faire — c’est quelque chose d’anodin, mais je pense que ce serait important —, c’est rejeter l’effort rhétorique visant à insinuer que quelque chose comme un robot peut être un thérapeute, qu’il peut donner des conseils juridiques, qu’il peut être votre confident ou votre partenaire romantique, et, à la place, cerner et nommer les systèmes pour ce qu’ils sont, soit des modèles et des types différents de systèmes d’analyse de données.
Les outils d’intelligence artificielle, ou ce que l’on appellerait l’intelligence artificielle, peuvent être utiles pour accomplir certaines tâches. Ils devraient se cantonner à ces tâches. Comme vous l’avez si bien dit, il n’y a aucune raison de rompre nos connexions humaines ou, surtout, d’encourager la croissance industrielle de technologies qui détruisent notre communication humaine par l’entremise d’outils, simplement parce qu’ils sont accessibles.
Je pense que nous devons être davantage prêts à refuser certaines publicités ou certains discours visant à promouvoir l’utilité de ces outils. C’est ce qui m’inquiète avec mes enfants. On me dit, « Nous devons les former à utiliser les robots conversationnels à l’école pour qu’ils comprennent ce qu’ils sont et leur fonctionnement ». Cependant, je me demande également s’il ne faut pas promouvoir et donner plus de crédibilité aux outils, comme les robots conversationnels dans ce contexte particulier, et réfléchir plus sérieusement à ce qu’ils sont. À quoi sert ce système ou ce modèle, et que se passe-t-il véritablement, outre les interactions des usagers que le système souhaite augmenter et les données des personnes qu’il utilise pour construire et améliorer l’outil? Honnêtement, vous avez entendu de la part des anciens témoins que la vision de certains concepteurs est assez terrifiante, voire déconcertante. Je ne pense pas que nous devons en arriver là. Je ne pense pas du tout que ce soit inévitable.
La sénatrice McPhedran : Merci aux témoins de nous aider à consacrer du temps aux jeunes.
Loin d’être optimiste, la question que je vais vous poser mérite néanmoins d’être explorée.
Il se peut que bon nombre des contraintes recommandées dans vos observations, aujourd’hui, ne soient pas réalistes. Une partie du problème peut être attribuée à la capacité des législateurs à interrompre ou à retirer des pratiques déjà établies et bien développées. Il semble qu’il y ait beaucoup d’enthousiasme, et le gouvernement a choisi de vraiment encourager la croissance de cette industrie. C’est essentiel pour notre économie et notre viabilité dans le contexte international plus large.
J’ai entendu un certain nombre de points soulevés concernant divers types de souveraineté, divers types de protection des données individuelles et des données collectives.
En ce qui concerne les contraintes que certains d’entre vous ont recommandées, dire que nous devrions simplement y mettre fin ou l’interdire, alors que les choses sont déjà en marche... Si les gouvernements du pays sont incapables de mettre en œuvre… C’est une chose, bien entendu, d’adopter une loi; c’en est une autre de la mettre en œuvre. C’est une chose de parler des résultats souhaités; c’en est une autre de les atteindre.
J’ai dit beaucoup de choses avant de poser cette question, mais, selon moi, ce sont, essentiellement, les types de compromis que nous sommes forcés de faire, encore et encore, en tant que législateurs, en tant que députés. La question que je vous pose est la suivante : quelles sont les protections essentielles, selon vous? Lesquelles sont, selon vous, les plus susceptibles d’être atteintes? Dans une catégorie quelque peu séparée, lesquelles sont les plus importantes? La question s’adresse à tous nos témoins.
Mme Thomasen : Voilà la question. La réalité, c’est que vous pouvez avoir des idées, mais comment les mettre en œuvre? C’est la véritable question. J’ai quelques idées. Je vais vous en parler.
Il y a un ou deux messages que j’aimerais que vous reteniez aujourd’hui, et le premier, c’est que la loi, entre autres, peut toujours façonner la trajectoire de la technologie. Je sais que c’est difficile, car il n’y a pas que la loi; il faut aussi tenir compte de la politique économique et de la politique sociale, en particulier, pour un gouvernement fédéral.
Sur ce point, je tiens à souligner qu’il n’y a plus d’amiante dans les résidences. La peinture à base de plomb n’est plus autorisée. Le dichlorodiphényltrichloroéthane, ou DDT, a été banni. J’habite à Windsor, à la frontière avec Detroit. Les sièges d’auto du Canada sont différents de ceux des États-Unis, en raison des exigences en matière de sécurité qui sont beaucoup plus strictes, au Canada. Toute la conception des automobiles a considérablement changé à la suite d’une série de procès considérables, qui ont, par la suite, obligé des organismes de réglementation aux États-Unis à élaborer des normes réglementaires de construction des voitures visant à tenir compte des piétons. Jusque dans les années 1950 et 1960, ce n’était pas le cas.
Nous avons l’occasion d’être un peu plus proactifs. Évidemment, je reconnais que nous ne connaissons pas exactement la trajectoire de la technologie, mais, la loi pourrait être plus proactive là où nous voyons de véritables risques, et, en particulier, là où il y a des éléments probants qu’un préjudice est déjà en cours. Au lieu d’attendre les nombreux recours collectifs qui ont mené à la création d’organismes de réglementation et à des modifications, nous avons une chance d’être proactifs, d’apprendre des leçons du passé, mais également, de réfléchir au contexte dans lequel ces outils sont construits, et de se servir de cela pour guider les futures lois.
Maintenant, je reconnais que, parfois, certaines choses sont en cours d’utilisation, et il peut être difficile de les changer ou les modifier. Je pense que c’est là que — et je sais que je parle en tant qu’avocate qui s’adresse à d’autres avocats —, mais lorsque nous acceptons le rôle normatif de la loi, cela peut également être précieux.
Lorsque vous voulez connaître, spécifiquement, la chose la plus importante à faire — peut-être que c’est étrange pour quelqu’un qui étudie la réglementation de l’intelligence artificielle —, je pense qu’il faudrait se concentrer sur la réglementation générale et la loi, les protections des droits, peu importe la technologie concernée, l’amélioration et le soutien de ces protections, la mise en place de plus de protections pour les travailleurs, la main-d’œuvre, surtout pour les travailleurs dans une économie à la demande, et l’amélioration des droits à la protection des renseignements personnels. Nous avons déjà discuté du consentement, mais peut-être qu’il faudrait réfléchir de nouveau à la manière dont le consentement est exigé, lorsque les outils sont déployés dans des espaces publics ou qu’ils recueillent des quantités considérables d’informations. Je ne veux pas m’éterniser là-dessus, mais je pense effectivement qu’il y a des idées dont les législateurs peuvent se servir pour agir maintenant, même si ces technologies sont déjà en cours d’utilisation.
Je pense que, d’une certaine manière, lorsque nous renforçons l’idée selon laquelle nous sommes impuissants face à ce problème, l’industrie en tire parti, car elle veut que rien ne vienne entraver sa croissance.
Je pense que la loi n’est pas le seul outil. Elle ne peut pas être le seul outil, mais je pense qu’elle peut jouer un excellent rôle normatif, à l’heure actuelle. Je pense qu’il y a énormément de connaissances dont nous pouvons nous servir.
Mme Luca-Huger : Merci. Je vais commencer en parlant de la loi et des éléments juridiques, en ce qui concerne le mentorat, mais le fait est que nous devons investir. Nous devons investir dans les connexions humaines. Nous savons que l’intelligence artificielle aura des répercussions sur la carrière et la vie des jeunes. Comment allons-nous intégrer la valeur de la connexion humaine, cette leçon et cet apprentissage? Nous savons que l’industrie continue de parler du manque de compétences des jeunes et de certaines des pénuries de compétences. La résolution de problèmes, les compétences de communication et la capacité de pivoter. Ce sont des éléments importants. Nous devons investir dans les connexions humaines et les compétences humaines: les compétences essentielles qui permettront aux jeunes de s’épanouir.
Nous ne sommes pas un organisme de réglementation, à proprement parler. Mais, nous devons équilibrer cela avec l’aspect humain et favoriser un espace où les êtres humains peuvent discuter, mettre en commun leurs compétences, mais aussi discuter de santé mentale et de bien-être. Ce sont les éléments essentiels sur lesquels nous devons travailler si nous souhaitons faire avancer la société et améliorer le bien-être. Nous devons cibler l’aspect humain. Ce sont les éléments essentiels pour la société et qui permettront aux jeunes de participer, mais en plus, d’avoir l’impression qu’ils ont leur place, et d’avoir un espace où améliorer leurs compétences et où trouver le soutien dont ils ont besoin pour s’épanouir.
La sénatrice Bernard : Ma première question dans cette deuxième série s’adresse à Mme Thomasen. Pourriez-vous nous en dire plus sur vos avertissements concernant les technologies de reconnaissance faciale biométrique, et la manière dont cette forme de surveillance est liée au racisme anti-Noir systémique et au profilage racial, surtout dans le système judiciaire, et pourriez-vous nous parler des recherches — s’il y en a eu — dans ce domaine?
Mme Thomasen : Absolument. Je sais que je l’ai déjà dit, mais c’est quelque chose qui a plusieurs couches.
Au degré de spécificité le plus élevé, des recherches ont montré qu’un certain nombre d’outils de reconnaissance faciale — et je me ferai un plaisir d’inclure des citations et de vous les fournir — reflétaient des préjugés dans un ensemble de données. Il y a probablement sept ou huit ans, des recherches révolutionnaires ont permis de reconnaître que bon nombre des principaux outils commerciaux — les outils auxquels les chercheurs avaient accès. C’est une étude menée par Joy Buolamwini et Timnit Gebru intitulée, Gender Shades. Ils ont découvert que ces outils avaient été formés à partir de visages principalement blancs et d’images de visages blancs.
Ces outils reflétaient des préjugés anti-Noirs et, en particulier, de la misogynoire, car ils ne reflétaient pas correctement l’image des femmes noires. C’était une trouvaille révolutionnaire, malheureusement, car aucun des promoteurs commerciaux n’avait réfléchi à cela, et n’avait pensé à mettre la question à l’essai, et encore moins à former les outils en fonction de cet enjeu.
Je soupçonne effectivement que de nombreux concepteurs ont désormais modifié la façon dont ils créent leurs ensembles de données et perfectionnent leurs outils afin d’en atténuer les répercussions, mais nous continuons de voir des cas où la reconnaissance faciale effectue une identification erronée de certaines personnes. À Detroit — la ville voisine de la mienne —, dans bien des cas, ce sont des hommes et des femmes noirs qui sont mal identifiés. De plus, je dirais que ces outils sont incapables de comprendre l’identité de genre non binaire. Par ailleurs, toutes les personnes non binaires qui pourraient déjà faire face à certains préjugés raciaux ou à de la discrimination dans ces systèmes pourraient se buter à davantage d’obstacles lorsqu’elles ont affaire à ces systèmes.
Pour ce qui est du degré de précision des données utilisées pour perfectionner ces outils, certains problèmes sont bien connus. Je crois que nous pouvons aussi prendre un certain recul et examiner les problèmes déjà connus de discrimination en matière de profilage et de maintien de l’ordre.
Si une personne est plus susceptible de faire l’objet d’une reconnaissance faciale, même les systèmes les plus performants — s’ils comportent la moindre marge d’erreur — risquent davantage de produire des erreurs de reconnaissance faciale, simplement du fait qu’elles en font plus souvent l’objet. Il se peut même que cette personne ne sache même pas ce qui lui arrive. C’est difficile à prouver. J’établirais un lien entre les préjugés systémiques et la discrimination et la façon dont la surveillance est effectuée. Cela ne concerne pas uniquement les services policiers. Il peut s’agir de reconnaissance faciale à des fins commerciales. Il peut s’agir d’un usage fait dans d’autres contextes.
Je suis désolée, j’avais un troisième point à soulever, mais je ne m’en souviens plus.
Oh, l’immigration. Au Canada, des inquiétudes et des préoccupations ont été soulevées à propos du fait que des personnes auraient été entraînées dans des processus qui ont changé leur vie dans le cadre de démarches d’immigration et d’établissement au pays. On a laissé entendre que cela aurait pu être causé par des erreurs d’identification, notamment lorsque les personnes concernées étaient des femmes noires.
Je crois donc qu’il existe des travaux de recherche à ce sujet, que nous pouvons mettre en relation avec les recherches déjà à notre disposition qui portent sur le fonctionnement de la surveillance dans la société.
La sénatrice Bernard : Me reste-t-il du temps?
La présidente : Je dois répartir le temps qu’il reste. Je dois vous interrompre et céder maintenant la parole à la sénatrice Arnold.
La sénatrice Arnold : Merci à vous deux de votre présence aujourd’hui.
J’aime beaucoup cette discussion qui se tient dans le cadre de tous les travaux du comité portant sur l’IA. Le sujet revient constamment sur la table. Je note sans cesse mes réflexions au sujet de ce que signifie le fait d’être humain et de la nécessité, en quelque sorte, d’en faire un choix conscient en ce moment.
J’ai récemment découvert une formidable assemblée citoyenne de jeunes appelée Gen Z AI. Ces jeunes se sont penchés sur les robots conversationnels de l’IA, les technologies de l’information, la confidentialité des données et le contrôle de l’âge. Je souscris à ce que vous dites, madame Thomasen, c’est‑à‑dire que nous avons besoin de recommandations générales dans la loi. Certaines des recommandations qu’ils ont formulées à l’égard de l’IA et du contrôle de l’âge ont retenu mon attention.
J’aimerais savoir ce que vous en pensez.
Tout d’abord, ils recommandent d’exiger que des mesures de sécurité soient intégrées aux plateformes d’IA accessibles aux enfants, y compris dans des contextes éducatifs, et ce, dès leur conception, de manière à garantir que les mesures soient, avant tout, préventives et non correctives. Ils ont également proposé d’adopter des mesures visant à réduire l’exposition des jeunes utilisateurs à des dispositifs de conception nuisibles de l’ensemble des plateformes numériques, notamment en renforçant les mesures de transparence, en exigeant la présentation de rapports en matière de sûreté et de conformité numérique et en exigeant que le contenu médiatique généré par l’IA soit marqué d’un filigrane numérique. Nous en avons entendu parler maintes et maintes fois.
Certaines personnes croient que c’est un moyen efficace; d’autres croient que ce ne l’est pas. Tout de même, il s’agit sans doute d’un outil utile.
Enfin, ils recommandent la réduction de la flagornerie générée par les robots conversationnels de l’IA. Je me demande ce que vous pensez de ces recommandations.
Mme Thomasen : Je crois qu’il s’agit exactement de l’approche à adopter. Les enjeux liés au contrôle de l’âge — lorsqu’une personne doit téléverser une pièce d’identité, puisqu’elle doit prouver qu’elle a l’âge requis à une plateforme, sinon l’accès lui sera refusé — soulèvent de sérieuses préoccupations à l’égard de la protection de la vie privée. Lorsque nous devons transmettre des documents d’identité à des plateformes auxquelles nous ne faisons pas confiance, et que nous ne considérons pas comme sécuritaires pour les jeunes, et que tout le monde doit désormais fournir de tels documents à ces mêmes plateformes — dont les entreprises sont souvent établies aux États-Unis ou à l’extérieur du Canada —, le fait d’avoir à fournir une pièce d’identité délivrée par le gouvernement comporte son lot de problèmes complexes.
De plus, si nous affirmons que ces plateformes ne sont pas sécuritaires pour les enfants d’un certain âge, elles ne sont pas sécuritaires pour nous tous. Bien qu’elles soient sans doute encore moins sécuritaires pour les enfants vulnérables, je suis tout à fait convaincue qu’elles ne le sont pas pour nous.
Si le problème tient au fait que les algorithmes de recommandation nous dirigent de plus en plus vers des contenus violents, alors les plateformes ne sont pas sécuritaires pour qui que ce soit. Je souscris à ces recommandations et je les appuie, dans la mesure où elles visent à réglementer les plateformes. À mon avis, il n’y a aucune raison pour laquelle l’IA devrait bénéficier d’un traitement particulier, comparativement à d’autres produits ou services.
Pour apporter une certaine nuance, je dirais, en termes simples, que nous n’allons pas commencer à réglementer les conducteurs et la manière dont ils s’assoient. Nous allons réglementer les voitures pour qu’elles soient sécuritaires. Nos démarches étaient loin d’être parfaites, mais des efforts concrets ont été déployés en ce sens. Je trouve logique cette approche à l’égard des plateformes. Les concepteurs de plateformes doivent être responsables lorsqu’ils mettent un produit sur le marché; ils doivent s’assurer qu’il est sécuritaire et qu’il l’est pour l’ensemble des utilisateurs autorisés auxquels le produit est destiné. Encore une fois, j’ai des enfants. Je sais que bon nombre de ces plateformes offrent activement leurs services à des enfants. Cela comporte de grandes responsabilités.
Le sénateur Arnot : Cette question s’adresse à Mme Luca-Huger.
Si les outils d’IA servent à offrir de l’orientation professionnelle aux jeunes, quelles mesures de protection faut-il mettre en place pour s’assurer que ces outils ne reproduisent pas les inégalités liées à la classe sociale, au genre, à la race, au handicap ou à la région d’origine?
Mme Luca-Huger : Je ne sais pas si j’ai la réponse exacte à cette question du point de vue technique. Ma collègue, qui m’accompagne aujourd’hui, pourrait sans doute y répondre.
Ce que nous savons, c’est que les jeunes qui utilisent ces outils peuvent bénéficier de certains avantages et obtenir certains conseils. Mais il est essentiel, à mon avis, de se demander si cela est ancré dans la réalité que nous vivons.
Nos recherches nous indiquent que les jeunes qui ont eu accès à des mentors ont également réussi à composer avec des inégalités sociales et du racisme dans leur milieu de travail ou dans leur communauté. Comment peuvent-ils avoir accès à une personne sûre et de confiance pour discuter de ces enjeux? Est-ce bien réel? Est-ce la réalité à laquelle je fais face? Comment puis‑je m’y prendre pour la dénoncer et la reconnaître? Cette dimension humaine est vraiment importante.
Nous savons que la désinformation et les préjugés existent dans ces systèmes. Comment peut-on intégrer cette dimension humaine à la discussion et offrir du soutien?
Le sénateur Arnot : Madame Thomasen, avez-vous des commentaires à faire à ce sujet?
Mme Thomasen : Je profiterais de l’occasion pour dire que ce ne sont pas seulement les modèles offerts par de grandes entreprises technologiques qui peuvent servir à concevoir des outils. Je ne parlerai donc pas de la fonction de mentorat des outils, parce que ce n’est pas mon domaine d’expertise, et je vais m’en remettre à ma collègue qui m’accompagne.
Voici les possibilités à envisager : de petits ensembles de données — sélectionnés de manière intentionnelle et rigoureuse — contenant des données adéquates, examinées par des experts, puis utilisées pour perfectionner un système afin de produire, espérons-le, de meilleurs extrants, lesquels seraient ensuite mis à l’essai de manière rigoureuse avant d’être mis à la disposition des utilisateurs finaux. Grâce à une supervision constante, c’est une possibilité que nous pourrions envisager si nous estimons que des situations nécessitent l’utilisation d’un système informatique automatisé afin d’offrir à une personne quelque chose dont elle a besoin ou qui pourrait lui être utile.
J’ajouterais qu’il est possible d’envisager les choses autrement. Il n’est pas nécessaire d’adopter une approche fondée sur des modèles toujours plus grands et toujours plus rentables.
La présidente : Merci.
La sénatrice Karetak-Lindell : Ne sommes-nous pas déjà en train de créer des inégalités? Je consulte des notes au sujet des versions gratuites et payantes d’IA, et je constate que les gens peuvent payer pour obtenir de meilleurs conseils et de meilleures informations. Cela ne crée-t-il pas des inégalités? Merci.
La présidente : C’est une question à laquelle pourrait peut‑être répondre Mme Thomasen.
Mme Thomasen : Pour ce qui est de l’accès, oui. La réalité est que les personnes qui ont accès à de meilleurs outils — c’est‑à‑dire des outils plus exacts, mieux perfectionnés ou, peut‑être, mieux conçus — auront accès à de meilleurs résultats.
Toutefois, l’inégalité la plus importante découlera des répercussions de l’utilisation accrue de ces outils à l’égard de questions dont le comité a déjà discuté, comme l’emploi, la formation des débutants et les débouchés. Pour ce qui est des inégalités économiques, il va sans dire que l’accès à ces outils est déjà réparti de manière inéquitable. Cependant, je crois que ces outils ont recours à des moyens plus importants et préoccupants pour favoriser les inégalités économiques, lesquelles ont ensuite des répercussions sur des étudiants ou des personnes qui n’ont pas accès à des outils de cette qualité.
Ce que je veux dire, c’est que, oui, il y a déjà un problème d’accès, mais je crois que votre étude serait surtout utile, si l’on veut s’attaquer aux inégalités qui voient le jour, si elle dressait un portrait d’ensemble et examinait les raisons pour lesquelles une personne doit dépendre de ces outils. Est-ce pour l’école? Pourquoi existe-t-il une telle inégalité d’accès à un robot conversationnel qui produit des réponses fondées sur des statistiques linguistiques? Pourquoi ces outils profitent-ils à certains étudiants, et non à d’autres? De plus, quelles sont les conséquences, de manière générale, des différents degrés d’accès des gens sur leur capacité d’accès à l’emploi, au marché du travail et au perfectionnement des compétences, mais aussi sur leur capacité à éprouver du plaisir et de la curiosité, à s’investir dans leur quotidien et à ressentir un sentiment d’épanouissement et de plénitude? Vous avez raison de soulever cette question, mais je nous encouragerais également à continuer d’en élargir la portée.
La sénatrice McPhedran : Cette question porte sur le mentorat.
Pour qu’un apprentissage soit efficace, le mentor doit être hautement qualifié et posséder une grande expertise. Comment procédez-vous au recrutement des mentors qui sont nécessaires pour donner suite aux recommandations que vous proposez ce soir?
Mme Luca-Huger : Merci de poser la question. Elle comporte de multiples facettes. Selon le contexte de la relation de mentorat et son objectif, les mentors devraient être recrutés de différentes manières.
Imaginez un Canada où les jeunes seraient encadrés par des mentors et où vous seriez un mentor. Il s’agit d’un aspect communautaire à intégrer à l’ensemble du parcours de mentorat. Des mentors hautement qualifiés et formés sont nécessaires. Pour mettre davantage les choses en contexte, si un mentor aide un jeune à remplir une demande d’emploi, il peut s’agir d’une démarche à court terme d’un mentor qui met à profit une compétence technique, mais ce dernier doit comprendre son rôle, les répercussions du mentorat et les enjeux liés à la sécurité du jeune. Le mentorat est multidimensionnel, selon le contexte. Tous les mentorats n’ont pas besoin d’être longs et soutenus. Ils peuvent être de courte durée.
Repensez à certains mentors que vous avez eus dans votre vie. Certains sont peut-être encore présents dans votre vie, tandis que d’autres ne l’ont été que brièvement, mais le rôle qu’ils ont joué est peut-être tout aussi important. Comment peut-on les doter de pratiques et d’outils axés sur des données probantes? Comment pouvons-nous doter l’industrie, les milieux de travail, les établissements d’enseignement, ainsi que les milieux propices à l’apprentissage, des outils qui leur permettent d’établir des relations de mentorat adaptées au contexte?
Oui, la portée en est vaste. Une partie de ces mesures relèvera de programmes, mais les autres mesures doivent s’intégrer dans la vie des jeunes, tout au long de leur perfectionnement, et elles peuvent prendre des formes très différentes. Nous devons nous assurer de doter les jeunes d’outils axés sur des données probantes, de bien les renseigner et de leur offrir des expériences de mentorat dont ils ont besoin et qu’ils souhaitent vivre.
La présidente : Pour approfondir cela : comment les autres pays que vous avez mentionnés tout à l’heure ont-ils élaboré leurs cadres, et quelle approche adoptent-ils?
Mme Luca-Huger : Les États-Unis investissent depuis longtemps dans le mentorat des jeunes. J’en ai parlé, c’est plus d’un milliard de dollars. C’est pour eux une priorité depuis 2008. Les États-Unis soutiennent non seulement la recherche dans le mentorat, mais ils soutiennent aussi des organismes semblables aux nôtres pour les aider à élaborer ces normes et ces pratiques, ainsi que pour renforcer la capacité de tous les secteurs pour leur permettre de mettre en œuvre des programmes et d’appuyer les jeunes grâce à ces relations de mentorat. C’est essentiel.
Ils ont aussi fortement investi dans des programmes de mentorat pour les jeunes, où les organismes de mentorat peuvent solliciter des fonds pour développer, analyser et mettre en œuvre des programmes efficaces fondés sur des données probantes. Leurs investissements sont très variés. Ils aident non seulement à bâtir l’infrastructure et les ressources, mais aussi à valoriser le mentorat pour ce qu’il est vraiment, plutôt que de le présenter sous un autre jour. Nous devons adapter une approche réfléchie en ce qui concerne le soutien humain dont les jeunes auront de plus en plus besoin.
La présidente : Merci. C’est là-dessus que se termine notre discussion avec le premier groupe de témoins. Madame Thomasen et madame Tracy Luca-Huger, je vous remercie sincèrement de votre intervention d’aujourd’hui. Nous vous sommes très reconnaissants de votre participation à notre étude.
Nous allons passer au deuxième groupe de témoins. Nous accueillons, par vidéoconférence, Mme Katie Szilagyi, professeure agrégée, Faculté de droit, de l’Université du Manitoba; et Mme Suzie Dunn, professeure agrégée, École de droit Schulich, de l’Université Dalhousie.
Madame Szilagyi, allez-y, s’il vous plaît.
Katie Szilagyi, professeure agrégée, Faculté de droit, Université du Manitoba, à titre personnel : Merci de me donner l’occasion d’être ici, aujourd’hui. Je vous parle aujourd’hui depuis le territoire du Traité no 1, sur le territoire des Métis de la rivière Rouge, et je me fais l’écho de l’appel de Mme Thomasen à la reconnaissance des aspects coloniaux des technologies d’IA.
Les conversations sur l’IA au travail mettent l’accent sur l’efficacité qu’apporte l’IA générative, l’IAG. Même si l’IAG a tendance à générer des informations fausses, des hallucinations, les gens s’en servent de plus en plus comme outil de recherche. Des milieux de travail bien intentionnés ont adopté des politiques sur l’utilisation de l’IA, exigeant qu’un humain reste impliqué dans toutes les décisions importantes prises avec l’aide de l’IA. Toutefois, des décennies de recherche sur l’interaction homme-machine ont montré que, quand on demande à des humains de surveiller le comportement de systèmes automatisés, cela provoque chez eux certains états psychologiques.
Les utilisateurs prennent un biais d’automatisation lorsqu’on leur demande de déléguer leur propre pouvoir à un système imparfait, qui peut alors faire des erreurs d’omission, en ne repérant pas un problème, et des erreurs de commission, c’est‑à‑dire en faisant des choses incorrectement. Dans l’ensemble, les utilisateurs font preuve d’une certaine complaisance quant à l’automatisation quand ils sont contraints d’effectuer plusieurs tâches simultanément, se fiant davantage aux systèmes qu’à leur propre instinct. Ensemble, ces phénomènes psychologiques bien connus mènent à une confiance et à une dépendance excessives à l’égard des systèmes automatiques.
Les implications en matière de droits de la personne des biais d’automatisation et de la complaisance sont considérables. Les recherches en sciences sociales confirment que les systèmes automatisés sont habituellement déployés d’abord dans des environnements faibles en droits, où les utilisateurs sont moins portés à défendre leurs droits, avant d’être déployés dans d’autres secteurs de la société. Entretemps, les employés subissent une forte pression pour adopter les outils d’IAG de dernière génération. On promet aux médecins un gain d’efficacité grâce aux transcriptions générées par l’IA. On promet aux avocats une expertise en matière de recherche et de rédaction grâce à des assistants d’IA autonomes. On fait d’importantes campagnes de promotion auprès des agents de police pour des logiciels basés sur l’IA, comme Draft One, d’Axon Entreprise, un outil d’IAG qui rédige automatiquement les rapports de police à partir des enregistrements des caméras corporelles des agents.
Des recherches indépendantes sur le logiciel d’Axon montrent qu’il dispose de fonctionnalités de contrôle limitées qui masquent délibérément le fonctionnement du système, ce qui rend ses opérations pratiquement impossibles à vérifier.
Dans le contexte de l’application de la loi, l’utilisation de technologies externes fait entrer en jeu des intérêts privés dans l’exercice des pouvoirs de l’État. Cette dichotomie distingue les outils internes des outils externes et soulève la question de savoir comment limiter l’influence externe exercée sur les organismes internes de l’État, ce qui a traditionnellement nécessité un contrôle législatif.
Dans mon travail, je qualifie ce genre de question de problème lié à la primauté du droit. Notre système démocratique est conçu pour limiter les instances de pouvoir, mais, si le pouvoir est exercé par des acteurs inappropriés ou qu’il est renforcé par certains outils technologiques, cela transforme l’autorité démocratique de la loi, conçue par tous, en une autorité technologique exercée par quelques-uns. En d’autres mots, cela transforme la notion de la primauté du droit en notion d’autorité par la loi.
De plus, une confiance excessive envers les logiciels d’IA générative et un recours excessif à ces logiciels appauvrit l’avenir des humains en entravant leurs capacités à exercer leur pensée critique. Tout comme avec les réseaux sociaux, qui sont nés avant l’IA, les humains mènent un combat perdu d’avance contre l’ensemble du complexe technologique de la Silicon Valley pour ne pas se laisser envoûter par ces plateformes. Dans le but de maximiser l’engagement des utilisateurs sur la plateforme, l’IA générative fait preuve de flagornerie, c’est‑à‑dire d’une tendance à se montrer enthousiaste et chaleureuse et à tout faire pour plaire aux utilisateurs.
Les études confirment que les systèmes d’IAG flagorneurs sont 40 % plus susceptibles d’encourager les croyances erronées des utilisateurs. Ce phénomène est particulièrement marqué quand les messages expriment des sentiments de tristesse. Cela a des conséquences préoccupantes pour les groupes vulnérables, en particulier dans le contexte de la santé mentale.
Des témoins précédents qui ont comparu devant votre comité ont souligné que l’IA utilisée dans un contexte d’embauche filtrait les curriculum vitæ et faisait de la discrimination liée à des préjugés, dans les processus de recrutement, puisque les entreprises reproduisent les injustices historiques et considèrent par exemple que ce sont principalement les candidats blancs qui réussissent le mieux. Même quand les systèmes sont conçus pour ne pas prendre en compte l’origine ethnique ou le genre, ils trouvent des moyens de contourner cette restriction en utilisant d’autres informations figurant sur le curriculum vitæ, ce que l’on appelle le problème lié aux données indirectes.
Les nouvelles recherches sur l’utilisation des logiciels d’IAG pour analyser les curriculum vitæ ont confirmé cet effet. En plus de préférer les noms d’hommes blancs, l’IA a ses propres préférences, qui sont même propres à la plateforme. ChatGPT préfère les curriculum vitæ générés par ChatGPT. DeepSeek préfère les curriculum vitæ générés par DeepSeek, et ainsi de suite.
En ce qui concerne l’avenir du travail, et surtout pour ce qui est des droits de la personne, il est important de savoir que les outils d’IAG sont en train de transformer la nature des contributions humaines.
Merci. J’ai hâte d’entendre vos questions, et je suis tout à fait disposée à répondre à des questions sur la façon dont l’IA perturbe la pratique du droit et le travail des avocats, son adoption rapide par le gouvernement, le secteur privé et les établissements d’enseignement supérieur, la gouvernance de l’IA et l’analyse critique de l’IA dans l’optique des droits de la personne.
La présidente : Merci, madame Szilagyi.
C’est maintenant au tour de madame Dunn.
Suzie Dunn, professeure agrégée, École de droit Schulich, Université Dalhousie, à titre personnel : Merci de m’avoir invitée ici aujourd’hui, et je vous parle depuis Mi’kma’ki.
Ma recherche est axée sur les préjudices en ligne, l’IA et les médias synthétiques, et mes commentaires d’aujourd’hui porteront là-dessus.
Sans l’absence de discrimination, sans la possibilité de contrôler nos identités numériques et sans protections sociales et juridiques contre les préjudices liés aux technologies, les droits de la personne et la sécurité économique ne sont pas accessibles à tous. Les nombreuses personnes qui font déjà face à de la discrimination et à des restrictions, au Canada, ne profitent pas des avantages de l’IA promis.
L’intelligence artificielle peut porter préjudice à l’égalité à plusieurs niveaux, bien plus que je ne pourrais en énumérer ici aujourd’hui. Le moissonnage à l’aveugle des données servant à former l’IA contrevient souvent aux principes du consentement, de la confidentialité, de la propriété intellectuelle et de la souveraineté des Autochtones en matière de données.
Les groupes en quête d’équité ont souvent des ressources limitées pour lutter contre l’utilisation abusive de leurs données, et les droits individuels, plutôt que collectifs, sont plus facilement reconnus dans notre système juridique; des réformes systémiques sont nécessaires pour combler ces lacunes.
Il a été montré que les grands ensembles de données d’images tirées d’Internet contiennent du contenu problématique — comme du matériel d’exploitation sexuelle d’enfants —, qui est ensuite utilisé pour former les systèmes d’IA. Les employés qui trient, catégorisent et nettoient les données extraites d’Internet sont souvent exposés à certains des contenus les plus sordides et les plus explicites du Web en échange d’un maigre salaire, et le soutien qui leur est offert pour remédier aux torts causés par l’exposition à ce type de contenu est très limité.
Une fois les données recueillies et catégorisées, on appose sur les données des étiquettes qui peuvent refléter des stéréotypes sexistes et racistes qui apparaissent dans les résultats générés par l’IA. Définir des concepts sociaux comme la race et le genre est difficile et ne peut pas se résumer à de simples étiquettes de données. Une fois que l’IA a été formée, elle peut générer des résultats qui s’appuient sur des stéréotypes inappropriés sur des groupes en quête d’équité et qui les renforcent, y compris des décisions qui revêtent une grande importance pour ces personnes, par exemple, si elles vont passer un entretien d’embauche, accèdent à des services de base, entrent dans le pays ou obtiennent une mise en liberté sous caution.
Certains des systèmes d’IA eux-mêmes sont conçus pour encourager les comportements nuisibles, ou, à tout le moins, ne prévoient pas de garde-fous pour prévenir adéquatement ces comportements. Sam Altman, le PDG d’OpenAI, a récemment présenté ses excuses à la communauté de Tumbler Ridge pour ne pas avoir signalé le compte de la personne responsable de la fusillade à la police après l’avoir bloqué.
X a récemment permis à Grok de déshabiller numériquement des personnes, sur des photos de son site, y compris des enfants, montrant souvent des femmes dans un minuscule bikini ou les parties génitales couvertes seulement du ruban adhésif transparent. Bon nombre d’applications de création d’hypertrucages à caractère sexuel ne fonctionnent que sur le corps des femmes et des filles, donc elles peuvent seulement produire des images de corps féminins nus. Ces images sont souvent produites sans le consentement de la personne et portent ainsi atteinte à la vie privée et à l’intégrité sexuelle de la victime.
Sur la plupart des sites Web grand public consacrés à la création d’hypertrucages à caractère sexuel, la quasi-totalité des personnes qui y apparaissent sont des femmes célèbres, des femmes instavidéastes sur Twitch, des influenceuses Instagram et des politiciennes. Les femmes qui occupent des postes de direction sont particulièrement ciblées par ce type de préjudice lié à l’IA.
En 2024, une étude américaine sur les hypertrucages à caractère sexuel a révélé que 26 membres du Sénat et du Congrès, dont 25 étaient des femmes — il n’y avait seulement qu’un homme —, avaient été victimes d’hypertrucages à caractère sexuel réalisés sans leur consentement, et que, quand on recherche leurs noms sur différents sites d’hypertrucages populaires, des dizaines de milliers de résultats apparaissent.
De plus, les sites Web et les réseaux sociaux proposent des outils de création vidéo basée sur l’IA permettant de générer toutes sortes de choses; cela va des sites consacrés à des vidéos générées par l’IA montrant des femmes recevant une balle en plein visage jusqu’à des vidéos mettant en scène des gorilles représentant des femmes noires. En raison de la normalisation du harcèlement et de la discrimination en ligne, amplifiés par l’IA, il est peu souhaitable d’être une personnalité publique à notre époque, surtout si vous faites partie d’un groupe en quête d’équité. Les personnes et les organisations qui développent cette technologie tirent profit de ce type de contenu sans vraiment rencontrer d’obstacles ou de restrictions.
Par exemple, dans le cas des hypertrucages à caractère sexuel générés sans le consentement de la personne, qui sont connus du grand public depuis plus de 10 ans, le gouvernement n’a pas fait grand-chose pour lutter contre ce préjudice. Récemment, dans le cadre de deux affaires pénales, il a été jugé que les dispositions juridiques actuelles sur la distribution d’images intimes ne s’appliquent pas aux images retouchées numériquement, même si les dispositions proposées dans le projet de loi C-16 visent à combler cette lacune. Seulement quelques provinces canadiennes prévoient des protections civiles pour les personnes ayant fait l’objet d’hypertrucages à caractère sexuel, et, au Canada, seulement trois provinces comptent des organisations dédiées et soutenues par le gouvernement qui aident les victimes de certains de ces types de préjudice en ligne. Le Canada n’a aucune loi sur la modération du contenu et n’a pas de commissaire à la sécurité numérique.
La Loi sur la protection des renseignements personnels et les documents électroniques, la LPRPDE, offre un certain degré de protection, mais elle n’a pas assez de mordant et doit être revue pour s’assurer que les droits de la personne primeront sur les intérêts des entreprises. Sans intervention systémique qui cible les plateformes et les entreprises de technologie à l’origine de ce type de préjudices, les possibilités que les droits de la personne soient véritablement respectés sont minces.
Merci de votre temps, et j’ai hâte d’entendre vos questions.
La présidente : Merci à vous deux de vos exposés, et j’invite maintenant les sénateurs et les sénatrices à poser leurs questions.
Le sénateur Arnot : Mes questions s’adressent à Mme Szilagyi. La primauté du droit exige que les décisions soient justes, contestables et imputables. Qu’exige la primauté du droit quand on utilise l’IA pour prendre ou éclairer des décisions ayant une incidence sur les droits, les avantages sociaux, l’emploi ou l’accès aux services? Et à quel moment une décision alimentée par l’IA devient-elle, essentiellement, une décision automatisée nécessitant des garde-fous juridiques? S’il reste encore du temps, les Canadiens devraient-ils avoir le droit juridiquement contraignant de savoir que l’IA a eu une influence importante sur une décision les concernant?
Mme Szilagyi : Merci de la question. À mon avis, il est extrêmement important de tenir compte de la primauté du droit dans tout processus décisionnel automatisé, car nous avons des attentes très strictes à l’égard du rôle de la primauté du droit dans une société démocratique.
Nous avons des principes de responsabilité, de reproductibilité, de non-partialité et de transparence, qui risquent tous d’être brouillés par l’IA et qui risquent tous d’être modifiés lorsque des outils d’entreprise seront introduits dans les pouvoirs législatifs.
C’est le sujet de mon livre à paraître, dont je vais donner une copie à la greffière du comité. Il est intitulé The Rule of Law After Artificial Intelligence: Automated Narratives. J’y présente trois grandes études de cas, qui sont utiles pour cerner la manière dont les problèmes surviennent, et une d’elles porte sur les logiciels de détermination de la peine. Mme Thomasen, du premier groupe de témoins, a parlé de certaines études sur la reconnaissance faciale; c’est le sujet de la deuxième étude de cas. La troisième étude de cas porte sur les grands modèles de langage et l’IA générative.
Quand je préparais ma thèse, j’ai utilisé cette technologie peu connue — personne n’en avait vraiment entendu parler — appelée GPT-3, et je me suis dit : « Tiens, je vais lui demander quelles sont les questions centrales qui structurent ma thèse ». J’ai ensuite soutenu ma thèse en octobre 2022, et, environ un mois plus tard, ChatGPT a été lancée dans le monde. Toutes les personnes qui me demandaient ce que j’allais faire avec un doctorat en IA et en droit étaient hilares.
Ce que j’aime souligner quand je parle de ces choses, c’est la façon dont cela subvertit la structure narrative qui est au cœur du système de la common law. La common law construit l’histoire au fil du temps; alors, quelles histoires sont racontées et quels éléments sont priorisés quand nous nous appuyons sur les aspects techniques des nouvelles technologies sans vraiment analyser comment fonctionnent les détournements rendus possibles par ces technologies?
Si nous commençons à utiliser l’automatisation pour la détermination de la peine, celle-ci serait justement un excellent point de départ pour lancer le débat, puisque les gens croient que la détermination de la peine devrait être parfaite, n’est-ce pas? Nous le voyons constamment en droit criminel quand il s’agit des peines minimales obligatoires.
Présentement, la détermination de la peine est laissée à la discrétion du juge. Elle tient compte des expériences uniques d’un délinquant, et les facteurs Gladue en tiennent réellement compte lorsqu’il s’agit d’imposer des limites ou de donner aux juges une orientation quant aux peines qui devraient être imposées. L’automatisation de ces types de peines s’appuie sur des ensembles de données historiques qui, eux-mêmes, peuvent être biaisés et discriminatoires.
Cela limite aussi la vision de ce que le système judiciaire pourrait faire. Nous voyons des choses semblables avec d’autres types de technologies existantes. Que va-t-il arriver si, sans même y avoir réfléchi, nous permettons à ces technologies de prendre des décisions pour nous?
La dernière partie de votre question portait sur le droit à une explication. Pourrions-nous avoir de grands modèles de langage qui nous permettent de savoir comment ils sont parvenus à leur décision et quel est leur raisonnement? Cela est conforme au principe de l’application régulière de la loi ou de l’équité procédurale dans le contexte du droit administratif, les facteurs les plus importants, par exemple.
Si nous devions légiférer à ce sujet — il y a par exemple le Règlement général sur la protection des données, en Europe —, nous verrions que le droit à une explication est en quelque sorte vide de sens, car les modèles d’apprentissage profonds actuels ne comprennent pas vraiment comment ils parviennent à leurs décisions. Par conséquent, demander que cela soit légiféré met en lumière, à mon avis, une méconnaissance fondamentale de cette technologie, et cela ne sera pas la solution que les gens espèrent. Je crois que nous devons examiner des solutions plus sérieuses en matière de gouvernance de l’IA pour être vraiment réactifs aux problèmes.
La sénatrice Bernard : Merci à vous deux de votre témoignage de ce soir. Ma question s’adresse à vous deux. Un de vos commentaires m’a intriguée : le problème de la primauté du droit face au problème de l’autorité par la loi.
Je réfléchissais à l’IA dans le domaine juridique sous l’angle des droits de la personne. Que devrions-nous faire pour qu’une approche en matière d’IA fondée sur les droits de la personne ne soit pas seulement un principe, mais une obligation légale? Serait-il possible d’imposer légalement l’adoption d’une approche fondée sur les droits de la personne pour que les personnes les plus touchées et les plus marginalisées ne soient pas encore plus laissées pour compte?
Mme Dunn : C’est une question très difficile, et je crois que c’est l’une des questions les plus importantes que nous pouvons poser sur l’IA. Comment pouvons-nous éliminer ce biais? Il faudrait d’une part réglementer la conception des systèmes. Je crois que cela est vrai peu importe le type de technologie. Qu’il s’agisse de l’IA ou des dispositifs de suivi — peu importe le type de technologie —, nous avons besoin d’une réglementation qui intègre des choses comme la sécurité et la protection de la vie privée à toutes les étapes, du développement jusqu’à la mise en œuvre.
Souvent, les technologies sont mises sur le marché sans que l’on ait réfléchi à ces questions. Si les entreprises étaient tenues de suivre, à tout le moins, un processus exigeant qu’elles réfléchissent aux droits de la personne, en tiennent compte et les intègrent dans leur processus de conception, ce serait très utile.
Puis, une fois que ces modèles sont mis sur le marché, ils doivent faire l’objet d’examens réguliers. Plus l’utilisation du système d’IA est sensible, plus ce système doit être examiné fréquemment, car nous avons constaté que les systèmes d’IA reproduisent et amplifient la discrimination, allant souvent plus loin dans la discrimination que les données d’origine.
Pensons aux systèmes de police, aux enjeux liés à l’emploi ou à l’accès au financement gouvernemental; si les gouvernements décident d’utiliser des systèmes d’IA pour ce type de processus décisionnel, il doit y avoir un évaluateur indépendant qui mène des examens réguliers, et qui a pleinement accès aux données et aux processus pour déterminer si l’algorithme doit être corrigé pour qu’il ne génère plus de résultats discriminatoires.
Mme Szilagyi : Les avocats et les juristes issus de groupes minoritaires ou marginalisés s’appuient sur les récits, les témoignages et les expériences des personnes qui ont subi des préjudices dans le système judiciaire. Nous le voyons, par exemple, dans les épistémologies féministes, les traditions autochtones et les études critiques de la race. Pensons-nous à inclure les récits de ces groupes dans les données qui seront examinées par un système technologique en cours de développement?
Avec, ce premier groupe de témoins, il a été question de la technologie de la reconnaissance faciale et de l’importante étude Gender Shades, qui a révélé à quel point elle est incapable d’identifier les visages noirs, en particulier les visages de femmes noires. C’est le genre d’informations utiles à avoir quand vous mettez en œuvre ce type de technologie.
Puis, quelles autres circonstances particulières concernant le groupe qui vous intéresse devraient servir d’exemple? Par exemple, je travaille parfois avec des groupes de policiers pour éduquer les agents sur le fonctionnement des technologies d’IA. En particulier, au Manitoba, une grande proportion de la population est autochtone, cette proportion est encore plus élevée dans la population carcérale. La technologie de reconnaissance faciale sera-t-elle formée avec des ensembles de données contenant des visages autochtones? Parce que sinon, il n’y a aucun moyen d’avoir une représentation exacte de ces personnes.
Vous pouvez appliquer cela à d’autres situations où il y a une surreprésentation de groupes particuliers dans un ensemble de données, et cette idée selon laquelle les résultats sont binaires et tranchés, qu’ils ne mentent pas. C’est ce que disent les données. Mais quelle histoire racontent vraiment les données? À mon avis, c’est ce que nous devons nous demander pendant la phase de formation et de curation des données et c’est ce qui permettra d’utiliser ces technologies selon une approche fondée sur les droits de la personne.
La sénatrice McPhedran : Pour commencer, je tiens à remercier Mme Dunn. Nous avons travaillé ensemble sur l’enjeu du harcèlement en ligne des femmes parlementaires, et je crois que la discussion d’aujourd’hui est la suite logique de cela.
Ma question s’adresse à vous deux. J’ai travaillé dans les années 1970 et 1980, à une époque où bon nombre d’entre nous à l’échelle du globe croyaient que nous allions pouvoir réglementer la pornographie. Nous considérions la pornographie comme un outil essentiel dans lequel nous pourrions ancrer la misogynie et, par conséquent, le féminicide, et ainsi de suite.
Nous avons perdu ce combat. L’argument commercial est que la pornographie serait une question de liberté d’expression, et cette privatisation est, je crois, similaire à ce que nous pourrions observer ici avec l’IA. C’est là que s’arrête mon analyse pour le moment, mais j’aimerais savoir ce que vous en pensez.
Mme Dunn : Je crois que vous avez raison, c’est très difficile, et le chat est en quelque sorte sorti du sac. C’était la même chose pour la pornographie. De nos jours, elle est extrêmement facile d’accès, et nous continuons de nous demander comment nous pouvons réglementer cette foule de contenus en ligne.
C’est la même chose pour l’IA. Elle est déjà bien présente et continue de se développer. Bien des gens ne la comprennent pas, et il peut être difficile de la réglementer. Mais je suis d’accord avec Mme Thomasen; à certains égards, il s’agit d’un modèle en pièces détachées. Nous avons besoin de lois plus générales sur les systèmes d’IA, et les gens doivent être avisés quand les décisions les concernant sont prises avec l’IA. Que faisons-nous pour les systèmes à risque élevé, moyen et faible?
Toutefois, nous devons revenir à l’essentiel : quels droits voulons-nous faire respecter? Par exemple, les droits à la vie privée, les droits de la personne et un accès de base à l’éducation pour que les gens soient renseignés sur ce genre de choses. Il faut voir à tout. Au bout du compte, l’une des choses les plus importantes dont nous avons besoin, c’est d’un soutien pour les victimes de préjudice.
Les gens vont vivre du harcèlement et des abus rendus possibles par l’IA, au travail ou dans leur vie publique. Parfois, les services dont nous avons besoin sont en bas de la liste de priorités. Nous avons une IA hautement réglementée, mais nous devons aussi fournir des services de base, comme les services de première ligne, aux personnes victimes de préjudices causés par l’IA, comme les victimes d’une psychose induite par l’IA ou celles dont l’image a été manipulée.
Je ne cesse de recevoir des appels de personnes qui sont médecins sur TikTok qui ont vu leurs photos être manipulées et utilisées à des fins d’escroquerie. Quel centre les gens peuvent‑ils appeler pour obtenir de l’aide à cet égard? Nous devons développer une expertise et un système de soutien, au Canada, idéalement financé par le gouvernement, où les gens peuvent au moins se renseigner sur les divers services de soutien juridique, psychologique et technique qu’ils peuvent obtenir pour résoudre ce problème complexe.
La sénatrice McPhedran : Madame Szilagyi, s’il vous plaît.
Mme Szilagyi : J’ajouterais que le défi que posent la réglementation et la technologie est souvent appelé le problème de rythme ou le dilemme de Collingridge, cette idée selon laquelle les lois sont constamment en train de rattraper l’adoption des nouvelles technologies. J’aime bien parler de cela comme du problème de maturité de l’avocat, vous voyez?
Pas encore mûr, pas encore mûr, pas encore mûr... oh! trop tard.
Comment prendre des décisions sur les lois à mettre en place alors que nous voyons encore les effets de la technologie se déployer? C’est un problème difficile, mais pas insurmontable, et ce n’est pas un problème face auquel nous devons baisser les bras en désespoir de cause et dire qu’il n’y a aucun moyen d’y parvenir. Ce que je voudrais souligner, alors que le comité procède à son examen, c’est la question suivante : pourrait-on envisager d’imposer des règlements aux entreprises technologiques elles-mêmes plutôt qu’aux utilisateurs de ces technologies?
Comment voulons-nous aborder la question de la responsabilité par rapport à celle de l’utilisation appropriée? Je pense que c’est là que nous aurons les meilleures occasions et que se trouvent les personnes qui devraient assumer l’essentiel de cette responsabilité dans une structure de gouvernance de l’IA.
La sénatrice McPhedran : Merci.
Le sénateur K. Wells : Merci. Ma question est pour Mme Dunn. Vous avez longuement parlé des dangers d’Internet et insisté sur certaines recommandations.
Plus précisément, avez-vous des commentaires à faire sur les recommandations concernant les enfants et les jeunes? Vous suivez sans doute l’actualité internationale et savez peut-être ce que le gouvernement fédéral compte faire ou proposer en matière d’interdiction des réseaux sociaux. Je serais curieux de connaître votre avis à ce sujet. Par ailleurs, les robots conversationnels constituent un autre sujet dont on entend beaucoup parler.
Vous avez évoqué dans l’une de vos remarques l’idée d’un commissaire à la sécurité numérique. Pourriez-vous nous en dire plus sur ce à quoi cela ressemblerait, du point de vue réglementaire?
L’autre débat que nous avons autour des préjudices en ligne concerne la haine en ligne et les algorithmes qui alimentent ce type de contenu. Cela faisait partie de notre étude sur l’antisémitisme; tout cela sème une sorte de division au sein des sociétés démocratiques occidentales, en dressant les communautés les unes contre les autres.
En ce qui concerne les recommandations visant les préjudices en ligne, avez-vous des idées sur la manière dont nous pourrions nous attaquer à ce problème de la haine en ligne et des responsabilités? Faut-il s’en prendre aux plateformes et appliquer le droit pénal ou la législation gouvernementale, en particulier pour les enfants et les jeunes?
Mme Dunn : Oui, j’ai parfois l’impression de me répéter quand je dis qu’il faut un peu de tout. En ce qui concerne les enfants et les jeunes, je pense que c’est avant tout au niveau de nos systèmes d’éducation qu’il faut agir, y compris en apportant des changements aux contenus intégrés dans les programmes et aux connaissances que l’on doit transmettre aux jeunes en matière de sécurité en ligne.
D’après les recherches que j’ai menées sur les jeunes, ceux-ci recherchent un soutien sans jugement pour pouvoir parler de ces enjeux. À notre époque, de nombreux parents qui élèvent des enfants n’ont jamais eu accès à Internet; ils ne savent pas à quoi ressemblent ces problèmes et peuvent souvent réagir vivement face à la situation des jeunes.
D’après ce que j’ai pu constater en discutant avec les jeunes, ce qu’ils veulent, ce sont des ressources, des lieux où ils peuvent aller et des adultes de confiance auprès desquels ils peuvent trouver du soutien.
Je pense que l’éducation sur la manière d’aborder ces dangers et des systèmes de soutien mis en place pour les jeunes comportent deux éléments essentiels.
Les lois pénales peuvent être explicites et utiles, mais peu de jeunes y ont recours. Il est assez rare qu’ils signalent quoi que ce soit à la police. Il en va de même pour le droit civil; c’est bien d’avoir des dispositions en cas de besoin, mais je constate qu’elles sont très rarement utilisées par les jeunes, et c’est pourquoi je pense qu’une éducation plus large à la modération des contenus est si importante.
Nous avons besoin que ces sites soient sûrs. Idéalement, nous ne voulons pas limiter cela aux enfants. Je pense que ces sites devraient être sûrs pour tout le monde en ce qui concerne la haine, le racisme, la discrimination et le sexisme. Ces aspects doivent être modérés de manière à ce que chacun puisse s’exprimer librement, donner libre cours à sa créativité et profiter des avantages de cette technologie.
J’ai du mal à accepter l’idée d’interdire aux jeunes l’accès aux réseaux sociaux. Au Canada, nous avons une population très rurale, et certains des jeunes à qui j’ai parlé pour mes recherches et qui vivent en milieu rural n’y ont peut-être personne qui leur ressemble en raison de leur identité sexuelle, de leur origine ethnique ou de tout autre facteur. Internet est le seul endroit où ils ont pu trouver des liens et une communauté. Toute restriction que nous imposerons aux jeunes doit être fondée sur des préjudices réels.
J’adore l’exemple de Roblox, où l’on commence à dire que les enfants qui jouent à des jeux avec d’autres enfants ne devraient pouvoir parler qu’à des enfants. C’est une excellente mesure que les entreprises devraient adopter. Cela peut reposer davantage sur l’atténuation des risques que sur une restriction d’âge.
Je crains que la vérification de l’âge ne soit une mesure législative trop simple, qui semble séduisante et sans faille; c’est une solution facile. On les exclut des sites, et on n’a plus à se soucier de la sécurité ni de tout le reste, mais je pense que, à l’heure actuelle, nous n’avons pas la technologie nécessaire pour y arriver en toute sécurité sans porter atteinte à de nombreux autres droits à la vie privée.
Nous devons réfléchir aux préjudices causés aux enfants par les flux algorithmiques qui les incitent à faire défiler leur écran toute la journée. Comment pouvons-nous faire évoluer la technologie avec un projet de loi sur les préjudices en ligne?
Je me rends compte que je prends un peu de temps, mais mon dernier point porte sur l’intérêt d’avoir un poste de commissaire à la sécurité en ligne ou des modèles similaires à ceux que l’on voit en Nouvelle-Zélande, au Royaume-Uni et en Australie, qui sont considérés comme la référence en la matière.
En plus d’apporter un soutien à ces entreprises, de les aider à limiter les préjudices et de les contraindre à respecter la loi au moyen de sanctions, ces organismes mènent également des recherches afin d’identifier la nature des préjudices et de déterminer les mesures correctives nécessaires. Je pense que, au Canada, il y a d’énormes lacunes en matière de recherche sur ce que veulent réellement les Canadiens. Je pense qu’il serait vraiment important d’avoir une sorte de commission, qui pourrait mener ce type de recherche et apporter ce soutien, de mettre en place des lignes d’assistance téléphonique sur le terrain et de s’occuper de l’atténuation des préjudices causés par ces entreprises.
La sénatrice McCallum : Merci aux deux témoins.
Je voudrais revenir sur certaines de vos déclarations, à savoir quels récits sont racontés et comment on perçoit le récit par rapport aux expériences vécues. Ce matin, je m’intéressais à l’exclusion après la deuxième génération, sujet que nous étudions actuellement à la Chambre des communes.
Je me suis mise à faire des recherches, et l’IA arrive toujours en premier. J’ai été absolument choquée de voir ce qui était écrit. L’IA réécrit déjà notre histoire en tant que Premières Nations. Cela va renforcer le déni et reproduire les injustices historiques.
En lisant ce qu’elle avait écrit, j’ai pu constater que cela venait de documents du gouvernement sur la manière dont il protège les Premières Nations et dont il mène ce travail.
Qui en est responsable et qui obligera l’IA à réécrire ce paragraphe?
Une partie du problème, c’est que ce n’est pas conforme à la Charte, mais ce n’était pas mentionné. Il n’y avait aucune mention de cela. J’ai été choquée de voir cela, d’autant plus que nous sommes en train de l’étudier. J’ai pensé : imaginez le travail nécessaire pour suivre l’IA dans toutes les directions qu’elle prend et pour corriger des choses dans tous les domaines, car, même avec le travail qu’elle fait — je peux imaginer qu’elle va dans toutes les directions —, elle n’a pas été capable de rassembler toutes les informations correctement et de les présenter correctement.
Comment allons-nous gérer cela, maintenant?
Mme Szilagyi : C’est un sujet important et une question intéressante.
J’aime voir cela dans l’optique des informations sans source, vous voyez?
Quand nous recevons des résumés générés par l’IA, qui en est l’auteur? Si nous ne sommes pas en mesure de remonter à la source, nous tombons alors dans des chambres d’écho où circulent des rumeurs sur des informations que nous pensons avoir déjà entendues.
Même quand vous effectuez une recherche sur Google, aujourd’hui, vous obtenez l’aperçu généré par l’IA comme premier résultat, ou, dans des documents, Microsoft Copilot souhaite vous proposer un bref résumé de ces informations.
Ce qu’il est vraiment important de connaître à propos de ces technologies, c’est leur nature stochastique. Vous pouvez saisir la même requête plusieurs fois et recevoir à chaque fois des réponses différentes. La capacité d’un système d’IA générative de véhiculer un sens est donc très limitée, voire inexistante, car tout ce qu’il fait, de manière déterministe, c’est proposer le résultat statistiquement le plus probable, et non pas le mot, vous voyez? Les systèmes d’IA ne traitent pas des mots. Ils traitent des segments, qui sont des mots décomposés en fragments. Quel est le segment le plus susceptible d’apporter une réponse à votre question et qui respectera ou imitera le fonctionnement de la langue que vous parlez?
Quand nous posons ces questions sur la responsabilité et l’obligation de rendre des comptes concernant les messages générés par ces systèmes, on constate que les entreprises elles‑mêmes ont mis en place un énorme mécanisme de distanciation afin que leur modèle puisse fonctionner tel qu’il est. Elles disent : « Oh, il n’y a pas vraiment d’auteur, ici. » Si vous lisez les conditions d’utilisation ou la politique de confidentialité, ces petits liens en bas de page que l’on oublie si souvent, vous verrez que les entreprises n’assument aucune responsabilité quant aux résultats, et qu’en fait, elles disent plutôt : « Ne saisissez pas d’informations sensibles. Ne saisissez rien qui, du point de vue de la confidentialité ou de la cybersécurité, pourrait poser problème. »
Ce sont des choses que nous devons garder à l’esprit quand nous pensons aux informations générées de cette manière et au type de responsabilité qui pourrait potentiellement y être associée.
Mme Dunn : Particulièrement en ce qui concerne les données autochtones, les principes de PCAP — propriété, contrôle, accès et possession — développent des concepts vraiment importants autour de la souveraineté des données autochtones, et il faut les prendre en considération quand on réfléchit à l’IA.
Il existe un équilibre délicat entre la capacité des personnes de contrôler leurs données et de raconter leurs histoires, d’une part, et la possibilité pour les grands modèles de pouvoir reproduire les récits privilégiés par les personnes qui leur sont liées, d’autre part. Concilier ces deux aspects est assez difficile.
Tout d’abord, l’une des choses qui doivent changer, c’est que les systèmes d’IA doivent cesser de nous être imposés sans que l’on puisse refuser cette option. On peut à peine s’en désinscrire. Dans les recherches que j’ai menées dans les universités, notre travail s’effectue sur des documents PDF, sur Google et sur toutes ces différentes plateformes où l’IA nous est imposée. Même si on essaie de passer par-dessus pour ne pas voir ce discours, qui, j’en conviens, est souvent inexact, cela nous est imposé. Il est difficile d’y résister. Vous faites une recherche sur Google, la première chose qui apparaît, c’est ce discours. Si nous voulons dire « non » à l’IA qui raconte des histoires à notre place et qui reproduit des récits pour nous, comment pouvons-nous la désactiver?
Et puis, nous relevons des inexactitudes. Comment pouvons‑nous les signaler et militer en faveur d’ensembles de données plus diversifiées et d’une plus grande fiabilité dans les résultats fournis par ces systèmes d’IA? C’est bien plus compliqué de savoir comment s’y prendre.
La sénatrice McCallum : Merci.
La sénatrice Arnold : Merci à vous deux d’être ici et de nous faire profiter de vos connaissances. C’est vraiment très utile. Je vais reprendre cette analogie de l’avocat. C’était génial.
J’ai trois questions. Premièrement, seriez-vous toutes les deux d’accord pour dire qu’il est important que nous recommandions la création d’un poste d’ombudsman ou de commissaire à la sécurité en ligne?
Deuxièmement, Geoffrey Hinton, souvent appelé le « parrain de l’IA », a averti que, pour prévenir les menaces existentielles liées à la superintelligence artificielle, les chercheurs doivent intégrer des instincts maternels dans les futurs modèles afin de s’assurer qu’ils se soucient du bien-être humain. Pensez-vous que cela soit possible?
Troisièmement, je ne fais ceci que depuis environ trois mois, principalement dans le domaine de l’intelligence artificielle, mais je commence à remarquer une opposition plus forte dans les médias internationaux, pas seulement à propos des centres de données, mais de manière générale, et on observe une prise de conscience accrue des dangers. De plus en plus de décideurs semblent se mobiliser en affirmant qu’il faut agir. Je me demandais si vous aviez remarqué la même chose.
Mme Dunn : Je pense que je vais répondre à vos questions en commençant par la dernière.
Premièrement, je trouve vraiment passionnant d’observer l’évolution des mentalités vis-à-vis de l’intelligence artificielle. Il y a quelques années, tout le monde disait : « Oh, super, ça va changer notre monde de manière tellement positive. » Aujourd’hui, la jeune génération dit : « On déteste ça. En gros, nous n’aurons plus d’emplois, personne ne gagnera d’argent et tout l’argent ira à des multimilliardaires, ce que nous ne pourrons jamais devenir, à moins d’être des adeptes de la crypto. »
Je pense que les promesses de l’intelligence artificielle ne se sont pas vraiment concrétisées. Il y a des préjudices. Il y a de la discrimination. Il y a des inexactitudes. Les gens l’utilisent plutôt que de s’adresser à un avocat et cela génère toutes sortes d’hallucinations; les gens ont du mal à créer des liens avec les autres. Dans mes entretiens avec des jeunes, ils me disent souvent : « Comment puis-je faire pour sortir et rencontrer des gens? » J’adore le mouvement « analogue » qui se développe chez les jeunes.
L’on remet en question les promesses de l’intelligence artificielle en se demandant si elle est réellement une bonne chose pour le monde, et je pense que de nombreuses critiques suivront.
Votre deuxième question au sujet de cette histoire de superintelligence... Je me dis : « Nous nous en inquiéterons le moment venu. » Pour l’instant, il y a plein d’autres problèmes auxquels nous devons voir, et cela détourne vraiment notre attention des conséquences environnementales, sociales et discriminatoires que l’intelligence artificielle a déjà aujourd’hui. Que pouvons-nous faire avec l’intelligence artificielle dès maintenant?
L’instinct maternel est comme... Cela me semble étrangement sexiste que l’on dise qu’il faut une maman pour veiller à ce que tout se passe bien. Je n’aime pas trop cette façon de parler. Mais je sais que les gens sont très inquiets à propos de la superintelligence.
Je soutiens à 100 % l’idée d’un ombudsman et d’un commissaire à la sécurité en ligne. Plus que tout, il est absolument essentiel d’avoir un organisme doté de ressources suffisantes, bien structuré et capable de comprendre comment cela fonctionne au Canada et à quels défis nous allons être confrontés en tant que pays, qui va tenter de réglementer les entreprises de réseaux sociaux et d’intelligence artificielle, qui peut écouter les Canadiens et connaître leurs expériences. Nous allons nous heurter à de la résistance, puisque peu de ces entreprises relèvent de notre juridiction.
Madame Szilagyi, je vous cède la parole.
Mme Szilagyi : Je vais reprendre dans l’autre sens. Premièrement, oui, je suis d’accord avec l’idée d’un commissaire à la sécurité en ligne, mais je recommande au comité de ne pas suivre aveuglément l’exemple de l’Australie. Dès que des mesures législatives font la une des journaux, tout le monde s’enthousiasme, mais il s’avère que cela ne fonctionne pas très bien. Je pense particulièrement à l’interdiction des réseaux sociaux pour les jeunes, en Australie. Depuis son entrée en vigueur, les études montrent que plus de 70 % des jeunes peuvent toujours accéder aux 10 plateformes interdites et que cette mesure n’a tout simplement pas eu l’effet escompté.
Deuxièmement, j’ai entendu Geoffrey Hinton, il y a environ trois semaines, et il a fait la même remarque au sujet de la superintelligence, en disant qu’il y aurait une situation où les mères... Elles mettent des enfants au monde, et ceux-ci grandissent pour devenir plus puissants qu’elles, mais ils continueront d’aimer ce qui les a créés; pouvons-nous inculquer cela?
Je trouve que c’est un sujet de discussion très divertissant. C’est un excellent argument à mettre de l’avant en tournée de conférence, mais cela relève de ce que l’on appelle, en littérature, le sophisme de l’androïde.
Cela repousse le débat très loin dans le futur, si bien que les discussions sur les risques existentiels ont tendance à s’inspirer de récits de science-fiction et de clichés de ce genre sur la technologie. Terminator, La Matrice, Les robots. Faites votre choix. Mais il s’agit généralement d’un futur spéculatif qui repose en réalité sur la vision de la science-fiction selon laquelle des robots anthropomorphisés sortiraient des chaînes de montage pour prendre le contrôle de la société.
Les ordinateurs ne vont pas devenir trop intelligents et prendre le contrôle du monde. Le problème, c’est que les ordinateurs sont encore assez bêtes, et qu’ils commencent déjà à prendre le contrôle du monde. Ils commencent déjà à faire des choses et à prendre des décisions à notre place d’une manière qu’ils ne devraient pas, d’une manière qui mènera à la prise de décisions automatisées et, pour revenir à ce dont j’ai parlé dans ma déclaration liminaire, au biais d’automatisation et à la complaisance face à l’automatisation du travail.
L’exemple que j’aime utiliser pour décrire cela est celui des systèmes avancés d’aide à la conduite automobile. Vous avez désormais toutes sortes d’accessoires dans votre voiture; aide au stationnement, aide au maintien dans la voie, caméra de recul, et j’en passe. Il y a cinq ou dix ans, vous n’auriez pas pu imaginer sortir d’une place de stationnement sans jeter un coup d’œil par‑dessus votre épaule, mais, avec le temps, commencez-vous à le faire? Commencez-vous à vous fier à ces aides à la décision? À quel moment cessez-vous de vérifier les faits? À quel moment laissez-vous ChatGPT rédiger le premier jet, pour ensuite vous contenter d’envoyer le courriel?
Ce sont là les aspects auxquels nous devrions porter une attention particulière. Je me réjouis de voir que l’on commence à dénoncer davantage les dangers de l’intelligence artificielle, mais nous faisons face à un battage médiatique intense et à des messages percutants de la part des géants de la technologie, qui exercent une forte pression sur divers secteurs.
Les médecins à qui je parle sont inondés de demandes pour utiliser la transcription par l’intelligence artificielle. Les avocats sont inondés d’exposés sur les nouvelles technologies judiciaires et sur la manière dont elles rendront leur pratique meilleure, plus facile et plus rapide.
La police, c’est ce qui m’effraie le plus, car les services de police souhaitent utiliser tous les nouveaux outils d’intelligence artificielle, sans nécessairement comprendre leur fonctionnement ni l’effet profondément transformateur qu’ils peuvent avoir sur la capacité décisionnelle des individus s’ils laissent aveuglément ces outils fonctionner.
Nous sommes en lutte contre cela. Nous devons mener un combat acharné contre ces intérêts corporatifs. On dit que c’est un problème de capitalisme élevé et de socialisme faible, de régulation de la technologie.
La sénatrice McPhedran : J’ai l’impression qu’une grande partie de nos discussions part de l’hypothèse selon laquelle la production de connaissances ou d’informations s’effectue principalement au niveau local et dans la sphère du Canada. Ma question porte davantage sur la capacité du gouvernement canadien à mettre en place des mécanismes de reddition de comptes concernant l’intelligence artificielle, en particulier les grands modèles linguistiques, qui ont été développés en dehors du Canada, hors de notre juridiction et par des entreprises non canadiennes.
Mme Dunn : Ce sera difficile et plein d’embûches. On le voit déjà avec les projets de loi sur les structures de données et les algorithmes et sur les multiples préjudices en ligne qui ont été présentés à l’échelle mondiale et qui visent les entreprises de réseaux sociaux, en exigeant de la transparence et un accès aux données; il y a de la résistance et des contestations.
Il en ira de même avec l’intelligence artificielle. Ce ne sera ni facile ni simple. Les entreprises résisteront partout où elles le pourront. Même ici, au Canada, où nous avons émis des ordonnances de retrait pour des images à caractère intime, la plateforme X conteste ces décisions et affirme que nous ne devrions appliquer ces mesures qu’au Canada. Il y aura une forte pression, de part et d’autre. Aujourd’hui, ces entreprises et les personnes qui les dirigent comptent parmi les plus puissantes et les plus riches au monde. Elles savent qu’elles ont un pouvoir considérable à l’heure actuelle. En ce qui concerne la loi au Canada, il y aura de la résistance.
C’est une réalité. Cela ne signifie pas que nous ne devrions pas au moins faire un effort et tenter de voir ce que nous pouvons faire à ce sujet. Dans certains cas, comme celui de Clearview AI, qui a déclaré ne pas être prête à se conformer aux politiques canadiennes en matière de protection de la vie privée, ce service n’est tout simplement plus disponible au Canada. Cela pourrait être une des conséquences, mais nous devons attendre de voir.
Mme Szilagyi : Nous devons résister fermement à cette idée selon laquelle, dès qu’une technologie existe, nous sommes obligés de l’utiliser. L’utilisation des nouvelles technologies s’accompagne toujours du discours selon lequel « le génie est sorti de la lampe ». Nous avons la capacité d’interdire certaines choses, de les réglementer et de décider des utilisations appropriées pour chaque technologie. Nous pouvons développer des technologies et des solutions « faites au Canada ».
Si nous voulons adopter des modèles conçus par les grandes entreprises technologiques de la Silicon Valley, nous serons largement incapables de transformer la nature de ces technologies ou d’imposer des limites importantes à leur fonctionnement. C’est là toute la différence entre les outils développés à l’interne et ceux développés à l’externe. Développez-vous quelque chose à l’interne? Construisez-vous quelque chose à partir de l’ensemble de données organiques que vous avez vous-même collectées et organisées? Ou vous contentez-vous simplement de dire : « Bon, nous achèterons ce qui est disponible sur le marché. »
J’ai entendu des commentaires inquiétants concernant l’adoption généralisée de Microsoft Copilot, qui s’appuie sur OpenAI, dans différents secteurs de l’administration. On entend dire : « Eh bien, nous utilisons déjà la suite Microsoft 365, et nous avons confiance dans les mesures de cybersécurité ainsi que dans les lois sur la sécurité des données et la protection de la vie privée que nous avons mises en place à cet égard; c’est donc la même chose. » Mais ce n’est pas la même chose. Il y a de nombreuses raisons, quand on pense à la manière dont les informations sont générées et stockées, aux analyses que le système est capable de produire, ainsi qu’à la question de la souveraineté des données au moment du transfert d’informations entre pays pour le traitement, le stockage et le développement, particulièrement aux États-Unis, mais potentiellement dans d’autres pays aussi.
Comment envisageons-nous les mécanismes de reddition de comptes pour les grandes entreprises technologiques? Pouvons-nous mettre en place des règlements qui imposeront cette responsabilité aux bonnes personnes, afin de sanctionner les plateformes elles-mêmes, plutôt que les utilisateurs de la technologie qui suivent aveuglément le mouvement?
La présidente : Merci, madame Szilagyi et madame Dunn, pour vos exposés très documentés et vos réponses encore plus éclairées aux questions. Au nom du comité, je tiens à vous remercier sincèrement d’avoir pris le temps de comparaître devant nous aujourd’hui. Vos témoignages nous seront utiles dans nos délibérations alors que nous achevons notre étude et que nous nous apprêtons à rédiger notre rapport.
Voilà qui conclut la partie publique de notre réunion. Merci.
(La séance se poursuit à huis clos.)