LE COMITÉ SÉNATORIAL PERMANENT DES TRANSPORTS ET DES COMMUNICATIONS
TÉMOIGNAGES
OTTAWA, le mardi 24 mars 2026
Le Comité sénatorial permanent des transports et des communications se réunit aujourd’hui, à 9 heures (HE), avec vidéoconférence, pour examiner les possibilités et les défis qu’offre l’intelligence artificielle, c’est-à-dire l’intelligence artificielle, dans le secteur des technologies de l’information et des communications et faire rapport à ce sujet puis, à huis clos, pour examiner le maintien des activités ou des services essentiels dans les secteurs ferroviaires et maritimes sous réglementation fédérale en cas d’interruption de travail et faire rapport à ce sujet.
Le sénateur Larry W. Smith (président) occupe le fauteuil.
[Traduction]
Le président : Bonjour. Bienvenue au Comité sénatorial permanent des transports et des communications. Je m’appelle Larry Smith, sénateur du Québec et président du comité. J’aimerais maintenant demander à mes collègues de se présenter.
La sénatrice Simons : Bonjour. Je suis la sénatrice Paula Simons, originaire du territoire visé par le Traité no 6, en Alberta.
La sénatrice Mohamed : Bonjour. Farah Mohamed, de l’Ontario.
[Français]
Le sénateur Quinn : Jim Quinn, du Nouveau-Brunswick.
Le sénateur Cormier : René Cormier, du Nouveau-Brunswick.
[Traduction]
La sénatrice Arnold : Dawn Arnold, du Nouveau-Brunswick.
Le sénateur Lewis : Todd Lewis, de la Saskatchewan.
[Français]
La sénatrice Miville-Dechêne : Julie Miville-Dechêne, du Québec.
[Traduction]
La sénatrice Dasko : Donna Dasko, de l’Ontario.
Le sénateur Wilson : Duncan Wilson, de la Colombie-Britannique.
Le président : Merci, chers collègues. Je tiens à souhaiter la bienvenue aux gens avec nous aujourd’hui, ainsi qu’à celles et ceux qui nous écoutent sur le site web du Sénat, sencanada.ca.
Nous poursuivons notre étude des possibilités et des défis qu’offre l’intelligence artificielle, c’est-à-dire l’intelligence artificielle, dans le secteur des technologies de l’information et des communications.
Sur ce, j’aimerais vous présenter Viet Vu, gestionnaire en recherche économique au Dais de l’Université métropolitaine de Toronto; Dana Cramer, présidente et directrice générale pour Les jeunes leaders numériques du Canada; et Wing Hin Anson Ho, chercheur chez Epoch AI. Je vous remercie tous pour votre présence aujourd’hui.
Les témoins prononceront une déclaration préliminaire d’environ cinq minutes, qui sera suivie par une période de questions et de réponses avec les sénateurs.
Viet Vu, gestionnaire, Recherche économique, The Dais, Université métropolitaine de Toronto : Bonjour, monsieur le président, madame la vice-présidente, et honorables sénateurs. C’est un privilège d’être ici.
Je m’appelle Viet Vu et je suis gestionnaire en recherche économique au Dais de l’Université métropolitaine de Toronto. Le Dais est un groupe de réflexion sur le leadership et les politiques publiques qui se concentre sur l’intersection entre les technologies et les systèmes économiques et démocratiques.
Nous menons le plus grand sondage sur les préjudices en ligne au Canada et avons récemment publié une nouvelle étude pour examiner les effets de l’intelligence artificielle générative sur le secteur de la création, bonifiant ainsi la décennie d’expertise que nous avons acquise en matière d’intelligence artificielle. Une grande partie de ce travail ne serait pas possible sans le soutien de Patrimoine canadien, du Centre des Compétences futures et, depuis quelque temps, du Conseil de recherches en sciences humaines, le CRSH, qui financent une subvention de partenariat sur l’intelligence artificielle et la qualité du travail avec l’Institute for Work & Health.
En 2023, mon collègue Angus Lockhart a contribué à l’examen du Comité permanent des ressources humaines, du développement des compétences, du développement social et de la condition des personnes handicapées de la Chambre des communes sur l’incidence de l’intelligence artificielle sur le marché du travail. L’année 2023 semble maintenant lointaine, mais une chose n’a pas changé depuis, et c’est notre avis selon lequel l’intelligence artificielle ne causera pas de chômage de masse à moyen terme.
Cela étant dit, l’intelligence artificielle peut encore modifier radicalement nos méthodes de travail. Dans un nouvel article que j’ai corédigé au Dais, nous avons constaté que les professionnels de la création utilisent l’intelligence artificielle générative pour augmenter leur travail de manière réfléchie. Qu’il s’agisse de rédacteurs qui utilisent des robots conversationnels pour simuler des conversations avec un rédacteur en chef ou d’illustrateurs qui ont recours à des outils génératifs pour apporter des modifications mineures, les travailleurs de la création comprennent les lacunes de cette technologie et ses points forts.
Pourtant, de nombreux professionnels de la création font encore face à des risques liés à la diffusion de l’intelligence artificielle générative, car les travailleurs des autres secteurs utilisent souvent ces outils pour carrément les remplacer. Le recours aux robots conversationnels pour « créer du contenu d’information, de divertissement ou artistique » fait partie des 3 % de tâches les plus souvent effectuées. Toute réponse politique concernant les professionnels de la création et de l’information doit tenir compte de ces deux réalités quant à l’utilisation.
Soutenir les créateurs signifie deux choses. Premièrement, il faut davantage aider les petits créateurs indépendants à bien comprendre leurs droits et à prendre les mesures qui s’imposent pour protéger leurs créations. Deuxièmement, les législateurs devraient faire preuve d’initiative et débattre de manière proactive des questions réglementaires ou législatives dans les domaines de l’attribution et de la propriété, au lieu de laisser la jurisprudence déterminer elle-même ce qui arrivera.
Avant de poursuivre, je dois également mentionner que beaucoup d’acteurs dans le secteur sont des organismes sans but lucratif. Grâce à un projet de recherche conjoint que nous avons mené avec un consortium dirigé par Imagine Canada, financé par Emploi et Développement social Canada, nous avons constaté que les OSBL sont rarement consultés lorsqu’il est question d’intelligence artificielle. Il faut aussi que cela change.
En ce qui concerne les hypertrucages, nos recherches fondées sur des expériences ont révélé que les méthodes utilisées par de nombreuses plateformes de médias sociaux pour identifier qu’un contenu est synthétique ou hypertruqué sont tout à fait inadéquates. Les méthodes actuelles en matière d’identification n’ont aucun effet perceptible sur l’exposition des utilisateurs aux hypertrucages identifiés comme tels, ce qui, à notre avis, correspond aux craintes de voir l’engagement diminuer en raison d’une identification plus audacieuse.
Même lorsque des techniques d’identification plus audacieuse sont utilisées, comme un carré noir sur lequel les utilisateurs doivent cliquer pour visionner du contenu, elles ne changent pas les croyances des utilisateurs quant à la crédibilité de ce qu’ils consultent, ce qui est potentiellement encore plus préoccupant. Par conséquent, les politiques relatives à l’identification du contenu synthétique ne suffisent pas en elles-mêmes et devraient être considérées comme faisant partie intégrante d’une réponse stratégique globale à la mésinformation et à la désinformation. Une telle réponse peut prendre la forme d’une obligation de diligence incluse dans des mesures législatives sur les préjudices en ligne et de nouvelles normes d’identification pouvant compléter les efforts législatifs en faveur de l’identification obligatoire des hypertrucages, comme le prévoit le règlement sur l’intelligence artificielle de l’Union européenne.
En écoutant mon allocution, on peut avoir l’impression que je m’oppose à l’intelligence artificielle, alors je tiens à préciser que je crois que l’intelligence artificielle est utile et qu’elle jouera un rôle important dans l’économie. Cependant, il s’agit tout de même d’une technologie normale pouvant être utilisée à mauvais escient. Les institutions que nous avons mises sur pied pour répondre aux bouleversements technologiques ont les moyens d’offrir des solutions. Je vous prie d’être lucides en tant que législateurs et de faire la distinction entre les avantages et les dangers réels de l’intelligence artificielle et le sensationnalisme dans lequel versent ceux qui ont des intérêts commerciaux et qui souhaitent la vendre.
Le président : Merci, monsieur Vu.
Dana Cramer, présidente et directrice générale, Les jeunes leaders numériques du Canada : Bonjour, mesdames et messieurs les sénateurs. Je vous remercie de m’accueillir aujourd’hui. Je m’appelle Dana Cramer, présidente et directrice générale des Jeunes leaders numériques du Canada. Nous sommes un OSBL national qui s’efforce de former la prochaine génération de chefs de file canadiens du domaine numérique. Dans le cadre de ce travail, nous sommes reconnus par les Nations unies comme les coordonnateurs du Forum canadien des jeunes sur la gouvernance de l’Internet, et nous coordonnons également la Communauté des jeunes leaders de l’intelligence artificielle du Canada. En outre, je suis candidate au doctorat à l’Université métropolitaine de Toronto, où ma spécialisation porte sur la gouvernance numérique mondiale.
Mon allocution d’aujourd’hui portera sur deux enjeux : les questions de mésinformation et de désinformation, et les possibilités de réglementations pouvant faire cesser la distribution immorale de contenu synthétique, qu’il s’agisse d’œuvres protégées par le droit d’auteur ou de contenu pouvant causer du tort.
Chaque année, lors du Forum canadien des jeunes sur la gouvernance de l’Internet, l’organisme Les jeunes leaders numériques du Canada invite les jeunes à discuter d’enjeux numériques pressants. Au cours des deux dernières années, nous avons invariablement vu des jeunes s’intéresser grandement à la question des préjudices en ligne. Grâce à des observations qualitatives, nous avons, année après année, constaté une grande préoccupation en ce qui concerne la mésinformation, la désinformation et l’effritement de la confiance du public envers les médias numériques. Cependant, bien des gens pourraient croire que les jeunes se préoccupent de leur propre bien-être, mais c’est tout le contraire. Les jeunes Canadiens se disent préoccupés par la capacité limitée de leurs parents et de leurs grands-parents à différencier les contenus synthétiques générés par l’intelligence artificielle des contenus authentiques.
Cela pourrait être étonnant, mais pas complètement. Les jeunes ont grandi dans des environnements numériques qu’ils ont façonnés, transformant ces espaces en une langue qui leur est propre, mais qui est étrangère aux générations plus âgées. Puisqu’ils ont été exposés aux espaces numériques et qu’ils les ont vus évoluer, ces jeunes sont mieux outillés que d’autres pour décortiquer les médias synthétiques.
Par conséquent, je voudrais profiter de l’occasion pour réorienter certains sujets de discussion sur la protection en ligne des enfants et des jeunes contre la mésinformation et la désinformation, et plutôt souligner l’importance d’adopter une approche plus vaste pour renforcer la littératie numérique de tous les Canadiens, et non seulement celle des jeunes. Cela dit, notre communauté de jeunes a déterminé que la pornographie hypertruquée et l’utilisation non consensuelle de photos personnelles étaient particulièrement préoccupantes pour leur sécurité et leur bien-être personnel.
Le droit d’auteur est en train de devenir un élément crucial des discussions sur la réglementation de l’intelligence artificielle. Ce n’est pas surprenant, car les nouvelles technologies ont tendance à se heurter à des questions de droit d’auteur. C’était également le cas d’Internet lorsqu’il a été rendu public dans les années 1990. Lorsque le secteur numérique change, des politiques conçues sur mesures doivent suivre. Nous en avons été témoins au cours des dernières années au Canada, avec des lois comme la Loi sur la diffusion continue en ligne et la Loi sur les nouvelles en ligne, et ce que nous espérons bientôt voir avec un projet de loi sur les préjudices en ligne. L’adoption de ces deux lois sur le contenu en ligne a élargi le mandat du Conseil de la radiodiffusion et des télécommunications canadiennes, le CRTC. Toutefois, un organisme de réglementation seul n’a pas la capacité, les connaissances et l’expertise nécessaires pour réglementer des modèles d’affaires numériques complexes et de grande portée. En effet, de multiples organismes de réglementation doivent discuter et collaborer les uns avec les autres.
Au Canada, nous avons eu l’occasion de combler cette lacune grâce au Forum canadien des organismes de réglementation numérique. Le CRTC, la Commission du droit d’auteur, le Commissariat à la protection de la vie privée et le Bureau de la concurrence sont tous membres de ce forum et font partie d’un mouvement international souhaitant que les organismes de réglementation travaillent ensemble pour relever les défis de l’environnement numérique. Bien que ce forum soit un pas dans la bonne direction, il n’a aucun pouvoir. Il est donc nécessaire d’adopter une loi légiférant sur le Forum canadien des organismes de réglementation numérique pour permettre à ces organismes, grâce à des pouvoirs coordonnés, de prendre et de mettre en œuvre des décisions réglementaires de grande portée et assorties de sanctions très sévères. Le dernier projet de loi sur les préjudices en ligne comportait une disposition prévoyant la création, en collaboration avec le CRTC et la Commission du droit d’auteur, d’un nouvel organisme de réglementation. Au lieu de cela, les organismes de réglementation doivent être mandatés pour faire partie du Forum canadien des organismes de réglementation numérique avec des capacités identifiées pour réglementer les grandes entreprises technologiques, en particulier en ce qui concerne le contenu synthétique généré par l’intelligence artificielle.
Je vous remercie de me recevoir aujourd’hui. Je me ferai un plaisir de répondre à toutes vos questions.
Le président : Merci beaucoup, madame Cramer.
Wing Hin Anson Ho, chercheur, Epoch AI : Bonjour, monsieur le président et mesdames et messieurs les membres du comité. Je vous remercie de m’avoir invité. Je suis chercheur pour un organisme sans but lucratif, Epoch AI, où nous étudions la vitesse à laquelle l’intelligence artificielle évolue et ce qui cause ces changements. J’ai également contribué aux deux premiers rapports internationaux sur la sécurité de l’intelligence artificielle, qui constituent la plus grande collaboration internationale sur la sécurité de l’intelligence artificielle à ce jour, ayant regroupé des organismes comme le gouvernement du Royaume-Uni, l’Institut québécois d’intelligence artificielle, c’est-à-dire le Mila, et d’autres encore. Dans le cadre de mon travail, je me suis souvent demandé quelle est la chose la plus importante que j’ai apprise sur l’orientation de l’intelligence artificielle que tout le monde, des gouvernements à la population générale, doit savoir. Je réponds qu’il est fort probable, à mon avis, que l’intelligence artificielle surpasse les humains dans pratiquement toutes les tâches économiques d’ici 10 ou 20 ans, incluant les tâches manuelles et intellectuelles.
Il est difficile d’exagérer les répercussions de cette situation, alors ce comité doit se demander s’il prend cette éventualité suffisamment au sérieux. Pourquoi est-ce mon avis? Comment pourrait-il être possible que l’intelligence artificielle surpasse les humains si rapidement, alors que les systèmes d’intelligence artificielle inventent certaines choses et sont incapables de faire le lavage, et que leurs répercussions sur la main-d’œuvre ne sont pas encore évidentes? C’est parce que nous devons non seulement examiner ce que l’intelligence artificielle peut faire aujourd’hui, mais également les tendances liées à son évolution. À peu près aucune autre technologie ne progresse aussi rapidement. Il y a 10 ans, l’intelligence artificielle pouvait à peine formuler des phrases cohérentes et ne pouvait pas contribuer de manière significative aux nouvelles technologies. Aujourd’hui, l’intelligence artificielle rédige plus de 90 % des lignes de programmation de grandes entreprises d’intelligence artificielle comme Anthropic et OpenAI. Elle a très récemment résolu des problèmes mathématiques jamais résolus et est une innovation clé ayant mené au prix Nobel de chimie de 2024. Il s’agit d’un rythme de progression incroyable.
Il y a 10 ans, l’intelligence artificielle était l’apanage d’une communauté d’universitaires relativement petite, à peine 1 000 chercheurs. Aujourd’hui, ChatGPT est assurément devenu l’application grand public connaissant la croissance la plus rapide de l’histoire, et près d’un milliard de personnes l’utilisent chaque semaine. Depuis quelques années, les revenus annuels d’OpenAI ont grimpé en flèche pour atteindre 35 milliards de dollars, soit une fois et demie les revenus d’Air Canada en 2025. Les investissements ayant alimenté les progrès de l’intelligence artificielle jusqu’à présent ne cessent de croître.
En pourcentage du PIB américain, les dépenses consacrées à l’intelligence artificielle sont désormais supérieures à celles du projet Manhattan et du programme Apollo à leur apogée. Compte tenu de ces tendances, il est évident que nous ne devrions pas juger l’intelligence artificielle de demain en fonction de ses limites ou de ses répercussions actuelles. Nous devons répondre à une question difficile : si, au cours des 10 dernières années seulement, nous sommes passés des robots conversationnels incohérents à des systèmes qui repoussent les limites des découvertes scientifiques, que se passera-t-il au cours des 10 prochaines années? Comme je l’ai dit, je crois qu’il est fort plausible que l’intelligence artificielle nous surpasse tous dans notre travail d’ici là. Ce n’est pas garanti, mais je pense que c’est une possibilité très sérieuse.
Cela soulève des questions fondamentales auxquelles les décideurs politiques doivent faire face et, à mon avis, cinq d’entre elles ressortent du lot en raison de leur importance.
Premièrement, de puissants systèmes d’intelligence artificielle pourraient accélérer la croissance économique et les progrès technologiques de façon spectaculaire, y compris en médecine, ce qui offre des occasions en or. Comment le Canada devrait-il développer et adopter l’intelligence artificielle pour profiter de ces avantages?
Deuxièmement, si les futurs systèmes d’intelligence artificielle accomplissent toutes les tâches mieux que nous tous, la plupart des gens pourraient bientôt avoir du mal à trouver un emploi pour payer leurs factures. Comment le Canada devrait-il se préparer à cette éventualité?
Troisièmement, au fur et à mesure que les systèmes d’intelligence artificielle s’amélioreront, nous leur déléguerons de plus en plus de tâches et, avec le temps, nous pourrions ne plus comprendre comment les faire. Il est donc essentiel de veiller à ce que les systèmes d’intelligence artificielle entreprennent des actions qui sont toujours en phase avec les intérêts fondamentaux des humains. Comment pouvons-nous nous en assurer?
Quatrièmement, les puissants systèmes d’intelligence artificielle pourraient augmenter les capacités de nombreux acteurs malveillants qui se permettraient de causer des préjudices d’une manière jusqu’alors impossible, notamment avec des cyberattaques fondées sur l’intelligence artificielle. Selon Anthropic, cela s’est déjà produit. Comment pouvons-nous atténuer ces risques?
Cinquièmement, les meilleurs systèmes d’intelligence artificielle pourraient être sous le contrôle d’un très petit nombre de personnes, ce qui concentrerait radicalement le pouvoir. Que devrait-on faire pour atténuer les risques découlant de cette situation?
Je n’ai pas les réponses à toutes ces questions. Elles sont foncièrement très difficiles, mais si nous prenons au sérieux la vitesse à laquelle l’intelligence artificielle progresse, nous devons commencer à débattre de ce que l’intelligence artificielle est capable de faire non seulement aujourd’hui, mais dans 10 ans. Ces questions pourraient être les plus importantes de la prochaine décennie, et il est crucial de bien y répondre. C’est vrai non seulement dans le secteur des technologies de l’information et des communications, mais également pour l’ensemble du Canada. Merci.
Le président : Merci, monsieur Ho. Nous passons maintenant aux questions des sénateurs. Vous aurez tout au plus cinq minutes par intervenant au premier tour.
La sénatrice Dasko : Je remercie les témoins de comparaître devant notre comité aujourd’hui. Avant de poursuivre, je tiens à offrir mes condoléances aux familles des pilotes qui sont décédés hier à l’aéroport LaGuardia. En tant que comité chargé d’étudier les transports, au fil des ans, nous avons étudié à maintes reprises les règles et les questions de sécurité concernant les secteurs aérien et ferroviaire et nous en connaissons l’importance. J’espère qu’il ressortira de cette terrible expérience quelque chose qui nous aidera à aller de l’avant.
Je m’intéresse à un certain nombre de questions concernant l’intelligence artificielle. Il y a d’abord la protection des renseignements personnels. Appelons plutôt cela le consentement relatif à l’utilisation des données. Je m’intéresse aussi beaucoup aux politiques et aux règlements que nous élaborons.
J’aimerais commencer par M. Vu et Mme Cramer. Madame Cramer, si je vous ai bien compris, vous pensez que nous devrions avoir de multiples organismes de réglementation et de multiples règlements. Monsieur Vu, je pense que vous réclamez une mesure législative exhaustive. Pouvez-vous nous donner votre opinion et nous expliquer pourquoi votre approche est préférable à l’adoption de multiples règlements, ou comment ces approches pourraient être complémentaires? Comment devrions‑nous envisager la situation?
M. Vu : Merci pour votre question. Je vais commencer par mentionner que Mme Cramer collabore avec le Dais depuis très longtemps. Nous collaborons étroitement sur ces enjeux, alors nos positions ne sont peut-être pas aussi éloignées que nos déclarations préliminaires peuvent le laisser entendre. Toutefois, à notre avis, en ce qui concerne les expériences des Canadiens en ligne, une approche globale doit comprendre une approche axée sur la protection des renseignements personnels et une approche axée sur les préjudices. Ce que je veux dire par là, c’est qu’il ne suffit pas d’adopter une mesure législative, comme une mise à jour de la Loi sur la protection des renseignements personnels et les documents électroniques, qui bonifie la protection des renseignements personnels pour tenir compte des réalités actuelles d’Internet. Nous devons également reconnaître que, même avec la meilleure loi possible, les Canadiens subiront encore des préjudices. Ils auront encore besoin de recours en cas d’atteinte à leur vie privée ou d’utilisation de leurs renseignements et lorsqu’ils verront ou seront exposés à des hypertrucages en ligne.
Il faut préciser ici que 47 % des Canadiens voient un hypertrucage chaque semaine. Une mesure législative en matière d’identification ne pourra pas à elle seule résoudre ce problème.
Nous croyons qu’il manque encore quelques éléments à une mesure législative sur l’activité en ligne, comme des mises à jour de la législation en matière de protection des renseignements personnels, ainsi qu’une véritable agence d’application de la loi, comme un commissaire à la sécurité en ligne. Ces mesures ont été proposées dans la version précédente d’un projet de loi sur les préjudices en ligne. Le simple fait d’adopter une loi ne suffit pas. Il faut que quelqu’un fasse respecter la réglementation et demande des comptes aux entreprises.
En outre, il faut probablement imposer un devoir de diligence aux entreprises de médias sociaux. Toutefois, je sais que je parle depuis trop longtemps, alors je vais m’arrêter ici et laisser Mme Cramer ajouter ses commentaires.
La sénatrice Dasko : Je veux boucler la boucle sur la question de l’identification. Vous avez dit que l’identification ne suffit pas, et je le comprends, mais devrait-elle faire partie d’une solution globale?
M. Vu : Oui. Comme nous l’avons constaté dans le cadre de nos recherches, laisser les entreprises de médias sociaux s’occuper de l’identification ne suffit pas. Le Règlement sur l’intelligence artificielle de l’Union européenne en est un exemple, car il impose essentiellement deux obligations aux plateformes. Premièrement, une obligation est imposée à l’éditeur des systèmes d’intelligence artificielle qui créent les hypertrucages, une approche ayant forcé des entreprises comme Google à intégrer un filigrane technique aux hypertrucages créés à l’aide de leurs outils techniques. Deuxièmement, les diffuseurs des systèmes d’intelligence artificielle ont l’obligation d’identifier ce contenu.
Je pense qu’imposer une obligation de diligence à une plateforme qui héberge une partie de ce contenu est probablement une bonne approche lorsqu’il s’agit d’identifier ces hypertrucages, contrairement à une obligation de signaler et d’identifier chaque publication. Cette option représente un fardeau irréaliste pour les entreprises.
La sénatrice Dasko : Madame Cramer, vouliez-vous ajouter quelque chose?
Mme Cramer : Merci beaucoup.
J’abonde dans le même sens que M. Vu en ce qui concerne l’importance du filigrane sur le contenu de l’intelligence artificielle.
Au sein des Jeunes leaders numériques du Canada, nous avons constaté qu’il faut que l’intelligence artificielle puisse améliorer la productivité au lieu que tout soit constamment signalé avec l’intelligence artificielle. Par exemple, si on a une spécification technique dans une image téléchargée ou dans un contenu téléchargé ayant été créé par l’intelligence artificielle, lorsqu’on le téléverse à nouveau, disons, sur les médias sociaux, à ce moment-là, nous aimerions voir un filigrane servant à l’identification afin qu’on puisse clairement établir que ce contenu n’est pas authentique, mais synthétique.
Cela dit, si on utilise des outils d’intelligence artificielle pour augmenter notre productivité en ajoutant, par exemple, une image dans une présentation, en rédigeant et en liant des phrases de différents paragraphes ou en l’utilisant dans son travail de rédaction, cette utilisation de l’intelligence artificielle est éthique.
Donc, nous sommes notamment en faveur de la distinction entre les utilisations éthiques et les utilisations contraires à l’éthique de l’intelligence artificielle. Lorsque l’intelligence artificielle est utilisée à des fins de désinformation ou de mésinformation et qu’elle doit être identifiée pour être utilisée en ligne, par exemple, ce serait une utilisation contraire à l’éthique et ce contenu devrait bel et bien être identifié. Toutefois, lorsqu’elle est utilisée afin d’accroître la productivité, il s’agit d’une utilisation plus éthique. Elle nous permet de mieux faire notre travail avec de meilleures capacités et en étant davantage concurrentiels.
Je peux répondre à d’autres questions si vous en avez.
Le président : Nous allons poursuivre afin que tout le monde ait l’occasion de poser des questions.
Le sénateur Lewis : Madame Cramer, vous avez mentionné l’écart entre le niveau de compréhension des hypertrucages chez les jeunes générations et chez les générations plus âgées, c’est‑à‑dire que les jeunes comprennent mieux le fonctionnement de l’intelligence artificielle, ses avantages et ses désavantages. Avez-vous mené des travaux sur les façons de combler cet écart? Il semble que bien des gens soient, dans le meilleur des cas, confus et, dans le pire des cas, probablement effrayés par ce qui se passe avec l’intelligence artificielle : ce que l’avenir réserve par rapport à l’intelligence artificielle, les conséquences qu’elle aura sur les élections, l’avenir de leurs enfants en ce qui concerne les possibilités d’emplois, etc.
Des études ont-elles été menées ou avez-vous eu connaissance de travaux ayant été menés sur les moyens de combler cet écart afin que les générations n’ayant pas grandi avec l’intelligence artificielle soient plus à l’aise?
Mme Cramer : Je vous remercie de votre question.
Nous avons remarqué que différentes générations utilisent l’intelligence artificielle de différentes façons. Par exemple, les jeunes ont été critiqués récemment parce qu’ils utilisent l’intelligence artificielle comme outil de thérapie. On voit constamment, dans ce qui est rapporté publiquement, que des agents conversationnels sont utilisés comme compagnons ou agents relationnels. Une personne plus âgée aurait plutôt tendance à utiliser l’intelligence artificielle en milieu de travail.
On a besoin de plus d’informations et d’études financées sur l’utilisation de l’intelligence artificielle par différents groupes d’âge. Je commence par cela parce que, tant que nous ne savons pas exactement comment les différents groupes d’âge utilisent l’intelligence artificielle, nous ne pouvons pas créer un cadre efficace de littératie en matière d’intelligence artificielle à l’intérieur de la littératie numérique au Canada. Les différents groupes d’âge ont des besoins différents en matière de littératie numérique liés à la façon dont ils apprennent.
Une grande partie de la formation aux médias et à la littératie numérique s’adresse aux élèves de la maternelle à la 12e année, avec un peu d’enseignement aussi au niveau postsecondaire parce que, franchement, il est facile d’attirer des étudiants quand ils sont jeunes. Je salue le Dais et M. Vu. Ils s’efforcent de faire en sorte que les employeurs donnent plus de formation en littératie médiatique en milieu de travail, ce qui est utile pour toutes les générations.
Les jeunes nous disent constamment qu’ils sont très inquiets pour leurs grands-parents et la capacité de ceux-ci de comprendre l’intelligence artificielle dans un contexte de fragmentation de l’information.
Dans l’ensemble, nous avons besoin d’une approche pansociétale de la littératie numérique et de la formation à l’intelligence artificielle, et nous avons également besoin de plus d’études qui fragmentent les groupes d’âge au lieu de faire des déclarations à l’emporte-pièce. Quand nous recevons des déclarations à l’emporte-pièce sur la façon dont les gens utilisent l’intelligence artificielle, nous n’allons pas au cœur du problème et nous n’allons pas non plus au cœur de la solution.
La sénatrice Simons : Je poserais sept questions si j’en avais l’occasion.
Je vais commencer par poser une question extrêmement pratique et technique à Mme Cramer, puis j’aurai une question philosophique plus générale.
Madame Cramer, vous avez parlé des avantages d’avoir un groupe de réglementation composé de représentants du CRTC, de la Commission du droit d’auteur du Canada et du Bureau de la concurrence plutôt qu’un organisme unique, expert de la question et s’y consacrant entièrement. Je dois avouer que l’idée d’avoir un seul organisme de réglementation me paraît logique, intuitivement. Pouvez-vous nous expliquer pourquoi vous pensez que ce n’est pas le bon modèle et pourquoi un groupe combinant l’expertise de différents organes de réglementation est l’option que vous privilégiez?
Mme Cramer : Il y a quelques éléments à considérer.
Premièrement, quand il y a plusieurs organismes de réglementation, ils peuvent tirer parti des connaissances et de l’expertise des uns et des autres, et voir les problèmes différemment. Par exemple, le Forum canadien des organismes de réglementation numérique, dont j’ai parlé dans ma déclaration préliminaire, a mené une étude sur les questions que votre comité examine en ce moment, et il l’a publiée l’année dernière. Ils avaient tous des points de vue différents sur le contenu synthétique généré par l’intelligence artificielle — quoique moins sur la mésinformation et la désinformation —, mais nous avons été en mesure d’obtenir une analyse solide concernant la protection de la vie privée, les questions de concurrence en lien avec l’étiquetage, la circulation des nouvelles en ligne ainsi que les questions de droit d’auteur.
Un enjeu important qui est plus technique, pour répondre à votre question technique sur l’importance de réunir les organismes de réglementation, c’est que beaucoup d’organismes de réglementation ont des employés qui y passent toute leur carrière et qui n’ont pas beaucoup d’échanges d’idées féconds entre organismes. Par exemple, dans les ministères, au gouvernement du Canada, un analyste des politiques relève du groupe EC. Dans ce contexte, il s’agit d’un simple poste d’analyste des politiques. Cependant, dans un organisme de réglementation, son poste relève de la classification CO.
Ces différences de classification sont importantes parce qu’elles impliquent des trajectoires différentes en ce qui concerne l’avancement professionnel. La classification CO incite les travailleurs à rester dans certains domaines de leur carrière et à l’intérieur d’une seule équipe. Ce n’est pas ainsi qu’on développe une expertise.
La classification EC dans les ministères incite les travailleurs à passer d’une équipe à l’autre pour obtenir une promotion et, au bout du compte, gagner plus.
Pourquoi est-ce important pour votre question? Quand les membres du personnel des organismes de réglementation sont pour ainsi dire coincés dans la même équipe toute leur carrière parce que des incitatifs économiques les y encouragent, cela crée une stagnation dans l’accumulation des connaissances. Cela permet également d’acquérir une compréhension très fine d’un problème sous un seul angle. Voilà pourquoi il est important de mettre ces organismes de réglementation en communication les uns avec les autres : s’ils utilisent tous certaines classifications qui déterminent la progression des fonctionnaires de carrière au sein de l’organisme ou du gouvernement du Canada en général, ils ne bénéficient pas du même degré d’expertise que là où il y a plus de renouvellement de l’effectif.
La sénatrice Simons : C’est une analyse très intéressante. Je ne pense pas qu’on me l’ait déjà expliqué à ce niveau de détail. Merci. Je vous laisse poursuivre.
Mme Cramer : Le deuxième élément, je dirais, c’est qu’il y a une pression mondiale pour que les organismes de réglementation travaillent ensemble sur le dossier de la réglementation numérique et pour que les organismes de réglementation des pays aux vues similaires se parlent. Cela s’inscrit également dans la politique étrangère actuelle du Canada qui consiste à essayer de trouver plus d’alliés aux vues similaires. Nous le constatons déjà dans les forums des organismes de réglementation numérique.
Par exemple, le Canada, avec son Forum canadien des organismes de réglementation numérique, et les organismes de réglementation susmentionnés au Royaume-Uni, en Irlande, en Australie et aux Pays-Bas font tous partie d’un consortium afin d’échanger les connaissances. On obtient au fond ces échanges féconds de connaissances à l’échelle nationale tout en étant également en mesure, à un niveau plus large, à l’échelle internationale, d’analyser les grandes entreprises du secteur des technologies. Ces entreprises essaient différentes techniques, dans différents pays et face à différents organismes de réglementation pour voir ce qui fait mouche et comment elles peuvent échapper aux contraintes réglementaires dans leurs modèles d’affaires. C’est là que les échanges féconds sont utiles et c’est pourquoi je plaide pour que le Forum canadien des organismes de réglementation numérique soit établi légalement. Ainsi, les organismes de réglementation disposeraient de certains pouvoirs et pourraient adopter ensemble des règles pour que les sanctions soient plus élevées afin que les entreprises ne considèrent pas celles-ci comme un prix à payer pour faire des affaires et que l’environnement numérique soit plus sûr.
La sénatrice Simons : J’ai une question plus générale. Je vais commencer par M. Vu, mais j’aimerais entendre tout le monde si c’est possible.
Vous avez dit quelque chose qui a piqué mon intérêt, à savoir que, même quand le contenu synthétique est identifié et qu’il est clairement indiqué qu’il s’agit d’un hypertrucage, certaines personnes ne s’en soucient pas. Elles aiment bien voir les hypertrucages. Cela nous ramène à ce que Mme Cramer a dit au sujet de la crédulité, je suppose, d’un certain type de personne. Ce n’est pas seulement une question de génération et d’âge, c’est aussi une question de goût. Facebook m’inonde de niaiseries fabriquées, et plus j’essaie d’y mettre fin en les bloquant, plus Facebook pense que j’ai interagi avec elles et en remet une couche.
Qu’est-ce que cela signifie sur le plan existentiel pour notre monde si, même quand on identifie le contenu, les gens ont une préférence pour le synthétique? Quand j’étais enfant, mon petit frère aimait boire du Tang plus que du vrai jus d’orange. Si vous ne savez pas ce qu’est le Tang, c’était comme une poudre de faux jus d’orange qui était commercialisée comme la boisson des astronautes, et c’est la raison pour laquelle mon petit frère l’adorait.
Que faire dans un monde où les gens ne semblent pas vouloir faire la différence entre ce qui est faux et agréable et ce qui est réel et peut-être moins agréable?
M. Vu : Sénatrice, je suis peut-être plus âgé que vous ne le pensez, mais permettez-moi de commencer par dire que vous avez tout à fait raison. Dans le cadre des expériences que nous avons menées, 71 % des personnes exposées à une identification sans équivoque ont pourtant jugé crédible l’information contenue dans un message politique qui décrivait le doublement du budget pour la rénovation de l’édifice du Centre, avec une image hypertruquée d’un dôme de verre ajouté à côté de la tour de l’horloge.
Je pense qu’il y a deux ou trois raisons à cela. La première raison, qui mérite d’être mentionnée ici, c’est que les gens connaissent la différence entre hypertrucage et mésinformation. Dans la même étude, nous leur avons demandé de définir le terme hypertrucage et nous avons étiqueté manuellement les réponses pour déterminer s’ils comprenaient le sens du terme hypertrucage, surtout en ce qui a trait à la mésinformation. Résultat : 73 % ont réussi à définir correctement le terme hypertrucage, et seulement 13 % l’ont confondu dans leur définition avec la mésinformation en général.
Je pense que beaucoup de gens comprennent que ce n’est pas parce que le contenu est généré par l’intelligence artificielle que l’information véhiculée est fausse en soi.
Deuxièmement, je pense qu’il est extrêmement préoccupant que les gens puissent préférer le contenu synthétique. Cependant, je trouve encourageantes certaines études récentes qui montrent que l’effet de nouveauté s’estompe très vite, surtout chez les jeunes, mais chez les autres aussi. Beaucoup de gens, après avoir été exposés à ce déferlement de contenu synthétique, finissent par vouloir plus de contenu produit par des personnes et plus de créations artistiques et de musique créées par des personnes. Évidemment, il faudra probablement des mois, voire des années, pour bien comprendre les préférences, mais je ne désespère pas pour l’instant.
La sénatrice Miville-Dechêne : Je vous remercie. Je vais poursuivre dans cette voie, mais un peu différemment.
Vous avez beaucoup parlé d’hypertrucages. Je m’intéresse en particulier aux hypertrucages pornographiques. J’ai travaillé sur cette question dans le monde réel. Comment protéger les enfants? Vous parlez de l’obligation de diligence, qui pourrait être à peu près n’importe quoi. Voulez-vous vraiment que les enfants regardent cela? Utilisez-vous l’estimation de l’âge et la vérification de l’âge? Que faites-vous? Pensez-vous qu’il faudrait faire quelque chose?
M. Vu : À qui la question s’adressait-elle? S’adressait-elle à moi?
La sénatrice Miville-Dechêne : Oui. Évidemment, je parle aussi de l’utilisation de vrais visages et du mélange de tout cela. Tout cela est possible.
M. Vu : Je serai très heureux de répondre à ces questions.
Je pense que deux ou trois points devraient être séparés et clarifiés. Le premier enjeu concerne le matériel d’exploitation sexuelle des enfants. Ce matériel est illégal en droit canadien.
Pour ce qui est de l’exposition des enfants à du matériel pornographique en ligne, en ce qui concerne le contrôle de l’âge et les technologies de vérification de l’âge, nous avons évidemment suivi avec intérêt ce qu’ont fait de nombreux autres pays, dont l’Australie et le Royaume-Uni. Nous croyons qu’il y a encore un défi technologique, surtout pour préserver la vie privée des gens tout en veillant à ce que les technologies déployées pour estimer et vérifier l’âge soient fiables.
Il y a eu des efforts intéressants en Californie, qui a commencé à introduire la vérification de l’âge et l’estimation de l’âge au niveau des appareils. Donc, quand un enfant achète un appareil, comme son premier téléphone intelligent, l’appareil lui-même est mis en service pour un groupe d’âge, de sorte que tout le trafic Internet qui en sort ne peut inclure que du matériel adapté à l’âge de l’enfant.
Cependant, encore une fois, on ne peut pas parler de ce type précis de solution sans le mettre en relation avec toutes les autres solutions d’un projet de loi complet sur les préjudices en ligne. Cela devrait faire partie d’un ensemble complet de politiques et non être une mesure individuelle, si vous voyez ce que je veux dire.
La sénatrice Miville-Dechêne : Quelqu’un d’autre a-t-il quelque chose à ajouter? Madame Cramer, peut-être?
Mme Cramer : Je vous remercie. Je suis d’accord avec M. Vu.
En ce qui concerne les politiques de vérification de l’âge, c’est une question très délicate, parce que, quand on commence à demander l’âge des gens dans ces règlements, les entreprises du secteur des technologies et des télécommunications doivent recueillir beaucoup plus de données auprès des jeunes et de leur famille en général. Le moins que l’on puisse dire, c’est qu’il est décourageant de voir que les jeunes doivent être exposés à du contenu que les générations précédentes ne voyaient tout simplement pas. Cependant, nous tous, y compris les enfants, ne devrions pas voir notre droit à la vie privée restreint au nom d’objectifs visant à limiter ce qui est vu parce que, au bout du compte, la vie privée n’est pas un privilège, c’est une règle de droit.
Avec les politiques de vérification de l’âge, il faut faire attention si on veut empêcher les jeunes de voir certaines images. Le respect de leur vie privée sera tenu pour acquis et, en fin de compte, la plupart des plateformes en ligne subiront probablement tôt ou tard une faille de sécurité. Les données de ces jeunes deviendront alors des données cybercriminelles, et ça peut mener à plus de matériel d’exploitation sexuelle d’enfants, comme M. Vu y a fait allusion.
Voilà ma réponse. Si vous avez des questions complémentaires, je vous invite à me le faire savoir.
La sénatrice Miville-Dechêne : Cependant, en même temps, avec ces images, il y a déjà une atteinte à la vie privée des enfants. Les plateformes recueillent déjà leurs renseignements, alors pourquoi redoutons-nous tant de nouvelles difficultés en matière de protection de la vie privée?
Mme Cramer : Nous ne devrions pas chercher à niveler par le bas quand il est question d’assurer la protection de la vie privée dans certains domaines. Nous devons renforcer la protection de la vie privée dans son ensemble. En ce qui concerne, par exemple, certaines des autres composantes des médias synthétiques, quand on obtient aussi les données des jeunes à un âge plus précoce, cela crée un avantage injuste pour les entreprises qui peuvent les utiliser pour personnaliser les prix plus tard, ainsi que pour des études de marché. Encore une fois, l’objectif est de renforcer la protection de la vie privée, et non de la réduire pour certains groupes d’âge ou pour certains objectifs concernant le visionnement de contenu, mais je vais céder la parole à M. Vu.
M. Vu : Je suis tout à fait d’accord avec Mme Cramer.
La sénatrice Arnold : Merci à tous d’être ici aujourd’hui. C’est absolument fascinant. Madame Cramer, je vous remercie pour la touche d’humanité que vous apportez. J’y suis vraiment sensible parce que j’ai côtoyé beaucoup de jeunes et j’ai constaté leurs craintes pour leurs grands-parents.
Nous avons entendu plusieurs témoins parler d’empathie, de maternalisme, de joie humaine et de ce qui fait notre humanité — vous en avez également parlé, monsieur Vu — de ce besoin inné de l’être humain d’une création véritable et d’une humanité véritable, et je vous suis donc reconnaissante de toutes vos observations à ce sujet.
Toutefois, ma question porte sur un sujet légèrement différent qui fait l’objet de discussions dans de nombreux domaines en ce moment : l’intelligence artificielle en tant qu’infrastructure publique. Y aurait-il une façon d’envisager — et y avez-vous pensé dans l’un ou l’autre de vos univers — que le Canada ait sa propre infrastructure publique souveraine, avec ses propres garde-fous canadiens pour protéger la chaîne de possession des données et ce genre de choses?
M. Vu : Je me ferai un plaisir de commencer. Nous croyons que la souveraineté est un sujet compliqué parce que la chaîne de valeur de l’intelligence artificielle est tellement intégrée à l’échelle mondiale que je ne pense pas qu’il soit réaliste que le Canada se fixe pour objectif de produire les puces et de construire les centres de données pour entraîner les modèles de fondation. Cependant, nous croyons que la souveraineté peut prendre deux formes. La première consiste à s’assurer un avantage concurrentiel clair dans certaines parties de cette chaîne de valeur. Dans le mémoire que nous avons présenté dans le cadre de la consultation sur la stratégie en matière d’intelligence artificielle, nous avons fait valoir que l’électricité est un de ces avantages concurrentiels que le Canada peut créer, à la fois parce que nous produisons beaucoup d’électricité propre et parce qu’il faudra de l’électricité pour toute intelligence artificielle à l’avenir.
Deuxièmement, en ce qui concerne l’investissement et la construction d’infrastructures informatiques pour l’intelligence artificielle et de centres de données pour l’intelligence artificielle publique au Canada, nous croyons que cela devrait être limité aux domaines prioritaires stratégiques où il est important d’avoir une solution canadienne de substitution au cas où notre accès aux algorithmes d’intelligence artificielle mondiaux serait coupé en raison de tensions géopolitiques, commerciales ou autres.
Je pense que les investissements dans des infrastructures publiques devraient être limités à ces domaines prioritaires, tels qu’ils sont déterminés par, disons, la défense, la santé et les suspects habituels.
M. Ho : J’aimerais ajouter quelque chose sur la prise en compte des coûts des différents types d’infrastructure. Pour compléter ce que M. Vu a dit, au fond, la majeure partie du coût de construction de l’infrastructure d’intelligence artificielle vient des puces informatiques elles-mêmes. C’est pourquoi les investissements dans l’intelligence artificielle aux États-Unis se chiffrent en centaines de milliards de dollars, un montant comparable, voire supérieur, à celui du projet Manhattan. Je ne pense pas qu’il soit possible d’essayer de faire la même chose au Canada. Cependant, il y a certaines parties du processus de production de l’intelligence artificielle où c’est faisable, comme les données. Un élément clé qui change actuellement dans l’intelligence artificielle, c’est l’utilisation des données Internet, de l’entraînement des agents conversationnels à la création d’espaces de travail. Ce sont des défis que le Canada est mieux placé, du moins comparativement, pour essayer de relever, parce qu’il y a des talents ici dans le domaine des logiciels, au lieu d’essayer d’égaler, disons, les énormes quantités d’énergie des États-Unis ou d’autres pays. Par exemple, les plus grands centres de données prévus aux États-Unis auront besoin d’autant d’énergie que la ville de New York. Ce serait très difficile à égaler. D’autres choses sont plus faciles.
Mme Cramer : Je me fais l’écho de M. Vu et je recontextualise certains éléments concernant la question de la souveraineté. Quand nous parlons d’intelligence artificielle, de gouvernance de l’intelligence artificielle et de souveraineté, nous avons tendance à utiliser une approche générale, mais il faut nous demander « ce que nous cherchons à gouverner. » M. Vu a fait remarquer que l’intelligence artificielle est complexe et utilise des systèmes différents. Il y a les chaînes d’approvisionnement en puces, les entrées de données, l’énergie, la puissance de calcul et ainsi de suite.
Nous devons cerner les éléments clés où le Canada serait un concurrent stratégique dans la chaîne de valeur de l’intelligence artificielle, puis trouver des partenaires dans le monde entier, par exemple dans l’Asie-Pacifique et sur le continent européen.
À cet égard, l’énergie est probablement notre perspective la plus prometteuse. Nous avons des capacités considérables en combustibles fossiles et, ce qui est encore plus important, en énergies vertes. Comme l’a fait remarquer le témoin précédent, nous ne voulons pas que ces systèmes qui consomment plus d’énergie soient alimentés par des combustibles fossiles parce que nous n’avons pas le budget carbone dans le monde pour cela. Cependant, le Canada a des atouts parce que nous avons beaucoup de cours d’eau pour produire de l’énergie hydroélectrique et que nous avons la capacité, grâce à des réacteurs nucléaires modulaires, de produire plus d’énergie sans générer d’émissions, en plus de l’énergie solaire et de l’énergie éolienne.
Autrement dit, le Canada pourrait être un pôle d’attraction pour les centres de données, mais peut-être pas pour les technologies de calcul dans la pile technologique de l’intelligence artificielle. Nous devons travailler avec d’autres partenaires dans le cadre d’une pile technologique plus vaste et dans une perspective de souveraineté régionale plutôt que nationale.
[Français]
Le sénateur Cormier : J’aimerais poser ma question à M. Vu.
J’arrive du sommet sur l’intelligence artificielle et la culture. Dans votre document que j’ai bien aimé lire, vous abordez plusieurs enjeux. En fait, je m’intéresse particulièrement à la question de la propriété intellectuelle et du droit d’auteur ainsi qu’à la capacité du secteur culturel d’acquérir les compétences nécessaires pour pouvoir bénéficier de l’intelligence artificielle.
Une des nombreuses suggestions proposées lors de ce sommet, et qui concerne la question des licences accordées pour l’utilisation des contenus culturels, est de développer un cadre national de licences et d’appuyer des sociétés de gestion collective dans l’adaptation de leur modèle à l’IA. J’aimerais vous entendre sur ce sujet. Je vois que vous faites une recommandation qui touche cette question. Toutefois, si vous pouviez aborder cet enjeu, à votre avis, quel serait le contenu prioritaire à l’intérieur de ce cadre?
Deuxièmement, on a beaucoup parlé de formation en littératie numérique. Pour vous, quels seraient les principaux aspects nécessaires en littératie numérique pour accroître la capacité du secteur culturel à bénéficier de l’IA?
Merci.
[Traduction]
M. Vu : Je vous remercie, sénateur. J’ai également imprimé des exemplaires en anglais, si l’un d’entre vous en veut un plus tard.
En ce qui concerne la question des licences, nous avons constaté deux choses à propos des licences pour le contenu et de l’entraînement des algorithmes d’intelligence artificielle. Premièrement, les grandes entreprises, les éditeurs et les titulaires des droits de propriété intellectuelle des différentes marques ont les ressources et ont assez de contenu — des quantités massives de contenu — pour créer directement des contrats et des accords avec ces entreprises. Nous ne voyons pas nécessairement cela comme un problème en soi.
Deuxièmement, nous constatons également que, dans certains groupes et collectifs artistiques, principalement au sein de l’Actors Guild et de l’industrie de la musique, des mesures collectives sont prises au moyen de licences collectives pour l’utilisation de l’image d’un acteur, de l’empreinte vocale d’un acteur de doublage ou des caractéristiques distinctives du contenu musical produit par les membres du même type de syndicat afin d’obtenir ensemble la protection d’une licence.
On ne voit pas encore la même chose pour les créations visuelles, les illustrations et les artistes indépendants. Fait important, pour toutes ces sortes de protections, l’accès n’est tout simplement pas accordé aux petits artistes indépendants, par exemple un acteur qui pourrait devoir renoncer à son image dès qu’il accepte un rôle secondaire dans une publicité.
Toute protection doit fonctionner à la fois pour ces grands organismes, comme c’est déjà le cas, et pour un mécanisme collectif de licence permettant, au fond, aux petits artistes indépendants de discuter et de revendiquer la propriété. Nous n’avons pas d’opinion arrêtée à l’heure actuelle sur la question de savoir si cela doit prendre la forme d’un investissement dans un service juridique, d’un droit d’auteur ou d’une stratégie en matière de propriété intellectuelle, comme la stratégie pour le secteur de la technologie dans laquelle l’Ontario ou le Canada ont investi, mais ce sont là les enjeux.
Pourriez-vous me rappeler la deuxième question, sénateur?
[Français]
Le sénateur Cormier : C’est sur la formation en littératie numérique pour que le secteur culturel soit bien adapté, parce que c’est l’un des grands enjeux, en fait.
[Traduction]
M. Vu : En ce qui concerne la façon dont les travailleurs du secteur de la création utilisent l’intelligence artificielle, je ne suis pas très inquiet, en ce sens que de nombreuses enquêtes menées dans l’industrie, notamment par Adobe et par le secteur de la création, montrent que ces travailleurs utilisent déjà la technologie. Je crois que plus de 50 % des professionnels de la création utilisent l’intelligence artificielle générative tous les jours. Ils ont donc déjà intégré ces technologies de manière réfléchie.
Là où nous voyons venir des risques et où la formation en littératie est nécessaire, c’est en ce qui concerne les professionnels non créatifs qui utilisent ces outils pour des tâches créatives. Par exemple, pour notre rapport, notre graphiste hors pair a conçu une couverture qui est vraiment belle, mais nous aurions pu simplement utiliser Sora ou n’importe quel outil de génération d’images, générer une image et la mettre sur la couverture. Cela comporte des risques pour de multiples raisons. Tout d’abord, il y a un risque d’atteinte à la réputation parce que des gens pourraient nous sous-estimer parce que nous n’avons pas le budget nécessaire pour payer un illustrateur. De plus, nous risquons de violer le droit d’auteur de quelqu’un. Un personnage imprévu comme Mario de Nintendo peut se retrouver par inadvertance sur notre couverture et nous exposer à des litiges.
Donc, les efforts dans le domaine de la littératie en matière d’intelligence artificielle devraient viser les personnes qui n’ont pas de formation créative, mais qui exécutent des tâches créatives ou les confient à un contractant. Nous avons élaboré d’excellents programmes qui s’adressent en particulier aux organismes sans but lucratif. Mme Cramer a mentionné que nous avons élaboré des cours de formation en milieu de travail sur la mésinformation et la désinformation. Ce sont des modèles que nous aimerions étudier et déployer à grande échelle.
[Français]
Le sénateur Cormier : Je vous remercie.
[Traduction]
La sénatrice Mohamed : Merci beaucoup. C’est un plaisir de vous revoir, M. Vu.
J’ai tellement de questions. J’aimerais parler de la souveraineté des données et de l’impact de l’IA sur l’emploi, mais tout d’abord, je tiens à dire que je ne partage pas le même optimisme quant à la capacité de distinguer un hypertrucage d’une mésinformation. Pourriez-vous nous fournir une ventilation par âge et niveau d’éducation des 70 % qui ont déclaré être capables de reconnaître la différence? Pas maintenant, mais plus tard. C’est ma première question.
Deuxièmement, l’une des choses qui m’empêchent de dormir la nuit, c’est la santé mentale des jeunes et les effets réels de l’IA, des hypertrucages et de la mésinformation. Mme Cramer, je crois que vous avez dit que les jeunes sont capables de les distinguer. Si j’ai bien compris, le Centre de toxicomanie et de santé mentale pense que ce n’est pas le cas, alors j’aimerais savoir si j’ai raison.
Ce qui m’inquiète le plus, c’est que, face à l’évolution du marché du travail et aux craintes des gens de perdre leur emploi, le problème est en partie que beaucoup ont désormais recours à l’IA pour déterminer si un candidat est apte à occuper un poste. Je voudrais donc aborder la question des préjugés dans le recrutement. Avez-vous des commentaires à ce sujet? C’est un phénomène qui pourrait prendre des proportions incontrôlables.
Si nous en avons le temps, j’aimerais également comprendre autre chose. Tous les pays, ou du moins la plupart d’entre eux, sont confrontés à cette question, qu’il s’agisse de souveraineté, d’utilisation, d’hypertrucages ou autres. Certains pays qui étaient plus avancés ont dû faire marche arrière; ceux de l’UE en font peut-être partie. Vers quels pays devrions-nous nous tourner pour en tirer des leçons et éviter de commettre les mêmes erreurs, tout en sachant qu’il doit s’agir d’une approche propre au Canada et que nous avons des limites?
Merci. Vous pouvez également nous répondre par écrit.
M. Vu : En ce qui concerne les données ventilées par tranche d’âge, il nous fera plaisir de vous les fournir ultérieurement.
La question du biais dans l’IA, j’y répondrai directement. Je pense que le débat sur l’IA dans le recrutement et sur la manière dont elle perpétue les préjugés peut parfois détourner l’attention du fait que, même sans ces systèmes d’IA, des préjugés existent bel et bien dans le recrutement. Le débat devrait porter sur la manière dont il faudrait déployer ces systèmes pour atténuer les préjugés humains. C’est là qu’intervient la réflexion, car si on ne réfléchit pas suffisamment et si on se contente d’utiliser un cadre de recrutement déjà biaisé en y ajoutant l’IA, il ne faut pas s’étonner qu’on reproduise exactement les mêmes préjugés que ceux que nous avons en tant qu’êtres humains lors du processus de recrutement.
Il existe toutefois des façons réfléchies d’utiliser l’IA qui permettent réellement de réduire les préjugés. Les gens sont optimistes. Dans le cadre d’une nouvelle étude sur laquelle nous travaillons avec une organisation de défense des droits technologiques des personnes queer et trans au Canada, nous constatons que les travailleurs et travailleuses du secteur technologique queer et trans au Canada sont très optimistes quant à la capacité des systèmes d’IA à réduire concrètement les préjugés à leur égard. Il s’agit d’un système technique, et il existe des limites très claires quant à la manière dont l’IA utilise ces systèmes et y réagit. Cela tend à être beaucoup plus facile qu’avec les personnes.
Ma réponse est de se concentrer sur les préjugés eux-mêmes et sur les systèmes concrets qui les créent, plutôt que sur l’aspect technologique, car au final, la technologie n’est qu’un outil.
Le sénateur Quinn : Merci d’être avec nous ce matin. Ce fut très intéressant, même si un peu déroutant.
Je voudrais revenir sur ce qu’a dit M. Ho. Vous avez évoqué certains domaines dans lesquels l’IA peut être utile. Les choses évoluent si vite. Je crois que vous avez mentionné l’économie et la finance, par exemple. Je voudrais mettre cela en parallèle avec le début de la présentation de M. Vu, lorsque vous avez déclaré qu’il n’y aurait pas d’impact majeur sur l’emploi à court terme.
Ces deux points semblent contradictoires. En effet, dans le secteur des transports, on ne pouvait autrefois pas imaginer des ports automatisés, et pourtant ils existent aujourd’hui et ont remplacé des travailleurs qui, pour leur part, sont payés pour rester sur place, jouer à des jeux vidéo et peut-être se reconvertir dans des métiers liés à l’IA.
Je suis perplexe face à la rapidité avec laquelle les choses évoluent et à la quantité de données pouvant être traitées par l’IA. Je suis un peu déconcerté par vos points de vue divergents.
M. Ho : Merci pour la question.
C’est une question très importante qui me préoccupe également. Les opinions divergent considérablement, notamment entre les personnes qui travaillent directement sur les capacités de l’IA, comme celles de la région de la baie de San Francisco, et les nombreux économistes avec lesquels nous discutons dans le cadre de nos recherches.
En l’occurrence, je pense qu’il faut poser des questions en fonction du domaine d’expertise de chacun. Dans le cas des chercheurs en IA, il s’agit de comprendre quelles capacités ces assistants IA seront en mesure d’atteindre dans les prochaines années. Ce qui ressort, c’est que chaque fois que les chercheurs en IA tentent de mettre au point un critère de référence pour simuler un environnement de travail et évaluer dans quelle mesure les systèmes d’IA sont capables d’effectuer ce type de tâches, nous constatons que c’est très difficile. Nous dépensons des millions de dollars pour essayer de mettre au point ce genre de critères. OpenAI a créé un critère de référence appelé GDPval, basé sur des tâches économiques, afin de mesurer, en tant qu’indicateur avancé, dans quelle mesure les systèmes d’IA seront capables d’automatiser ce type de tâches. Au moment où ce critère de référence a été publié, après y avoir consacré des millions de dollars, il était essentiellement saturé. Les systèmes d’IA avaient surpassé les performances de référence humaines sur ces tâches.
Nous constatons une tendance générale selon laquelle, chaque fois que nous essayons d’établir un tel critère de référence, celui‑ci est très rapidement saturé, en l’espace d’un ou deux ans. Cela suggère que l’évolution est extrêmement rapide et qu’il devient de plus en plus difficile de trouver des tâches que l’IA n’est pas capable d’accomplir lors d’un test.
La question qui se pose alors est la suivante : pourquoi, dans ce cas, les IA ne font-elles pas déjà tout? De nombreux facteurs entrent en jeu, comme la difficulté de transposer tous les contextes des différents types d’environnements de travail réels dans une tâche bien définie. Il n’y a pas de critère de référence qui permette de mesurer absolument tout ce qui nous importe dans le monde réel.
Par exemple, j’ai eu des conversations avec des gens au téléphone ou en personne, et l’IA ne peut pas me rédiger un courriel résumant la conversation, car elle ne l’a pas enregistrée. Il y a des éléments contextuels issus de la conversation qui n’ont pas été pris en compte dans le processus de rédaction du courriel. Il existe également des goulots d’étranglement physiques où les systèmes d’IA ne sont pas aussi performants que les humains. Dans certains domaines, les systèmes d’IA obtiennent de meilleurs résultats. Ils sont capables de surpasser la plupart d’entre nous — probablement tout le monde dans cette salle — en mathématiques de recherche, mais nous sommes toujours meilleurs pour faire la lessive.
Mais le principal facteur permettant de prédire quand les capacités de l’IA vont s’améliorer, c’est l’utilisation d’une puissance de calcul considérable pour résoudre le problème. Pour plus de clarté, si on examine les tendances — données que nous avons analysées ces dernières années —, l’augmentation de la puissance de calcul nécessaire à l’entraînement de ces systèmes a été multipliée par quatre à cinq par an à la pointe de la technologie. C’est plus rapide que presque tout. C’est même plus rapide que le séquençage de l’ADN, pourtant déjà extrêmement rapide. Si on extrapole cette tendance, on obtiendra une puissance de calcul plusieurs ordres de grandeur supérieure consacrée à l’entraînement de ces systèmes plus puissants. Si on compare la tendance en matière de performances à celle des ressources utilisées, comme la puissance de calcul, on peut s’attendre à une augmentation des capacités. Étant donné qu’on construit tant d’infrastructures pour tenter de mettre au point ces systèmes, il n’est pas exclu que nous assistions à des augmentations massives.
En résumé, la différence réside dans le fait qu’il existe encore des goulots d’étranglement dans le monde réel qui nous empêchent d’observer des effets importants. Même si l’IA est capable d’accomplir certaines tâches, il existe des goulots d’étranglement dans d’autres secteurs de l’économie qui rendent la tâche difficile. Cependant, si on examine les tendances et les données disponibles, et compte tenu du fait que ces données ont permis de prédire des augmentations massives de capacités par le passé, on peut s’attendre à voir ce changement se produire, potentiellement dans les prochaines années. C’est la distinction à faire : il faut examiner la tendance, et pas seulement ce que l’IA est capable de faire aujourd’hui.
Le président : Je remercie les témoins de leur participation. Ce fut très instructif, et je pense que je vais aller me teindre les cheveux avant la prochaine réunion pour paraître plus jeune. Merci beaucoup pour vos commentaires et le temps que vous nous avez consacré; nous vous en sommes très reconnaissants.
(La séance se poursuit à huis clos.)