LE COMITÉ SÉNATORIAL PERMANENT DES TRANSPORTS ET DES COMMUNICATIONS
TÉMOIGNAGES
OTTAWA, le mardi 21 avril 2026
Le Comité sénatorial permanent des transports et des communications se réunit aujourd’hui, à 9 heures (HE), avec vidéoconférence, pour examiner, afin d’en faire rapport, les possibilités et les défis de l’intelligence artificielle (IA) dans le secteur des technologies de l’information et des communications.
Le sénateur Larry W. Smith (président) occupe le fauteuil.
[Français]
Le président : Bonjour. Je m’appelle Larry Smith, je suis un sénateur du Québec et je suis président de ce comité.
J’aimerais maintenant demander à mes collègues de se présenter.
[Traduction]
La sénatrice Simons : Sénatrice Paula Simons, de l’Alberta. Je viens du territoire du Traité no 6.
La sénatrice Mohamed : Bonjour. Farah Mohamed, de l’Ontario.
[Français]
Le sénateur Quinn : Jim Quinn, du Nouveau-Brunswick.
Le sénateur Cormier : René Cormier, du Nouveau-Brunswick.
[Traduction]
La sénatrice Arnold : Dawn Arnold, également du Nouveau‑Brunswick.
Le sénateur Lewis : Todd Lewis, de la Saskatchewan.
Le sénateur Wilson : Duncan Wilson, de la Colombie-Britannique.
[Français]
La sénatrice Miville-Dechêne : Julie Miville-Dechêne, du Québec.
[Traduction]
La sénatrice Dasko : Donna Dasko, de l’Ontario.
Le président : Merci, chers collègues. Je souhaite la bienvenue à toutes les personnes ici présentes aujourd’hui, ainsi qu’à celles qui nous écoutent en ligne sur le site Web du Sénat, sencanada.ca. Nous nous réunissons aujourd’hui pour poursuivre notre étude sur les possibilités et les défis de l’intelligence artificielle, l’IA, dans le secteur des technologies de l’information et des communications.
Sur ce, je voudrais vous présenter notre premier groupe d’experts : de l’Association finlandaise pour le bien-être des personnes âgées, nous accueillons Viivi Korpela spécialiste et chercheur principal à l’Université de Jyväskylä; de la Société canadienne des auteurs, compositeurs et éditeurs de musique, nous accueillons Julia Werneburg, conseillère juridique et responsable de la protection des renseignements personnels, et, à titre personnel, nous accueillons Michael Geist, chaire de recherche du Canada en droit d’Internet et du commerce électronique à l’Université d’Ottawa. Bienvenue.
Merci de vous joindre à nous aujourd’hui. Les témoins feront une déclaration préliminaire d’environ cinq minutes, qui sera suivie d’une séance de questions-réponses avec les sénateurs. J’invite maintenant Mme Korpela à prononcer sa déclaration préliminaire.
Viivi Korpela, spécialiste et chercheur principal, Université de Jyväskylä, Association finlandaise pour le bien-être des personnes âgées : Merci, monsieur le président. Honorables sénateurs, merci de m’avoir invitée à comparaître devant vous aujourd’hui.
Je voudrais commencer par exprimer ma sincère gratitude à ce comité pour avoir veillé à ce que les personnes âgées soient prises en compte dans cette étude. En accordant une place à ce point de vue, vous reconnaissez que les personnes âgées ne sont pas de simples spectateurs, mais des citoyens actifs et essentiels dans notre société numérique.
Je m’appelle Viivi Korpela. Je suis spécialiste et chercheur principal à l’Association finlandaise pour le bien‑être des personnes âgées, la plus grande organisation nationale finlandaise dans le domaine du vieillissement. Je mène également activement des recherches à l’Université de Jyväskylä, où j’ai récemment obtenu mon doctorat.
Dans l’esprit de l’alliance étroite entre la Finlande et le Canada, c’est un honneur pour moi de mettre notre expertise commune au service de ce comité.
Mes travaux portent sur les compétences numériques et l’inclusion numérique des personnes âgées. Il est faux de croire que les personnes âgées ont de la difficulté à s’adapter à la technologie ou qu’elles sont trop vieilles pour l’apprendre. Bien que de nombreuses personnes âgées connaissent peut-être moins la complexité de l’intelligence artificielle, des algorithmes ou des mégadonnées, il faut éviter de simplifier à l’excès leurs capacités, leur participation et leur intérêt.
Tandis que nous examinons l’intelligence artificielle et sa capacité de transformer la façon dont nous vieillissons, j’aimerais aujourd’hui mettre en relief deux domaines cruciaux : le fardeau que l’intelligence artificielle fait peser sur l’éducation aux médias et la nature systémique de l’âgisme algorithmique.
Tout d’abord, en ce qui concerne la désinformation générée par l’intelligence artificielle, l’émergence rapide de fausses informations et d’« hypertrucages » est en train de remodeler l’environnement numérique et de susciter de nouvelles exigences en matière d’évaluation critique. Cependant, les personnes âgées ne font pas face à ces changements sur un pied d’égalité, car leur expérience technologique antérieure et leur accès aux possibilités d’apprentissage varient considérablement. Par conséquent, le défi ne réside pas dans la vulnérabilité individuelle, mais dans les conditions inégales pour l’acquisition des compétences dont elles ont besoin pour naviguer dans ces environnements.
Cela rend la question du soutien cruciale. Le soutien numérique est souvent fourni par des membres de la famille, mais nos recherches montrent que cela n’est pas viable à long terme. Les proches bien intentionnés manquent souvent de patience et ont tendance à prendre en charge les tâches au lieu d’enseigner les compétences requises. Les organisations non gouvernementales, ou ONG, jouent un rôle crucial pour combler cette lacune en fournissant un soutien accessible et sur mesure, mais leur contribution est souvent négligée dans les politiques et le financement.
Ensuite, en ce qui concerne l’âgisme algorithmique, les modèles d’intelligence artificielle sont entraînés sur des ensembles de données qui reflètent l’histoire humaine et ses préjugés. Dans ces ensembles de données, les personnes âgées sont généralement sous-représentées ou regroupées dans de vastes catégories homogènes, telles que « 60 ans et plus ». Or, une personne de 60 ans et une autre de 90 ans peuvent avoir des besoins très différents. Cette omission entraîne des préjudices concrets. Par exemple, les algorithmes de recrutement peuvent écarter des demandeurs âgés d’expérience, tandis que des modèles biaisés dans les domaines de la santé et de la finance peuvent mal évaluer les risques et limiter l’accès aux services.
Tout cela met en évidence un défi sous-jacent plus large. Les systèmes numériques sont souvent conçus pour un utilisateur idéal présumé jeune et technologiquement habile. Cela reflète une culture technologique qui associe fréquemment la jeunesse à l’innovation, créant ainsi des angles morts qui excluent les utilisateurs plus âgés.
Comme le note Virginia Dignum, analyste en intelligence artificielle :
L’éléphant dans la pièce, c’est l’énorme angle mort que nous avons tous concernant nos propres angles morts. Nous corrigeons les préjugés dont nous sommes conscients [...]
Lorsque l’intelligence artificielle ne répond pas aux besoins des personnes âgées, elle renforce l’image de l’aîné comme un utilisateur inadéquat au lieu de mettre en évidence les failles de la technologie elle-même. Et si les outils d’intelligence artificielle qui façonnent nos médias et nos services publics sous‑estiment ou excluent systématiquement les personnes âgées, cela devient une prophétie qui se réalise d’elle-même et aggrave les inégalités numériques.
Dans votre rapport, je vous invite instamment à voir au-delà de la simple protection des personnes âgées face à l’intelligence artificielle. Nous devons évoluer vers leur inclusion et leur autonomisation. Cela fait appel à une meilleure coordination et des réseaux de soutien durables qui relient l’apprentissage formel et informel. Cela nécessite également des processus de développement de l’intelligence artificielle plus inclusifs qui font davantage appel à la participation des personnes âgées au lieu de se fonder sur des hypothèses concernant leurs besoins. De cette manière, les personnes âgées ne sont pas seulement des consommateurs passifs, mais des partenaires actifs dans la construction de notre monde numérique.
Merci. Je répondrai avec plaisir à vos questions.
Le président : Merci, madame Korpela. En tant que personne âgée, je ressens un grand soulagement.
J’invite maintenant Me Werneburg à prononcer sa déclaration préliminaire. La parole est à vous.
Me Julia Werneburg, conseillère juridique et responsable de la protection des renseignements personnels, Société canadienne des auteurs, compositeurs et éditeurs de musique : Merci. Bonjour, monsieur le président, mesdames et messieurs les membres du comité.
Je m’appelle Julia Werneburg, et je suis conseillère juridique et responsable de la protection des renseignements personnels à la Société canadienne des auteurs, compositeurs et éditeurs de musique, ou SOCAN. Je suis heureuse de comparaître devant ce comité pour parler des opportunités et des défis liés à l’intelligence artificielle.
La SOCAN est la société de gestion collective des droits d’auteur du Canada pour les auteurs-compositeurs, les compositeurs et les éditeurs de musique. Nous percevons des redevances pour l’exécution publique de pratiquement toutes les œuvres musicales au Canada, ainsi que pour la reproduction de la musique. En retour, nous distribuons des redevances à nos plus de 200 000 membres et aux millions de titulaires de droits internationaux que nous représentons dans le cadre d’accords réciproques avec des sociétés internationales partout dans le monde.
L’intelligence artificielle marque un tournant pour l’industrie de la musique. Nous croyons qu’avec un cadre de droits d’auteur approprié, cette technologie peut offrir d’immenses possibilités pour soutenir et renforcer la créativité humaine. Bien utilisée, l’intelligence artificielle peut être un outil qui aide les créateurs de musique canadiens à raconter leurs histoires, reflétant ainsi notre expérience, notre identité et nos valeurs collectives.
Cela dit, cette technologie peut être une arme à double tranchant. Le principal défi est le suivant : la plupart des entreprises d’intelligence artificielle ne paient pas pour la musique qu’elles utilisent. Plutôt que cela, les auteurs‑compositeurs, les compositeurs et les éditeurs de musique alimentent actuellement les progrès des modèles d’intelligence artificielle sans en percevoir les avantages économiques. Cela représente une menace existentielle pour nos membres.
Selon une étude mondiale menée par la Confédération internationale des sociétés d’auteurs et compositeurs, ou CISAC, le plus grand réseau mondial du secteur créatif, dans les conditions actuelles, jusqu’à 24 % des revenus des créateurs de musique risquent de disparaître à cause de l’intelligence artificielle. Cela représente un danger réel pour la viabilité future de l’industrie musicale canadienne. Il y a toutefois lieu d’espérer. Nous commençons à voir des acteurs de l’industrie créative et des entreprises de l’intelligence artificielle conclure des partenariats mutuellement avantageux. Les développeurs d’intelligence artificielle ont publiquement déclaré l’importance d’utiliser de la musique de haute qualité créée par des humains pour développer leurs produits — allant jusqu’à dire que c’est « essentiel ». Les œuvres créatives sont le carburant qui alimente cette révolution technologique, et il est possible que cette valeur soit reconnue par le truchement des licences.
Nous pensons qu’une approche réussie en matière d’intelligence artificielle valorisera et rémunérera la création humaine, respectera les objectifs de la Loi sur le droit d’auteur et mènera à un marché des licences dynamique où les avantages de l’intelligence artificielle seront partagés équitablement. Mais cela nécessite une certitude juridique.
Nous avons deux positions que nous aimerions présenter au comité afin de renforcer le développement d’un marché des licences pour l’intelligence artificielle.
Premièrement, nous devons adopter une position ferme contre une exception relative à l’exploration de textes et de données, ou ETD. Les entreprises de l’intelligence artificielle plaident en faveur d’une exception à l’ETD qui leur permettrait d’exploiter des œuvres protégées par le droit d’auteur sans autorisation, sans rémunération et sans transparence. Plus tôt cette année, la SOCAN a lancé une campagne nationale de lettres contre une exception à l’ETD, obtenant le soutien de près de 9 000 Canadiens concernés. À l’échelle internationale, les gouvernements australien et britannique ont tous deux publiquement décidé de ne pas mettre en œuvre d’exception à l’ETD. Le Canada devrait adopter une approche semblable.
Deuxièmement, il devrait y avoir transparence en matière d’entrées et de sorties de la part des entreprises de l’intelligence artificielle. Ces dernières doivent être tenues de divulguer quelles œuvres protégées par le droit d’auteur sont intégrées et stockées dans les ensembles de données d’entraînement afin que les titulaires de droits puissent vérifier quand leurs œuvres sont utilisées. Cela est essentiel pour négocier des accords de licence sur un pied d’égalité. L’étiquetage des résultats de l’intelligence artificielle est également important pour permettre au public de faire des choix éclairés quant au genre de musique qu’il consomme et pour permettre à l’industrie musicale de mesurer la prévalence du contenu généré par l’intelligence artificielle sur le marché.
En conclusion, je vous laisse sur le fait que la SOCAN octroie des licences pour les nouvelles technologies depuis plus de 100 ans. C’est notre métier.
Nous avons devant nous l’occasion de créer un écosystème d’intelligence artificielle équitable et juste qui valorise la créativité humaine. Il nous faut des lois solides en matière de droit d’auteur — et un leadership politique fort — pour concrétiser cette occasion.
Merci de votre attention ce matin. Je me ferai un plaisir de répondre à toutes vos questions.
Le président : Merci, maître Werneburg.
J’invite maintenant M. Geist à prononcer sa déclaration préliminaire. La parole est à vous.
Michael Geist, chaire de recherche du Canada en droit d’Internet et du commerce électronique, Université d’Ottawa, à titre personnel : Parfait. Merci au président et aux membres du comité pour cette invitation à comparaître. Comme vous l’avez entendu, je m’appelle Michael Geist. Je suis professeur de droit à l’Université d’Ottawa, où je suis titulaire de la chaire de recherche du Canada en droit d’Internet et du commerce électronique. Je comparais à titre personnel et n’exprime que mes propres opinions.
L’intelligence artificielle est l’un des défis politiques les plus importants auxquels nous sommes confrontés. Dans ma déclaration préliminaire, je souhaite me concentrer sur trois enjeux essentiels : la protection de la vie privée, le droit d’auteur et ce que je considère comme la nécessité d’une loi sur la transparence de l’intelligence artificielle.
Le premier est la protection de la vie privée. La législation canadienne sur la protection de la vie privée dans le secteur privé est largement reconnue comme étant complètement dépassée. Sa modernisation aiderait à mettre en place des mesures de protection indispensables pour les données de l’intelligence artificielle, à remédier à la faiblesse de l’application de la loi et à répondre aux préoccupations en matière de souveraineté des données. Mais l’intelligence artificielle redéfinit le débat sur la protection de la vie privée, et il ne suffit pas de simplement relancer les efforts de réforme passés.
Pour bien faire les choses du point de vue de l’intelligence artificielle, il faut aborder les deux côtés de l’équation de l’intelligence artificielle : à la fois ce qui entre dans les modèles d’intelligence artificielle et ce qui en ressort. Du côté des données d’entrée, on observe une tendance mondiale notable vers un traitement plus permissif des renseignements personnels utilisés pour l’entraînement de l’intelligence artificielle. Le Japon, le Royaume-Uni et l’Union européenne assouplissent leurs règles, et le Canada subira sans aucun doute des pressions pour suivre le mouvement.
Le côté des résultats a reçu peu d’attention, mais pourrait s’avérer plus déterminant. L’intelligence artificielle moderne peut combiner des fragments d’information inoffensifs et en tirer des déductions qui permettent de réidentifier des particuliers à partir de données qui n’étaient pas censées être personnelles. La véritable menace de l’intelligence artificielle pour la vie privée ne réside pas dans ce qu’elle apprend, mais dans ce qu’elle déduit. La réforme doit traiter ces deux aspects différemment : une flexibilité sur les données d’entrée associée à des approches innovantes concernant les résultats, y compris la vérification des déductions.
Je devrais également ajouter que c’est dans la réforme de la protection de la vie privée que se joue la souveraineté des données. Une infrastructure nationale de l’intelligence artificielle peut sembler synonyme de souveraineté, mais les serveurs pourraient se trouver à Gatineau et cela n’aurait aucune importance si la Loi sur la protection des renseignements personnels du Canada ne s’appliquait pas ou si une application laxiste laissait des lois étrangères, comme le CLOUD Act américain, combler le vide.
Le deuxième point concerne le droit d’auteur. Dans le contexte de l’intelligence artificielle, l’application du droit d’auteur n’est pas claire. Les résultats atteignent rarement le niveau d’une véritable contrefaçon. Les données d’entrée font l’objet de nombreux procès, mais, à ce jour, peu de dossiers ont abouti à une responsabilité, les tribunaux suggérant que l’inclusion dans de grands modèles linguistiques relève souvent de l’utilisation équitable ou du traitement équitable. Le marché pourrait très bien développer de nouveaux modèles de licence.
Mais réglementer les licences ou imposer de nouvelles restrictions au traitement équitable rendrait le Canada plus difficile et plus coûteux pour l’intelligence artificielle. Cela présente deux risques. Premièrement, le développement de l’intelligence artificielle risque de se déplacer hors du pays, entraînant une baisse des investissements et des occasions économiques. En effet, sans une exception pour l’exploration de textes et de données, comme on en trouve dans de nombreux autres pays, y compris l’Union européenne, le risque est peut‑être déjà bien réel.
Deuxièmement, il faut veiller à ce que la culture et le patrimoine canadiens soient bien représentés dans un monde dominé par l’intelligence artificielle. Mais si le Canada devient un cas particulier avec des exigences en matière de licences qui rendent le contenu canadien plus coûteux ou plus difficile à inclure, les développeurs d’intelligence artificielle l’excluront tout simplement. Il en résultera moins de contenu canadien dans les données d’entraînement et moins de contenu canadien dans les résultats. Nous avons remarqué ce phénomène sur les réseaux sociaux : la réglementation destinée à favoriser les sources canadiennes a finalement entraîné une baisse de leur présence, au profit de sources plus facilement interchangeables. Pour qu’il y ait plus de Canada dans les résultats de l’intelligence artificielle, il faut plus de Canada dans les données d’entraînement, et nos politiques devraient en tenir compte.
Troisièmement, une loi sur la transparence de l’intelligence artificielle. Le manque de transparence des systèmes d’intelligence artificielle a érodé la confiance du public. Les récentes préoccupations concernant OpenAI et le tireur de Tumbler Ridge en sont un bon exemple. Le ministre — ou n’importe qui d’autre — ne devrait pas avoir à rencontrer les dirigeants de l’entreprise pour connaître les politiques de celle-ci concernant la suspension des comptes d’utilisateurs ou le signalement de comportements à la police. Une plus grande transparence devrait être le point de départ de tout cadre réglementaire. Une loi sur la transparence de l’intelligence artificielle devrait remplir trois fonctions. Premièrement, garantir que les politiques d’entreprise en matière d’intelligence artificielle concernant la sécurité des utilisateurs sont accessibles au public, y compris les normes relatives aux mesures à prendre au-delà du signalement de contenu ou de la suspension d’utilisateurs.
Deuxièmement, exiger la transparence sur les œuvres incluses dans les grands modèles linguistiques afin que les créateurs disposent des données nécessaires pour exercer leur choix et demander le retrait de contenu s’ils le souhaitent. Troisièmement, exiger des entreprises qu’elles publient des rapports annuels de transparence sur les demandes des gouvernements et des forces de l’ordre visant des utilisateurs ou des contenus. Cette approche répond à des préoccupations réelles sans porter atteinte à la vie privée ni figer des règles qui pourraient ne pas s’adapter à un environnement en constante évolution.
Le Canada a ici une véritable occasion. Nous disposons de talents en intelligence artificielle, d’une attention croissante du public pour la gouvernance et d’un intérêt multipartite pour réussir dans ce domaine. La pire chose que nous pourrions faire serait de gaspiller cette occasion avec de mauvaises politiques. Je me ferai un plaisir de répondre à vos questions.
Le président : Merci, monsieur Geist. Il y a désormais de l’espoir pour nous tous. Ce fut une excellente introduction. Toutes les introductions ont été très positives.
Je tiens à informer les sénateurs qu’ils disposeront maintenant d’environ cinq minutes pour poser des questions. Si vous souhaitez poser une question, veuillez en informer la greffière comme d’habitude, et j’invite la vice-présidente, la sénatrice Dasko, à lancer la séance en posant la première question.
La sénatrice Dasko : Bienvenue et merci aux témoins. Monsieur Geist, je suis très heureuse de vous revoir. Cela me ramène à l’époque du projet de loi C-11 et me rend un peu nostalgique.
Je vais commencer par vous poser quelques questions. Parmi les sujets que nous examinons au sein de ce comité figurent — disons — les méfaits de l’intelligence artificielle. Nous avons entendu de nombreux récits sur les avantages évidents de l’intelligence artificielle. Nous avons entendu des scénarios catastrophes concernant l’avenir. Je pense que nous avons tout entendu.
Je voudrais vous poser une question précise : lorsque nous parlons de méfaits, nous parlons des préjudices causés aux particuliers par la manipulation, la mésinformation, la désinformation et tous ces effets négatifs de l’intelligence artificielle. Je voudrais connaître votre point de vue sur la manière dont nous devrions, selon vous, faire face à cela. Quelle est la meilleure façon pour nous de gérer cela?
M. Geist : Merci pour cette question, et merci de m’avoir invité à nouveau devant le comité.
Je dirais, pour commencer, qu’après la fusillade de Tumbler Ridge, on a entendu parler de l’idée d’inclure les robots conversationnels de l’intelligence artificielle dans la Loi sur les préjudices en ligne pour traiter ce préjudice précis. Je pense que ce serait une erreur, du moins compte tenu de la façon dont la Loi sur les préjudices en ligne ou le projet de loi C-63 qui l’a précédée ont été formulés. Les choix législatifs qui y ont été faits concernaient particulièrement les médias sociaux, et je ne pense pas qu’ils s’appliquent de la même manière aux robots conversationnels alimentés par l’intelligence artificielle.
Cela dit, le principe fondamental qui sous-tendait cette législation était le devoir d’agir de manière responsable. Certains pensent que cela offre une certaine souplesse pour préciser ce que cela pourrait signifier dans ce contexte pour les entreprises de médias sociaux. À bien des égards, cela représente un autre point de départ, en plus de l’aspect de la transparence, qui pourrait très bien s’appliquer dans ce contexte. Nous devrions être tout à fait prêts à dire que les entreprises d’intelligence artificielle — de la même manière que nous envisagions les entreprises de médias sociaux — devraient avoir un devoir semblable, à savoir le devoir d’agir de manière responsable.
Cette obligation peut sembler quelque peu différente de celle qui s’appliquait aux réseaux sociaux, mais c’est par là que nous pourrions commencer. Outre cela — et c’est pour cette raison que j’ai choisi d’insister sur cette question de transparence —, il y a un sentiment général que nous n’en savons toujours pas assez sur ce qui se cache sous le capot. Selon le droit d’auteur, mais aussi en considérant les politiques elles-mêmes ainsi que leur application et leur mise en œuvre, une meilleure compréhension de ce qui se passe dans les grands modèles linguistiques nous permettra de mieux identifier les actions des entreprises qui pourraient contribuer à certains de ces préjudices. Cela aidera à déterminer quelles mesures réglementaires pourraient être appropriées.
La sénatrice Dasko : Vous attribuez aux systèmes d’intelligence artificielle la responsabilité de se comporter de manière responsable?
M. Geist : Eh bien, le devoir d’agir de manière responsable dans le contexte des préjudices en ligne inclut des éléments comme les mesures de sécurité et ce que les entreprises feraient dans certaines circonstances, avec une application réelle qui les tiendrait responsables en cas de non-respect de leurs politiques.
L’une de mes principales sources de frustration — et ce principe s’applique certainement non seulement à l’intelligence artificielle, mais aussi à bien d’autres sujets — est que les politiques édictées sur papier par les entreprises sont très souvent excellentes, mais que leur mise en pratique est incohérente. Ce qui se passe réellement est souvent assez opaque.
Rendre cela plus transparent grâce à des obligations de signalement et à des exigences explicites quant à ce que tout cela pourrait signifier nous permet d’identifier réellement certains des préjudices. Il peut y avoir des cas où les entreprises devraient en faire davantage. Elles disent qu’elles agissent, mais il n’en est rien. Il peut y avoir d’autres cas où c’est simplement une mauvaise interprétation de ce qui se passe. Sans une plus grande transparence, qui semble malheureusement peu probable sans une volonté explicite de la favoriser et de la promouvoir, il est difficile de connaître les faits et, par conséquent, de concevoir des règlements efficaces.
Le sénateur Lewis : Merci à vous trois pour vos observations de ce matin. Ma première question s’adresse à Mme Korpela.
Y a-t-il des exemples actuellement en Europe? Vous avez parlé de nouveaux produits et de la manière dont ils sont conçus. Y a-t-il des pays qui commencent à orienter davantage leurs produits vers une génération plus âgée, que ce soit par la réglementation ou simplement par une connaissance générale des consommateurs plus âgés, etc., si c’est la bonne façon de le formuler?
Mme Korpela : Merci pour votre question, sénateur. J’aimerais pouvoir dire que oui, nous constatons un changement, mais, malheureusement, je dois avouer que nous tentons de proclamer autant que possible la nécessité de concevoir des produits conviviaux et de faire participer les personnes âgées.
Pour l’instant, monsieur Geist, vous avez dit que les politiques peuvent paraître bonnes sur papier. De nombreuses entreprises peuvent dire qu’elles font participer les personnes âgées, mais, souvent, la situation se résume à présenter le produit fini à des personnes âgées et à leur demander si cela leur convient. Mais lorsque les personnes âgées disent qu’elles ne comprennent pas la logique ou que la police est trop petite, on leur répond qu’il est trop tard pour apporter des changements aussi importants à ce stade.
Plutôt que d’essayer de revenir en arrière, les personnes âgées devraient être consultées dès le début, dès les premières étapes. Merci.
Le sénateur Lewis : Monsieur Geist, vous avez brièvement évoqué le commerce et la façon dont certains règlements — surtout compte tenu de la position dominante des États-Unis dans ce domaine — présentent un risque éventuel. Je sais que la possibilité de risque est là pour le Canada. Que pouvons-nous faire pour gérer cette question avec les États-Unis et compte tenu de la nature de leur réglementation? Si le Canada met en place des règlements, comme vous l’avez dit, cela nous placera alors en position nettement désavantageuse par rapport aux États-Unis.
M. Geist : Nous devons effectivement être conscients de certains risques. Cela ne signifie pas que nous ne devons pas créer des règlements appropriés. Nous devons dans certains cas faire nos propres choix, mais nous devons également reconnaître que nous assistons ici à un changement mondial.
En réfléchissant à nouveau sur le projet de loi C-27, connu sous le nom de Loi sur l’intelligence artificielle et les données, ou LIAD, présenté par le gouvernement précédent et largement inspiré par la loi de l’Union européenne sur l’intelligence artificielle, je me suis rappelé qu’il visait principalement à protéger la vie privée dans le domaine de l’intelligence artificielle. On avait l’impression que le gouvernement s’était empressé de proposer quelque chose et avait utilisé ce modèle. Nous avons constaté, même au sein de l’Union européenne, un éloignement de certains de ces principes.
Le secteur évolue rapidement, et la concurrence a son importance. On estime, à juste titre, que nous voulons que les entreprises investissent ici. Nous voulons que les experts en intelligence artificielle et les travailleurs puissent rester au Canada et y trouver des débouchés. Trouver cet équilibre peut devenir un défi.
Il est possible, incontestablement, d’établir des règlements qui garantissent que nous abordons des questions comme la souveraineté des données et la souveraineté numérique de manière plus large au Canada, afin qu’il existe des options adaptées au Canada. On peut veiller à ce que nos règles de confidentialité, nos règles sur le droit d’auteur et même sur les préjudices en ligne dont la sénatrice Dasko parlait plus tôt soient abordées autrement qu’aux États-Unis.
En même temps, nous devons reconnaître que si nous penchons trop d’un côté, au point où les coûts d’exploitation ici sont extrêmement élevés ou qu’il y a une incertitude considérable quant à l’exploitation ici, cela aura des conséquences. Nous pourrions dire que ce sont là les choix que nous voulons faire et que c’est le marché que nous souhaitons. Mais parfois, dans ce contexte, on ne peut pas tout avoir. Certains de ces choix pourraient bien signifier que nous passons à côté d’une partie de ces investissements ou que certains acteurs canadiens choisissent de s’installer ailleurs parce qu’ils finissent par trouver que, d’un point de vue purement économique, c’est logique.
Le sénateur Wilson : Ma question s’adresse à n’importe lequel de nos trois témoins. Nous avons parlé un peu de l’Union européenne et de la façon dont le Canada s’est inspiré de ce que celle-ci faisait en matière de législation. Quels sont actuellement les pays à l’avant-garde en matière de politique dans ce domaine? Y a-t-il des pays particuliers qui se trouvent dans une situation plus proche de celle du Canada — pas les puissances hégémoniques, mais les puissances moyennes, si vous voulez?
M. Geist : Toutes les nations s’efforcent de trouver une solution qui sert leurs propres intérêts. Quant à un modèle que le Canada pourrait simplement suivre, pour l’instant, il n’en existe pas. Il y a des différences entre les gouvernements. Franchement, il y a des différences entre les entreprises d’intelligence artificielle. Nous parlons des entreprises d’intelligence artificielle comme si elles étaient toutes identiques. OpenAI et Anthropic n’ont pas la même approche en matière de réglementation de l’intelligence artificielle et de nombreuses autres questions. La situation est très complexe.
Nous pouvons examiner certains des changements les plus récents. Le Japon en est un bon exemple. Les politiques japonaises de ces derniers mois indiquent que le pays souhaite devenir un pays qui facilite l’intelligence artificielle et en rend le développement le plus simple au monde. Le Japon change de cap en matière de protection de la vie privée. Il change de cap sur un certain nombre de questions pour dire, en substance : « C’est là que les choses évoluent, et nous voulons être un chef de file dans ce domaine. »
D’autres pays, même au sein de l’Union européenne, disent essentiellement être mal à l’aise avec la loi européenne sur l’intelligence artificielle, car ils estiment que celle-ci pourrait, en fin de compte, les rendre moins compétitifs. Nous avons vu la France et l’Allemagne prendre un peu de distance au cours des dernières étapes de ces négociations, car elles s’inquiétaient des répercussions que cela pourrait avoir sur leur marché intérieur.
Je comprends que l’on se demande instinctivement : quel modèle étranger le Canada pourrait-il suivre? En réalité, nous devons faire preuve de souplesse, d’agilité et reconnaître qu’il n’y a pas qu’un seul modèle. Cela implique en fin de compte de définir les orientations prioritaires en se demandant : parmi ces différents enjeux, lequel est le plus important? Quels préjudices sont les plus graves à nos yeux, ceux qui constituent, selon nous, les enjeux fondamentaux à traiter? Quelles perspectives économiques voulons-nous nous assurer de conserver? Nous devons faire de notre mieux pour élaborer des politiques adaptées à ces enjeux, tout en sachant que nous évoluons dans un contexte où personne n’a vraiment trouvé la solution, du moins pas sous la forme d’un modèle où l’on pourrait dire : « Bon, voilà ce que nous allons faire. »
Le président : Maître Werneburg, pourriez-vous nous faire part de vos réflexions?
Me Werneburg : Avec plaisir. Je dirais qu’en matière de droit d’auteur, l’Australie et le Royaume-Uni ont récemment pris position contre une exception pour l’exploration de textes et de données. C’est le modèle que nous souhaiterions avoir au Canada à cet égard. Le professeur Geist a mentionné que l’Union européenne a effectivement une exception pour l’exploration de textes et de données. Bien que nous n’aimions pas leur modèle et qu’il ne soit pas idéal, ils ont également une disposition d’exclusion. Tout titulaire de droits qui choisit de s’exclure de ce système n’est pas soumis à cette exception. Certains de nos principaux partenaires commerciaux estiment que le droit d’auteur est un enjeu important dans le contexte de l’IA générative, et nous invitons vivement le Canada à suivre cette voie.
Le président : Avez-vous un dernier mot à ajouter, madame Korpela?
Mme Korpela : J’ajouterais le point de vue de la Finlande concernant les classements de l’Union européenne et de l’Organisation de coopération et de développement économiques, l’OCDE. En matière de préparation à l’IA, la Finlande se classe parmi les premiers, voire en tête. Cependant, comme le professeur Geist l’a dit, tous les pays éprouvent des difficultés. Pour la Finlande, comme nous voulons rester en tête ou être au premier plan dans cette course à l’IA, cela a été difficile, car il nous est également arrivé d’aller trop vite, et nous avons dû faire quelques pas en arrière.
Par exemple, en matière de détection de la fraude dans nos systèmes de sécurité sociale, l’institut finlandais de l’assurance sociale a tenté d’utiliser l’IA pour détecter d’éventuelles fraudes, puis a cessé de l’utiliser en invoquant le manque de clarté des balises juridiques. C’est donc difficile lorsqu’on fait concurrence à d’autres pays et que la Finlande veut rester en tête. Parfois, il faut aussi prendre un peu de recul et voir si les choix sont judicieux. Merci de votre attention.
La sénatrice Simons : Je m’adresse d’abord à Me Werneburg. Vous avez entendu le professeur Geist évoquer ce qui arriverait si les modèles d’IA en cours d’entraînement n’étaient pas entraînés sur du contenu canadien. C’est intéressant, car je ne vois pas toujours le professeur Geist comme un défenseur du contenu canadien, mais il soulève un point intéressant : si l’on crée, dans l’univers de l’IA, un monde où la culture canadienne n’existe pas, alors la culture canadienne n’est pas présentée aux utilisateurs de l’IA. Comment trouver un équilibre qui protège les droits d’auteur et les droits de propriété intellectuelle des musiciens, des écrivains et des artistes canadiens tout en évitant que l’IA soit aveugle à la culture canadienne?
Me Werneburg : Merci pour cette question. La réponse est simple : l’octroi de licences. Les entreprises spécialisées dans l’IA ont bel et bien un moyen pour intégrer du contenu culturel canadien dans leurs modèles. Il s’agit d’obtenir l’autorisation des titulaires de droits en les rémunérant et en faisant preuve de transparence quant au contenu de leurs ensembles de données. Toutes les avancées technologiques majeures des 100 dernières années ont donné lieu à des accords de licence. Nous l’avons constaté avec la diffusion en continu, la radio et la télévision. Ces technologies ont toutes offert des possibilités de distribuer et de diffuser plus largement le contenu canadien. Avec l’IA, nous avons l’occasion de conclure un accord économique mutuellement avantageux. Il suffit d’amener les entreprises d’IA à la table des négociations.
La sénatrice Simons : Monsieur Geist, comme la sénatrice Dasko l’a mentionné, vous avez discuté avec nous des projets de loi C-11 et C-18. Amener des entités américaines à la table des négociations est plus facile à dire qu’à faire. Quels sont les risques? Je tiens vraiment à ce que les créateurs de contenu canadiens — je déteste cette expression — soient rémunérés pour leur propriété créative et intellectuelle. Comment y parvenir sans pénaliser durablement le secteur canadien de l’IA?
M. Geist : À certains égards, je souscris à ce que nous venons d’entendre. Ma solution pour y parvenir est toutefois quelque peu différente. Nous sommes tous deux d’accord sur l’importance de la transparence. Les créateurs devraient bénéficier de cette transparence. Tout le monde devrait savoir ce qui alimente les grands modèles linguistiques.
Je suis d’accord, et on nous dit que les licences pourraient jouer un rôle à cet égard. La question à laquelle le gouvernement ou un comité sénatorial serait confronté est de savoir si cela vous oblige à agir à ce stade. La réponse à cette question est « non ». La réalité est que nos principaux partenaires commerciaux disposent d’exceptions pour l’exploration de textes et de données ou l’utilisation équitable. Les États-Unis, l’Union européenne et le Japon ont des exceptions très larges pour l’exploration de textes et de données. C’est la réalité. Ne pas prévoir d’exceptions constitue un risque du point de vue canadien.
Plus généralement, si ces données canadiennes ont de la valeur et si les entreprises spécialisées dans l’IA estiment qu’elles doivent obtenir une licence ou en tirer la valeur dans le cadre de cette licence, elles le feront. Nous l’avons vu dans le domaine de l’information. L’un des arguments avancés lors de mes comparutions devant les comités sur le projet de loi C-18 était que ces entreprises cherchaient déjà à obtenir des licences là où il y a une réelle valeur. Nous pourrions bien voir — en fait, nous commençons à voir — la même chose se produire dans ce contexte en ce qui concerne certaines entreprises d’IA. Nous assistons à l’octroi de licences. Nous n’avons pas besoin, à ce stade, que le gouvernement intervienne pour dire : « Vous devez obtenir une licence. » Nous avons la Commission du droit d’auteur Canada si elle décide que c’est la voie qu’elle souhaite suivre, mais même dans le contexte de la SOCAN, sa principale source de revenus provient des plateformes de diffusion numérique. Celles-ci font l’objet de négociations de licences.
Nous n’en sommes encore qu’au début dans ce domaine. Laissons les négociations se dérouler là où elles sont nécessaires. Démontrons la valeur des données canadiennes pour ces systèmes, et nous aboutirons à une situation très similaire à celle que nous connaissons avec certaines plateformes de diffusion, où nous constatons qu’une rémunération commence à être versée.
La sénatrice Simons : À 61 ans, j’espère que je comprends bien tout ça.
Le sénateur Quinn : Merci aux témoins d’être venus. Lors d’une précédente réunion du comité, j’ai demandé si l’IA était comparable à un entrepôt de données, à la différence près qu’elle couvre l’ensemble d’Internet et en extrait des renseignements. Ma question se résume en fait à ceci : y a-t-il des enjeux plus importants liés dans ce contexte? Devrions-nous nous inquiéter que ce système d’autoapprentissage — plus on s’y plonge et plus l’IA devient intelligente — soit capable de prendre le contrôle de systèmes de sécurité, de systèmes financiers, etc.? Devrions-nous nous inquiéter de phénomènes comme la suppression cognitive chez les enfants qui deviennent si dépendants qu’ils ne savent plus apprendre sans l’IA?
Le troisième élément est le suivant : madame Korpela, vous avez mentionné les personnes âgées. L’IA a un effet non seulement sur les enfants, mais aussi sur les personnes âgées. Qu’en est-il de la psychose liée à l’IA, où Internet oriente les gens vers des comportements qui leur causent du tort ou en causent à autrui? Ne s’agit-il pas là d’enjeux plus graves?
La dernière partie de ma question est la suivante : nous sommes le Canada, et il y a la Finlande, d’autres puissances moyennes, etc. Les États-Unis, la Chine et peut-être le Japon, comme vous l’avez mentionné, ne sont-ils pas les principaux acteurs du développement et de la poursuite de l’IA? Je pense que les États-Unis et la Chine sont les deux principaux acteurs. Que devons-nous faire? Que devrions-nous faire pour empêcher que les problèmes que je viens de soulever ne se produisent ici au Canada?
M. Geist : Vous me regardez.
Le sénateur Quinn : Je vous regarde, et je regarde les deuxième et troisième témoins.
M. Geist : Il y a beaucoup de choses à dire là-dessus. Vous avez mentionné la sécurité, par exemple. Comme vous le savez sans doute, à l’heure actuelle, le futur modèle Mythos d’Anthropic a soulevé exactement ce genre de questions : son pouvoir d’être si intelligent ou efficace lorsqu’il s’agit d’examiner du code, identifiant ainsi des vulnérabilités qui existent dans les systèmes depuis littéralement des décennies et qui ne sont révélées que maintenant.
Cela met en évidence un véritable défi auquel nous sommes confrontés, car, comme vous le savez peut-être, ils ont lancé le projet Glasswing, qui rassemble de nombreux acteurs différents. Ils ne commercialiseront pas le modèle Mythos avant plusieurs mois, du moins pas dans l’immédiat. Ils tentent en effet de donner aux entreprises une longueur d’avance pour régler ce genre de problèmes de sécurité.
Cela semble être une démarche très responsable eu égard au devoir d’agir de manière responsable, mais reconnaissons qu’il s’agit d’une entreprise privée dépourvue d’une structure de gouvernance intégrée pour décider précisément de la manière dont nous traitons certains de ces enjeux. Nous voyons les gouvernements et d’autres acteurs s’efforcer de trouver des solutions.
Vous avez raison de dire que nous devrions, en quelque sorte, voir plus grand et nous pencher sur d’autres types de questions qui se posent. Pour compléter, je tiens à réitérer ce que j’ai dit en introduction concernant la confidentialité et les résultats. Nous avons tendance à nous concentrer principalement sur ce qui alimente ces grands modèles linguistiques, mais à bien des égards, la véritable puissance réside de plus en plus dans l’inférence qui s’opère. L’inférence, c’est cette notion selon laquelle ces mêmes services se connectent à Internet et peuvent effectuer des recherches en temps réel. Quiconque utilise ces services sait que la puissance de recherche des différentes entreprises d’IA est bien supérieure à celle d’une simple requête de recherche que vous pourriez saisir.
Le risque ici est qu’elles sont désormais capables d’assembler de nombreux éléments d’information différents qui, pris isolément, sont assez insignifiants, mais que l’on peut commencer à mettre en relation et à utiliser pour faire des inférences, en quelque sorte. Imaginons que l’on parle de l’identité d’une personne. Vous prenez des informations qui, prises isolément, ne permettent pas d’identifier la personne, mais le système, grâce à une invite, commence à les assembler.
Nos lois ont été conçues autour de cette idée de dépersonnalisation. La dépersonnalisation est-elle devenue caduque dans un contexte où il suffit d’une simple invite dans un système d’IA pour que Humpty Dumpty se reconstitue? Ce sont là des questions importantes auxquelles nous devons réfléchir.
Mme Korpela : Merci pour cette question, monsieur Lewis.
Oui, le fait que nos algorithmes orientent les gens est un défi de taille. C’est un sujet qui revient presque quotidiennement dans mes recherches et mes entrevues auprès de personnes âgées. Anne-Britt Gran et ses collègues ont mené une étude intéressante en Norvège. Ils disposaient d’un échantillon représentatif de la population norvégienne et ont constaté que, parmi les personnes âgées de 70 ans et plus, 74 % n’avaient absolument aucune conscience de l’existence des algorithmes. C’est un sujet qui revient également dans mes recherches.
Par exemple, des personnes que j’ai interviewées m’ont dit qu’elles adoraient répondre à ces questionnaires sur Facebook qui demandent : « Si vous étiez un chien, de quelle race seriez‑vous? » Elles répondent aux questions en fournissant beaucoup de renseignements personnels. Puis, quand on leur demande si elles savent que ces données sont utilisées pour entraîner différents modèles et leur envoyer des publicités plus personnalisées, elles disent qu’elles n’en avaient aucune idée.
Il est certain qu’il s’agit d’un risque important. Les personnes âgées ne sont absolument pas conscientes des algorithmes qui les orientent dans différentes directions. Merci de votre attention.
Me Werneburg : Évidemment, les préjudices en ligne sortent quelque peu de notre compétence en matière de droits d’auteur à la SOCAN, mais nous convenons de l’importance de l’étiquetage des contenus dans le domaine musical. Les consommateurs méritent de comprendre ce qu’ils écoutent et de savoir si cela a été généré par l’IA ou créé par un humain, et nous soutenons fermement cette idée.
[Français]
Le sénateur Cormier : Ma première question sera pour Me Werneburg.
J’aimerais revenir sur la question des licences. Dans le document que la SOCAN a produit dans le cadre de la consultation du gouvernement du Canada pour sa prochaine stratégie en IA, vous exhortez le gouvernement à ne pas promulguer de nouvelles exceptions ou à modifier les exceptions existantes pour les fouilles de textes et de données. Vous dites que cela détruirait ce marché et empêcherait les créateurs d’être indemnisés et de contrôler l’utilisation de leurs œuvres. Pouvez‑vous élaborer un peu cette question pour mieux comprendre la capacité d’ajouter ou non des exceptions qui sont contenues dans la Loi sur le droit d’auteur? Cela m’intéresse beaucoup. Il y a certaines utilisations équitables qui sont présentes, comme la recherche, l’éducation, etc. Pouvez-vous élaborer ce sujet?
Je vous pose tout de suite ma deuxième question : quels sont les défis que vous rencontrez dans la négociation de licences? Comment la législation canadienne peut-elle aider à favoriser une meilleure négociation en cas de problème?
[Traduction]
Me Werneburg : Merci, monsieur Cormier, pour votre question.
En ce qui concerne le premier point sur les exceptions relatives au droit d’auteur, vous avez tout à fait raison : des exceptions au droit d’auteur figurent déjà dans la Loi sur le droit d’auteur, notamment l’utilisation équitable. Cependant, il n’est pas encore clairement établi si l’une de ces exceptions s’appliquerait à un système d’IA. Des litiges sont dans divers ressorts, y compris au Canada, mais nous n’avons pas de jugement définitif ni de précédent juridique clair sur ce qui s’appliquerait à une situation donnée.
La SOCAN s’oppose fermement à l’introduction d’une nouvelle exception pour l’IA en ce qui concerne l’exploration de textes et de données. Le grand danger réside dans le fait que, alors que nous avons évoqué plus tôt l’importance d’un marché émergent des licences, une exception relative à l’exploration de textes et de données réduirait ce marché à néant. Cela empêcherait en substance les titulaires de droits de négocier ces licences avant même que les tribunaux ne se soient prononcés sur la question.
Pour revenir sur le point soulevé plus tôt par le professeur Geist, bien que les États-Unis disposent de la doctrine de l’utilisation équitable, des litiges y sont également en cours. Aucune exception relative à l’IA n’a été codifiée depuis l’avènement de l’IA, de sorte que l’interprétation des tribunaux de l’application de l’utilisation équitable reste incertaine dans de nombreux cas.
Pour nous, l’introduction d’une nouvelle exception au droit d’auteur serait dévastatrice pour notre marché et pourrait en fait nous placer en décalage avec d’autres partenaires commerciaux, comme ceux que nous avons mentionnés.
Pourriez-vous me rappeler votre deuxième question, s’il vous plaît?
Le sénateur Cormier : Elle concerne les difficultés ou les défis auxquels vous faites face lorsque vous négociez des licences.
Me Werneburg : Tout à fait. La première difficulté réside vraiment dans cette zone grise juridique, et nous attendons des précisions à ce sujet.
Je pense également qu’en matière de détection des infractions, nous sommes confrontés à un défi majeur lié au manque de transparence des entreprises d’IA. Dans tous les cas, nous n’avons aucun moyen clair et simple de déterminer quand des œuvres de notre répertoire sont incluses dans un ensemble de données d’entraînement et intégrées à un modèle d’IA. L’adoption de règlements sur la transparence des données d’entrée permettrait aux titulaires de droits de déterminer beaucoup plus facilement et avec plus de certitude quand une licence est requise ou quand nous pouvons faire valoir nos droits.
De même, en ce qui concerne les produits, la possibilité de déterminer précisément ce qui a été utilisé pour générer un produit de l’IA — si nous pouvons retracer les œuvres sur lesquelles le modèle a été entraîné pour produire ce résultat — nous aiderait à garantir que nous pouvons accorder une licence pour ce produit de sorte que les redevances appropriées reviennent au titulaire de droits concerné.
[Français]
Le sénateur Cormier : J’ai une question pour Mme Korpela.
La transmission de la culture est importante pour assurer le développement de celle-ci et son épanouissement. Quels défis croyez-vous que vont rencontrer les personnes plus âgées dans leur capacité de transmettre leur bagage culturel aux plus jeunes générations à travers l’IA?
[Traduction]
Mme Korpela : Merci pour cette excellente question.
L’un des plus grands défis ne réside pas seulement dans l’utilisation que les personnes âgées font de l’IA et dans leurs connaissances de l’informatique, mais dans la façon dont l’IA et ses technologies les représentent. De nombreuses personnes âgées disent que lorsqu’elles regardent le discours public ou les nouvelles, le seul message qu’elles voient est que les personnes âgées sont un fardeau pour la société et qu’elles coûtent très cher au système de santé. C’est dangereux, car lorsque l’on voit ces préjugés négatifs circuler constamment dans les médias, on commence à les intérioriser. Les personnes âgées expliquent souvent qu’elles ont l’impression que si le gouvernement pense qu’elles ne sont pas capables d’apprendre, alors elles n’ont plus rien à apporter à la société. C’est très néfaste, car alors, comme vous l’avez dit, nous allons perdre la culture. Si les personnes âgées acquièrent le sentiment qu’elles n’ont rien à apporter ou à partager et qu’elles ne possèdent pas de connaissances pouvant être transmises aux générations futures, c’est très dangereux.
Les modèles d’IA actuels montrent également des signes d’âgisme visuel. Si vous demandez une image d’un adulte âgé, ils génèrent généralement l’image d’une personne aux cheveux gris en fauteuil roulant ou avec une canne.
Le sénateur Cormier : Que dire des personnes âgées chauves?
Mme Korpela : Je ne sais pas.
Le sénateur Cormier : Merci, madame Korpela.
La sénatrice Mohamed : J’ai tellement de questions.
Mon père a 81 ans et ma mère, 80 ans, et vous m’avez rappelé à quel point il est important d’être patiente, alors je vous en remercie. Ma question ne porte pas là-dessus, mais j’ai pensé qu’il fallait que je le précise, car ils suivent tout ce que je dis.
J’aimerais connaître l’avis de vous trois. Au risque de m’exposer aux railleries de l’auditoire, même si je saisis les limites de la position que je m’apprête à défendre, au moment où nous élaborons notre cadre autour de l’IA, est-il important que nous introduisions l’idée d’un — oui, je vais le dire — ombudsman de l’IA? Nous en avons un pour le financement, le secteur bancaire, les prisons, l’information et la protection de la vie privée. Le gouvernement devrait-il l’envisager?
Cela me dit que nous devons avoir des règlements, des amendes et des obligations de divulgation, mais y a-t-il un rôle à jouer pour quelqu’un qui dispose des pouvoirs et de la discrétion nécessaires, et de tout ce qui va avec? Est-ce que cela a du sens? Je vous pose la question à vous trois, si vous voulez bien y répondre.
Mme Korpela : Merci pour cette excellente question. Je pense que oui, cela aurait du sens, car, pour l’instant, du moins en Finlande, nous constatons un manque de coordination. De nombreuses initiatives cloisonnées visent à améliorer les compétences et la culture numériques des personnes âgées, mais personne ne supervise l’ensemble de ces efforts. Je suis tout à fait d’accord pour qu’on désigne une personne ayant le pouvoir de superviser l’ensemble et de s’assurer que les ressources soient utilisées le plus efficacement possible.
Au moins en Finlande, nous avons beaucoup d’initiatives et de projets en cours, mais trop souvent, ils se chevauchent. On fait quelque chose dans le nord de la Finlande, mais quelqu’un recrée ensuite les mêmes supports dans le sud du pays. Il y a une sorte de chevauchement et les fonds ne sont pas utilisés de la manière la plus efficace. Oui, merci.
La sénatrice Mohamed : Pour rebondir là-dessus, veuillez répondre à la question, mais pourriez-vous également nous dire, tous les deux, si cela contribuera à dissuader les entreprises qui ne font peut-être pas preuve de la diligence voulue?
M. Geist : Vous avez mis le doigt sur le bon problème, mais vous proposez la mauvaise solution. Nous le constatons même au sein du cabinet fédéral, où nous avons un ministre chargé de l’IA, ce qui revient en fait à peu près au même. Cela ne veut pas dire qu’il est l’ombudsman, mais nous avons besoin de quelqu’un capable d’examiner tous ces enjeux. Le problème, c’est que la complexité de cette question touche à tellement de domaines différents. Evan Solomon a-t-il la capacité de s’occuper de la politique fiscale lorsqu’il s’agit de régler certains de ces enjeux fiscaux? Devrait-il être responsable de la loi sur la protection de la vie privée? A-t-il compétence en matière de culture? Pour revenir à la question précédente, a-t-il compétence en matière de sécurité publique pour régler certains enjeux de sécurité, sans parler des enjeux liés à la justice? Je pense que la réponse est « non ».
Dire qu’il nous faut une seule personne pour relever cet important défi de gouvernance, je ne pense pas que c’est une solution efficace. Je me soucie de la protection de la vie privée. Je ne veux pas qu’un ombudsman de l’IA en soit responsable. Je veux que le commissaire à la protection de la vie privée s’en charge. En ce qui concerne les réseaux et les autres enjeux connexes sur lesquels le Conseil de la radiodiffusion et des télécommunications canadiennes (CRTC) intervient, je veux que l’organe de réglementation s’en occupe.
Je pense effectivement que nous devons nous pencher sur la mise en place des structures de gouvernance adaptées à la situation actuelle, mais je ne suis pas convaincu, du moins pour l’instant, qu’un seul ombudsman de l’IA soit un moyen efficace d’y parvenir. Cela créerait en fait de réels risques pour traiter plus efficacement certains défis existants.
Me Werneburg : Merci. En ce qui concerne le droit d’auteur, avec notre système actuel, les titulaires de droits disposent des outils nécessaires pour intenter des poursuites devant les tribunaux, ce qui peut être efficace pour faire respecter leurs droits tant que nous avons la transparence nécessaire pour savoir quand nos œuvres sont utilisées. Ce serait là le chaînon manquant, plutôt que de modifier la responsabilité.
Le président : Merci.
[Français]
La sénatrice Miville-Dechêne : Ma question s’adresse à M. Geist.
J’aimerais revenir sur quelque chose que vous avez mentionné tout à l’heure. Je vous connais comme étant un farouche partisan de la vie privée des internautes. Cela a été clair au cours de nos échanges des dernières années. Or, j’ai de la difficulté à réconcilier cela avec vos propos au sujet d’un éventuel projet de loi sur les préjudices en ligne. Vous dites que, pour protéger les enfants, notamment des agents conversationnels, les sites eux‑mêmes devraient s’autoréglementer. Vous appelez cela l’obligation de diligence. Dans le fond, ce qu’on leur demande, c’est d’exclure d’eux-mêmes les enfants de leurs sites.
Or, en faisant cela, ne mettez-vous pas en danger la vie privée des enfants? Si ce sont les sites eux-mêmes qui s’assurent que les enfants n’y accèdent pas, est-ce que cela veut dire qu’ils fouillent dans les données privées, notamment les adresses des enfants, pour aller chercher leurs renseignements personnels? N’y a-t-il pas un problème d’atteinte à la vie privée des enfants, par opposition à avoir une tierce partie qui regarde tout cela?
[Traduction]
M. Geist : Merci pour cette question. Je ne pense pas que c’est ce que j’avais dit, alors merci de m’offrir la chance de préciser ma pensée.
Je pense que la loi sur la protection de la vie privée s’appliquera sans aucun doute à ces entreprises, et cela vaut, bien sûr, pour les enfants, comme pour tout le monde. La question devient : comment s’assurer que la loi modernisée sur la protection de la vie privée soit efficace dans ce contexte?
La sénatrice Miville-Dechêne : Comment la faire respecter? Des plateformes se créent partout dans le monde.
M. Geist : En ce qui concerne l’application de la loi, l’une des raisons pour lesquelles nous avions désespérément besoin d’adopter le volet « protection de la vie privée » du projet de loi C-27 est que cela fait désormais 25 ans que nous sommes privés d’un système d’application efficace. Nous avons un commissaire à la protection de la vie privée qui ne peut rendre aucune ordonnance à l’échelle fédérale. Son rôle se limite strictement à la publication de conclusions non contraignantes. Lorsqu’une violation de la loi sur la protection de la vie privée est constatée, il doit alors repartir de zéro et recommencer devant les tribunaux, ce qui, comme nous l’avons vu dans l’affaire Facebook, signifie que l’on se retrouve avec une affaire comme celle de Cambridge Analytica qui dure littéralement une décennie. Nous avons besoin de lois sur la protection de la vie privée qui soient efficaces du point de vue de l’application. Sur ce point, nous sommes tout à fait d’accord. C’est essentiel pour garantir une protection efficace aux Canadiens de tous âges.
La sénatrice Miville-Dechêne : Oui, mais croyez-vous vraiment que ces plateformes respecteront les lois sur la protection de la vie privée? Je suis désolée, mais pour ma part, je n’y crois pas. Sommes-nous en train de dire que les robots conversationnels ne porteront pas atteinte à la vie privée des enfants lorsqu’ils examineront tout cela pour déterminer qui est inclus et qui est exclu?
M. Geist : Je dis que le commissaire à la protection de la vie privée du Canada, et non ces entreprises, devrait appliquer les lois sur la protection de la vie privée. Nous devons veiller à ce qu’il y ait une plus grande transparence concernant les activités de ces entreprises afin que le commissaire à la protection de la vie privée puisse faire son travail efficacement, signaler les cas de violation et faire respecter la loi.
Je ne plaide absolument pas pour un modèle d’autorégulation. C’est tout le contraire. J’ai dit que la loi sur la protection de la vie privée devait être beaucoup plus efficace. En réponse à Mme Dasko et à la question de savoir ce que nous devrions faire face à certains de ces préjudices, j’ai proposé le modèle des préjudices en ligne adapté au contexte de l’IA, car ce n’est pas la même chose que les médias sociaux. C’est un système applicable. C’est précisément ce que je défendais. Je ne plaidais absolument pas pour un modèle d’autorégulation pur.
La sénatrice Arnold : Merci à tous d’être ici. Monsieur Geist, je suis ravie que vous adoptiez une approche équilibrée et pleine de bon sens dans ce dossier. Le ministre ou son groupe d’enquête vous consultent-ils activement?
M. Geist : J’ai eu quelques discussions avec des fonctionnaires de temps à autre, mais je n’ai en fait pas parlé avec le ministre Solomon depuis un bon moment.
La sénatrice Arnold : Intéressant. Merci.
Ma prochaine question s’adresse à Mme Korpela. Vous avez été très claire, et à en juger par les rires dans la salle, je pense que nous comprenons tous qu’il faut de la patience pour la formation. Pourriez-vous nous parler d’un programme vraiment efficace qui a donné de bons résultats en matière de sensibilisation des personnes âgées à ce sujet?
Mme Korpela : Merci. C’est peut-être mon sujet préféré, alors merci de me poser cette question. C’est également le domaine de recherche sur lequel j’ai le plus publié.
En Finlande, comme je l’ai dit, nous avons remarqué que lorsque des membres de la famille apportent un soutien numérique à leurs propres parents, des dynamiques familiales et des mouvements d’impatience entrent en jeu. Souvent, cela ne fonctionne tout simplement pas.
En Finlande, nous investissons dans le soutien numérique entre pairs, une initiative qui a donné de très bons résultats. À l’heure actuelle, plus de 800 personnes âgées travaillent comme tuteurs auprès de leurs pairs. Les personnes âgées peuvent demander de l’aide à leurs pairs.
J’ai publié un article précisément sur ce sujet. J’ai sondé des personnes âgées et leur ai demandé de comparer l’aide qu’elles recevaient d’un membre de leur famille et celle d’un pair. Elles ont dit que l’aide d’un pair était bien meilleure à bien des égards que celle de membres de leur famille. De nombreuses raisons ont été avancées, entre autres, le partage d’expériences de vie similaires et le fait d’avoir le même âge. Elles se trouvent également en quelque sorte sur un pied d’égalité. Il n’y a pas de relation enseignant-élève, ce qui permet de poser librement même les questions les plus stupides. Il y a cette patience. Les personnes âgées comprennent qu’avec l’âge, les doigts deviennent plus secs et qu’il est plus difficile de les utiliser; elles peuvent donc comprendre les défis auxquels d’autres personnes âgées sont confrontées lorsqu’elles acquièrent de nouvelles compétences.
Nous investissons massivement dans le soutien entre pairs, et cela donne d’excellents résultats.
Le président : Merci beaucoup. Malheureusement, nous sommes arrivés à la fin du temps qui nous était alloué pour ce groupe de témoins. Je tiens à tous vous remercier de votre présence aujourd’hui. Vos commentaires étaient très intéressants et utiles pour notre comité. Merci beaucoup.
Chers collègues, j’aimerais vous présenter notre prochain groupe : nous recevons Me Andrew Forde, associé et chef de la recherche en IA chez KPMG Canada; il est accompagné de Me Luc Noiseux, associé et leader régional du secteur Technologie, Médias et Télécommunications. À titre personnel, nous recevons M. Jaxson Khan, agrégé supérieur, École Munk des affaires mondiales et des politiques publiques de l’Université de Toronto; ainsi que M. Glenn Rollans, président et éditeur de Brush Education, président de Freehand Books et président du Canadian Copyright Institute. Merci à tous de votre présence aujourd’hui.
Les témoins feront une déclaration préliminaire d’environ cinq minutes, qui sera suivie d’une séance de questions-réponses avec les sénateurs. J’invite maintenant Me Forde à présenter sa déclaration préliminaire.
Me Andrew Forde, associé et chef de la recherche en IA KPMG Canada : Bonjour, monsieur le président, mesdames et messieurs. Je vous remercie de me donner l’occasion d’être ici et d’entreprendre cette importante étude.
Je m’appelle Andrew Forde. Je suis associé chez KPMG Canada, où je conseille les organisations sur la stratégie en matière d’intelligence artificielle et sur la transformation numérique. J’occupe également au sein de l’entreprise le poste de chef de la recherche en IA, où nous transformons d’excellentes idées canadiennes en solutions commerciales concrètes pour les organisations canadiennes. Je suis accompagné de mon collègue Luc Noiseux, associé et leader régional, au pôle Technologie, Médias et Télécommunications de KPMG à Montréal, qui accumule plus de 25 ans de postes de direction dans l’industrie. Me Noiseux travaille directement avec des organisations de tout l’écosystème des communications et sa perspective de la façon dont ces enjeux évoluent sur le marché est ancrée dans l’industrie.
Ensemble, nous représentons KPMG Canada, qui compte plus de 10 000 employés dans le pays. KPMG Canada est entièrement détenue par des intérêts canadiens et sert des organisations canadiennes depuis plus de 150 ans. KPMG Canada investit beaucoup en matière d’IA dans la recherche, l’ingénierie, la gouvernance et la transformation des effectifs.
Nous menons également des recherches à l’échelle du Canada sur l’adoption de l’IA par les entreprises, les consommateurs et les institutions, ce qui nous donne une vision intersectorielle générale des possibilités autant que des risques. L’IA est profondément ancrée dans tout le secteur des communications. Elle génère et modifie du contenu, soutient les salles de rédaction et personnalise ce que les Canadiens voient. Ces systèmes prennent des décisions éditoriales et font des choix curatoriaux à la vitesse de machines — sur ce qui est mis en avant, ce qui est amplifié et ce qui est occulté. Il ne s’agit pas de fonctions techniques neutres, mais de choix importants en matière de communication de renseignements, de plus en plus souvent faits par des systèmes dont la transparence et la responsabilité sont limitées.
Nos recherches sont à l’aune de cette évolution : 94 % des organisations canadiennes des secteurs de la technologie, des médias et des télécommunications ont adopté l’IA; 59 % estiment qu’elle est essentielle à leur avantage concurrentiel; et 62 % disent que l’IA générative bouleverse leur secteur.
Pour la première fois, les décisions qui façonnent l’environnement de l’information sont prises par des systèmes qui ne s’inscrivent pas dans les modèles de gouvernance traditionnels. Cela crée un vide, et les lacunes en matière de gouvernance n’attendent pas l’adoption de lois.
L’IA accélère la production de contenu et permet une personnalisation à grande échelle. La question clé en matière de politiques est de se demander quels degrés de transparence, de responsabilité et de surveillance sont nécessaires lorsque les algorithmes influencent la visibilité et la portée.
Les cadres canadiens actuels ont été conçus pour un monde où les humains créent, possèdent et contrôlent le contenu. L’IA remet ces hypothèses en question, c’est-à-dire qui est l’auteur, comment la propriété est déterminée et comment on fait respecter les droits quand le contenu peut être reproduit et redistribué instantanément.
Le problème le plus pressant auquel nous faisons face est celui de l’utilisation de documents protégés par le droit d’auteur pour entraîner de grands systèmes d’IA et du conflit apparent que cela crée entre les créateurs et les innovateurs. Le Canada a besoin de cadres de droit d’auteur modernisés, clairs et équilibrés, qui soutiennent l’innovation et protègent la valeur économique du secteur créatif canadien.
L’IA a considérablement réduit le coût de production de faux contenus grâce à l’audio, à la vidéo et au texte synthétiques. Nous observons déjà ce phénomène dans les fraudes reposant sur l’IA, notamment l’hameçonnage, l’usurpation d’identité et l’hypertrucage.
Le risque plus important ne réside pas dans un faux contenu, mais dans l’érosion cumulative de la confiance. Quand les gens commencent à douter de tout, y compris d’informations légitimes, l’impact, au-delà des médias, s’étend aux institutions et aux marchés. Il est très difficile de regagner la confiance du public une fois qu’elle est fragilisée. Il faudra plus, pour contrer ce problème, que des outils de détection. Il faudra une responsabilisation plus claire des plateformes, une coordination public-privé renforcée, un investissement soutenu dans l’éducation aux médias et une gestion des risques plus rigoureuse dans toutes les organisations canadiennes.
Nous ne pouvons pas influer sur les résultats dans le monde par une réglementation unilatérale seulement. Nous pouvons influer sur ces résultats par la crédibilité, la création de coalitions et des normes que d’autres adoptent. Tout cadre élaboré ici doit tenir compte de cette réalité. Il devra être compatible avec les systèmes mondiaux, adaptable à l’évolution de la technologie et ancré dans les valeurs canadiennes.
Le Canada est bien placé pour créer un tel cadre. Une gouvernance efficace de l’IA reconnaît à quel point celle-ci est déjà omniprésente. Elle sert à moderniser les cadres juridiques avec clarté et équilibre, et à traiter les menaces qui pèsent sur la confiance du public comme des risques systémiques, et non comme des incidents isolés.
Ce comité a l’occasion de recommander une architecture de gouvernance cohérente — une architecture qui protège l’intégrité de l’environnement de l’information au Canada, tout en favorisant l’innovation et la compétitivité. Nous avons au Canada des recherches de renommée mondiale, un secteur créatif solide et des institutions fondées sur la confiance et la responsabilisation. La question n’est pas de savoir si l’IA redéfinira les communications et le secteur dans son ensemble. Elle le fait déjà. La question est de savoir si notre gouvernance évolue avec elle.
[Français]
KPMG se réjouit de prendre part à la conversation et de contribuer à la solution alors que nous continuons de travailler et de soutenir les entreprises canadiennes.
Merci de nous avoir invités à participer aujourd’hui.
[Traduction]
Le président : Merci, maître Forde.
J’invite maintenant M. Khan à prononcer sa déclaration préliminaire. Monsieur Khan, vous avez la parole.
Jaxson Khan, agrégé supérieur, École Munk des affaires mondiales et des politiques publiques, Université de Toronto, à titre personnel : Merci, monsieur le président et honorables sénateurs. Je m’appelle Jaxson Khan. Je suis chercheur principal à l’École Munk des affaires mondiales et des politiques publiques de l’Université de Toronto, où je suis également codirecteur du projet sur la compétitivité en IA et chargé de cours sur l’IA et la transformation numérique.
Je vais présenter un argument central, parler des principales dimensions à prendre en considération dans vos domaines d’étude et conclure par trois options concrètes en matière de politiques.
La première est que le plus grand risque pour le Canada en matière d’IA n’est pas que nous réglementions trop. Ce n’est pas non plus que nous ne réglementions pas assez. C’est que nous adoptions et développions trop lentement l’IA. À l’heure actuelle, le débat au Canada porte en grande partie sur la souveraineté en matière d’IA et sur la question de savoir si nous contrôlons réellement les systèmes d’IA avec lesquels nous travaillons et que nous utilisons tous les jours. Cependant, la souveraineté sans adoption — la souveraineté sans contrôle — n’est que théorique.
Dans le rapport de l’École Munk publié en mars 2026, intitulé Sovereign by Design: Strategic Options for Canadian AI Sovereignty, que j’ai corédigé avec Sean Mullin, nous définissons la souveraineté en matière d’IA comme étant l’absence de coercition, et non comme étant l’autosuffisance technologique ou l’autarcie numérique. L’autarcie n’est pas une option pour un pays de 40 millions d’habitants qui partage la plus longue frontière non défendue du monde, dans un vaste domaine numérique, avec la plus grande économie de l’IA sur Terre. Ce dont nous avons besoin, en fait, c’est d’un raisonnement systémique — de politiques distinctes pour le calcul, les données, les modèles et les applications de l’IA —, car la logique stratégique à chaque niveau de la pile de l’IA est différente.
Je crois comprendre que le comité s’intéresse particulièrement à trois domaines d’étude : l’IA dans la création de contenu et le secteur des technologies de l’information et des communications, les TIC; le droit d’auteur et la propriété intellectuelle; ainsi que la désinformation et l’hypertrucage générés par l’IA. Je peux en parler, si vous le souhaitez, et soumettre des points de vue plus détaillés par écrit.
J’aimerais présenter au comité une perspective plus large que nous avons développée dans notre rapport intitulé Sovereign by Design, celle des cinq dimensions de la souveraineté numérique. Nous estimons que toute évaluation sérieuse de l’IA dans le secteur canadien des TIC doit tenir compte de ces cinq dimensions.
La première dimension est celle de la souveraineté juridictionnelle. Pouvons-nous dicter les règles? Il s’agit de savoir si les données, les infrastructures et les systèmes canadiens sont régis exclusivement par le droit canadien. Pour certaines charges de travail liées à l’IA et aux données — concernant la sécurité nationale, les opérations gouvernementales essentielles et les dossiers médicaux sensibles, par exemple —, le contrôle d’ordre juridictionnel est particulièrement important. Pour d’autres catégories de sensibilité des données, il peut être assuré par des protections contractuelles, notamment avec des fournisseurs mondiaux ou des mécanismes déterminés par le marché.
La deuxième dimension est celle de la souveraineté opérationnelle. Le Canada est-il en mesure de faire fonctionner de façon continue ses systèmes technologiques d’IA critiques, même lorsqu’un fournisseur, un gouvernement ou un événement géopolitique à l’étranger cherche à les perturber? C’est là que la fragilité de nos systèmes actuels, en particulier notre dépendance à l’égard de l’infrastructure infonuagique, est la plus grande.
La troisième dimension est celle de la souveraineté technologique. Il s’agit de la capacité de développer, d’adapter ou de remplacer les technologies clés à chaque niveau de la pile d’IA : calcul, données, modèles et applications. Le Canada ne fabrique pas et ne fabriquera très probablement pas de puces d’IA — encore une fois, les semi-conducteurs et les puces qui alimentent tous ces services d’IA — à grande échelle. Nous pouvons probablement construire quelques centres de données et centres de données d’IA canadiens, et nous pouvons et devons développer des capacités ciblées dans les modèles d’IA appliquée et les applications d’IA, ainsi que la capacité d’affiner les modèles et de créer des outils de sécurité pour l’IA et des systèmes d’IA spécifiques à un domaine.
La quatrième dimension est celle de la souveraineté sociétale. Il s’agit de l’alignement des systèmes d’IA sur les valeurs canadiennes et la surveillance démocratique. Cela peut aussi concerner la manière dont le contenu est créé, dont les droits des créateurs sont protégés et dont la confiance du public est préservée face à la désinformation synthétique. La souveraineté sociétale est également le domaine où nous devrions discuter, afin de la contrer, de la captation épistémique, que je définirais comme étant la limitation de ce que les Canadiens peuvent voir, savoir, examiner et comprendre au moyen des algorithmes qui façonnent les plateformes en ligne que nous utilisons tous.
La cinquième dimension est celle de la souveraineté économique. Il s’agit de faire en sorte que les entreprises, les institutions et les travailleurs canadiens profitent de la valeur économique de l’ère de l’IA, plutôt que de laisser cette valeur partir ailleurs et de nous rendre entièrement dépendants d’autres pays et de fournisseurs étrangers. Un pays qui ne peut pas profiter de la valeur de l’IA et tirer parti de l’IA pour sa compétitivité économique peinera à être en mesure de défendre sa souveraineté numérique dans toute autre dimension. La souveraineté économique et la compétitivité sont les fondements qui permettent de financer le reste.
Ces cinq dimensions ne constituent pas une liste de critères à cocher. Il s’agit d’un outil de diagnostic à l’usage des décideurs. Chaque mesure recommandée par le comité, qu’elle porte sur le droit d’auteur, les marchés publics, la désinformation ou la puissance de calcul pour l’IA, peut probablement être soumise à un test de résistance par rapport à ces cinq dimensions.
Des compromis sont en jeu. Certaines mesures susceptibles de renforcer notre souveraineté juridictionnelle pourraient, par exemple, affaiblir notre compétitivité économique.
Je sais que je n’ai plus beaucoup de temps. Je vais donc conclure en vous soumettant trois options stratégiques qui pourraient aider à renforcer notre capacité de développer et de régir l’IA au Canada.
La première option consiste à accélérer le déploiement de la Stratégie canadienne sur la capacité de calcul souveraine pour l’IA, avec une règle claire d’approvisionnement auprès de fournisseurs canadiens en premier, mais pas seulement. Le gouvernement fédéral — et les autres ordres de gouvernement — peut utiliser les marchés publics en tant que client principal pour l’IA canadienne, afin que nous disposions de certaines de ces capacités en interne, au Canada.
La deuxième option consiste à adopter un cadre de données à plusieurs niveaux — qui pourrait comprendre des règles différentes pour les données des secteurs de la santé, des finances, de la culture et du secteur public —, ainsi qu’une approche contractuelle pour traiter la souveraineté de ces données, ce qui est important et aussi défendable dans le cadre de nos accords commerciaux mondiaux. Nous n’avons pas besoin d’imposer la localisation des données pour chaque élément de données, mais nous pouvons le faire de manière intelligente pour les données les plus importantes.
La troisième option — qui a été mentionnée par d’autres témoins aujourd’hui — consiste à concentrer, éventuellement, la gouvernance fédérale en matière d’IA. Aujourd’hui, cette responsabilité est, par exemple, répartie entre pas moins de six acteurs, soit Innovation, Sciences et Développement économique Canada, le Conseil du Trésor, Sécurité publique Canada, Patrimoine canadien, Services partagés Canada, ainsi que de nombreux autres organismes de réglementation.
Je tiens à faire la distinction entre deux choses. Premièrement, renforçons-nous le pouvoir des organismes de réglementation? Ce n’est peut-être pas souhaitable. Deuxièmement, du point de vue du gouvernement fédéral, renforçons-nous les pouvoirs en matière de politiques? Des pays comme le Royaume-Uni ont un ministère centralisé pour le numérique et l’IA. Il pourrait être utile d’avoir non seulement un interlocuteur unique, mais aussi un seul centre d’encadrement, avec un mandat transversal qui couvre l’adoption, la sécurité, la compétitivité, la confidentialité numérique, etc. À l’heure actuelle, nous avons probablement une multitude de pouvoirs et de mécanismes de gouvernance en matière d’IA.
Honorables sénateurs, les 18 prochains mois décideront si le Canada sera un concepteur de l’économie de l’IA et un façonneur de cette technologie, ou s’il en sera simplement un consommateur.
Je répondrai avec plaisir à vos questions. Merci.
Le président : Merci, monsieur Khan.
Monsieur Rollans, vous avez la parole.
Glenn Rollans, président et éditeur, Brush Education, président, Freehand Books, président, Canadian Copyright Institute, à titre personnel : Merci, monsieur le président. Je suis honoré de comparaître devant vous. Merci de m’avoir invité.
Je suis ici à titre personnel aujourd’hui, car mes responsabilités concernent de nombreux rôles qui se recoupent. Comme vous l’avez mentionné, je suis avant tout un éditeur en activité. Je travaille dans l’édition universitaire au sein d’une entreprise à Edmonton et dans l’édition littéraire au sein d’une entreprise à Calgary. Je suis également coprésident du comité du droit d’auteur de l’Association of Canadian Publishers, l’ACP, qui est l’association nationale des maisons d’édition canadiennes publiant en anglais, et j’en suis l’ancien président. Je représente l’ACP au Groupe de travail sur la politique du droit d’auteur de l’Union internationale des éditeurs, et je suis président du Canadian Copyright Institute, le CCI. En tant que représentant du CCI, je siège également à titre d’observateur au Comité permanent du droit d’auteur et des droits connexes de l’Organisation mondiale de la propriété intellectuelle à Genève.
J’aimerais profiter de ma déclaration liminaire pour faire valoir trois points clairs, je l’espère. Premièrement, je n’ai pas besoin de vous dire que le Sénat, en tant que chambre de second examen objectif, doit tempérer l’enthousiasme du gouvernement du Canada pour l’intelligence artificielle.
Les défenseurs de l’IA ne manquent pas. Quand nous pensons que tous les arguments possibles sur les avantages potentiels de l’IA ont déjà été exposés, ses promoteurs y vont de nouveaux superlatifs. Ils minimisent les méfaits réels et potentiels. Ils disent que la réglementation serait un obstacle catastrophique à un avenir radieux. Leur message est le suivant : « Embarquez ou restez à la traîne », et personne n’aime être à la traîne. Ils préviennent que, si le Canada essaie de réglementer cette nouvelle industrie, elle ira s’installer ailleurs. Leurs objectifs de promotion boursière ne sont jamais bien loin.
Pendant ce temps, dans le cas des grands modèles de langage, les GML, du moins, les performances de cette nouvelle technologie sont constamment inférieures à leurs prévisions. Il est bon de se le rappeler quand nous débattons des sommes à investir dans leurs promesses — ou à y sacrifier.
Deuxièmement, quand le gouvernement du Canada décidera des éléments de sa stratégie en matière d’IA, il devra y inclure le renforcement des industries culturelles.
Les développeurs de l’IA considèrent généralement que les écrivains et les éditeurs — ma communauté — se trouvent à la périphérie de la révolution de l’IA. Ils nous décrivent au mieux comme des consommateurs probables de nouveaux outils, mais plus souvent comme un obstacle à leur progression, car nous exigeons qu’ils fassent preuve de transparence quand ils copient nos œuvres dans leurs systèmes, qu’ils en demandent l’autorisation aux propriétaires de ces œuvres et qu’ils les rémunèrent.
Mais la première raison cruciale de nous inclure parmi les industries stratégiques est que l’existence des GML doit autant, ou plus, aux sciences humaines qu’aux développeurs technologiques. Sans un immense trésor de l’expression humaine créative et faisant autorité dans lequel puiser, les GML n’auraient jamais vu le jour. Sans accès aux nouvelles œuvres de créateurs humains, ils seront incapables de suivre le rythme d’un monde en mutation, et pourront encore moins entraîner ce changement.
La deuxième raison cruciale de nous considérer comme un secteur stratégique est que, sans l’expression culturelle canadienne dynamique des voix diverses qui composent le Canada, il n’est pas possible de renforcer la souveraineté culturelle parallèlement à la souveraineté numérique.
Si le Canada veut être un pays qui encourage le développement de l’IA, il doit protéger la propriété intellectuelle, la PI, ce qui comprend protéger les œuvres et le travail des écrivains et des éditeurs, des artistes visuels, des compositeurs et des musiciens, des historiens et des commentateurs sociaux, des scientifiques et des innovateurs numériques. Nous devrions tous être considérés comme faisant partie de l’écosystème de la PI, méritant tous des possibilités et la protection de nos droits.
Troisièmement, considérez le secteur culturel comme s’il avait des préoccupations légitimes, car c’est le cas. Nous avons déjà subi un double préjudice du fait de cette nouvelle technologie : nos œuvres sont discrètement récupérées et utilisées sans autorisation ni compensation, et nous subissons déjà une concurrence déloyale et préjudiciable de la part de ses produits.
Au récent Sommet national sur l’intelligence artificielle et la culture, à Banff, un des experts a déclaré qu’en ce qui concerne les droits d’auteur, les développeurs d’IA ont déjà intégré le coût des litiges dans leurs plans d’affaires. Autrement dit, ils considèrent les lois et règlements canadiens comme un système permettant de calculer le coût d’une infraction — d’une contravention de stationnement. Cela doit changer, et le gouvernement a le pouvoir d’opérer ce changement.
De toute évidence, une partie de l’immense valeur tirée des marchés et des consommateurs canadiens par les développeurs d’IA devrait servir à soutenir le secteur créatif canadien, tellement essentiel à notre projet national et tellement menacé par cette technologie agressive. Le gouvernement du Canada a compris la sagesse et la valeur de cette approche pour nos médias d’information et il a agi en conséquence. Il doit de nouveau le faire.
Le gouvernement du Canada devrait augmenter massivement ses investissements dans l’édition de livres comme principal moteur du développement de l’IA — je sais que cela vous surprendra que je dise cela —, au moins à un rythme équivalent au financement public qu’il accorde au secteur de l’IA.
Il devrait écarter l’idée scandaleuse d’une exception relative à l’exploration de textes et de données pour les développeurs d’IA. Il devrait clarifier les limites de l’utilisation équitable et assurer la viabilité d’un marché actif des licences, incluant à la fois les licences collectives et directes, et permettant un développement responsable de l’IA fondé sur l’autorisation des créateurs et des industries créatives et leur rémunération appropriée.
Il devrait exiger la transparence au sujet des sources d’entraînement utilisées pour toute IA déployée sur le marché canadien. Il devrait garantir aux Canadiens que les produits d’IA ne bénéficieront pas de la protection du droit d’auteur. Il devrait clarifier le rôle de la Commission du droit d’auteur du Canada, afin qu’elle puisse être un arbitre essentiel sur ce marché complexe.
Cette stratégie serait bénéfique pour toutes les parties : les Canadiens disposeraient d’une IA de meilleure qualité et plus canadienne, et le secteur culturel canadien serait renforcé.
Je vous remercie.
Le président : Merci beaucoup, monsieur Rollans.
La sénatrice Dasko : Merci à nos témoins de leur présence aujourd’hui et de leurs exposés très utiles.
Je commencerai par poser quelques questions à M. Khan. J’ai eu l’occasion de lire votre article sur les enjeux de souveraineté canadienne en matière d’IA. Si je peux paraphraser, vous dites dans cet article qu’une souveraineté totale n’est ni possible ni souhaitable, ou quelque chose de ce genre. Je pense que c’est une conclusion adéquate.
Je voudrais vous interroger sur vos cinq catégories de souveraineté. Tout d’abord, le Canada jouit-il actuellement d’avantages particuliers dans l’un ou l’autre de ces cinq domaines de souveraineté en matière d’IA? Sommes-nous particulièrement solides dans l’un de ces domaines?
Ensuite, est-il important que nous travaillions plus sur un ou plusieurs de ces domaines que sur d’autres ? Devrions-nous nous concentrer davantage sur la première dimension, la deuxième dimension ou toute autre dimension? Cela rejoint la question de savoir quelle dimension parmi les cinq vous semble la plus importante pour le Canada. Voilà une série de questions pour vous. Merci.
M. Khan : Je vous remercie, sénatrice Dasko. Je vais faire de mon mieux pour y répondre.
D’abord, je reviendrai sur votre remarque concernant la souveraineté. Comment la définissons-nous? Est-il possible de parvenir à une souveraineté totale en matière d’IA, ou est‑ce même souhaitable? Je redirai ce que dit le rapport. Premièrement, l’écosystème de l’IA et sa chaîne d’approvisionnement sont d’une complexité inimaginable. Les puces de l’IA sont, dans leur immense majorité, fabriquées à Taïwan, dans une usine de fabrication de pointe dont la mise en place a pris des décennies, et qui produit parfois des puces qui ne font pas plus de trois nanomètres. C’est difficile à concevoir. Toutes ces machines de pointe qui font partie de cette chaîne d’approvisionnement sont construites aux Pays-Bas par une seule entreprise, ASML, et les puces sont, dans leur immense majorité, conçues par NVIDIA, une entreprise américaine.
Le Canada ne joue aucun rôle, ni majeur ni même mineur, dans cette chaîne d’approvisionnement. Son rôle se limite peut‑être à fournir des minéraux critiques. Nous ne sommes pas en mesure, à court ou à moyen terme, d’exercer une souveraineté totale en matière d’IA dans cette partie de la chaîne d’approvisionnement, et encore moins pour ce qui est de l’infrastructure infonuagique, domaine dans lequel nous disposons dans le pays de quelques centres de données d’IA de pointe. Ceux qui sont peut-être les plus avancés appartiennent généralement à de grandes entreprises américaines volontiers présentes au Canada qui fournissent des services à un certain nombre d’entreprises et d’administrations canadiennes.
Vous avez mentionné les cinq dimensions de la souveraineté. Elles sont toutes importantes. Bien sûr, il est important que nous ayons la souveraineté de notre démocratie, de notre culture et de notre juridiction. Les Canadiens veulent pouvoir croire que les lois et les règles canadiennes sont appliquées ici et qu’elles sont solides. Mais le monde a radicalement changé, en particulier au cours des deux dernières années. Il évolue à une vitesse et à un rythme que beaucoup d’entre nous ont encore du mal à accepter, moi y compris. En fait, à l’heure actuelle, bien que notre pays compte quelques-uns des meilleurs chercheurs en IA du monde, nous n’avons aucune des plus grandes entreprises d’IA. Nous ne jouons pas un rôle essentiel dans la chaîne d’approvisionnement. Nous sommes, de fait, dépendants.
Encore une fois, toutes ces dimensions de la souveraineté sont importantes, mais je dirai simplement que, compte tenu de la dynamique actuelle, nous disposons de solides capacités en recherche sur l’IA. Toutefois, si nous ne continuons pas de développer des capacités approfondies en IA, dans le secteur privé et au sein du gouvernement en tant qu’État, nous aurons beaucoup de mal à régir cette technologie. Il ne s’agit pas simplement de copier les règles de quelqu’un d’autre. Nous devons disposer de ces capacités dans nos entreprises du secteur privé, dans notre gouvernement et dans nos organismes de réglementation pour être en mesure d’encadrer efficacement cette technologie.
La compétitivité économique est extrêmement importante dans ce secteur technologique, et nous ne sommes pas particulièrement compétitifs sur le plan économique à l’heure actuelle. Un domaine possible où nous pourrions avoir une certaine force est celui de la couche de modèles. Nous avons une entreprise appelée Cohere, dont la valorisation s’élève à 10 milliards de dollars. Nous disposons également de solides entreprises de technologie de pointe qui, si elles sont suffisamment soutenues, pourraient peut-être développer des capacités d’envergure mondiale.
La sénatrice Simons : Monsieur Rollans, je vais commencer par vous. Vous étiez dans la salle lorsque le professeur Michael Geist a témoigné. Il a soulevé une préoccupation selon laquelle si l’intelligence artificielle n’est pas autorisée à s’entraîner sur du contenu canadien, elle sera alors aveugle à la culture canadienne. Avez-vous une réponse à cela, car il y a évidemment une question d’intérêt public majeur qui consiste à s’assurer que les créateurs artistiques canadiens soient rémunérés équitablement pour leur travail? Mais on craint également que si l’IA ne s’entraîne pas sur du contenu canadien, elle ne servira pas ce contenu. Comment pensez-vous que nous devrions trouver cet équilibre?
M. Rollans : J’ai entendu le commentaire, et il a suscité beaucoup de réflexions. Pour commencer, je ne pense pas que le Canada puisse gagner une course vers le bas lorsqu’il s’agit d’ouvrir les portes à une IA non réglementée. C’est un faux objectif.
Les entreprises de l’IA, en général, et les développeurs sont issus de l’international. Ils agissent à l’échelle internationale. Ils choisissent la juridiction la plus avantageuse pour eux. Le Canada possède de grands atouts qui ne relèvent pas de la facilité ou de l’autorisation. Ils concernent la qualité de notre information et l’importance de notre culture dans le développement de la culture mondiale. Le concept selon lequel « Le monde a besoin de plus de Canada » est un concept important.
Ce n’est pas à nous de supprimer les barrières, surtout sans promesses, car la suppression des barrières ne garantit pas que ce contenu apparaîtra.
Me Geist a également avancé l’argument selon lequel les développeurs de l’IA obtiendront des licences pour le contenu qui leur est précieux. Cela implique qu’ils n’obtiendront pas de licence pour le contenu qui ne leur est pas précieux.
À l’heure actuelle, nous constatons qu’ils approchent, à petite échelle, les plus grands détenteurs de droits au Canada pour obtenir des licences sur leur contenu, laissant de côté les petits détenteurs de droits et ne recueillant ainsi rien de ce qui reflète une voix régionale ou les nombreuses voix régionales dans leurs bases de données. Ils ne recueillent rien de la richesse et de la diversité linguistiques du Canada, ni de l’histoire et de la culture exprimées par les Canadiens ordinaires, qui sont protégées par le droit d’auteur.
L’argument commercial selon lequel « si vous leur donnez la permission, le produit sera meilleur » n’est pas corroboré par ce qu’ils ont fait jusqu’à présent; nous ne devrions donc pas prédire que ce serait le résultat si cette permission était élargie.
La sénatrice Simons : Vous avez soulevé l’autre question. Vous l’avez dit sur le ton de la plaisanterie, mais je pense que vous étiez sérieux : l’une des choses que nous pouvons faire pour soutenir l’IA canadienne est simplement de soutenir la création canadienne — je déteste utiliser des expressions comme « création de contenu ». Je parlerai simplement des artistes, compositeurs et musiciens canadiens.
M. Rollans : Oui, je suis on ne peut plus sérieux à ce sujet. C’est une chose extrêmement importante à faire : réinvestir dans l’économie créative canadienne en général, tant chez les professionnels de la création que dans les industries créatives.
Nos programmes de soutien ont été largement mis en veilleuse. Notre cadre réglementaire a été affaibli, notamment en raison de l’incertitude quant à la capacité de la Commission du droit d’auteur à rendre une décision exécutoire.
Notre cadre de gestion des droits d’auteur pour le monde canadien de la littérature, de l’écriture et de l’édition a été gravement affaibli par l’absence de décision claire de la Cour suprême du Canada sur la question de savoir si l’interprétation de l’utilisation équitable avancée par le secteur de l’éducation est effectivement équitable. La cour a laissé au gouvernement du Canada le soin de se prononcer sur ce point ainsi que sur la question de la Commission du droit d’auteur, et je pense que le gouvernement du Canada doit se prononcer et doit agir.
[Français]
Le sénateur Cormier : Je vais poser mes questions en français. Ma première question s’adresse à M. Rollans. Elle fait suite aux propos de la sénatrice Simons.
Vous avez mentionné que le gouvernement du Canada devrait investir davantage dans la publication d’œuvres littéraires. Actuellement, un des grands risques de l’IA est une standardisation et un nivellement de la langue au profit de la diversité des expressions culturelles. On se rend compte dans l’IA que, par exemple, au chapitre de la langue française, toute spécificité régionale ou culturelle a tendance à être nivelée et effacée. Quelles sont vos pensées à ce sujet? Dans une démarche de réglementation, comment pourrait-on favoriser le respect de la diversité des expressions culturelles à l’écrit? Est-ce que le gouvernement du Canada devrait investir dans une pluralité de types de publications littéraires? Quel est votre point de vue à ce sujet?
J’aurai ensuite une question pour M. Forde.
[Traduction]
M. Rollans : Merci beaucoup pour cette question. Je pense que la sénatrice Simons a également abordé ce point, mais l’importance réside d’abord dans l’expression culturelle. Si nous encourageons les industries ainsi que les professionnels et les créatifs, les enseignants et les universitaires qui travaillent de manière créative pour construire le réservoir de connaissances du Canada, nous construisons ce qui, en fait, alimente l’IA. Cela ne fonctionne pas dans l’autre sens. L’IA n’alimente pas l’expression culturelle.
J’ai récemment entendu un enseignant de l’Alberta dire qu’en l’absence de ressources solides en français correspondant au programme scolaire de l’Alberta, on leur avait conseillé de télécharger des ressources en anglais et de demander des traductions par l’IA pour s’adresser à leurs élèves. Je ne m’étendrai pas sur les problèmes que cela pose, car ils sont multiples, mais cela commence par le soutien à l’expression culturelle régionale et aux différences importantes entre les peuples. C’est cela qui devrait se refléter dans l’IA, au lieu d’attendre de l’IA qu’elle se charge d’une manière ou d’une autre de faire entendre ces voix, car elle ne le fera pas.
[Français]
Le sénateur Cormier : Merci de votre réponse.
Je vais poser ma deuxième question à M. Forde.
Cela fait suite aussi à la question posée à M. Rollans. J’ai cru comprendre que vous parliez, monsieur Forde, d’une révision de la Loi sur le droit d’auteur. Ai-je bien compris? Parce que la plupart des organisations culturelles que l’on consulte nous disent que la Loi sur le droit d’auteur au Canada est suffisamment robuste pour gérer tous les aspects menacés par l’intelligence artificielle. Je voudrais vous entendre sur cette question.
Vous avez parlé également de transformation de la main‑d’œuvre. Les industries culturelles sont friandes et ont un immense besoin de formation en littératie numérique. À votre avis, quels sont les principaux aspects de ces enjeux pour la transformation de la main-d’œuvre dont on devrait tenir compte dans notre rapport?
[Traduction]
Me Forde : Merci pour votre question, sénateur. Concernant la Loi sur le droit d’auteur, je fais en réalité référence à la manière dont nous l’appliquons au secteur de l’IA. Par exemple, l’Accord Canada—États-Unis—Mexique, ou ACEUM, et la loi anti-contournement sont des éléments qui permettent aux entreprises technologiques de ne pas avoir à ouvrir leurs boîtes de code. Il y a une section dans l’article sur le code source de l’ACEUM, par exemple, qui interdit en gros à quiconque de consulter les données d’entraînement ou de comprendre comment les systèmes d’IA prennent leurs décisions. Il sera très difficile d’appliquer la Loi sur le droit d’auteur à moins d’une révision permettant de déterminer où elle peut s’appliquer. Si je ne peux pas voir ce qui se passe, comment puis-je vous dire que vous avez utilisé le travail des éditeurs ou de différents créateurs?
Quand je parle de repenser les choses, ce n’est pas la loi sur le droit d’auteur en soi. Il s’agit plutôt de la manière dont nous pouvons l’appliquer à des boîtes fermées que, selon la loi, nous ne pouvons pas ouvrir. C’est de cela dont je parle.
Du point de vue de la culture de l’IA, nous avons mené une étude dans 30 économies avancées et 17 économies émergentes. En matière de culture de l’IA, le Canada se classait 44e sur 47. Lorsque nous abordons toutes ces discussions, les personnes présentes dans cette salle sont peut-être un peu mieux informées sur ce que signifie avoir une culture de l’IA et sur les aspects de la technologie de l’IA dont nous devons être conscients, mais pour le Canadien moyen, il y a un fossé.
Si nous voulons aborder sérieusement ces enjeux auxquels nous allons devoir faire face de front, nous devons également amener les Canadiens, d’un point de vue éducatif, à comprendre de quoi nous parlons réellement. Qu’est-ce que cela signifie lorsque nous disons que les modèles sont entraînés sur des données qui sont de nature régionale ou non? Qu’est-ce que cela signifie lorsque nous discutons de la question de savoir si la source de ces informations est acceptable ou non?
Une partie de la conversation doit être fondée sur une compréhension commune. Nous devons tous atteindre un certain niveau de base pour pouvoir tenir la même conversation. Du point de vue de la culture numérique, ce sera un domaine très important où les Canadiens et le gouvernement du Canada devront parvenir à une certaine parité de compréhension.
La sénatrice Mohamed : J’ai deux questions. Monsieur Khan, j’ai remarqué dans votre biographie que vous avez travaillé sur la Colline, en tant que conseiller du ministre de l’Innovation, des Sciences et de l’Industrie. Je vous pose cette question en sachant que vous avez dû faire face à des compromis. Quand on pense à la souveraineté en matière d’IA, quels sont les compromis auxquels le Canada doit s’attendre pour préserver cette souveraineté?
Par exemple, j’y pense alors que nous entamons ou menons des discussions sur l’ACEUM, et il y a des implications lorsqu’on demande certaines choses, comme nous l’avons vu. Pourriez-vous peut-être nous éclairer?
Très rapidement, pour vous tous : devrions-nous avoir un ombudsman de l’IA, sachant qu’il y a des limites et tout le reste?
M. Khan : Merci, sénatrice Mohamed. Tout d’abord, il y a certainement des compromis à faire. Même si l’on prend l’exemple de l’infrastructure infonuagique, combien coûterait-il de créer davantage de cette infrastructure infonuagique détenue et exploitée par des Canadiens, par opposition à une infrastructure exploitée par un grand fournisseur hyperscale étranger? Selon certaines estimations, cela pourrait coûter 25 % plus cher. Je pense que c’est une sous-estimation quand on pense aux données et aux puces de l’IA les plus avancées, ainsi qu’à l’acquisition du matériel, des logiciels et des services les plus récents.
Nous devons vraiment décider ce qui compte le plus pour nous afin de nous assurer d’avoir une « souveraineté » à cet égard. S’agit-il de l’infrastructure de sécurité nationale? S’agit-il des données de santé et financières les plus critiques? C’est pourquoi, dans notre rapport, nous parlons de différents niveaux de sensibilité des données. Si vous appliquez ce cadre, vous pouvez réfléchir à ce dont nous avons réellement besoin pour nous assurer que ce qui est critique reste de propriété canadienne, et que nous sachions avec certitude où nous exerçons un contrôle juridictionnel et opérationnel en cas de cyberattaque ou peut-être même de différend commercial, n’est‑ce pas?
Certaines personnes ont évoqué le risque, en cas de différend commercial, d’un coupe-circuit. Pour être honnête, je m’inquiète moins de savoir s’il y aura un déni de service pur et simple sous la pression politique. Quelqu’un a mentionné Claude Mythos plus tôt dans les délibérations. Et s’il existait des modèles d’IA plus avancés où, au cours d’un différend commercial, nous serions simplement dépriorisés ou relégués plus bas dans la file d’attente, et que les entreprises de logiciels canadiennes et le gouvernement n’auraient alors pas accès aux modèles les plus récents? Cela ralentirait notre productivité et notre capacité de réaction. C’est là un compromis potentiel dans une discussion commerciale.
Ce que je tiens à souligner, c’est que nous voulons nous assurer de pouvoir être compétitifs en tant que pays et d’avoir accès à ces outils de pointe si nous ne les avons pas en interne. Nous voulons également nous assurer de ne pas renoncer à notre propre souveraineté en matière de données et veiller à ne pas céder trop de terrain. Si l’on examine les différends commerciaux antérieurs, je pense que la technologie numérique n’a pas toujours été une priorité pour notre pays. J’ai dit que, tout en essayant de préserver notre force dans le secteur des ressources naturelles, l’industrie manufacturière et d’autres domaines importants pour notre économie, nous ne renonçons pas à notre économie numérique et nous préservons les éléments clés que nous jugeons importants.
Pour répondre à la deuxième question, vous avez mentionné un médiateur en IA. Je pense que si l’on regarde ce qu’ont fait d’autres pays, comme le Royaume-Uni, ils ont cherché à renforcer les organismes de réglementation existants. Par exemple, il y a le Bureau du commissaire à l’information, qui est analogue à notre Commissaire à la protection de la vie privée, ainsi que le commissaire aux transports et le commissaire à la santé. Je pense que doter nos organismes de réglementation existants de moyens leur permettant d’être plus forts en matière d’IA est potentiellement une position plus solide à adopter.
Mais encore une fois, j’ai mentionné les autorités chargées des politiques. À l’heure actuelle, on pourrait faire valoir que nous n’avons pas nécessairement, au niveau du gouvernement fédéral, une autorité cohérente en matière de politiques pour déterminer quelles règles sont établies. Sont-elles compatibles avec celles d’autres pays? Comment concilions-nous la compétitivité et la protection des Canadiens? C’est peut-être un sujet que ce comité devrait examiner plus en profondeur.
La sénatrice Mohamed : J’aimerais poser une question aux autres témoins au sujet d’un ombudsman de l’intelligence artificielle, s’il vous plaît.
Me Luc Noiseux, associé et Leader régional, Technologie, Média et Télécommunications, KPMG Canada : Je pense que c’est un outil parmi un ensemble d’initiatives que le gouvernement doit examiner attentivement. J’ai assisté à une conférence avec des PDG la semaine dernière, et j’ai eu l’occasion de discuter avec eux de leurs principales préoccupations. Je suis principalement impliqué dans le secteur. Je pense qu’ils évoluent très rapidement. Je pense qu’ils constatent une accélération du rythme. Ils doivent structurer leur organisation pour être plus agiles. Pour revenir au point soulevé plus tôt, je pense que le gouvernement fait face à un défi similaire dans le cadre qu’il va proposer pour gérer l’intelligence artificielle à l’avenir.
Ce cadre doit certainement être compartimenté en fonction des types de risques qu’il vise à traiter, et il doit être suffisamment souple pour s’adapter à mesure que la technologie évolue. Bon nombre de ces problèmes seront résolus par la technologie et par le partenariat avec nos alliés. On peut supposer que si les puissances intermédiaires travaillent ensemble, elles auront plus de poids pour se positionner et assurer leur part de souveraineté numérique.
La sénatrice Mohamed : Alors, êtes-vous dans la colonne « oui » ou dans la colonne « non »?
Me Noiseux : Je suis dans le camp du « oui », mais je ne pense pas que ce soit une solution en soi.
M. Rollans : Je pense que je suis dans le camp du « non », désolé de le dire. C’est parce que nous disposons d’un organisme spécialisé dans le domaine sur lequel je me suis concentré : la transparence en matière de droits d’auteur liée à la rémunération au sein de la Commission du droit d’auteur. Je pense que ce que le gouvernement peut faire pour la fonction dont vous parlez, c’est clarifier et renforcer le rôle de la Commission du droit d’auteur.
[Français]
La sénatrice Miville-Dechêne : J’ai une question pour M. Noiseux.
M. Forde nous a parlé en termes très généraux des défis des compagnies. J’aimerais vous entendre plus particulièrement sur ce que M. Khan a dit au sujet des entreprises canadiennes qui ne sont pas compétitives en matière d’intelligence artificielle. Qu’avez-vous vu de concret comme problème dans les entreprises? Comment expliquer ce manque de compétitivité?
Me Noiseux : D’abord, la question de la compétitivité est large. Je pense que le commentaire de M. Forde indiquait que la place qu’occupent les compagnies canadiennes dans l’écosystème de l’intelligence artificielle est limitée. Cela ne veut pas dire qu’on n’a pas de compagnies qui sont bien positionnées, comme Cohere, Coveo et d’autres. Cependant, l’espace est relativement restreint par rapport à l’ensemble des joueurs. Évidemment, les plus gros joueurs sont alignés avec les grandes puissances, comme la Chine et les États-Unis.
La question devient donc la suivante : comment peut-on soutenir ces compagnies et élargir l’écosystème de compagnies qui ont un rôle à jouer au niveau de l’IA? Je ne crois pas que...
La sénatrice Miville-Dechêne : Est-ce qu’elles vous disent quels sont leurs défis spécifiquement?
Me Noiseux : Oui. Je les résumerais en deux points.
Premièrement, c’est tout ce qui est humain, donc faire pivoter leurs ressources humaines de compétences plus traditionnelles à des compétences d’intelligence artificielle. C’est un défi constant, parce que les technologies évoluent très rapidement.
Je prends l’exemple des compagnies qui travaillent dans le développement de logiciels. Un PDG m’a mentionné qu’il a été forcé de faire évoluer très rapidement ses équipes de développement. Pourquoi? Parce qu’ils n’écrivent plus de codes. En fait, ils génèrent les codes par l’entremise de robots d’intelligence artificielle. Leur rôle devient très différent de ce qui se faisait à l’époque. Cela vient avec des défis, parce qu’il y en a qui ont fait leur carrière là-dedans. Donc, pousser ces organisations au changement est un défi.
Le deuxième point que j’apporterais est l’adaptation aux nouvelles technologies. On parlait de différents robots d’intelligence artificielle de plusieurs compagnies. Suivre la cadence et l’évolution de la capacité de ces robots à s’acquitter de différentes fonctions évolue en temps réel. Alors, ils doivent s’adapter très rapidement s’ils veulent rester compétitifs.
La sénatrice Miville-Dechêne : Justement, sur cette question de la compétitivité, est-ce qu’on avait déjà un problème de concurrence ou de compétitivité avant l’arrivée de l’intelligence artificielle? A-t-on un problème plus grave maintenant, parce qu’on est trop lent à adopter ces méthodes? Comment nous situeriez-vous par rapport au reste du monde en ce qui a trait aux entreprises privées?
Me Noiseux : Toutes les entreprises en technologie sont concernées par l’intelligence artificielle. Je pense qu’elles bougent assez rapidement. L’IA peut être un levier d’accélération, aussi. Pourquoi? Parce qu’elle permet de résoudre des problèmes qui, avant, demandaient beaucoup d’efforts. Cela permet donc de réduire les efforts.
Je crois que l’IA peut être un levier qui nivelle quelque peu la compétitivité des entreprises. Encore faut-il que ces entreprises se mobilisent, qu’elles aient accès à du personnel qui soit bien entraîné — et je parle de l’université jusqu’à leur propre pratique à l’interne — et qu’elles aient également accès à ces technologies. Donc là, on touche à la question de la souveraineté numérique. Selon moi, il est critique que ces compagnies aient accès aux dernières solutions à des prix compétitifs, et que, dans les négociations avec les grandes puissances, on se positionne de façon à être au même niveau qu’eux en matière d’accès aux technologies de pointe.
La sénatrice Miville-Dechêne : Ce qui n’est pas le cas en ce moment?
Me Noiseux : Je ne dirais pas cela. Toutefois, il est évident que, quand on regarde Anthropic et le gouvernement américain qui... Les compagnies sont toujours un pas en avant de ce que l’on peut faire. Après cela, je ne suis pas certain qu’il y a un biais négatif envers les compagnies canadiennes. Par contre, il faudra s’assurer que cela ne devient pas le cas dans le cadre des négociations en cours.
La sénatrice Miville-Dechêne : Merci.
[Traduction]
La sénatrice Arnold : Ma question s’adresse au professeur Khan. Merci beaucoup pour vos cinq souverainetés. Je pense que cela nous aide vraiment à établir des priorités et à réfléchir à tout cela.
J’ai remarqué que vous faites partie de la Human Feedback Foundation. Nous avons eu une réunion de comité — je ne me souviens plus laquelle — avec Geoffrey Hinton, où nous avons discuté de la manière de rendre l’intelligence artificielle plus maternelle. Je me demande si vous pourriez nous parler de la souveraineté sociétale, y compris de la confiance du public, et de tout autre élément auquel vous pensez dans ce contexte.
M. Khan : Bien sûr. Je suis très heureux de parler de la confiance du public. La confiance du public ne s’obtient pas par l’interdiction de l’utilisation de la technologie ou par une réglementation excessive. La confiance du public s’obtient par la clarté et la transparence, et cela peut parfois impliquer la transparence quant aux données utilisées dans les systèmes d’intelligence artificielle. Cela peut aussi venir de choses aussi simples que : si les gouvernements proposent d’utiliser des systèmes d’intelligence artificielle pour mener davantage d’activités, cela pourrait certainement être une bonne chose en termes de productivité et d’efficacité, tout comme pour de nombreuses grandes entreprises — peut-être en informant les gens qu’un système d’intelligence artificielle est utilisé pour leurs données. Je crois que cela avait été proposé pour les systèmes de prise de décision automatisés dans le précédent projet de loi C-27. Ces mesures peuvent contribuer à renforcer la confiance du public.
Je crois qu’il y a également eu une étude menée par le Groupe de travail sur la sensibilisation du public, qui est un organisme indépendant du gouvernement du Canada, et je crois qu’elle a révélé que 71 % des Canadiens auraient davantage confiance en l’intelligence artificielle s’il y avait une réglementation appropriée des risques.
Je pense donc que ce sont là des mesures susceptibles de renforcer la confiance du public. Nous devrions probablement nous pencher également sur la recherche d’intérêt public. Cela peut passer par l’octroi de subventions gouvernementales à la société civile, aux médias et aux radiodiffuseurs publics dans le contexte de l’IA. Le Canada est l’un des pays au monde où le niveau de confiance envers les systèmes d’intelligence artificielle est parmi les plus bas. Que peuvent faire les entreprises qui travaillent à l’entraînement de ces systèmes d’intelligence artificielle, et que peuvent faire les gouvernements?
De plus, encore une fois, comment la société civile et les organisations citoyennes concernées peuvent-elles participer à la formation, à la validation et à l’évaluation de ces systèmes? La transparence peut contribuer à tous ces efforts visant à renforcer la confiance du public.
La sénatrice Dasko : Maître Forde, votre cabinet compte-t-il des clients dans le secteur de l’intelligence artificielle?
Me Forde : Oui.
La sénatrice Dasko : Des systèmes d’intelligence artificielle, n’est-ce pas?
Me Forde : Oui.
La sénatrice Dasko : Merci. Nous entendons parfois des propos du genre suivant, et l’interprétation en anglais de ses propos est traduite ainsi : existe-t-il une relation inverse entre le niveau de réglementation dans ce domaine et le niveau de concurrence et d’innovation? J’entends parfois dire que plus il y a de réglementation, moins nous avons de chances de voir émerger de l’innovation, de la concurrence et une réussite économique dans le secteur de l’intelligence artificielle. Qu’en pensez-vous? Est-ce vrai selon vous?
Me Forde : J’essaie de rester à l’écart de tout ce qui oppose deux camps. Je ne pense pas que la question soit uniquement de savoir si la réglementation étouffe absolument l’innovation, ou si l’innovation pure nécessite l’absence de réglementation. Si l’on examine ce que nous essayons réellement d’accomplir, il existe de nombreux alliés à travers le monde qui recherchent des approches équilibrées concernant leurs systèmes d’intelligence artificielle et la manière dont l’intelligence artificielle est utilisée.
En effet, je dirais qu’une réglementation réfléchie et une réglementation des risques adaptée aux réalités créeront en fait de l’innovation, car les gens devront examiner les limites du cadre et trouver comment innover à l’intérieur de celui-ci, ce qui, à mon avis, peut réellement faire avancer les choses.
La sénatrice Dasko : Sur quel type de réglementation devrions-nous nous concentrer, quelle qu’elle soit?
Me Forde : Pour moi, la transparence est au cœur de tout cela. S’il y a une relation inverse, je pense que c’est entre la culture numérique et la transparence, n’est-ce pas? La corrélation devrait être la suivante : si nous sommes plus transparents et si nous exigeons davantage de transparence sur la manière dont les systèmes d’intelligence artificielle sont entraînés, sur les données utilisées pour cet entraînement, sur la façon dont ils sont appliqués, sur qui les utilise, etc., alors on peut également éduquer le public sur ce que cela signifie pour lui. Lorsque j’interagis avec un système d’intelligence artificielle en tant que citoyen, si je peux comprendre avec quoi j’ai réellement affaire et comment il a été mis en place et créé, cela dissipe — un peu — le sentiment de menace.
Je pense qu’une partie du problème actuel réside dans le fait que nous avons ces conversations abstraites sans les ancrer dans la réalité de ce que tout cela signifie réellement. D’un point de vue réglementaire, si nous sommes en mesure d’exiger la transparence et de réglementer en fonction de l’impact significatif... Nous le faisons déjà dans une certaine mesure sur les marchés financiers, par exemple. Le Bureau du surintendant des institutions financières, ou BSIF, a établi des lignes directrices. Et bien que nous utilisions le terme « IA » comme un terme générique, l’apprentissage automatique est utilisé depuis très longtemps sur les marchés financiers. Si vous utilisez des modèles qui déterminent le risque de crédit et le montant à conserver dans vos réserves, vous devez être en mesure de documenter, d’expliquer et de décrire comment ce modèle a été créé, comment il est utilisé et quels sont ses résultats. Vous devez ensuite le surveiller pour vous assurer qu’il ne fait rien qu’il ne soit pas censé faire.
Nous disposons de nombreuses pratiques dans différents domaines de l’intelligence artificielle que nous pouvons appliquer à ce moment décisif que nous traversons.
Le président : Merci beaucoup.
La sénatrice Simons : The Tyee et le Toronto Star ont tous deux rapporté ce matin l’existence d’une campagne pro‑séparatiste alimentée par l’intelligence artificielle sur YouTube ciblant les Albertains, qui a enregistré plus de 40 millions de visionnages de ce contenu pro-séparatiste de mauvaise qualité généré par l’intelligence artificielle. Dans quelle mesure devons‑nous nous inquiéter de l’impact de l’intelligence artificielle sur notre discours politique face à ce type de menace?
Me Forde : Nous devrions nous en inquiéter sérieusement. Encore une fois, c’est là que la réglementation doit jouer un rôle. Nous devrions être en mesure d’identifier ces menaces et soit de faire en sorte que les plateformes soient responsables de leur suppression, soit, à tout le moins, d’identifier ce qui relève de la désinformation ou de l’information erronée générée par l’intelligence artificielle, afin que les spectateurs comprennent que ce qu’ils regardent a été généré par l’intelligence artificielle et n’est pas véridique. C’est là que la réglementation joue un rôle important. Merci.
[Français]
Le sénateur Cormier : Ma question s’adresse à M. Khan.
Que devrait contenir la stratégie en matière d’IA du ministre Solomon, pour faire en sorte que le Canada soit bien outillé pour être un leader et assurer les cinq souverainetés dont vous avez parlé? À votre avis, quelles sont les priorités qui doivent figurer dans la stratégie du ministre Solomon?
[Traduction]
M. Khan : Merci, sénateur, pour votre question. Je vais répondre en anglais, compte tenu de la nature technique du sujet.
Je ne vais pas entrer dans les détails de ce que le ministre Solomon devrait inclure dans la stratégie. Je dirai simplement qu’ayant précédemment travaillé à Innovation, Sciences et Développement économique Canada, ou ISDE, nous avons travaillé sur des éléments qui continuent d’être développés. Le premier point concerne la mise en place d’une infrastructure informatique souveraine pour l’intelligence artificielle, ce que le ministre semble avoir clairement désigné comme une priorité politique. Il existe un écart persistant — et ce n’est pas seulement mon analyse, mais celle d’analystes partout au pays — : le Canada a une grande capacité à mener des recherches de haut niveau et à créer des entreprises, mais nous avons du mal à les faire passer au niveau supérieur afin qu’elles puissent ensuite se développer et exporter leurs produits et services à l’étranger.
Combler cette lacune critique au milieu du processus semble être la priorité absolue, qu’il s’agisse d’un nouveau mécanisme de financement ou d’une forme de crédit d’impôt. Ce sont toutes des options qui pourraient être envisagées. Mais je serais surpris qu’on n’accorde pas davantage d’attention à cette question en particulier, car il semble s’agir d’un problème chronique auquel notre pays est confronté.
Encore une fois, quant à savoir quelle dimension de la souveraineté devrait être la plus importante, à laquelle il faudrait donner la priorité — si nous ne développons pas de capacités critiques en intelligence artificielle en tant que pays, tant dans le secteur privé qu’au sein du gouvernement du côté des capacités de l’État, nous ne serons pas en mesure de répondre efficacement à bon nombre des autres considérations de ce comité.
Nous avons besoin de champions de l’intelligence artificielle. Nous devons également renforcer les liens entre les grandes entreprises et les instituts de recherche du pays et le gouvernement, et faciliter ce processus afin que les règlements sur lesquels nous pourrions travailler et les ententes que nous pourrions conclure soient conçus de la manière la plus efficace et la plus réfléchie possible.
Sinon, nous continuerons de dépendre de l’importation des modèles et des cadres d’autres pays, qui pourraient ne pas convenir au Canada; nous devons donc développer cette capacité, ainsi que notre compétitivité économique et technologique.
J’espère que ce gouvernement et les suivants en feront une priorité.
Le président : Merci, monsieur Khan et messieurs les sénateurs. Nous sommes arrivés à la fin de notre temps de parole. Je tiens à remercier M. Rollans, Me Forde, Me Noiseux et, bien sûr, M. Khan. Vos explications étaient très intéressantes et très complètes, et nous vous remercions vivement pour le temps que vous nous avez consacré. Nous vous souhaitons bonne chance pour l’avenir.
(La séance est levée.)