LE COMITÉ SÉNATORIAL PERMANENT DES TRANSPORTS ET DES COMMUNICATIONS
TÉMOIGNAGES
OTTAWA, le mardi 14 avril 2026
Le Comité sénatorial permanent des transports et des communications se réunit aujourd’hui, à 9 heures (HE), avec vidéoconférence, pour examiner, afin d’en faire rapport, les possibilités et les défis de l’intelligence artificielle (IA) dans le secteur des technologies de l’information et des communications.
Le sénateur Larry W. Smith (président) occupe le fauteuil.
[Note de la rédaction : Certains passages en langue des signes américaine ont été présentés par l’intermédiaire d’un interprète.]
[Français]
[Français]
Le président : Chers collègues, je vous souhaite la bienvenue à la séance du Comité sénatorial permanent des transports et des communications. Merci pour votre coopération.
[Traduction]
Je m’appelle Larry Smith. Je suis un sénateur du Québec et je suis président du comité. J’aimerais demander à mes collègues de se présenter.
La sénatrice Simons : Paula Simons, de l’Alberta. Je viens du territoire visé par le Traité no 6.
Le sénateur Wilson : Duncan Wilson, de la Colombie-Britannique.
[Français]
Le sénateur Quinn : Jim Quinn, du Nouveau-Brunswick.
[Traduction]
La sénatrice Mohamed : Bonjour. Farah Mohamed, de l’Ontario.
[Français]
Le sénateur Cormier : René Cormier, du Nouveau-Brunswick.
[Traduction]
Le sénateur Lewis : Bonjour. Todd Lewis, de la Saskatchewan.
[Français]
La sénatrice Arnold : Bonjour. Dawn Arnold, du Nouveau-Brunswick.
Le sénateur Aucoin : Réjean Aucoin, de la Nouvelle-Écosse.
La sénatrice Miville-Dechêne : Julie Miville-Dechêne, du Québec.
[Traduction]
La sénatrice Dasko : Donna Dasko, de l’Ontario.
Le président : Merci, chers collègues. Je souhaite la bienvenue à tous ceux qui sont avec nous aujourd’hui, ainsi qu’à ceux qui nous regardent en ligne sur le site Web du Sénat, sencanada.ca.
Nous nous réunissons pour poursuivre notre étude sur les possibilités et les défis de l’intelligence artificielle dans le secteur des technologies de l’information et des communications.
Sur ce, j’aimerais maintenant présenter nos témoins. Nos premiers invités sont Jeffrey Beatty, président du Comité pour les services sans fil des sourds du Canada, et Nathan Sanders, chercheur au Berkman Klein Center for Internet and Society de l’Université Harvard. M. Sanders se joint à nous par vidéoconférence. Merci à vous deux d’être des nôtres aujourd’hui.
Les témoins feront un exposé liminaire d’environ cinq minutes, qui sera suivi d’une période de questions et réponses avec les sénateurs.
J’invite maintenant M. Beatty à présenter sa déclaration préliminaire.
[Interprétation]
Jeffrey Beatty, président, Comité pour les services sans fil des sourds du Canada : Merci, monsieur le président et honorables sénateurs. Je m’appelle Jeffrey Beatty et je suis président du Comité pour les services sans fil des sourds du Canada. Notre comité défend l’accessibilité aux télécommunications et au monde numérique pour les Canadiens sourds, sourds et aveugles et malentendants. Notre travail se situe à la croisée des politiques touchant les communications, des droits des consommateurs, de la sécurité publique et de l’accessibilité. Nous défendons les intérêts d’environ 4 millions de Canadiens sourds, sourds et aveugles ou malentendants, dont 150 000 à 250 000 utilisateurs de la langue des signes.
Au moment où votre comité se penche sur l’intelligence artificielle dans le secteur des technologies de l’information et des communications, je tiens à souligner un élément crucial : la politique en matière d’intelligence artificielle sera incomplète si l’accessibilité est traitée comme une caractéristique secondaire, plutôt que comme un aspect fondamental.
Pour les membres de nos communautés, l’intelligence artificielle n’est pas seulement une question d’innovation. Elle a une incidence sur notre capacité à communiquer en toute sécurité, à avoir accès aux services publics, à compter sur les sous-titres et les services de relais de télécommunication, à participer à la vie numérique et à faire confiance aux systèmes qui servent de plus en plus de canaux de communication.
Aujourd’hui, une grande partie du débat national sur l’intelligence artificielle s’articule autour des questions liées à sa croissance, à la confiance qu’elle inspire, à la souveraineté en la matière et à son adoption. Ce sont toutes là des considérations importantes, mais l’intelligence artificielle dans les communications ne peut pas être vraiment digne de confiance ou véritablement à la portée de tous si elle est fondée au départ sur des hypothèses axées sur le discours pour n’être ajustée que par la suite en fonction de l’accessibilité.
Il s’ensuit des risques bien concrets. Les systèmes peuvent donner de mauvais résultats pour les utilisateurs de la langue des signes, produire des sous-titres inexacts, négliger les besoins en communication non audio et ne pas tenir compte de la réalité vécue par les personnes sourdes, sourdes-aveugles et malentendantes. L’accessibilité est trop souvent traitée comme une caractéristique ou un accommodement, plutôt que comme une exigence fondamentale de conception et de gouvernance.
Plus tard cette semaine, je participerai à un sommet international dirigé par des personnes sourdes qui portera précisément sur le langage des signes et l’intelligence artificielle. C’est important, car cela montre que les communautés sourdes n’attendent pas qu’on les invite à participer à cette discussion. On leur doit d’ailleurs déjà une expertise en matière d’éthique, d’ensembles de données, de conception de la traduction et de gouvernance. Les politiques publiques devraient reconnaître cette expertise et l’intégrer dès le départ.
Le Canada a l’occasion de montrer l’exemple en agissant différemment. Dans le contexte du Sénat, cela devrait idéalement se traduire par des systèmes d’intelligence artificielle pour les communications sur lesquels les Canadiens sourds, sourds-aveugles et malentendants peuvent compter parce que l’expertise en matière d’accessibilité a été intégrée dès le départ à leur conception, aux essais, aux approvisionnements et à la gouvernance.
Premièrement, l’accessibilité doit être intégrée d’entrée de jeu à la gouvernance de l’intelligence artificielle et aux politiques sur les technologies de l’information et des communications. Deuxièmement, les systèmes d’intelligence artificielle utilisés dans les communications, le service à la clientèle, l’information publique et les environnements liés aux urgences devraient être soumis à des exigences prévoyant des tests d’accessibilité et des audits. Troisièmement, la validation dirigée par les personnes sourdes et inclusive des personnes handicapées doit faire partie des mécanismes d’approvisionnement, d’établissement de normes et de surveillance. Les communautés touchées par ces systèmes doivent contribuer à déterminer s’ils sont sécuritaires, exacts et utilisables.
L’intelligence artificielle accessible n’est pas une fonctionnalité pouvant faire l’objet d’une demande. Il s’agit d’un droit en matière de communication et d’une exigence assortie d’une reddition de comptes. Si le Canada veut une intelligence artificielle digne de confiance dans le secteur des communications, l’accessibilité ne peut pas demeurer une considération accessoire. Elle doit faire partie du cadre fondamental visant l’intérêt public, de la conception jusqu’à la reddition de comptes, en passant par le déploiement.
Merci. Je serai heureux de répondre à vos questions.
[Anglais]
Le président : Merci, monsieur Beatty. J’invite maintenant M. Sanders à nous soumettre ses observations préliminaires.
Nathan Sanders, chercheur, Centre Berkman Klein pour l’Internet et la société, Université Harvard, à titre personnel : Merci beaucoup. Je suis très heureux d’avoir l’occasion de m’adresser au comité. C’est un privilège de pouvoir prendre la parole après les propos convaincants de M. Beatty.
Je m’appelle Nathan Sanders. Je suis un expert en science des données basé à l’Université Harvard, ici au Massachusetts. Je suis coauteur avec Bruce Schneier de l’ouvrage Rewiring Democracy: How AI Will Transform Our Politics, Government, and Citizenship.
Comme j’ai moi-même beaucoup travaillé à analyser la façon dont les sociétés et les gouvernements de par le monde réagissent à l’intelligence artificielle, je me réjouis de voir votre comité mener cette étude. Le Canada est bien placé pour être un chef de file mondial pour ce qui est de l’application de l’intelligence artificielle dans l’intérêt public, et j’espère que le travail de ce comité saura consolider ce rôle de leadership exercé par le Canada.
Le Canada devrait investir de façon ciblée dans l’intelligence artificielle nationale pour atteindre deux objectifs : premièrement, développer une capacité souveraine en matière d’intelligence artificielle pour les communications entre humains en renforçant le secteur canadien des technologies de l’information et des communications grâce à des investissements dans les technologies civiques; et, deuxièmement, positionner le Canada comme un chef de file international en matière de gouvernance de l’intelligence artificielle en façonnant cet écosystème pour qu’il serve de façon coopérative les publics démocratiques.
Parlons du premier objectif consistant à développer une capacité souveraine en matière d’intelligence artificielle pour les communications. Je pense que le Canada peut y parvenir en investissant dans son écosystème de technologie civique. Le Canada dispose d’atouts importants dans ce domaine. Il compte trois instituts nationaux d’intelligence artificielle. Il y a la Stratégie canadienne sur la capacité de calcul souveraine pour l’intelligence artificielle, l’expertise en matière de démocratie délibérative dans des universités comme l’Université de Toronto et l’Université McGill et des plateformes de technologie civique locales comme Ethelo, établie à Vancouver. Il s’agit de consentir un investissement fédérateur pour transformer tous ces actifs en un écosystème d’intelligence artificielle cohérent et d’intérêt public.
Les technologies délibératives utilisent de plus en plus l’intelligence artificielle pour aider les gens à prendre des décisions tous ensemble. Les innovations pour le traitement du contenu et du discours générés par les humains dans un contexte commercial peuvent aussi servir à des fins démocratiques, et les investissements dans l’un ou l’autre peuvent être bénéfiques à l’un comme à l’autre.
Ces outils peuvent faire plus que résumer les réactions du public à grande échelle; ils assurent une représentation diversifiée des points de vue et aident les personnes et les communautés historiquement marginalisées à participer au débat public. Par exemple, la plateforme deliberation.io utilise l’intelligence artificielle pour sonder les opinions des participants au moyen du dialogue socratique, puis facilite l’analyse sociale des idées soulevées et leur mise aux voix. De même, des chercheurs de Harvard ont élaboré le cadre de recherche Generative Social Choice, qui permet à des groupes de se prononcer sur des questions complexes en utilisant l’intelligence artificielle pour synthétiser divers intrants dans un ensemble représentatif de propositions pouvant être soumises à un vote.
Étant donné que le codage assisté par l’intelligence artificielle accélère la mise au point de ce type de capacités, même pour les petites équipes, des subventions ou des incitatifs d’un montant modeste pour les chercheurs et les organisations de la société civile dans le cadre des processus gouvernementaux peuvent être suffisants pour avoir un impact considérable.
Pour ce qui est du deuxième objectif, qui est de positionner le Canada comme un chef de file international en matière d’intelligence artificielle au service de l’intérêt public, je pense que le Canada peut y parvenir en orientant les investissements vers la science ouverte et les biens publics interopérables. Les outils de sources ouvertes mis au point par la société civile canadienne en collaboration avec des groupes internationaux seront fondamentalement plus fiables que les technologies exclusives des entreprises des États-Unis ou d’ailleurs. Ils réduisent l’asservissement à un fournisseur en permettant la vérification publique et la création de biens publics partagés au lieu d’autoriser la prise de valeur au bénéfice des investisseurs étrangers.
Il existe déjà de nombreux modèles de coopération internationale sur les outils de communication ouverts, interopérables et alimentés par l’intelligence artificielle. Ainsi, le gouvernement écossais a financé un organisme national sans but lucratif appelé CrownShy pour élaborer une plateforme de participation législative intégrée soutenue par l’intelligence artificielle. Au Japon, l’assemblée législative a distribué des fonds publics au parti Team Mirai pour qu’il conçoive des outils de sources ouvertes aux fins de la mobilisation des constituants. Decidim est un cadre de sources ouvertes pour la démocratie numérique qui a été créé en Espagne et qui est déjà utilisé dans le monde entier, y compris au Canada.
Il existe au Canada un solide écosystème de technologie civique qui peut prendre de l’expansion en collaboration avec des partenaires internationaux comme ceux-là et ainsi tirer parti des innovations mondiales, les implanter au Canada, respecter les exigences canadiennes en matière de bilinguisme et de relations fédérales-provinciales et, en même temps, contribuer au bien commun de la démocratie.
Le Canada devrait également investir dans des solutions de rechange publiques à l’intelligence artificielle privée et aux grandes entreprises technologiques. La Suisse a démontré que les pays de taille moyenne peuvent miser sur des modèles de base financés par l’État. Apertus est un modèle d’intelligence artificielle accessible gratuitement à titre de bien public. Il a été conçu par des universités suisses utilisant de l’énergie renouvelable au moyen de centres de données publics, avec les informations sous licence nécessaires. Il ne s’agit pas de rivaliser avec les plus récents modèles d’intelligence artificielle ouverte pour atteindre les niveaux de rendement les plus élevés. On offre plutôt une solution de rechange valable aux utilisateurs qui accordent la priorité à la consommation éthique, à l’intelligence artificielle durable et à la conformité réglementaire. Avec ses instituts nationaux d’intelligence artificielle et sa nouvelle infrastructure informatique souveraine, le Canada pourrait en faire tout autant.
En résumé, le Canada peut être un chef de file mondial en matière d’application de l’intelligence artificielle dans l’intérêt public, premièrement, en développant une capacité souveraine en matière d’intelligence artificielle pour les communications entre humains grâce à un écosystème de technologies civiques florissant et, deuxièmement, en façonnant l’écosystème de l’intelligence artificielle pour servir les populations démocratiques grâce à la coopération internationale et en construisant une infrastructure publique d’intelligence artificielle.
Je vous remercie encore une fois de m’avoir invité aujourd’hui. Je suis prêt à répondre à vos questions.
Le président : Merci beaucoup, monsieur Sanders.
Nous allons maintenant passer aux questions des sénateurs. J’aimerais informer les sénateurs qu’ils disposeront d’environ cinq minutes chacun pour le premier tour — et que nous ferons un deuxième tour si le temps le permet. Si vous souhaitez poser une question à nos témoins, veuillez en aviser notre greffière, qui ajoutera votre nom à la liste des intervenants.
J’invite notre vice-présidente, la sénatrice Dasko, à poser la première question.
La sénatrice Dasko : Merci à nos témoins d’aujourd’hui. Monsieur Beatty, je vous remercie tout particulièrement de votre présence parmi nous. Vous avez dit que nous devrions intégrer l’accessibilité dès le départ, qu’elle doit faire partie de la conception et de la gouvernance de base. J’aimerais approfondir un peu la question pour savoir comment cela peut se concrétiser. Comment cela se passe-t-il? Qui est responsable? Est-ce le gouvernement qui doit établir les règles ou les systèmes d’intelligence artificielle eux-mêmes? Quelle est leur responsabilité? Ou est-ce la responsabilité du gouvernement de mettre en place des règles applicables à ces systèmes?
J’aimerais comprendre un peu mieux. Merci.
[Traduction de l’interprétation]
M. Beatty : Je vous remercie de la question, sénatrice. Idéalement, il faudrait mettre en place un système d’intelligence artificielle sur lequel les personnes sourdes, sourdes-aveugles et malentendantes vont pouvoir compter. Nous avons besoin que l’expertise soit intégrée dès la conception ainsi que lors des tests effectués durant le processus d’approvisionnement, puis pendant l’utilisation. Le gouvernement a une responsabilité à l’égard de toute communication destinée au public, et il a aussi un rôle à jouer dans les tests d’accessibilité pendant le déploiement. On devrait faire appel à l’expertise des personnes sourdes pour appuyer l’effort d’innovation et la conception des systèmes d’intelligence artificielle afin de s’assurer que nous pourrons les utiliser en toute confiance. J’espère voir le Canada se doter de mécanismes bien arrêtés pour garantir l’accessibilité, de sorte qu’il ne s’agisse pas seulement d’une préoccupation secondaire.
Nous avons plusieurs experts sourds, sourds-aveugles et malentendants en linguistique, en recherche et dans le milieu universitaire. Il existe d’ores et déjà au Canada des exposés de principe sur l’intelligence artificielle. Si nous mettons désormais au point les systèmes d’intelligence artificielle en y intégrant cette expertise, cela contribuera à assurer une accessibilité irrévocable pour notre communauté. Nous devrons en outre mettre sur pied un comité consultatif pour veiller à ce que l’information soit transmise partout au Canada.
[Traduction]
La sénatrice Dasko : Merci. J’ai une autre question concernant les systèmes d’intelligence artificielle existants. Où se situent-ils par rapport à l’accessibilité? Y en a-t-il parmi eux qui l’ont intégré, et dans quelle mesure ont-ils réussi à le faire?
[Interprétation]
M. Beatty : C’est une question qui est très souvent négligée dans l’écosystème actuel. J’ai remarqué certaines lacunes au stade de la mise au point. Je pense que des démarches comme celle d’aujourd’hui sont d’une grande utilité pour nous assurer d’être pris en considération et de voir l’expertise des personnes sourdes être mise à contribution lors de la conception de ces systèmes. Nous voulons pouvoir nous en remettre à un ensemble de données précises et nous assurer que tous les utilisateurs au Canada ont accès à des services d’interprétation, tant en langue des signes américaine qu’en langue des signes québécoise.
Nous voulons participer à la gouvernance du processus de création par l’intelligence artificielle, car cela a une incidence sur notre utilisation du langage des signes et des moyens de communication. Nous souhaitons que cette prise en charge devienne réalité au sein du Canada.
[Traduction]
La sénatrice Dasko : Merci.
Le sénateur Lewis : Je vous remercie tous les deux des commentaires que vous avez formulés jusqu’à présent aujourd’hui. Monsieur Sanders, vous avez parlé de certains des acteurs internationaux concernés. Il va de soi que ce sont des acteurs étrangers qui ouvriront la voie, à bien des égards. C’est une façon de le dire. Comme les choses évoluent à la vitesse grand V, un pays comme le Canada ne risque-t-il pas de rater le coche s’il ne participe pas activement au processus, notamment au niveau de ses instances publiques? Combien de temps faudra-t-il pour que cette occasion nous échappe complètement si nous ne nous engageons pas immédiatement dans cette voie?
M. Sanders : Il y a des risques à ne pas participer au développement de l’intelligence artificielle, et je pense qu’ils se manifestent tout au moins sur deux plans. Le premier concerne la possibilité de tirer parti de l’intelligence artificielle de manière responsable et, ce faisant, d’atténuer les risques liés à son utilisation dans le secteur public et au sein de la société. L’autre concerne les occasions économiques et la plus-value que procure l’intelligence artificielle. À l’heure actuelle, cette valeur ajoutée se retrouve dans les coffres d’un petit nombre d’entreprises dans des endroits comme la Silicon Valley.
En ce qui concerne la première question, j’aimerais vous parler de l’investissement que le gouvernement écossais a fait par l’entremise de son organisme national sans but lucratif CrownShy, car je pense qu’il s’agit d’un exemple d’une assemblée législative qui reconnaît qu’elle peut améliorer son engagement auprès du public en tirant parti de ces technologies délibératives pour favoriser une plus grande participation à l’élaboration de politiques, ce qui lui permet aussi de mieux réagir aux besoins des gens. On peut ainsi créer de la valeur aux fins de la gouvernance en mettant à contribution cette technologie dont on guide le développement en participant activement à l’écosystème et en orientant, au moyen de directives explicites, le travail des spécialistes nationaux de la technologie civique auxquels on fournit les outils dont ils ont besoin. Et tout cela se fait en mode coopération à l’échelle internationale en procédant d’une manière ouverte et interopérable de telle sorte que d’autres pays puissent également s’en prévaloir.
J’estime que c’est un modèle très intéressant qui montre comment les démocraties du monde entier, et en particulier celles de taille moyenne, peuvent tirer parti du développement de la technologie et en orienter l’évolution en conjuguant leurs efforts pour s’assurer que les intérêts, les exigences et la souveraineté de leurs pays respectifs sont sauvegardés face à des nations beaucoup plus grandes qui pourraient sans cela exercer un pouvoir monopolistique.
Par ailleurs, en ce qui concerne la récupération de la plus-value, je pense que le plus grand risque pour la survie de nos démocraties dans ce contexte vient du fait qu’un très petit nombre de sociétés ont atteint une valorisation de plusieurs billions de dollars en raison de l’intérêt des investisseurs pour l’intelligence artificielle. J’estime que la concentration de la richesse et du pouvoir met en péril l’ordre mondial existant, et la seule façon de modifier le cours des choses est de trouver d’autres méthodes pour capturer et distribuer la valeur incontestablement créée par cette nouvelle technologie. Je n’arrive pas à m’imaginer un monde où nous ne mettrions pas à profit de façon constructive ces outils dans l’ensemble du gouvernement et de la société. Je crois toutefois qu’il est possible de récupérer cette plus-value au sein même des institutions publiques pour la redistribuer ensuite à la population, plutôt que de la laisser à un petit nombre de très grandes sociétés privées. On peut voir d’ores et déjà de par le monde des exemples d’un tel développement de l’intelligence artificielle misant sur la propriété publique et les sources ouvertes pour servir l’intérêt du plus grand nombre.
J’ai donné l’exemple de la Suisse parce que je pense que c’est l’illustration la mieux définie d’un gouvernement qui, dans le cadre d’une stratégie nationale en matière d’intelligence artificielle, a investi dès le départ pour établir un modèle de base en tant que bien public, conformément à ses propres principes éthiques, y compris la durabilité environnementale et le respect des exigences réglementaires de l’Union européenne. Les Suisses ont présenté le tout comme étant un bien public que tout le monde peut utiliser et une base pour la coopération internationale.
J’ai hâte de voir d’autres gouvernements dans le monde se joindre à un tel effort de collaboration et investir dans ce type d’infrastructure publique d’intelligence artificielle.
Le sénateur Lewis : Merci. Je cède le reste de mon temps de parole à mes collègues.
Le sénateur Wilson : Ma question s’adresse à M. Sanders. Avec cette approche de l’infrastructure civique ou publique, comment pouvons-nous soutenir la concurrence du secteur privé? Je ne parle pas de concurrence commerciale directe, mais plutôt de célérité dans la mise au point et le déploiement de systèmes. Je crains que d’ici à ce qu’on parvienne à mettre en place, ne serait-ce que partiellement, cette forme de collaboration que vous préconisez, d’autres systèmes soient tellement en avance que nous ne serons pas en mesure de rattraper notre retard. Y voyez-vous un problème? Y a-t-il des pistes de solution?
M. Sanders : Je pense que c’est une excellente question, qui revêt une grande importance. Je tiens à souligner qu’il existe une occasion de rivaliser selon des critères différents de ceux sur lesquels se base aujourd’hui l’IA des géants du Web. Il y a un fossé énorme sur le marché que ces géants ne comblent pas, et qu’ils ne choisiront probablement jamais de remplir, à savoir le développement d’une IA fiable et éthique.
Aujourd’hui, les plus importantes entreprises technologiques du monde se font concurrence pour des gains marginaux du rendement. Ceux d’entre nous qui suivent ce domaine de près ont l’habitude de voir de nouvelles annonces d’OpenAI ou d’Anthropic qui revendiquent des améliorations subtiles de rendement très difficiles à mesurer. Elles ne font que peaufiner graduellement leur capacité à résoudre des problèmes entourant la traduction de langages de programmation, et ainsi de suite. Ces progrès précieux font avancer le domaine, mais pour la plupart des utilisateurs, ils ne sont pas vraiment perceptibles, sauf si l’on considère l’accumulation sur de nombreux cycles de mises à jour et la concurrence entre ces acteurs.
Cependant, aucune de ces entreprises n’investit réellement pour jeter des bases d’une IA fondamentalement plus fiable. Elles n’impliquent pas les citoyens dans la gouvernance de leurs modèles. Elles ne font participer ni les gouvernements ni le public aux décisions concernant la manière dont ces modèles doivent être construits. Elles ne prennent pas de mesures pour s’assurer que les données sur lesquelles elles entraînent leurs modèles sont recueillies de manière éthique et disposent des licences appropriées. Elles ne confient le contrôle du développement futur de ces technologies à personne d’autre qu’à leurs investisseurs.
Il existe donc une lacune sur le marché qui n’est pas comblée aujourd’hui par le secteur privé, et le gouvernement est le mieux placé pour y remédier en fournissant une IA fondamentalement plus fiable. La mise en place d’un tel système peut prendre du temps et nécessiter des investissements. L’exemple de la Suisse que j’ai partagé nous montre que c’est possible. Il n’est pas nécessaire de rivaliser avec le secteur privé, qui lance de nouveaux modèles chaque semaine, et que nous essayerions de surpasser avec des modèles publics. Nous pouvons plutôt montrer qu’il existe une voie fondamentalement différente qui sera plus convenable et plus attrayante pour de nombreuses utilisations, y compris celles de la société civile et du secteur public.
Je pense qu’il n’y a pas de problème si le rendement de ces modèles ne rivalise jamais avec les meilleurs du secteur privé, tant qu’ils atteignent ces objectifs : être sous contrôle public, créer de la valeur pour le public et être fondamentalement plus fiables. Je crois que c’est tout à fait réalisable.
Le sénateur Wilson : Merci.
La sénatrice Simons : Ma première question s’adresse à M. Beatty. Pourriez-vous nous donner quelques exemples concrets de la manière dont les personnes de la communauté sourde utilisent l’IA afin que nous comprenions pourquoi elle est si importante? Par exemple, je produis un balado mensuel. Au début, j’étais ravie quand Apple a commencé à produire une transcription quasi instantanée. J’ai trouvé que c’était génial, car les personnes incapables d’écouter le balado pouvaient le lire.
Puis j’ai lu la transcription, et j’ai constaté que j’utilisais souvent un vocabulaire qu’elle ne comprenait pas. Le robot fait de son mieux, mais ce n’était pas une transcription de grande qualité. Si quelqu’un se fiait uniquement à cela, il aurait une idée inexacte de ce qui a réellement été dit.
Je suis sûre qu’au début, les membres de votre communauté se sont dit : « C’est fantastique. Tout sera transcrit. » Mais la transcription est souvent peu fiable. Pourriez-vous peut-être nous donner quelques exemples concrets des avantages et des inconvénients de l’IA pour votre communauté? Je pense que nous aurions une meilleure idée de la façon dont vous souhaitez qu’elle fonctionne si nous comprenions comment les gens l’utilisent actuellement.
[Traduction de l’interprétation]
M. Beatty : Merci, madame la sénatrice. En utilisant cette analogie, vous avez tout à fait raison lorsque vous comparez une transcription de la parole à une interprétation en langue des signes. Nous souhaitons effectivement avoir accès aux transcriptions, mais il est vrai que ce n’est pas encore au point. Il en va de même pour la langue des signes : la précision n’est pas encore au rendez-vous. Nous nous demandons qui est l’auditoire, et qui vérifie la justesse des signes et du résultat produit. Dans la Loi canadienne sur l’accessibilité, l’American Sign Language, la langue des signes québécoise et les langues des signes autochtones sont reconnues comme étant les langues les plus utilisées par les personnes sourdes et malentendantes pour communiquer. Ce sont les principales langues employées ici au Canada.
Donc, si vous avez recours à la langue des signes générée par l’IA, qui en vérifie l’exactitude? Qui supervise le tout? Qui contrôle ce qui est produit? Ce n’est pas encore au point. C’est pourquoi nous disons qu’il faut assurer l’accessibilité d’entrée de jeu et non après coup.
Au moins, lorsque vous lisez la transcription de votre propre balado, vous savez que ce n’est pas exact. Or, les personnes sourdes qui utilisent la langue des signes n’ont pas le même luxe, voire le même accès à cette communication. C’est exactement ce que vous disiez à propos de l’IA et de la langue des signes. Pour l’instant, les ensembles de données... Il y a des milliers de mouvements faciaux infimes, qui constituent des caractéristiques grammaticales de la façon dont le style de la langue des signes peut varier d’une personne à une autre.
Cette semaine se tient un sommet sur la langue des signes et l’IA. Il y aura 200 délégués qui sont des experts de premier plan en IA. Ils vont justement aborder ce dont nous parlons en ce moment sur la langue des signes et l’utilisation de l’IA. J’ai vraiment hâte de recueillir davantage d’informations, que je serai ravi de vous transmettre. Puisqu’il s’agit d’un sommet international, il y aura des délégués du monde entier.
Des experts linguistiques et techniques se réunissent pour la première fois ce jeudi et vendredi. Je vais les rencontrer pour discuter de la langue des signes. Merci beaucoup de votre question.
[Traduction]
La sénatrice Simons : J’ai une petite question pour M. Sanders. Lorsque nous parlons de mettre en place un régime plus souverain, pouvez-vous nous dire quel serait le rôle du droit d’auteur dans ce contexte, afin que les grands modèles de langage, qui s’approprient les informations et les régurgitent... Y a-t-il des mesures que le Canada doit prendre du point de vue du droit d’auteur ou de la gouvernance pour nous préparer au genre de souveraineté dont vous parlez?
M. Sanders : Oui, je pense que c’est également un aspect important à prendre en compte. Il y a deux principales manières dont les informations sont utilisées pour le développement et le fonctionnement des modèles d’IA. La première concerne la phase initiale d’entraînement de ces modèles, où d’énormes quantités de données, des billions de jetons numériques — ou considérez cela comme des millions ou des milliards de documents et d’articles — sont utilisés pour entraîner un modèle fondateur. Or, les informations servent également lors de l’utilisation de ces modèles, au moment où un utilisateur pose une question ou affecte une tâche spécifique à un modèle d’IA. Des informations précises et souvent à jour, telles que des reportages d’actualité ou d’autres sources de données, doivent alors être utilisées par l’IA pour accomplir ces tâches.
Il est très important de respecter le droit d’auteur et de soutenir les industries à l’échelle mondiale — mais aussi les industries nationales du Canada, y compris l’édition — au moment tant de l’entraînement que de l’utilisation. Or, les géants du Web n’ont pas respecté les règles dans les pays du monde entier, du moins selon ma compréhension ou la compréhension traditionnelle des règles.
Dans ce contexte, je pense qu’il est très important de clarifier la manière dont la législation existante sur le droit d’auteur est censée s’appliquer aux modèles d’IA, à l’échelle nationale et internationale. Il faut éliminer les échappatoires que créent les questions relatives à l’utilisation des nouvelles technologies avec des contenus traditionnels.
Il est très important d’établir de nouveaux mécanismes qui permettent aux créateurs de contenu et aux titulaires d’un droit d’auteur d’être rémunérés et indemnisés lorsque leur contenu est utilisé, que ce soit lors de l’entraînement de l’intelligence artificielle ou de son utilisation.
Une réelle valeur est créée pour les utilisateurs et pour la société lorsque l’intelligence artificielle a accès à des informations pertinentes et fiables. Je pense que nous devons trouver un moyen d’y arriver, sans pour autant sacrifier le travail créatif et intellectuel nécessaire à la production de contenu. Ces deux aspects doivent coexister. Je pense que le droit d’auteur est un mécanisme important à cet égard. Il faut commencer par clarifier si l’intention de la législation en place peut s’appliquer à l’intelligence artificielle.
[Français]
Le sénateur Cormier : Ma première question s’adresse à M. Beatty.
[Traduction]
Dans un contexte où les systèmes d’intelligence artificielle sont de plus en plus intégrés aux services de télécommunications, pensez-vous que le cadre législatif actuel, notamment en matière d’accessibilité et de responsabilité des fournisseurs, est suffisant pour protéger les droits des personnes sourdes ou malentendantes? Des obligations portant spécifiquement sur l’intelligence artificielle devraient-elles être explicitement intégrées dans la loi fédérale? Je pense en particulier à la Loi canadienne sur l’accessibilité.
Quelle serait votre recommandation? Devrions-nous intégrer directement dans ces lois des dispositions concernant l’utilisation de l’intelligence artificielle pour votre communauté?
[Traduction de l’interprétation]
M. Beatty : Actuellement, le Conseil de la radiodiffusion et des télécommunications canadiennes, ou CRTC, réglemente les télécommunications et la radiodiffusion. Il dispose de sa propre législation, selon laquelle il faut inclure la voix et la vidéo. C’est la vidéo qui permet aux contenus d’être accessibles à la communauté des personnes sourdes et malentendantes. Le CRTC doit disposer de son article 23 qui traite de l’accessibilité. Puisque l’intelligence artificielle est une nouvelle technologie, cette législation est encore plus importante, car nous souhaitons que l’innovation soit menée par les personnes sourdes. Nous voulons apporter notre expertise en matière d’accessibilité et de technologie. Si nous collaborons avec le gouvernement fédéral dans ce cadre, nous serions alors protégés par la législation.
À mes yeux, le modèle de gouvernance est davantage une réglementation politique, car de nombreuses innovations actuelles, y compris l’intelligence artificielle, négligent les communautés de personnes sourdes et malentendantes. Je suis très reconnaissant de l’occasion qui m’est donnée de témoigner ici, de parler d’un modèle de gouvernance potentiel et de ce qui peut être mis en place, simplement pour garantir que notre souveraineté en matière d’accessibilité est préservée.
La Loi canadienne sur l’accessibilité reconnaît que l’American Sign Language, la langue des signes québécoise et les langues des signes autochtones sont nos langues les plus utilisées pour communiquer. Voilà qui doit être protégé par la loi. Il faut inclure l’approvisionnement, l’éthique et les normes en matière d’intelligence artificielle. Comme M. Sanders l’a déjà dit, nous devons participer à toutes les décisions prises. Nous serions les principaux moteurs de toute forme de communication accessible.
Comme j’assiste à ce sommet à la fin de la semaine, je commence à me rendre compte que nous avons besoin d’un modèle de gouvernance, et c’est ce que je recommanderais. Je suis tout à fait d’accord avec vous. Pour protéger l’utilisation du langage des signes, il faut une forme de supervision afin de s’assurer que le processus est éthique, fiable et s’intègre bien à toutes les nouvelles technologies, tout en préservant la souveraineté partout au Canada.
[Traduction]
Le sénateur Cormier : Merci.
La sénatrice Mohamed : Tout d’abord, merci beaucoup, monsieur Beatty, de vous être joint à nous. Je dois admettre que, pendant tout le temps que j’ai réfléchi à l’intelligence artificielle, je n’avais jamais vraiment envisagé cet angle. Il est extrêmement important que vous nous ayez ouvert les yeux sur certains des défis et, très franchement, sur certaines des occasions qui s’offrent au Canada pour qu’il joue un rôle de premier plan.
J’ai une question très simple : avez-vous eu l’occasion de rencontrer le ministre ou le ministère alors qu’ils élaborent leur stratégie qui débouchera sur des investissements?
Récemment, nous avons entendu parler de l’initiative « AI for All ». Comment pouvons-nous en faire notre cheval de bataille? Je crains que si nous ne réfléchissons pas vraiment à l’inclusion dès le début, comme vous le dites, il devienne très difficile d’ajouter des éléments à la fin. Je me demande donc si vous pourriez nous faire part de vos réflexions sur vos échanges avec le ministre et son ministère.
Je ne peux pas parler au nom de mes collègues, mais je vous remercie encore une fois de m’avoir ouvert les yeux sur une chose que je n’avais pas vraiment saisie.
[Traduction de l’interprétation]
M. Beatty : J’ai rencontré le ministre et son équipe. C’est intéressant, car ils ont eu la même réaction. Eux non plus n’y avaient jamais réfléchi auparavant. Beaucoup ont été surpris, car il est si facile de se laisser entraîner dans le tourbillon de l’innovation en matière d’intelligence artificielle sans jamais envisager la question de l’accessibilité pour les Canadiens sourds, sourds-aveugles et malentendants. Lorsque nous l’avons constaté, nous avons compris que nous devions préserver cette souveraineté en matière d’accessibilité, car cette perspective ne semblait pas être prise en compte.
Nous menons actuellement un plaidoyer pour que cet aspect ne soit pas relégué au second plan, sans quoi ce sera plus compliqué et impossible à prendre en compte. Merci beaucoup pour votre question.
[Traduction de l’interprétation]
La sénatrice Mohamed : Avez-vous rencontré le ministre Solomon en particulier? C’est lui qui tient les rênes de la stratégie, et il se présente aujourd’hui devant le Sénat en séance plénière.
[Traduction de l’interprétation]
M. Beatty : Je l’ai entendu s’exprimer lors du Congrès national libéral, et je suis d’accord avec sa stratégie visant l’intelligence artificielle pour tous. J’y souscris totalement, mais je tiens à souligner que s’il dit que c’est « pour tous », ce doit vraiment être le cas. Nous devons bénéficier de conditions équitables, ce qui est essentiel.
[Traduction]
La sénatrice Arnold : Merci. Je vous suis très reconnaissante à tous les deux d’être ici aujourd’hui. C’est un véritable honneur d’entendre vos deux points de vue. Ma question s’adresse à M. Sanders.
Tout d’abord, je tiens à vous remercier de votre travail positif et optimiste sur la démocratie. J’ai particulièrement aimé votre article dans le Guardian sur les bons côtés de l’intelligence artificielle et de la démocratie. C’est vraiment inspirant. Dans ma petite communauté, des élections municipales vont bientôt avoir lieu. Les gens ont utilisé des algorithmes d’intelligence artificielle pour mettre en place un excellent site sur le vote où l’on peut consulter les antécédents des candidats et ce genre de choses. Un tel outil peut être vraiment formidable pour la démocratie.
Ma question fait suite à celle du sénateur Wilson concernant les infrastructures publiques, et sur le sentiment constant que nous devons nous mettre au travail pour y arriver. Ma question est simple, je pense : devons-nous partir de zéro ici? Peut-on reprendre les systèmes existants et simplement les reprogrammer?
M. Sanders : C’est une excellente question. J’aime que vous souligniez les aspects bénéfiques que cette technologie peut apporter. Voici comment j’interprète votre question. Lorsque nous mettons la technologie entre les mains de membres de notre communauté qui veulent bien faire, qui veulent nous aider à travailler ensemble et qui veulent être de meilleurs citoyens d’une démocratie, et aussi améliorer le fonctionnement des processus gouvernementaux, y compris les élections, je vois ces possibilités et cette valeur.
Quant à savoir si nous devons repartir de zéro, je pense que non, car notre communauté regorge déjà d’exemples de personnes, d’organisations de la société civile, de gouvernements et d’organismes qui possèdent déjà les capacités, l’expertise et des personnes désireuses de faire le bien. À mes yeux, il faut vraiment leur donner les moyens de réussir et les doter des ressources en matière de technologie, d’accès et de financement, dont elles ont besoin pour faire un bon travail.
Je pense que l’intelligence artificielle est notamment en train de changer la vitesse, l’ampleur et l’échelle auxquelles les personnes, les petites organisations et les communautés qui étaient historiquement défavorisées peuvent agir.
Nous voyons partout dans le monde des exemples de projets technologiques communautaires remarquables qui utilisent l’intelligence artificielle pour en faire plus, plus vite. Je vais vous donner un exemple tiré d’un projet auquel je participe ici, dans le Massachusetts. Nous avons mis en place une plateforme de communication législative que nous appelons la Massachusetts Platform for Legislative Engagement, ou MAPLE. Plusieurs bénévoles d’entre nous — principalement des universitaires et des chercheurs issus d’universités de la région de Boston, dont Harvard et d’autres — se sont réunis pour créer une plateforme de technologie à source ouverte qui permet aux électeurs de soumettre plus facilement des témoignages à l’assemblée législative de l’État. Nous faisons ce travail ensemble depuis environ six ans maintenant. Le rythme auquel nous pouvons développer, soutenir et maintenir cette plateforme s’est accéléré, car nous sommes en mesure de tirer parti de l’aide à la programmation et au développement logiciel offerte par l’intelligence artificielle. Nous sommes désormais en mesure de répondre à des cas d’utilisation que nous ne pouvions pas régler auparavant. Nous pouvons rendre la plateforme plus accessible, notamment sur le plan linguistique, en tirant parti des technologies d’intelligence artificielle qui nous aident à faire plus avec les mêmes ressources — une petite équipe de bénévoles.
Je sais qu’il existe des projets remarquables de ce genre et des groupes remarquables partout au Canada qui sont prêts à utiliser la technologie à bon escient. Je pense que ce que le gouvernement fédéral canadien peut faire, c’est s’assurer de soutenir et de favoriser la mise en place d’un écosystème technologique dynamique, ce qui veut dire de le financer, mais aussi de créer les conditions nécessaires pour que ces groupes réussissent. Il s’agit notamment de donner la priorité à l’utilisation d’innovations nationales comme celle que j’ai mentionnée et d’offrir des solutions de rechange aux produits provenant des géants de la technologie, en particulier les produits d’intelligence artificielle américains, sur lesquels ces groupes pourraient autrement devoir compter pour concevoir de tels produits.
Je sais que j’ai mentionné à plusieurs reprises les modèles d’intelligence artificielle, de sources ouvertes et de bien public, comme le modèle Apertus en Suisse. Je pense que c’est un exemple d’une catégorie émergente de modèles d’intelligence artificielle qui sont plus appropriés pour des utilisations civiles de cette nature. J’espère que le Canada pourra contribuer à l’élaboration d’autres modèles de ce genre.
La sénatrice Arnold : Merci.
Le sénateur Aucoin : Bonjour.
Monsieur Sanders, vous avez parlé brièvement de l’éthique dans l’intelligence artificielle. Pouvez-vous nous en dire plus à ce sujet? Essentiellement, que devrions-nous examiner ou que devrait garder en tête le gouvernement?
M. Sanders : Merci. Je suis heureux de répondre à cette question. Je pense que l’éthique est un sujet important et franchement embryonnaire dans l’industrie de l’intelligence artificielle, embryonnaire en ce sens qu’il n’y a pas encore de normes professionnelles solides comme il en existe dans tant d’autres domaines industriels pour donner non seulement aux praticiens, aux développeurs et aux entreprises, mais aussi à l’industrie dans son ensemble, des directives sur la façon d’élaborer des modèles d’intelligence artificielle qui sont conformes aux normes éthiques sociétales.
C’est tant par l’entremise de la réglementation et des lois officielles que par ses interventions pour guider l’écosystème, notamment en soutenant les investissements dans les technologies civiques, que le gouvernement peut établir ces normes éthiques.
Pour illustrer ce point, je peux vous donner quelques exemples où l’éthique entre en ligne de compte dans le développement de modèles d’intelligence artificielle. Nous avons déjà parlé des choix fondamentaux et cruciaux qu’il faut faire au moment de sélectionner les données d’entraînement, c’est-à-dire les renseignements qui vous allez utiliser pour élaborer votre modèle d’intelligence artificielle. Vous devez faire des choix éthiques à ce moment : allez-vous enfreindre la Loi sur le droit d’auteur ou vous aventurer dans une zone grise en utilisant du contenu qui n’est pas clairement autorisé pour l’utilisation que vous voulez en faire, ou qui peut ne pas être autorisé au-delà des frontières?
Avoir des lignes directrices très solides pour prévenir l’utilisation inappropriée de contenu à des fins d’entraînement est essentiel, mais il faut aussi prendre d’autres décisions par la suite. Il faut régler et orienter le développement des modèles afin de s’assurer, par exemple, qu’ils reflètent le point de vue d’une communauté particulière ou qu’ils sont programmés pour respecter certains principes éthiques ou directives d’utilisation. Par le passé, c’était un processus très technique. Aujourd’hui, ces instructions sont en grande partie données à ces modèles en langage naturel.
À titre d’information, par exemple, une partie de la « constitution » — le mot utilisé par Anthropic — de ses modèles Claude a été rendue publique sur de nombreuses tribunes. Vous pouvez ainsi voir les choix de cette entreprise quant à la manière dont elle demande à son modèle de se comporter lorsqu’il est utilisé par les utilisateurs.
C’est un document long et détaillé. Dans un article paru récemment dans le New Yorker, on explique en profondeur le processus qu’a utilisé Anthropic pour développer son modèle. Je trouve qu’il est à la fois pertinent et intéressant que les entreprises accordent autant d’attention aux instructions et aux directives qui régissent le comportement de leurs modèles lorsqu’ils sont utilisés. Toutefois, les décisions à ce sujet et la définition des principes éthiques ne devraient pas être laissées à la seule discrétion des dirigeants des entreprises, mais devraient faire l’objet d’une coopération et d’un contrôle publics. Comme il n’est pas forcément approprié que le gouvernement régisse le comportement des modèles des entreprises du secteur privé, c’est une autre raison pour laquelle je pense qu’on devrait développer des modèles d’intelligence artificielle publics au sein des institutions publiques, où il est naturel et approprié d’exercer un contrôle public sur ces décisions éthiques lors de la conception.
[Français]
La sénatrice Miville-Dechêne : J’ai une question pour M. Sanders. Je vais vous la poser en français; avez-vous la traduction?
Je vous trouve évidemment très optimiste, et cela fait du bien de vous entendre dans ce débat, mais je lisais récemment que le système d’intelligence artificielle Claude Mythos est à ce point dangereux que la compagnie californienne Anthropic refuse de le rendre accessible au public.
Voici donc ma question : que fait-on pour s’assurer que ces compagnies privées très puissantes ne contrôlent pas le débat dans le domaine public, le débat sur la démocratie et le débat sur les élections? Dans ce cas-ci, il y a un mouvement au Canada. On m’a envoyé il y a quelque temps une pétition de nombreux chercheurs qui affirmaient qu’il fallait un moratoire pour que les entreprises privées puissantes en matière d’IA ne puissent pas aller dans ces secteurs, et qu’il fallait justement, comme vous l’avez dit, laisser agir les systèmes plus publics, qui ont le bien commun à cœur.
Je sais que c’est radical, cette histoire de moratoire, mais vous semblez dire que les systèmes publics n’ont qu’à s’avancer et à occuper l’espace. Or, n’y a-t-il pas un danger relativement grand que ces grandes entreprises si puissantes viennent finalement enlever toute dimension démocratique à ce débat sur nos institutions fondamentales, ce qui pourrait être dramatique, évidemment?
[Traduction]
M. Sanders : Je vous remercie de la question, et je suis tout à fait d’accord avec vous sur le danger que représente le fait de confier ces pouvoirs à des organismes privés. Je vais mentionner trois éléments.
Tout d’abord, au sujet des entreprises qui ne rendent pas les plus récents modèles accessibles au public, je vous encourage à ne pas tout prendre au mot et à ne pas céder au battage médiatique. Il est clair pour moi que les modèles d’intelligence artificielle peuvent créer de la valeur et être très utiles. Je n’en doute pas un seul instant. Je les utilise beaucoup dans mon travail et les trouve utiles. Cependant, je ne vois aucune preuve que certains modèles dont on a parlé récemment possèdent des capacités ou une intelligence vraiment surhumaines qui dépassent ce que pourrait obtenir une entreprise en employant, par exemple, un chercheur humain en cybersécurité et en lui demandant de chercher des failles de sécurité et des logiciels de base. C’est un exemple dont on a beaucoup parlé récemment.
Deuxièmement, je pense que nous devrions reconnaître que cette situation — le fait que des entreprises privées exercent une influence considérable sur des processus démocratiques importants comme les élections — est malheureusement déjà une réalité, et que cela remonte bien avant l’arrivée de l’intelligence artificielle. L’exemple le plus frappant est celui des entreprises de médias sociaux, qui, depuis des décennies, exercent une influence considérable sur les élections dans le monde entier. En tant que citoyen américain, je peux vous dire que je constate, du moins de la part de mon gouvernement, un manque flagrant de mesures pour essayer de contrôler et d’orienter le comportement de ces entreprises privées afin qu’il corresponde à l’intérêt public. Je pense que les gouvernements doivent en faire plus pour encadrer les entreprises d’intelligence artificielle, bien sûr, mais aussi les autres entreprises de technologie et les autres secteurs, y compris le secteur énergétique, par exemple.
Troisièmement, je suis d’accord avec vous : il est urgent d’empêcher la concentration de la richesse et du pouvoir des entreprises, mais c’est un enjeu qui concerne plus l’argent que la technologie. Comme je l’ai dit, l’intelligence artificielle permet des utilisations vraiment formidables. Elle peut être très puissante et utile. Toutefois, je ne pense pas que ce soit très différent ici, et que c’est encore un mécanisme bien plus ancien, l’argent, qui confère pouvoir et moyens d’action aux entreprises.
Je pense que si la plupart des entreprises qui exercent une influence indue sur la démocratie dans le monde aujourd’hui peuvent le faire, c’est parce qu’elles ont de l’argent. Elles peuvent contrôler un grand nombre de travailleurs et leur ordonner de faire tel travail, et elles peuvent utiliser leur argent pour influencer les gouvernements et le pouvoir. Le fait que certaines de ces entreprises disposent désormais aussi de capacités technologiques extraordinaires n’a pas beaucoup changé cette équation. Je pense que c’est l’argent plus que la technologie qui doit nous inquiéter.
[Français]
La sénatrice Miville-Dechêne : Si je comprends bien votre réponse toute en nuance, vous dites qu’un moratoire tel que le suggèrent certains chercheurs au Canada ne serait pas la bonne façon d’agir pour que le débat public reste serein et qu’il ne soit pas contrôlé par des intérêts privés?
[Traduction]
M. Sanders : Je n’ai pas pris connaissance de cette proposition de moratoire. Je n’en connais pas les détails. Je sais que, par le passé, des moratoires sur le développement de l’intelligence artificielle ont été proposés, y compris aux États-Unis. D’une manière générale, je crains qu’il ne soit pas réaliste de restreindre les activités privées de recherche sur les nouvelles technologies. Je ne suis pas certain qu’un tel moratoire limiterait réellement les avancées technologiques dans ce domaine.
Il y a des initiatives de développement de sources ouvertes et des acteurs internationaux qui développent et font progresser les technologies d’intelligence artificielle partout dans le monde, et je ne pense pas que tout cela serait freiné par un moratoire de ce genre. Cependant, je pense qu’il est urgent que les gouvernements du monde entier restreignent et encadrent les activités du secteur privé de façon à les faire correspondre à l’intérêt public. Encore une fois, cela est plus une question de richesse que de technologie.
La sénatrice Simons : J’ai une question pour M. Sanders. L’un des défis liés à la souveraineté en matière d’intelligence artificielle concerne l’énergie et la puissance de calcul nécessaires au fonctionnement de ces systèmes, qui requièrent beaucoup d’électricité et d’eau.
Le Canada est donc bien placé pour relever ce défi, car nous disposons d’une énergie hydroélectrique verte. Nous disposons de grandes quantités d’eau.
Est-ce que, selon vous, augmenter notre compétitivité à l’échelle mondiale en tant que puissance souveraine en matière d’intelligence artificielle, présente des risques pour l’environnement, pour ce qui est de gérer les besoins en énergie et en eau douce?
M. Sanders : C’est une question importante parce que je pense que les répercussions environnementales du développement de ce secteur sont non seulement importantes, mais aussi réparties de manière disproportionnée ou inégale. Certaines collectivités subissent le poids d’un développement intensif des centres de données qui a des répercussions environnementales graves, et cela résulte en grande partie du modèle industriel qui est mis en place. Il n’est pas nécessaire qu’il en soit ainsi.
J’ai décrit plus tôt comment les grandes entreprises technologiques du monde se livrent aujourd’hui à une course effrénée pour lancer de nouveaux modèles toutes les deux ou trois semaines qui tentent de dépasser de façon minime les performances du modèle précédent. C’est un processus très énergivore qui est sans doute naturel dans un système capitaliste concurrentiel où un petit nombre d’entreprises disposent de billions de dollars à investir pour le faire. Toutefois, je ne pense pas qu’il soit nécessaire de créer de la valeur à partir de cette technologie.
Je pense qu’il existe une façon plus efficace et moins énergivore de procéder. Un développement progressif qui ne vise pas à obtenir des gains de performance minuscules, mais plutôt à établir des fondements très différents pour créer de la valeur, comme une intelligence artificielle plus fiable, constituerait une bien meilleure utilisation de nos ressources.
De plus, en ce qui concerne l’utilisation de la technologie, de nombreuses entreprises tentent aujourd’hui de se démarquer sur le marché en montrant qu’elles peuvent utiliser davantage d’intelligence artificielle, que chaque interaction que vous avez avec leur produit peut être pilotée par l’intelligence artificielle, mais sans savoir si cela a vraiment une valeur ajoutée. C’est une conséquence involontaire de l’évolution du secteur, qui ne constitue pas une utilisation responsable des ressources énergétiques.
Je ne suis pas un expert en politique énergétique, mais j’attendrais du gouvernement qu’il encadre l’industrie afin de s’assurer que les choix qu’elle fait pour son développement n’ont pas de répercussions disproportionnées sur certaines collectivités, et de garantir l’internalisation des conséquences environnementales, de sorte que les entreprises d’intelligence artificielle ne se contentent pas d’externaliser les conséquences écologiques et énergétiques de leur consommation d’énergie et d’eau et de son faible coût.
Le gouvernement peut prendre des mesures pour inciter les entreprises du secteur privé à gérer les ressources de manière plus responsable. Encore une fois, je pense que le gouvernement a un rôle à jouer en proposant et en montrant qu’il existe une voie de développement fondamentalement plus durable.
Le sénateur Quinn : Merci à nos deux témoins d’être avec nous aujourd’hui. Merci, chers collègues, pour les questions que vous avez posées et les réponses qu’elles ont appelées. C’est une véritable occasion d’apprendre pour une personne qui est certainement en dehors de son domaine d’expertise.
Je voulais poser une question au sujet des gens comme moi qui ne connaissent pas grand-chose à ce sujet, mais qui voient l’intelligence artificielle à l’œuvre lorsqu’ils effectuent une recherche sur Google ou ailleurs. La première réponse qui s’affiche est générée par l’intelligence artificielle. De plus, on reçoit des appels téléphoniques qui sont probablement pilotés sur l’intelligence artificielle. Dans quelle mesure devrait-on s’inquiéter de l’utilisation frauduleuse ou répréhensible de l’intelligence artificielle? Est-ce que cela devrait préoccuper la population en général et les communautés très précises d’où vous êtes tous les deux issus?
[Interprétation ]
M. Beatty : Nous sommes extrêmement préoccupés par les activités frauduleuses, en particulier celles visant les utilisateurs de la langue des signes. C’est pourquoi nous insistons sur la souveraineté.
Nous nous rapprochons d’une utilisation plus généralisée des modèles de langage des signes, et au cours de la dernière année, ils sont devenus de plus en plus perfectionnés. Nous commençons à voir apparaître des modèles d’intelligence artificielle réalistes, ce qui montre que la technologie évolue et s’améliore rapidement. Ce qui nous préoccupe, ce sont les lacunes dans la gouvernance pour préserver l’accessibilité. Comment peut-on surveiller ou contrôler cela? Que se passerait-il si cette technologie était utilisée à des fins frauduleuses?
Nous voulons nous assurer que les gens ne développent pas des outils en pensant qu’ils sont acceptables pour tous. Nous avons besoin de l’expertise nécessaire pour examiner ce que font ces modèles avant d’envisager la mise en place des normes éthiques qui ont déjà été proposées. Nous voulons que les communautés des personnes sourdes, sourdes-aveugles et malentendantes soient respectées dans leur utilisation de la langue des signes. C’est absolument essentiel pour nos communautés. Il faut faire attention aux activités frauduleuses.
Encore une fois, si nous mettons en place des modèles de gouvernance maintenant, cela fonctionnera beaucoup mieux que de les ajouter après coup. En ce qui concerne la prise de décision éthique dans ces modèles, nous n’avons rien de concret pour l’instant. Nous avons toutefois des experts techniques qui se penchent sur la question. L’expertise existe, et c’est maintenant qu’il faut mener des consultations pour se mettre au travail.
[Anglais]
Le président : Voulez-vous faire un dernier commentaire, monsieur Sanders?
M. Sanders : Je pense aussi que c’est une question très importante.
La fraude à l’aide de l’intelligence artificielle est réelle, elle s’accélère et elle est très préoccupante. Je peux vous donner un exemple aux États-Unis et vous faire part des enseignements que j’en tire. Il y a environ un an, la Federal Election Commission, ou FEC, s’est penchée sur la question de savoir si les lois existantes interdisant ce qu’on appelle la « fausse représentation » dans la publicité électorale devaient s’appliquer à l’intelligence artificielle. Historiquement, aux États-Unis, une personne n’est pas autorisée à se déguiser pour se faire passer pour un candidat, à enregistrer une publicité et à la diffuser à la télévision. Cela constitue une fausse représentation.
Aujourd’hui, bien sûr, cela se produit avec l’intelligence artificielle. Les gens utilisent des hypertrucages pour générer des vidéos dans lesquelles ils font tenir à des candidats des propos qu’ils n’ont pas tenus. La FEC a dû se pencher sur la question suivante : s’agit-il d’une fausse représentation? Est-ce acceptable parce que la technologie a évolué? Est-ce acceptable parce qu’on utilise un ordinateur pour le faire au lieu d’un déguisement?
En fin de compte, elle a précisé que la loi existante s’applique bien à l’intelligence artificielle. Il s’agit toujours d’une fausse représentation lorsqu’on utilise un hypertrucage produit par l’intelligence artificielle pour le faire, et cela ne devrait pas être autorisé. Pour moi, c’est une conclusion évidente. Ce qu’il faut retenir, c’est que lorsque nous avons des lois qui interdisent des activités et des comportements, en général, elles devraient s’appliquer aux nouvelles technologies qui sont développées. Parfois, en tant que chercheurs ou en tant que responsables des politiques, nous nous posons trop de questions sur ce qui est nouveau avec une nouvelle technologie. Est-ce que cela change vraiment les choses? Souvent, la réponse est non; le mécanisme est peut-être différent, mais le comportement demeure clairement le même, et la loi existante devrait s’appliquer de la même façon.
Partout où la loi présente des lacunes ou des échappatoires potentielles, lorsqu’il n’est pas clair qu’elle s’applique aux nouvelles technologies de l’intelligence artificielle, il faut s’empresser de trouver et d’éliminer ces lacunes et ces échappatoires, afin qu’elles ne puissent pas être exploitées par des acteurs privés. Bien sûr, il y a aussi la question de l’application de la loi. Aux États-Unis, la FEC n’a jamais disposé de beaucoup de ressources pour faire respecter la loi, ce qui entraîne des dérogations généralisées aux règles et aux normes. L’ampleur avec laquelle l’intelligence artificielle rend possible de commettre ce genre de fraude renforce souvent l’idée qu’il faut procéder à plus d’investissements et resserrer davantage l’application de la loi.
Le président : Je tiens à remercier M. Sanders et M. Beatty d’avoir si bien su nous informer et répondre à nos questions. Sur ce, nous sommes arrivés à la fin du temps prévu avec ce groupe de témoins. Je tiens à vous remercier tous très sincèrement de vos commentaires. Nous vous en sommes très reconnaissants.
J’aimerais maintenant présenter notre prochain groupe de témoins. Nous accueillons aujourd’hui Martin Waxman, professeur associé à la Schulich School of Business de l’Université York. Bienvenue, monsieur Waxman.
[Français]
Nous accueillons aussi M. Simon Claus, directeur, Affaires publiques, de l’Association québécoise de l’industrie du disque, du spectacle et de la vidéo.
[Traduction]
Merci à vous deux de vous joindre à nous aujourd’hui.
Les témoins feront une déclaration préliminaire d’environ cinq minutes, qui sera suivie d’une période de questions des sénateurs.
J’invite maintenant M. Waxman à nous présenter sa déclaration préliminaire.
[Français]
Il sera suivi de M. Claus.
[Traduction]
Monsieur Waxman, vous avez la parole.
Martin Waxman, professeur associé, Schulich School of Business, Université York, à titre personnel : Merci. Bonjour, monsieur le président Smith, madame la vice-présidente Dasko et honorables sénateurs. Comme vous l’avez entendu, je m’appelle Martin Waxman, et je tiens à souligner que mes observations d’aujourd’hui sont entièrement humaines et qu’aucune intelligence artificielle n’a été utilisée pour les produire. C’est peut-être une drôle d’entrée en matière, mais je crois que ce type de divulgation est une façon de maintenir la confiance alors que nous établissons des lignes directrices sur les cas acceptables d’utilisation de l’intelligence artificielle pour le contenu et la créativité.
Je suis professeur associé à la Schulich School of Business de l’Université York et directeur associé du Future of Marketing Institute. Il s’agit d’un groupe de réflexion mondial qui examine et analyse les tendances technologiques et leurs répercussions sur le marketing et les communications. Je rédige également l’AI and Digital Marketing Trends Newsletter, qui compte plus de 500 000 abonnés, et je crée des cours sur l’intelligence artificielle générative pour LinkedIn Learning. Je forme aussi des étudiants et des professionnels du marketing et des communications sur l’utilisation de l’intelligence artificielle au-delà de la simple production de contenu et sur la façon de développer des requêtes détaillées et structurées qui combinent le langage naturel et la pensée systémique.
En plus de tout cela, j’ai publié deux livres de fiction, et je suis un ancien auteur de films et d’émissions de télévision. Je viens du milieu des arts et non du codage. Je comparais devant vous aujourd’hui en étant très tiraillé au sujet du rôle que l’intelligence artificielle jouera dans la production et la distribution de contenu et de son effet sur les écrivains et les créateurs.
D’une part, je suis très enthousiaste; d’autre part, je ne sais pas comment composer avec le rythme sans précédent des changements et l’incertitude que nous vivons tous les jours et qui cause beaucoup d’anxiété à beaucoup de gens. Je peux voir le potentiel incroyable de l’intelligence artificielle pour aider à fournir aux écrivains un éventail infini de nouvelles idées et perspectives qu’ils n’auraient pas vues autrement.
Je sais également que dans les industries créatives, comme celles du marketing et des relations publiques, les professionnels sont soumis à de fortes pressions pour produire des quantités de contenu de plus en plus importantes et que l’intelligence artificielle générative peut leur enlever une bonne partie de ce fardeau.
Pourtant, lorsque je regarde comment les gens utilisent l’intelligence artificielle, y compris mes étudiants, je suis souvent découragé de voir tout ce qu’ils impartissent à une machine. Et cela, ainsi que les nombreuses prédictions désastreuses concernant les suppressions d’emplois, m’effraie.
Plutôt que d’avoir une conversation exigeante avec un grand modèle linguistique, de nombreuses personnes utilisent l’intelligence artificielle comme raccourci pour éviter la tâche difficile de penser. Elles font une demande générique, ont un bref échange et obtiennent un résultat qui semble assez bon, mais qui n’a pas la qualité et l’étincelle de quelque chose d’unique. Elles sont incapables de voir au-delà de la médiocrité de ce résultat parce qu’elles manquent d’expertise en la matière.
Elles ne croisent pas le fer avec l’intelligence artificielle, ne s’engagent pas dans des discussions provocatrices et ne lui demandent pas de remettre en question leurs hypothèses et leurs idées. Elles acceptent ce que leur donne la machine et passent à autre chose, choisissant la voie de la facilité.
Je crains que de nombreuses personnes, et surtout les nouveaux professionnels, ne profitent pas de l’expérience précieuse et difficile qu’elles acquièrent en angoissant devant un écran vide ou en prenant le temps de réfléchir à une idée, de la laisser percoler et de la façonner pour en faire une œuvre polie. Si l’on décide de confier à une machine notre pensée, nos idées et le travail créatif que représente la production de contenu, comment les jeunes pourront-ils un jour développer leur art, leur imagination et leur détermination? Quel sera leur rôle en milieu de travail?
Comme on l’a dit plus tôt dans l’une des questions, je me demande à qui appartient le produit d’un contenu généré par l’intelligence artificielle. Quelle est la contribution qu’une personne doit faire pour revendiquer la paternité d’une œuvre?
Quels sont les lois et règlements nécessaires pour ouvrir la voie à un avenir prometteur pour tout le monde en matière d’intelligence artificielle? Ce ne sont là que quelques-unes des questions difficiles dont nous devons discuter et débattre en ce moment. Bien que je n’aie pas les réponses, je crois que nous devrions commencer par nous concentrer sur trois domaines : la recherche, la formation et la réglementation.
Premièrement, il y a la recherche sur le rendement de ces systèmes ainsi que sur leurs comportements émergents, c’est-à-dire lorsqu’ils déraillent, qu’ils complotent et qu’ils présentent des hallucinations comme des faits. Il y a également des recherches sur la façon dont les gens utilisent l’intelligence artificielle et sur son incidence sur leur esprit : est-il stimulé ou atrophié parce qu’il confie trop de tâches cognitives à une machine?
Nous devons élaborer et mettre en œuvre un programme de formation officiel en matière d’intelligence artificielle qui commence à l’école primaire et se poursuit tout au long de l’éducation d’une personne. De plus, il importe d’enseigner aux élèves comment penser, analyser et se forger une opinion pour eux-mêmes.
Nous devons élaborer des politiques, des lignes directrices et des règlements qui sont codifiés dans nos lois. C’est peut-être ce qui sera le plus ardu. Il a déjà été assez difficile de réglementer les médias sociaux, et il est encore plus difficile de trouver un moyen de réglementer l’intelligence artificielle parce que les plateformes et les capacités évoluent très rapidement.
Je suis de nature optimiste. Je crois que l’intelligence artificielle a le potentiel de nous rendre plus intelligents et plus créatifs et d’améliorer la qualité du contenu produit par les humains, mais il nous incombe de l’utiliser intelligemment et d’orienter ses résultats plutôt que de laisser ses extrants nous guider.
Dans les observations que vous recevrez tous par voie électronique, je joins une ressource publique que j’ai créée et qui est accessible à tous. Il s’agit d’une liste de liens vers plus de 10 000 nouvelles, tendances, recherches et articles sur l’intelligence artificielle et les technologies provenant de diverses sources réputées, et c’est une base de données que je mets à jour constamment. Vous pouvez y accéder en cliquant sur le lien dans le document.
Je me ferai un plaisir de répondre à vos questions ou d’aider le comité dans le cadre de son étude aujourd’hui ou à l’avenir. Merci.
Le président : Merci, monsieur Waxman.
[Français]
J’invite M. Claus à prononcer ses remarques préliminaires.
Simon Claus, directeur, Affaires publiques, Association québécoise de l’industrie du disque, du spectacle et de la vidéo : Monsieur le président, mesdames les sénatrices et messieurs les sénateurs, je vous remercie d’avoir invité l’Association québécoise de l’industrie du disque, du spectacle et de la vidéo, ou ADISQ, à contribuer à cette étude. Je suis Simon Claus, directeur, Affaires publiques.
Notre association représente plus de 200 membres œuvrant dans le secteur musical. Sa mission consiste à les outiller, à les accompagner et à veiller à ce que le cadre dans lequel elles évoluent favorise leur essor. Maintenir une industrie musicale compétitive, c’est assurer le rayonnement de nos musiques et de nos spectacles ici et au-delà de nos frontières.
Permettez-moi de commencer par un rappel fondamental : la musique n’est pas un produit comme un autre. Elle nous accompagne au quotidien, contribuant à définir qui nous sommes. Au cœur de toute musique, on trouve l’artiste qui, par son vécu, incarne ce qu’il chante. Ce vécu crée un lien unique avec le public, un lien de confiance qui se construit dans le temps. Il ne se construit pas par l’intermédiaire d’un système d’inférences probabilistes.
Autour de cet artiste, tout un écosystème se met en place. On y retrouve des entrepreneurs qui prennent des risques et investissent du temps et de l’argent dans les projets auxquels ils croient. Ces entreprises génèrent des retombées sociales, économiques et territoriales considérables. Cet écosystème est constitué de petites structures indépendantes. Il est donc fragile, et certains développements de l’IA accentuent cette fragilité.
Aujourd’hui, de la création à la consommation de musique en passant par la production et la diffusion, on retrouve l’intelligence artificielle partout.
Nous ne rejetons pas cette réalité. L’IA peut être un outil au service des différents métiers de notre industrie, mais ses développements ne doivent pas se faire au détriment de nos musiques ni du modèle social et culturel dont nous nous sommes collectivement dotés.
En tant que membre de la Coalition pour la diversité des expressions culturelles, nous appuyons les positions défendues par celle-ci. Nous pensons en particulier au principe ART : autorisation, rémunération et transparence.
Les grandes entreprises technologiques ont entraîné leurs systèmes d’intelligence artificielle générative sur des catalogues entiers d’œuvres musicales protégées par le droit d’auteur. Elles l’ont fait sans autorisation, sans rémunération et dans une opacité totale. Ce faisant, elles ont rendu impossible la construction d’un marché équitable.
En premier lieu, la transparence à l’égard des contenus musicaux ayant servi à l’entraînement des modèles d’IA est une condition de l’effectivité des droits. Or, nous naviguons dans un domaine complètement opaque.
Cette transparence est également nécessaire en aval pour les pièces musicales générées grâce à l’IA, ce que l’on appelle la musique synthétique.
Une étude récente de la plateforme Deezer a d’ailleurs révélé qu’environ 60 000 titres générés par l’IA sont déposés chaque jour, soit près de 39 % de toute la musique mise en ligne quotidiennement.
Ensuite, l’autorisation des ayants droit pour l’utilisation de leurs contenus, principe cardinal du droit d’auteur, doit être garantie. Il ne peut y avoir d’entraînement sans consentement; c’est le principe à option d’adhésion.
Enfin, toute utilisation des œuvres et des enregistrements musicaux doit donner lieu à une contrepartie financière.
Comme je l’ai mentionné, l’IA est présente à tous les niveaux de la chaîne de valeur et reconfigure l’ensemble des métiers, qu’ils soient artistiques, techniques ou commerciaux. Or, nos entreprises font face à des géants qui investissent massivement dans ces technologies. Elles n’ont pas les mêmes ressources pour s’adapter. Il est donc important que les pouvoirs publics soutiennent une transition active et responsable, permettant de préserver l’emploi qualifié et d’outiller concrètement nos entreprises afin qu’elles demeurent compétitives.
Nous ne sommes pas contre l’intelligence artificielle et nous sommes conscients des apports sociétaux et économiques qu’elle peut amener. Nous voulons que son développement soit éthique et respectueux des droits de ceux dont le travail en constitue la matière première.
Nos politiques culturelles ne sont pas un frein à l’innovation. Elles en sont la condition. Elles stimulent la créativité et l’entrepreneuriat tout en cultivant et en protégeant ce qui nous distingue. Les développements de l’IA doivent coexister avec l’épanouissement de notre écosystème musical et la préservation de notre diversité culturelle. C’est dans cet état d’esprit que nous appelons à la création d’un cadre équitable, profitable à l’ensemble des parties. Je vous remercie de votre attention et je suis disponible pour répondre à vos questions.
Le président : Merci, monsieur Claus.
[Traduction]
Nous allons commencer la période de questions avec nos sénateurs et notre invitée spéciale, la sénatrice Miville-Dechêne.
[Français]
La sénatrice Miville-Dechêne : Je vous remercie de me donner la parole, car je dois m’éclipser un peu plus tôt. Ma question s’adresse à M. Claus. Je comprends que ce soit un enjeu terriblement important pour les musiciens au Québec. Expliquez-nous comment cela se passe en ce moment.
Est-ce qu’il y a la moindre rétribution? Quand une pièce est utilisée par l’intelligence artificielle, est-ce que vous recevez quelque chose? Expliquez-moi quel est le statu quo. Est-ce qu’il n’y a rien qui est remis au créateur?
M. Claus : La réponse courte est très simple : il n’y a rien. Si j’entre dans les détails, il a été prouvé que l’ensemble des contenus musicaux qui se trouvent sur Internet ont été ce qu’on appelle « moissonnés » à des fins d’entraînement des logiciels d’IA générative. C’est ce qu’on appelle la fouille de textes et de données. En ce moment, il y a des procès aux États-Unis où ce moissonnage a été reconnu. Nous considérons qu’il y a là un acte de reproduction qui a été fait sans autorisation, sans rémunération, et qui contrevient donc au droit d’auteur.
La matière première avec laquelle les logiciels d’IA s’entraînent est composée de nos contenus musicaux. Il faut de la matière première de qualité pour avoir ce qu’on appelle des extrants et pour générer du contenu de qualité, donc des œuvres plutôt professionnelles. Aujourd’hui, nous voyons de plus en plus de musique générée par l’IA qui vient nous faire concurrence, notamment sur les plateformes de diffusion en continu.
C’est la situation actuelle, en quelques mots.
La sénatrice Miville-Dechêne : Je vous avoue que je ne savais pas qu’il y avait autant de musique générée par l’IA qui vous fait concurrence. C’est peut-être cela, la plus grande menace, non?
M. Claus : Tout à fait. Même à l’ADISQ, on a une base de données où l’on compile les différentes sorties dans les palmarès musicaux. On voit cette augmentation de musique générée par l’IA, et même de la musique générée par l’IA qui s’identifie comme étant québécoise. Par exemple, plusieurs musiques de Noël viennent peupler les listes de lecture.
La concurrence, c’est que, par exemple, vous avez un groupe de rock qui a eu de très bons chiffres sur une plateforme comme Spotify. Le groupe s’appelle The Velvet Sundown. C’est facile à trouver. On en a beaucoup parlé dans les médias. Le groupe en question a publié plus de trois albums en moins d’un mois. Pour un artiste, c’est impossible. On voit qu’il y a beaucoup de bruit — on va l’appeler comme cela — qui vient prendre de plus en plus de place sur les plateformes.
C’est pour cela aussi que, d’un côté, on demande une certaine forme de transparence à l’entrée, à savoir quelles données ont servi à entraîner la machine, et, d’un autre côté, on le demande également à la sortie. Lorsque l’on parle de musique purement générative, de musique synthétique, il faudrait que ce soit lié à une forme de marquage numérique pour au moins être en mesure de les identifier, ne serait-ce que pour le public. Le public a aussi le droit de savoir ce qu’il écoute.
La sénatrice Miville-Dechêne : La musique, les chansons avec paroles... On a un enjeu de plus dont vous n’avez pas parlé, qui est le fait que le français est minoritaire sur le continent, donc les menaces sont encore plus grandes à l’égard d’une culture minoritaire.
M. Claus : Oui, tout à fait. Si l’on part du fonctionnement de l’intelligence artificielle, il s’agit d’un système d’inférences probabilistes qui s’est entraîné sur des corpus massifs d’œuvres. L’intelligence artificielle ne compose pas. Elle recombine vers le centre avec des créations qui vont graviter de plus en plus vers ce qui est statistiquement dominant, les formes les plus répandues, les esthétiques les plus représentées. À partir de là, cela soulève énormément de questions quant à la protection de la diversité culturelle et des expressions culturelles minoritaires.
[Traduction]
La sénatrice Dasko : Merci aux témoins. Je m’intéresse aussi beaucoup au sujet du droit d’auteur. Nous venons d’entendre parler de la situation au Québec. J’aimerais demander à M. Waxman s’il sait où nous en sommes sur la question du droit d’auteur dans le reste du Canada et sur le statut juridique. Est-ce qu’il est trop tard? Est-ce que tout le contenu a été absorbé par les systèmes d’intelligence artificielle de sorte que nous ne pouvons pas le réglementer? Nous pouvons certainement continuer à réglementer ce domaine. Je veux vraiment comprendre où nous en sommes en ce qui concerne le droit d’auteur. J’aurai une autre question à vous poser par la suite.
M. Waxman : Merci, sénatrice. C’est une excellente question. La musique est une chose, l’écriture en est une autre. On commence à le voir avec les images et de plus en plus avec les films et les vidéos avec les plateformes synthétiques de Google, par exemple, ou d’OpenAI.
Il semble que nous n’ayons pas rattrapé le retard en matière de droit d’auteur. La grande question aux États-Unis concerne l’utilisation équitable. Combien de matériel pouvez-vous utiliser pour entraîner un système d’intelligence artificielle avant de violer le droit d’auteur? Quel crédit devez-vous accorder? Quel est le montant de la compensation que vous devez donner aux créateurs? Comme mon collègue l’a dit, la rémunération est nulle. C’est un aspect sur lequel il faut se pencher.
Une grande partie des données que nous avons créées — qu’elles soient textuelles, audiovisuelles, musicales, etc. — ont été utilisées à des fins de formation, mais les humains sont assez prolifiques et continuent de produire plus de données. Je ne pense donc pas qu’il soit trop tard, mais le temps presse. Je pense que le droit d’auteur est essentiel.
Aux États-Unis, il y a environ deux ou trois semaines, la Cour suprême a été saisie d’une affaire dans laquelle on a dit que les résultats de l’intelligence artificielle ne pouvaient pas être protégés par le droit d’auteur. C’est une bonne chose. Mais la question est la suivante : quel pourcentage d’intrants les humains doivent-ils fournir pour obtenir ce droit d’auteur?
La sénatrice Dasko : Il y a le droit d’auteur sur l’intelligence artificielle, mais aussi le droit d’auteur sur les données qui y sont intégrées; nous parlons de journaux et de vastes quantités d’information qui ont été recueillies et qui appartiennent à des entités, dont les contributions sont maintenant utilisées sans rémunération.
M. Waxman : Oui.
La sénatrice Dasko : Les gouvernements doivent-ils la réglementer?
M. Waxman : Les gouvernements doivent absolument réglementer l’intelligence artificielle. Nous devons jouer un rôle de chef de file en ce sens. Nous avons besoin d’une réglementation plus à jour sur les questions relatives à l’utilisation éthique de l’intelligence artificielle, à la sécurité des données, à la protection de la vie privée et aux courriels d’hameçonnage où les systèmes d’intelligence artificielle trompent les êtres humains. En tant qu’ancien artiste, écrivain et créateur de contenu, je crois que les créateurs doivent être rémunérés pour leur travail.
La sénatrice Dasko : Merci. J’ai une autre question. J’aimerais revenir à vos commentaires sur l’externalisation de notre réflexion par l’intelligence artificielle. Je m’y oppose un peu.
Nous pouvons considérer les extrants de l’intelligence artificielle comme un intrant dans nos propres activités humaines, n’est-ce pas? Nous faisons tous de la recherche, et la recherche est très précieuse pour nous dans le cadre de notre travail. Si nous avons le contrôle sur ce que nous faisons en fin de compte, n’est-ce pas ce qui est important?
Si vous utilisez l’intelligence artificielle pour rédiger un discours ou quelque chose du genre, et que vous êtes responsable de ce qui est produit... du résultat de votre utilisation de l’intelligence artificielle. Ne diriez-vous pas que c’est une chose très importante?
M. Waxman : C’est très important. Je conviens que l’intelligence artificielle est extraordinaire pour la recherche.
La sénatrice Dasko : Tout à fait.
M. Waxman : Mais si tout ce que nous faisons, c’est lire les résumés générés par machine et que nous n’allons jamais à la source — c’est une étape supplémentaire, lorsqu’on obtient les résultats de la recherche —, il nous manque un élément clé du contenu et de la nuance créés par l’homme.
Je le vois surtout chez mes étudiants. Je les encourage à utiliser l’intelligence artificielle pour faire leurs travaux, mais à la divulguer et à l’utiliser intelligemment. Ils doivent produire du contenu. Bon nombre d’entre eux font une requête assez simple à l’intelligence artificielle, et non une requête sophistiquée. Ils obtiendront du contenu qui paraît très bien sur papier. Cependant, ils ne sont pas des experts en la matière, alors c’est nouveau pour eux et ce n’est pas nouveau pour le monde. Pour créer quelque chose de nouveau dans le monde ou qui a une perspective intéressante, il faut de l’expérience et de l’expertise.
C’est ce qui me préoccupe. J’utilise l’intelligence artificielle tout le temps, mais pas pour mon écriture personnelle. C’est là que je trace la ligne. Si nous n’enseignons pas aux jeunes à réfléchir, à se tourner vers des sources originales et à intégrer plus de détails, de réflexions et d’idées dans les systèmes, alors nous aurons une génération de personnes qui se contenteront de poser des questions, d’accepter la réponse et de passer à autre chose. Ce n’est pas ce que nous devrions souhaiter, à mon avis.
Le sénateur Lewis : Pour faire suite à ce que vous avez dit, il y a évidemment une place pour l’éducation des enfants de la maternelle au secondaire 5 sur le sujet. Le Canada en fait-il assez maintenant, alors que la technologie vient tout juste d’émerger? Comment pouvons-nous nous assurer que cela fait partie de notre système d’éducation afin que les étudiants puissent apprendre à utiliser l’intelligence artificielle sans être utilisés par elle?
M. Waxman : Je crois que c’est une conversation très importante que doivent avoir le gouvernement fédéral et tous les gouvernements provinciaux.
Comme vous le savez tous, changer un système comme le programme d’études de la maternelle à la 12 e année est une tâche énorme. Nous devons enseigner aux élèves comment utiliser ces systèmes, car ils le font de la même façon qu’ils utilisaient les médias sociaux au début, même si on leur interdisait de le faire.
Les jeunes vont commencer à utiliser les systèmes d’intelligence artificielle. Il faut leur donner le type de formation qui les aide à devenir des programmeurs, en gros, qui peuvent travailler avec le langage naturel pour développer un programme. Les requêtes complexes ressemblent beaucoup à un programme. Elles sont rédigées étape par étape. Il y a ce qu’on appelle les délimiteurs, qui sont de petits symboles que les machines traitent comme de la ponctuation. Si vous dites simplement à un système d’intelligence artificielle : « Donne-moi ceci », votre réponse ne sera pas générée à partir des bons ensembles de données pour vous donner quelque chose de vraiment précis et nuancé.
C’est un grand défi, notamment pour les universités. Une grande partie de ce travail a été confiée aux professeurs individuels. Il y a des politiques plus larges. C’est un défi, mais le gouvernement doit diriger cette discussion parce que, encore une fois, comme vous l’avez entendu de la part des témoins précédents, l’industrie ne le fera pas.
Le sénateur Lewis : J’ai aussi une question pour M. Claus. Tout au long de notre conversation, nous avons parlé d’autres administrations. Connaissez-vous un autre pays à l’extérieur du Canada qui protège mieux le droit d’auteur, le contenu musical et les créateurs de ce contenu lorsqu’il est utilisé par l’intelligence artificielle?
[Français]
M. Claus : À mon avis — et c’est pour cela qu’on demande simplement que la Loi sur le droit d’auteur soit respectée —, on contrevient à la Loi sur le droit d’auteur.
En fait, si je dois résumer nos demandes, c’est que, justement, il ne faut pas introduire de nouvelles exceptions dans la Loi sur le droit d’auteur pour la fouille de textes et de données. Ce que l’on demande et là où le gouvernement peut être proactif — on en a parlé notamment dans le cadre du projet de loi C-27, qui est mort au Feuilleton —, c’est la transparence : est-ce qu’on peut avoir un peu plus de transparence sur les corpus de données qui servent à entraîner ces systèmes d’IA?
Je pense qu’il y en a un bon exemple en Europe : l’Union européenne, avec sa loi sur l’IA, dont vous avez sans doute entendu parler ou dont vous entendrez parler, exige aujourd’hui des fournisseurs d’intelligence artificielle qu’ils donnent un résumé suffisamment détaillé des contenus qui ont été utilisés pour entraîner leur algorithme.
Il y a un autre exemple qui est sorti la semaine dernière : le Sénat français a justement adopté un projet de loi qui va un peu plus loin en disant qu’il y a une présomption d’utilisation des contenus protégés par les modèles d’IA générative. Qu’est-ce que cela veut dire? Cela veut dire qu’on inverse le fardeau de la preuve, c’est-à-dire qu’en cas de contentieux, ces plateformes devront prouver elles-mêmes qu’elles n’ont pas utilisé ces contenus illicitement.
Donc, je pense que le Canada joue, en effet, un rôle de leader. Par exemple, le principe d’utilisation équitable est beaucoup plus resserré qu’aux États-Unis, mais je pense qu’on peut poursuivre et aller encore plus loin en s’inspirant justement de législations proches des nôtres.
La sénatrice Simons : J’ai une question pour M. Claus et pour M. Waxman.
[Traduction]
Si j’utilise une bonne viande que j’ai achetée au marché fermier pour faire mon poulet rôti, il aura une saveur et une texture différentes des croquettes que j’ai toujours refusé d’acheter à ma fille lorsqu’elle était enfant.
Je crains fort que nous ne soyons en train de créer un marché où les gens préfèrent le goût des croquettes de poulet au goût du vrai produit. Qu’il s’agisse de musique, de vidéos, d’images ou de textes, l’intelligence artificielle peut nous donner une simulation du réel. Je suis existentiellement troublée par le fait que les gens ne semblent pas faire la différence entre une œuvre de qualité et du contenu poubelle dans le monde de l’art.
Je voulais demander à chacun d’entre vous ce qu’il faut faire pour s’assurer que les gens ont le goût et la compétence esthétiques nécessaires pour faire la distinction entre une bouillie et un contenu de qualité.
[Français]
En fait, pour moi, ce n’est pas la même chose.
M. Claus : L’un des principes que l’on défend, c’est la transparence. Est-ce qu’on peut justement au moins avoir de la transparence sur ce que vous appelez du contenu poubelle ou de mauvaises pépites de poulet?
Il y a des principes et il y a des solutions qui existent de marqueurs numériques pour les contenus synthétiques. C’est le choix qu’a fait Deezer, par exemple, en disant : « Nous allons développer un logiciel — c’est la technologie qui répond à la technologie; c’est le monde dans lequel on est — qui permet d’identifier tous les contenus synthétiques, parce qu’il y a une trace qui est laissée dans les pistes créées par l’IA générative. On décide aussi que nous, on mise sur la créativité humaine, donc on déréférence ces contenus musicaux, c’est-à-dire qu’ils ne vont pas bénéficier des outils de promotion des plateformes. » Bandcamp, une autre plateforme, est allée plus loin en les interdisant complètement.
Sur ce référencement, vous avez vu passer un projet de loi à l’époque que vous connaissez bien, qui est le projet de loi C-11. Aujourd’hui, il est en train d’être mis en œuvre par le CRTC. Une des demandes du milieu culturel, que ce soit en audiovisuel ou en musique, c’est que les contenus culturels, donc les contenus musicaux ou audiovisuels, qui vont bénéficier de recommandations, de mises en avant ou de quotas devraient être le fruit d’un travail humain. L’humain peut utiliser l’intelligence artificielle — je l’ai déjà dit —, mais la définition du contenu canadien spécifie que l’on doit s’assurer qu’il y a des personnes humaines derrière celui-ci. C’est la direction que semble avoir prise le CRTC avec sa dernière décision sur l’audiovisuel.
[Traduction]
La sénatrice Simons : Les filigranes sont une excellente idée. La transparence est une excellente idée. Cependant, si les gens préfèrent le contenu poubelle, je ne sais pas si cela réglera le problème.
M. Waxman : C’est une question très difficile. Si vous prenez l’exemple de la croquette de poulet, que j’adore, et que vous l’appliquez à tout ce que nous faisons — même au sens littéral, beaucoup de gens aiment les croquettes et la malbouffe. Il y en a de plus en plus partout.
Je suis certain que votre poulet rôti a bien meilleur goût. Si vous apportez des échantillons, je serai heureux d’y goûter.
Cependant, je pense que la question revient à ce que vous avez dit : le jugement. Comment pouvons-nous enseigner aux jeunes à avoir ce genre de jugement, ces valeurs esthétiques, pour faire la différence entre un ramassis et quelque chose de réfléchi, qui est empreint d’humanité et de cœur? Est–ce que cela signifie qu’un être humain ne peut pas travailler en parallèle avec l’intelligence artificielle pour produire quelque chose? Je ne crois pas. Je pense qu’il y a un juste milieu.
Cependant, je pense que nous devons faire très attention à toute cette prolifération de l’intelligence artificielle. Et en ce qui concerne la divulgation, si les gens n’y prêtent pas attention, cela n’aura pas d’importance. Peu importe ce que certaines chaînes de restauration rapide disent au sujet du contenu en matières grasses ou du fait que leurs aliments sont vraiment mauvais pour la santé, les gens qui veulent en manger vont simplement le faire et ne pas en tenir compte.
Je pense donc que cela va plus loin; il s’agit d’enseigner aux gens comment utiliser ces outils, mais aussi comment penser.
[Français]
Le sénateur Cormier : Mes deux premières questions s’adressent à M. Claus. Je voudrais revenir sur ce que vous avez dit sur la France, au sujet de l’initiative portant sur la présomption d’exploitation des œuvres culturelles pour l’entraînement des systèmes IA. En fait, vous avez affirmé que le fardeau de la preuve était inversé et qu’on allait demander aux compagnies de prouver qu’elles n’avaient pas enfreint les questions de droits d’auteur. À votre avis, de quelle manière cela s’appliquerait-il au Canada? Est-ce une mesure prometteuse pour le Canada, à votre avis? Voilà ma première question.
Ensuite, lors du sommet sur l’intelligence artificielle et la culture à Banff, les organisations culturelles ont beaucoup parlé des besoins de formation en littératie numérique. À votre avis, quels sont principaux manquements actuels pour les musiciens et les organisations artistiques à cet effet? Quels seraient les besoins prioritaires d’accompagnement?
Voilà mes deux premières questions. Si j’ai du temps, j’aurai une question pour M. Waxman.
M. Claus : Je vais essayer de vous laisser du temps pour votre dernière question. On va le dire d’emblée : je ne suis pas juriste. C’est quelque chose de tout nouveau, c’est sorti la semaine dernière. Oui, c’est quelque chose que je trouve intéressant, cette idée de présomption d’utilisation de contenu protégé par les modèles d’IA où les compagnies doivent prouver elles-mêmes qu’elles n’ont pas utilisé illicitement ces contenus en cas de contentieux.
Selon ce que je comprends de ce projet de loi, l’idée n’est pas de multiplier les procès, mais de créer un effet dissuasif en disant qu’il faut inciter les acteurs d’IA à abandonner certains comportements de prédation par rapport à nos contenus culturels au profit de la négociation avec le monde de la création culturelle. Un système est possible; d’ailleurs, il y a de grandes discussions entre les principaux joueurs, avec les sonos et les audios de ce monde, sur la mise en place de licences.
On ne fait pas partie de la discussion une fois de plus, évidemment, parce qu’on n’a pas les catalogues ni le poids suffisant pour avoir un pouvoir de négociation qui ferait plier ces géants, mais je pense que ce genre de mesures incitatives et ce genre de projet de loi permettent justement d’inciter ces acteurs à mieux respecter notre Loi sur le droit d’auteur. Je pense que c’est quelque chose qu’il faut effectivement explorer parce que, pour un producteur de musique local, aussi talentueux soit-il, avec un catalogue aussi important soit-il, c’est difficile de prouver que sa musique a servi à entraîner les systèmes d’IA, parce que le tout est noyé dans une masse extrêmement importante de contenu protégé. Or là, on fait le contraire, et je trouve cela intéressant, parce que nous n’avons pas forcément les moyens technologiques de le prouver, alors que l’inverse peut se faire.
Quant à votre deuxième question, cela revient à l’idée de dire que oui, il y a aussi des possibilités en matière d’intelligence artificielle. Nous sommes nous-mêmes une association de professionnels et nous sommes en train de développer des formations pour nos membres. On essaie de dépasser l’état de sidération dans lequel on était au départ. Il y a des possibilités sur l’ensemble des maillons de la chaîne. On peut parler de la créativité, dire que l’IA permet d’explorer de nouvelles versions, que l’on peut amorcer des processus créatifs nouveaux en utilisant l’IA comme un partenaire d’entraînement, en disant qu’on veut essayer telle version de telle chanson. Il y a des gains de productivité pour certaines tâches fastidieuses ou standardisées, que ce soit la postproduction, le matriçage ou le mixage. C’est intéressant aussi pour tout ce qui se fait lors de la promotion et de la diffusion; on peut voir de quelle façon on peut rendre nos campagnes de promotion et de diffusion plus efficaces.
Le sénateur Cormier : Y a-t-il des formations qui sont prévues sur ces différents aspects de la création, de la distribution et de la production?
M. Claus : Nous sommes en train d’identifier cela. On commence par cerner les besoins de nos membres, puis on développera des formations.
Le sénateur Cormier : D’accord, merci. Si le temps me le permet, j’ai une question pour M. Waxman.
[Traduction]
Sur les plans de la communication et de la réputation, quels sont les défis principaux que pose l’intelligence artificielle pour les organisations culturelles en ce qui concerne l’authenticité des relations qu’elles entretiennent avec leurs publics, notamment dans les secteurs centrés sur la confiance et l’expérience humaine? Ma question est plutôt philosophique, mais on parle d’authenticité et de relations humaines avec le public. Que pouvez-vous nous dire à ce sujet?
M. Waxman : C’est une question très importante. J’ai obtenu ma maîtrise il n’y a pas si longtemps — en 2019 —, et c’était le sujet de ma thèse, intitulée Mon meilleur ami est un agent conversationnel. Elle portait sur l’effet des relations entre les humains et les agents d’IA sur la confiance et la manière dont nous communiquons.
D’après moi, les organisations qui ne divulguent pas leur utilisation de l’IA courent un très grand risque de ternir leur réputation. Les vidéos hypertruquées produites par des acteurs malveillants pour s’attaquer à des organisations risquent aussi de porter atteinte à leur réputation. La désinformation qui circule sur les organisations représente également une menace réelle, et les organisations ne disposent pas des mécanismes nécessaires pour lutter contre la désinformation ni pour rétablir leur réputation. C’est une autre question sans réponse simple. Malheureusement, aucune de ces questions n’a de réponse simple.
Par coïncidence, le mois de la sensibilisation à la désinformation est en cours aux États-Unis. L’Institute for Public Relations organise une série de webinaires ainsi qu’une classe de maître sur le sujet que vous avez soulevé : comment peut-on se bâtir une réputation et gagner la confiance des intervenants et du public, et comment peut-on protéger cette réputation et cette confiance?
D’après moi, on peut y arriver en faisant preuve de transparence. La transparence quant à l’utilisation de l’IA évoluera sans doute au fil du temps. Aujourd’hui, je trouve très important de divulguer que quelque chose a été créé au moyen de l’IA ou que l’IA a été employée pour faire quelque chose. Si un agent conversationnel est utilisé pour offrir des services à la clientèle, par exemple, il faut que ce soit divulgué. Toutefois, la divulgation diminuera probablement à mesure que l’utilisation de ces outils se généralisera. Le correcteur orthographique est un bon exemple d’outil d’IA que tout le monde utilise. Quand vous vous servez du correcteur orthographique, le précisez-vous dans vos documents? Non.
Ainsi, à l’heure actuelle, je pense que la divulgation est importante, mais il faut savoir qu’elle évoluera au fil du temps.
Comme vous le savez, la confiance se perd en un éclair, et c’est très difficile de la retrouver.
Le sénateur Cormier : Merci.
La sénatrice Arnold : Il y a beaucoup à digérer. J’essaie de bien saisir la distinction entre le contenu dégénératif et l’expérience authentique que vit un spectateur lorsqu’il découvre une œuvre tout à fait unique.
Je suis aussi perplexe par rapport au fait qu’en ce mois de la sensibilisation à la désinformation, quelqu’un aux États-Unis vient de publier une image générée par l’IA dans laquelle il prétend être quelqu’un d’autre. Il se passe beaucoup de choses en ce moment.
Monsieur Waxman, vous avez commencé votre déclaration en précisant que vous n’aviez pas utilisé l’IA pour la produire. J’ignorais que le contenu généré par l’IA n’était pas protégé par le droit d’auteur. J’ai été heureuse de l’apprendre.
J’ai l’impression que les filigranes sont loin d’être à la hauteur. J’essaie de dresser un bilan de la situation et de comprendre quelles leçons en tirer. Ma question est peut-être injuste, monsieur Waxman, mais je pense que vous faites partie du milieu depuis longtemps. Quelles sont les leçons que nous avons peut-être omis de tirer des réseaux sociaux et dont nous pouvons tenir compte ici?
M. Waxman : C’est une excellente question. Je pense qu’une des leçons les plus importantes, c’est que si les outils existent, les gens vont s’en servir, que des règles en interdisent l’utilisation ou non. Par conséquent, il faut montrer aux gens à les utiliser d’une manière qui inspire confiance et qui assure la transparence. Il faut aller au-delà du contenu poubelle ou du contenu industriel. J’aime beaucoup cette expression, et tout le concept du contenu industriel; je vais peut-être vous l’emprunter.
La sénatrice Simons : Juste parce que vous avez dit que vous l’aimiez, c’est à vous.
M. Waxman : Merci.
Prenons l’exemple de la musique générée par l’IA. N’importe lequel d’entre nous pourrait choisir parmi les nombreux générateurs de musique gratuits, saisir une requête et obtenir un résumé des délibérations d’aujourd’hui sous la forme d’une chanson country ou du genre de son choix. Nous écouterions la chanson et nous la trouverions plutôt bonne. Or, nous ne sommes pas auteurs-compositeurs, du moins je ne le suis pas. Une autrice-compositrice qui sait utiliser ces outils serait capable de produire une chanson de bien meilleure qualité.
Au bout du compte, c’est une question de qualité et de jugement. Dans certains cas, le contenu générique produit par l’IA est acceptable, par exemple, pour les instructions d’assemblage d’un meuble. Un tel document n’a pas à être remarquable; il n’a qu’à fournir des explications faciles à comprendre. Pour les contenus de nature esthétique, cependant, que ce soit de la musique, de la vidéo ou du texte, il faut réfléchir à la façon de former le jugement des gens de sorte qu’ils sachent faire la différence entre le bon et le mauvais, entre le contenu digne d’intérêt et le contenu poubelle produit par l’IA. Le fait est que les êtres humains produisent aussi du contenu de mauvaise qualité depuis longtemps. Les systèmes font de mieux en mieux. Nous devons faire mieux que les systèmes.
[Français]
Le sénateur Aucoin : J’ai deux questions. Ma première s’adresse à M. Waxman.
Essentiellement, la sénatrice Arnold a parlé des médias sociaux. Pour ma part, je vais parler des téléphones cellulaires.
Depuis la venue des cellulaires, toute une génération perd des notions en matière de relations interpersonnelles. On a perdu cette qualité. Avec l’intelligence artificielle, n’y a-t-il pas un risque que, dans 10 ou 20 ans, on réalisera, comme vous avez dit, que les jeunes de la nouvelle génération ne sauront plus comment penser, parce qu’ils n’auront qu’à frapper un bouton en disant qu’ils veulent avoir cette information, et qu’ils vont l’accepter? C’est à ce moment-là que l’on réalisera, 10 ans trop tard, que des générations entières de gens ne peuvent plus penser.
[Traduction]
Ils sont incapables de réflexion critique.
[Français]
Qu’avez-vous à dire par rapport à cela?
[Traduction]
M. Waxman : Merci. Votre observation au sujet des téléphones cellulaires est très pertinente. C’est un point que ma femme porte toujours à mon attention quand j’ai le nez dans mon téléphone cellulaire, que j’utilise peut-être un peu trop en sa compagnie.
Je pense que le risque de tisser des relations avec ces systèmes est bien réel parce qu’ils manifestent une empathie artificielle; ils nous sont toujours favorables. Ils sont conçus pour nous être serviables et nous aider. Si une génération de jeunes leur pose toujours des questions comme « Qu’est-ce que je devrais faire? » ou « Comment devrais-je agir? », et si les systèmes d’IA leur répondent « Tu es formidable; tu fais du beau travail », ces jeunes ne développeront pas les compétences requises pour réfléchir à leurs actions et déterminer s’ils font les bons choix ou non. Les conseils donnés par les systèmes d’IA ont déjà poussé des jeunes au suicide ou causé des troubles psychiatriques chez des jeunes.
Je le répète, le fait est que les systèmes sont là. On ne peut pas les faire disparaître ni les interdire. Il faut commencer à réfléchir à l’utilisation qu’il convient d’en faire et aux moments où il convient de les utiliser. Pareille réflexion prend du temps. Nous sommes nombreux à être pressés et à vouloir une réponse immédiate. Il faut faire comprendre aux gens qu’il n’y a rien de mal à ne pas avoir la réponse tout de suite.
[Français]
Le sénateur Aucoin : Ma deuxième question s’adresse à M. Claus.
Qui aura la compétence par rapport à l’intelligence artificielle sur tous nos artistes, par exemple? Est-ce que ce sera les gouvernements provinciaux ou le gouvernement fédéral? On parle de nous au fédéral, mais vous avez aussi parlé de leur gestion de l’entraînement des artistes, du contenu vidéo, de la musique, des paroles écrites et des auteurs. Est-ce que vous pouvez commenter brièvement là-dessus?
M. Claus : Je pense qu’il y a une responsabilité collective. Ce serait ma réponse courte.
Des choses peuvent être faites à l’échelle fédérale. J’ai parlé de ce qui a été fait au sujet de la Loi sur la radiodiffusion et de ce qu’est en train de faire le CRTC. Le droit d’auteur est de compétence fédérale, donc il y a des choses à faire à ce niveau. De plus, le projet de loi C-27 apportait des éléments intéressants en ce qui concerne la transparence.
Il y a aussi des choses à faire à l’échelle provinciale. Par exemple, si on parle de l’hypertrucage, cela concerne le Code civil du Québec, car on n’a pas le droit d’utiliser le nom, l’image ou la voix d’une personne. Il s’agit d’une atteinte à la vie privée. Il y a donc différentes réponses législatives qui peuvent exister en fonction des législations.
Il y a aussi une responsabilité de nos diffuseurs. Nous encourageons les radios à diffuser des artistes, parce que c’est ce que le public veut entendre. De plus, il y a une responsabilité individuelle de la part des plateformes.
Je dirais donc qu’il y a un effort collectif à faire pour décider du monde que l’on souhaite dessiner autour de cette IA — en musique, mais aussi plus largement.
[Traduction]
La sénatrice Mohamed : Quand je siégeais au conseil d’administration de Music Canada, nous réfléchissions beaucoup à la question du droit d’auteur. Je comprends tout ce qui concerne la transparence et la divulgation. Je pense qu’aux termes de la Loi sur le droit d’auteur, une personne dispose de trois ans pour signaler une atteinte au droit d’auteur sur son œuvre. La loi prévoit des recours et civils et criminels.
Compte tenu de la préoccupation quant à l’ampleur que pourrait prendre l’emploi déjà généralisé de l’IA, selon vous, serait-il utile d’imposer des pénalités plus sévères lorsque l’utilisation de l’IA entraîne une violation du droit d’auteur? Devrait-on plutôt les laisser telles quelles? Car la divulgation volontaire, c’est la divulgation volontaire. Dans un monde qui évolue aussi vite, comment peut-on faire en sorte que les gens comprennent que c’est inacceptable? Faut-il prolonger le délai de trois ans? Faut-il rendre plus sévères les pénalités civiles ou pénales? Quelles mesures faut-il prendre à l’autre bout? On peut tenter de dissuader les gens de commettre des violations, mais lorsqu’ils le font, comment peut-on éviter qu’ils s’en tirent impunément et que cela ne devienne la norme?
M. Waxman : Je ne suis pas expert en la matière.
La sénatrice Mohamed : Qu’en pensez-vous?
M. Waxman : Je proposerais une autre solution. Si l’entreprise ciblée par les pénalités est l’une des grandes sociétés de technologie, ses ressources sont tellement abondantes que les pénalités ont peu d’effet. Je proposerais plutôt de rémunérer les créateurs en intégrant des règles relatives à la rémunération au début du processus afin qu’il ne soit pas nécessaire d’imposer des pénalités. Les pénalités n’ont aucun effet sur les sociétés comme Google, OpenAI et Meta; elles les paient, puis poursuivent leurs activités.
La sénatrice Mohamed : Monsieur Claus, pouvez-vous répondre à la question?
[Français]
Le président : Vous avez 30 secondes, monsieur Claus.
M. Claus : Il faut imposer des pénalités à la hauteur des capitaux de ces entreprises. On est dans un monde où certaines entreprises ont les mêmes capitaux que certains pays. Je crois que nous pouvons créer ainsi des précédents, parce que nous ne sommes pas seuls.
Pour reprendre une formule consacrée, je pense que les puissances intermédiaires, comme le Canada et d’autres pays, ont intérêt à mettre en place des pénalités lorsqu’on ne respecte pas le modèle culturel et politique dont on s’est doté à la hauteur des enjeux. Une petite pénalité multipliée par tel nombre de pays, cela commence à faire une grosse pénalité.
[Traduction]
Le président : Le temps est venu de remercier les témoins de leur présence.
[Français]
Merci à vous deux de nous avoir fait part de ces informations fort importantes.
[Traduction]
Je tiens aussi à remercier toute l’équipe de soutien, les personnes qui se trouvent dans la salle comme celles qui œuvrent en coulisse. Merci à vous tous et toutes pour votre travail, qui contribue énormément au succès des travaux du Sénat.
(La séance est levée.)