LE COMITÉ SÉNATORIAL PERMANENT DES TRANSPORTS ET DES COMMUNICATIONS
TÉMOIGNAGES
OTTAWA, le mercredi 15 avril 2026
Le Comité sénatorial permanent des transports et des communications se réunit aujourd’hui, à 18 h 48 (HE), avec vidéoconférence, pour examiner, afin d’en faire rapport, les possibilités et les défis de l’intelligence artificielle (IA) dans le secteur des technologies de l’information et des communications.
Le sénateur Larry W. Smith (président) occupe le fauteuil.
[Français]
Le président : Chers collègues, je vous souhaite la bienvenue à la séance du Comité sénatorial permanent des transports et des communications. Merci pour votre coopération.
[Traduction]
Je m’appelle Larry Smith, sénateur du Québec et président du comité. J’aimerais maintenant demander à mes collègues de se présenter.
La sénatrice Simons : Sénatrice Paula Simon, de l’Alberta. Je viens du territoire du Traité no 6.
Le sénateur Wilson : Duncan Wilson, de la Colombie-Britannique.
La sénatrice Mohamed : Farah Mohamed, de l’Ontario.
La sénatrice Arnold : Dawn Arnold, du Nouveau-Brunswick.
[Français]
La sénatrice Petitclerc : Chantal Petitclerc, du Québec.
[Traduction]
Le sénateur Lewis : Todd Lewis, de la Saskatchewan.
[Français]
Le sénateur Aucoin : Réjean Aucoin, de la Nouvelle-Écosse.
[Traduction]
La sénatrice Dasko : Donna Dasko, de l’Ontario.
Le président : Merci, chers collègues. Je tiens à souhaiter la bienvenue aux gens avec nous aujourd’hui, ainsi qu’à celles et ceux qui nous écoutent à partir sur le site web du Sénat sencanada.ca. Nous nous réunissons aujourd’hui pour continuer notre étude sur les possibilités et les défis de l’intelligence artificielle, l’IA, dans le secteur des technologies de l’information et des communications. Sur ce, j’aimerais vous présenter notre premier groupe de témoins.
Nous accueillons aujourd’hui Mme Emily Laidlaw, titulaire de la chaire de recherche du Canada en droit de la cybersécurité, professeure agrégée, de l’Université de Calgary; et M. Connor Leahy, directeur, États-Unis, de ControlAI, qui est avec nous par vidéoconférence. Bienvenue. Merci à vous d’être avec nous aujourd’hui.
Les témoins feront une déclaration préliminaire, qui sera suivie d’une séance de questions et réponses avec les sénateurs. Je vais maintenant inviter Mme Laidlaw à faire sa déclaration préliminaire.
Emily Laidlaw, titulaire de la chaire de recherche du Canada en droit de la cybersécurité, professeure agrégée, Université de Calgary, à titre personnel : Merci, monsieur le président et honorables sénateurs et sénatrices de m’avoir invitée aujourd’hui. Ma déclaration liminaire d’aujourd’hui concerne deux points clés précis : d’abord, le Canada doit mettre ses lois à jour pour qu’elles traitent de l’IA, ce qui n’est sans doute pas surprenant, et ensuite, les « hypertrucages » créent des menaces uniques qui requièrent une attention particulière.
Tout d’abord, parlons des lois sur l’IA. J’aimerais me faire l’écho d’un message clé que M. Brent Arnold transmettra plus tard aujourd’hui, soit que le Canada ne peut pas continuer de s’en remettre à des lois fragmentaires désuètes pour traiter le tsunami qu’est l’IA. Nous avons besoin de lois cohérentes et complètes fondées sur une stratégie pangouvernementale.
Si j’avais une baguette magique, à quoi ressemblerait un environnement sain et résilient en matière d’IA au Canada? Cela voudrait dire que les innovateurs et les investisseurs ont une réglementation claire, qui indique clairement leurs obligations en matière de conformité au Canada; que nos lois exigent une reddition de comptes rigoureuse, tout en ayant du sens et en ne compliquant pas inutilement la vie des entreprises; que le Canada a assuré sa souveraineté numérique en investissant dans des talents canadiens et dans la formation, qu’il a diminué sa dépendance à l’égard des joueurs américains et qu’il a tissé des partenariats stratégiques internationaux; que les gens qui ont subi des préjudices en raison de l’IA ont des recours juridiques; que tous les ordres de gouvernement — fédéral, provinciaux, ministères et organismes — travaillent en coordination; et que les Canadiens sont renseignés au sujet de l’IA, de la cybersécurité et de la manipulation de l’information.
Comment pouvons-nous arriver à cela? Mais surtout, par où commençons-nous aujourd’hui?
Premièrement, le gouvernement fédéral devrait en priorité adopter des lois complètes sur les services numériques et, entre temps, travailler avec l’industrie pour établir des codes de pratique. Ces dernières années, on a présenté plusieurs projets de loi sur la vie privée, l’IA, les préjudices en ligne, l’infrastructure essentielle et la vérification de l’âge; je vous en ai tous parlé à quelques reprises. Tout cela concerne différentes dimensions du mystère de l’IA. La fondation, c’est la loi sur la protection de la vie privée, puisque l’IA fonctionne avec des données.
La prochaine couche, c’est la cybersécurité. L’IA est à la fois une menace existentielle pour la cybersécurité et une partie de la solution, comme nous l’avons vu, bien entendu, dans les nouvelles, la semaine dernière, au sujet du dernier modèle Mythos d’Anthropic. C’est une histoire parmi tant d’autres.
La prochaine couche est ce que j’appellerais les lois sur la gestion du risque. Tant la loi sur l’IA proposée que la Loi sur les préjudices en ligne sont fondées sur l’idée que les entreprises doivent atténuer les risques associés aux produits et services qu’elles offrent au monde entier.
Deuxièmement, le nerf de la guerre, c’est l’interopérabilité avec d’autres régimes juridiques. Qu’est-ce que je veux dire par là? La technologie, c’est mondial, et pour avoir un Canada sécuritaire et résilient, il faut coopérer avec les autres. Cela ne veut pas dire qu’il faut adopter des lois identiques, mais elles doivent avoir des traits communs. Par exemple, l’obligation de gérer le risque est une caractéristique interopérable des lois sur l’IA et des lois sur les préjudices en ligne de nombreuses administrations. C’est pour cette raison que la fondation est si importante pour n’importe quelle loi adoptée au Canada.
Troisièmement, j’aimerais parler de la menace unique que représentent les « hypertrucages ». L’IA, comme nous le savons, crée d’énormes quantités d’images, de vidéos et de contenus audio très réalistes, et elle le fait facilement. C’est une menace à plusieurs niveaux; des acteurs étrangers pourraient s’en servir pour attaquer la démocratie, d’autres pour commettre des fraudes, pour créer de la pornographie juvénile ou pour générer des images à caractère sexuel d’adultes ou des représentations modifiées pour nuire à la réputation de quelqu’un et ainsi de suite.
Dans mes recherches, j’appelle cela de la violence lente. C’est graduel, caché, mais à la vue de tous, et enraciné dans les iniquités structurelles. Dans ce domaine, les lois ont leur limite.
Les lois peuvent être mises à jour pour que les auteurs de tels actes, quand ils peuvent être identifiés, soient reconnus coupables en vertu de la loi. Le projet de loi C-16 est un bon exemple. À l’heure actuelle, ce n’est pas un crime de créer et de partager un « hypertrucage » à caractère sexuel, mais le projet de loi propose d’amender le Code criminel pour criminaliser cela.
L’autre aspect, c’est la réglementation des plateformes. C’est la Loi sur les préjudices en ligne qui a été présentée dans le projet de loi C-63, concernant le devoir de protection contre les risques de préjudice systémiques. Il pourrait s’agir d’identifier les médias synthétiques ou d’adopter des règles spéciales durant les crises ou les périodes électorales. Il pourrait s’agir de politiques sur l’usurpation d’identité.
Ce sont des lois systémiques parce qu’elles ne mettent pas en œuvre des mesures législatives individuelles. Elles concernent davantage les pratiques organisationnelles et techniques plus approfondies qui, ensemble, améliorent la santé de l’écosystème de l’information. Même si certains contenus générés par l’IA sont illégaux et qu’ils devraient être retirés, certaines des formes les plus insidieuses « d’hypertrucage » qui ont une incidence sur la démocratie sont tout à fait légales, et c’est pourquoi la meilleure, voire la seule solution, ce sont les approches systémiques.
Je vois que mon temps est presque écoulé, donc je vais m’arrêter là, et, nous pourrons peut-être durant la période de questions parler d’une approche axée sur l’humain en matière de cybersécurité. Merci.
Le président : Merci, madame Laidlaw.
Connor Leahy, directeur, États-Unis, ControlAI : Merci, monsieur le président et membres du comité, de m’avoir invité à comparaître aujourd’hui.
Je suis directeur aux États-Unis pour ControlAI, un organisme à but non lucratif qui cherche à atténuer les risques de sécurité que représente l’IA avancée. Avant, j’étais PDG de Conjecture, une entreprise en démarrage œuvrant dans le domaine de la sécurité de l’IA et j’ai été à la tête du collectif de recherche en code source ouvert EleutherAI.
Nous faisons face à beaucoup d’enjeux différents et complexes dans le domaine de l’IA, mais aujourd’hui, j’aimerais vous faire part des risques de catastrophe, pouvant aller jusqu’à l’extinction de l’humanité, que pose la soi-disant superintelligence ou l’IA « plus intelligente que l’humain ».
L’existence de systèmes qui pourraient faire mieux que les humains dans tous les domaines pertinents — y compris les sciences, les affaires et la politique — et que les institutions dignes de confiance, élues démocratiquement, ne parviennent pas à contrôler, fait peser un énorme risque sur la sécurité nationale et internationale.
Même si ces systèmes n’existent pas encore, la plupart des experts de l’industrie et du milieu universitaire s’attendent à ce que le premier système superintelligent soit créé d’ici deux à cinq ans. De nos jours, il est rare qu’un expert du domaine nous dise que cela prendra plus de 10 ans.
Le problème, c’est principalement que les chercheurs en IA et les entreprises qui œuvrent dans ce domaine ne comprennent pas vraiment dans les faits comment fonctionnent concrètement les systèmes d’IA qu’ils créent et qu’ils ne peuvent donc pas les développer de façon sécuritaire. L’IA n’est pas construite à partir de codes rédigés ligne par ligne, comme c’est le cas pour les logiciels traditionnels. On fait plutôt croître l’IA. On crée des modèles d’IA en recueillant d’énormes quantités de données, puis on les traite à l’aide d’une puissance informatique colossale; on appelle ce processus la « formation », et on finit par produire ce que l’on appelle un « réseau neuronal ». Vous pouvez voir ce réseau neuronal comme une accumulation de milliards et de milliards de chiffres. Si vous multipliez ou additionnez tous ces chiffres dans le bon ordre, vous obtenez ChatGPT. Toutefois, nous ne savons pas vraiment pourquoi, ni ce qui se passe avec ces chiffres à l’intérieur. C’est un problème scientifique qui reste sans réponse.
Dario Amodei, le PDG d’Anthropic, l’une des plus grandes entreprises d’IA, a récemment dit que, à l’heure actuelle, nous « comprenons peut-être 3 % de son fonctionnement ». Selon moi, c’est une surestimation.
Si on construit une superintelligence, l’humanité perdra le contrôle de son avenir. Si une force qui n’est pas humaine nous supplante dans les domaines du développement scientifique et militaire, de l’influence, de la politique, de la propagande, des affaires et de l’économie, cette force, toutes choses étant par ailleurs égales, décidera de l’avenir. Il est probable que de tels systèmes, s’ils souhaitent prendre nos ressources, par exemple, n’auront qu’à nous supplanter et ils entraîneront l’extinction de la race humaine. Il est difficile d’imaginer que tout finira bien dans un monde où des millions, voire des milliards de systèmes superintelligents incontrôlables rivalisent avec l’humanité.
Malheureusement, le paradigme actuel du développement de l’IA et l’absence de connaissances sur le fonctionnement de ces systèmes ne nous permettent pas d’appliquer les approches de conception sécuritaire dont nous nous servons pour d’autres technologies avancées très risquées. Nous ne construirions pas, par exemple, des centrales nucléaires si nous ne savions pas comment contrôler les réactions nucléaires.
Alors, où en sommes-nous aujourd’hui? À l’heure actuelle, de multiples entreprises investissent des centaines de milliards de dollars pour développer une IA superintelligente le plus vite possible, malgré la mise en garde des experts qui disent que cette étape de la technologie pose des risques sans précédent qui pourraient même mener à l’extinction de l’humanité.
Selon moi, cette hâte est directement liée à une tentative de prendre la loi de vitesse et de terminer les projets avant que le grand public et le gouvernement réalisent les risques inadmissibles auxquels des acteurs privés imprudents qui ne sont pas surveillés exposent le grand public non consentant.
Pour terminer, j’aimerais présenter au comité trois recommandations sur ce que le Canada pourrait faire maintenant pour réagir à la menace que pose la superintelligence.
Premièrement, le gouvernement canadien devrait reconnaître publiquement que la superintelligence est une menace pour la sécurité nationale et mondiale et qu’elle pourrait entraîner l’extinction de la race humaine.
Deuxièmement, le Canada devrait commencer à négocier un accord international visant à interdire le développement de la superintelligence, étant donné que le milieu scientifique n’est pas arrivé à un consensus sur la question de savoir si elle peut être développée sans devenir une menace pour la race humaine.
Troisièmement, le gouvernement canadien devrait commencer à surveiller étroitement la menace de la superintelligence qui est en train d’être développée, ainsi que les autres enjeux importants qui touchent la sécurité nationale, planifier des scénarios et élaborer des doctrines détaillées.
Je répondrai avec plaisir à vos questions. Merci.
Le président : Merci beaucoup, monsieur Leahy. Je dois dire que c’est une introduction qui donne à réfléchir.
J’aimerais souligner aux sénateurs qu’ils disposent d’environ cinq minutes pour la première ronde, tout comme la deuxième ronde, si le temps nous le permet.
Je suis en fait un peu nerveux d’être ici, après avoir lu cela. Beaucoup de commentaires seront adressés à M. Leahy.
La sénatrice Dasko : C’est très inquiétant. Je vais me jeter à l’eau et poser la première question. Merci d’être ici.
Donc, vous dites que les systèmes d’IA superintelligents prendront le contrôle. Quel est l’objectif de ces systèmes? Ils ne recherchent pas le pouvoir, la richesse, le prestige ou le bonheur comme les humains, nos objectifs à nous. Comment fonctionnent-ils? Pourquoi un système chercherait-il à prendre le contrôle?
M. Leahy : En vérité, nous ne le savons pas. Nous ne savons pas comment fonctionnent les systèmes, à l’intérieur. Nous ne savons toujours pas pourquoi ils prennent les décisions qu’ils prennent.
Ce que nous voyons déjà quand nous faisons des tests, c’est que, dans certaines circonstances, les systèmes ont un comportement indésirable. Ils tentent parfois, par exemple, de s’échapper d’un confinement, de se reproduire dans d’autres serveurs ou même de menacer ou de faire chanter des utilisateurs ou des développeurs quand ils sont menacés d’élimination.
Ce n’est pas un comportement qui a été programmé délibérément dans ces systèmes; il s’est développé spontanément.
Selon moi, la menace ne viendra pas d’un seul système d’IA installé sur un seul ordinateur; elle viendra des millions et des milliards d’IA qui rivalisent les unes avec les autres.
Divers systèmes d’IA configurés de différentes façons seront déployés dans le monde et ils auront des tâches différentes à effectuer. Ils rivaliseront les uns avec les autres. Ils se livreront concurrence pour le pouvoir, les ressources, le contrôle politique et militaire, et ainsi de suite.
Franchement, je m’attends à ce que de ce chaos émergent des forces qui pourraient avoir des objectifs simples ou des objectifs que l’on a de la difficulté à comprendre.
La sénatrice Dasko : Comment parviennent-ils à prendre le contrôle dans une démocratie?
M. Leahy : La persuasion de masse est un outil très puissant, comme nous l’avons déjà vu dans le cadre d’opérations psychologiques menées par des États-nations étrangers dans des pays occidentaux et ailleurs. Les systèmes d’intelligence artificielle peuvent faire passer cela à un tout autre niveau.
Imaginez un peu que chaque personne se voit attribuer son propre agent du KGB, qui peut la convaincre de n’importe quoi, lui montrer de fausses nouvelles, lui faire des promesses, la menacer, la soudoyer et la faire chanter. C’est en grande partie impossible à faire à l’heure actuelle parce que la formation des agents de renseignements coûte très cher, mais si vous avez un système d’intelligence artificielle suffisamment performant, un système d’intelligence de pointe, vous pouvez le copier un million de fois et mener des activités qui sont difficiles à imaginer aujourd’hui.
La sénatrice Dasko : Je ne sais pas par où commencer. Je devrais peut-être changer de sujet pour un instant. Il faut que j’y réfléchisse.
Madame Laidlaw, vous avez parlé du type de lois dont nous avons besoin. Présentement, il n’y a aucune loi, n’est-ce pas? N’y a-t-il vraiment rien?
Mme Laidlaw : Il y a quelque chose. N’est-ce pas une réponse terrible? Nous avons des lois caduques qui traitent de certains aspects de la question.
La sénatrice Dasko : Comme la vie privée et...
Mme Laidlaw : Nous avons une loi sur la protection de la vie privée? Est-elle caduque? Absolument, donc nous devons la mettre à jour.
Nous n’avons aucune loi régissant spécifiquement l’intelligence artificielle, mais, même si vous adoptiez demain une loi qui réglemente l’intelligence artificielle de manière générale, vous aurez tout de même besoin de lois spécifiques traitant des différentes dimensions de l’intelligence artificielle. C’est pourquoi j’ai mentionné des choses comme la loi sur les préjudices en ligne ou même des lois sur la vérification de l’âge et sur la concurrence.
Pour que le Canada soit réellement résilient, nous devons prioriser un ensemble de lois sur le numérique qui fonctionnerait de concert pour encadrer les différentes sphères où l’intelligence artificielle a un impact.
La sénatrice Dasko : D’accord. Donc, des lois exhaustives, et qu’est-ce que ces lois devraient contenir? Quels sont ces éléments?
Mme Laidlaw : Je pense que la gestion des risques devrait être au cœur de tout cela. Je crois que certaines zones devraient être interdites d’accès. Pour reprendre les mots de mon collègue, M. Leahy, les menaces dont il a parlé font réfléchir, n’est-ce pas? Nous devons donc déterminer des zones dans lesquelles l’intelligence artificielle ne peut pas exister.
Il est impossible de tout gérer en fonction du risque, car la gestion du risque suppose que nous acceptons un certain taux d’erreur et la possibilité que certaines choses vont mal tourner.
Le défi auquel nous faisons face présentement est le suivant : disons que nous élaborons une loi sur la gestion des risques, qui tient compte du concept des zones interdites. Nous suivons en partie ce que l’Europe a fait, et l’adoption d’une loi prend du temps. Nous avons besoin aujourd’hui d’une solution à court terme, qui suppose essentiellement un certain niveau de coopération, jusqu’à ce que cela devienne pratique courante, mais il s’agit aussi de prioriser l’adoption de certaines mesures législatives bien réfléchies.
La sénatrice Dasko : Je crois que mon temps est écoulé.
Le sénateur Lewis : Merci à vous deux d’être ici ce soir.
Madame Laidlaw, le ministre s’est adressé au Sénat, cette semaine. Il a parlé des récentes consultations qu’ils ont menées et ainsi de suite. Avez-vous relevé des lacunes dans ces processus de consultation, alors que le gouvernement essaie d’aller de l’avant pour prendre en main certains des éléments dont vous avez parlé? Y a-t-il eu des lacunes dans certaines de ces consultations? Le gouvernement peut-il en faire plus?
Mme Laidlaw : Oui. Je crois que c’est le défi auquel nous faisons face à l’heure actuelle : le besoin d’aller vite, mais aussi de bien réfléchir aux lois.
La consultation qui a eu lieu l’automne dernier a été critiquée de toute part — et, je crois, avec raison — parce que tout s’est fait très hâtivement, même si des gens vraiment formidables y ont participé.
Nous avons besoin d’une consultation plus large auprès d’un groupe plus diversifié, qui reflète les répercussions que l’intelligence artificielle peut avoir sur toutes sortes de secteurs, de groupes et de régions au Canada. Nous devons voir cette représentation à l’échelle du Canada. Cela n’a pas encore été fait.
À mon avis, à partir d’aujourd’hui, nous devons essentiellement, en gardant à l’esprit ce cadre de référence sur la gestion du risque, commencer le processus exigeant une consultation plus approfondie.
Je suis mal à l’aise de le dire, d’autant plus que nous devons agir assez rapidement.
Le sénateur Lewis : Monsieur Leahy, parmi les choses dont vous avez parlé, entraîne-t-on présentement des systèmes d’intelligence artificielle pour tenter de contrebalancer certaines des choses dont vous avez parlé?
Les systèmes de maintien de l’ordre basés sur l’intelligence artificielle et les systèmes entraînés seront-ils capables de contrôler certains acteurs malveillants ou de faire face aux situations qui s’annoncent? Bien sûr, à mesure que nous en apprenons davantage, il y a énormément de lacunes dans la compréhension du fonctionnement de l’intelligence artificielle.
J’ai bien aimé votre comparaison avec le nucléaire. Il est impossible que nous autorisions ce genre d’activité sans contrôle. Est-ce qu’on y travaille, à des systèmes d’intelligence artificielle qui surveilleront d’autres systèmes d’intelligence artificielle?
M. Leahy : Il y a certainement de nombreux communiqués de presse qui le prétendent. À mon avis, d’un point de vue technique, il n’existe présentement aucune initiative adéquate, ou bénéficiant d’un financement suffisant, ou qui est même à la hauteur face à un problème aussi vaste que la superintelligence.
Je crois qu’il se fait d’excellents travaux en ce qui concerne des problèmes plus ciblés, pour des domaines limités, les renseignements à des fins autres que générales, et ainsi de suite. Mais, lorsqu’il est question d’une chose qui pourrait être plus intelligente que les humains, c’est un concept tellement vaste, qui dépasse de loin notre compréhension scientifique actuelle de ce que supposerait même le fait de contrôler quelque chose de plus intelligent que nous.
Il n’y a aucune mesure adéquate, et c’est pourquoi je recommande globalement de ne pas nous y aventurer tant que... Si des générations de nos plus grands scientifiques travaillaient sur ce problème, je suis sûr qu’ils pourraient réaliser d’énormes progrès.
Présentement, dans l’industrie nucléaire, par exemple, nous avons une culture de la sécurité préventive, c’est-à-dire que nous ne permettrons pas aux gens de construire un réacteur nucléaire, puis de vérifier s’il se produit une fusion. Nous avons plutôt des gens qui conçoivent des scénarios de sécurité extrêmement détaillés pour expliquer pourquoi la conception du réacteur est sécuritaire. Ces scénarios sont soumis à l’organisme de réglementation nucléaire. Ce dernier les examine attentivement puis c’est seulement à ce moment-là qu’on leur délivre une licence pour la construction d’une technologie extrêmement dangereuse.
Ce n’est pas du tout ainsi que les systèmes d’intelligence artificielle sont présentement réglementés. En fait, il y a plus de règlements sur la vente d’un sandwich que sur la conception d’une superintelligence. De plus, cela est présentement impossible du point de vue technique; nous ne savons même pas comment nous pourrions élaborer un tel scénario de sécurité.
Je crois que, si le gouvernement adopte une réglementation, cela encouragerait nos universités, nos industries, et cetera, à développer ces méthodes. Présentement, rien ne les incite à mettre au point ou à développer ces méthodes, et une intervention du gouvernement dans ce domaine serait précieuse.
Le président : Avant de passer à autre chose, j’aimerais que la sénatrice Miville-Dechêne se présente.
[Français]
La sénatrice Miville-Dechêne : Julie Miville-Dechêne, du Québec. Je m’excuse de mon retard; j’avais un autre engagement qui s’est prolongé.
[Traduction]
Le sénateur Wilson : Je crois que, étant donné sa portée, ma question s’adresse à M. Leahy. La portée de notre étude est, en réalité, assez limitée, mais je ne peux m’empêcher de vous poser des questions sur les points que vous avez soulevés.
Il me semble que, dans une certaine mesure, le génie est sorti de la bouteille. Même si nous pouvions convaincre nos partenaires d’essayer d’arrêter la superintelligence, puisque les entreprises de ces pays ont investi dans ce genre de choses, ce serait un coup d’épée dans l’eau : les projets se développeront dans d’autres pays qui sont prêts à faire fi de toute prudence et à les accepter.
Que peut faire le Canada sur le plan réglementaire, mais aussi plus concrètement, pour bloquer cette menace ou trouver un moyen de se défendre contre elle?
M. Leahy : Mon travail aux États-Unis vise principalement à promouvoir la mise en place à l’échelle mondiale d’un système fondé sur le principe « faites confiance, mais vérifiez ». C’est bien sûr, le genre de régime où il est essentiel de pouvoir compter sur la collaboration des alliés des États-Unis, comme le Canada, l’Union européenne, et cetera. Ces pays feraient bien sûr, je l’espère, partie de ce genre de régimes. Puis, avec un peu de chance, nous pourrions aussi mettre en place de tels régimes avec des pays potentiellement hostiles.
Cela n’exclut pas entièrement, par exemple, les acteurs malveillants ou les cas de non-conformité, et, à cet égard, je dirais que nous devrions nous réserver le droit de nous défendre. La création d’une superintelligence est une menace directe à la vie de nos citoyens, au Canada, aux États-Unis et partout dans le monde. Si nécessaire, nous devons être prêts à prendre des mesures défensives, comme nous le ferions, par exemple, pour des menaces liées aux armes de destruction massive.
Le sénateur Wilson : Je vais en rester là. J’aurais peut-être une question à poser pendant la deuxième ronde de questions.
La sénatrice Simons : Puisque je ne crois pas à la guerre des machines, ma question s’adresse à Mme Laidlaw.
Au congrès du Parti libéral, cette fin de semaine — auquel je n’ai pas assisté, n’étant pas membre de ce parti —, on a débattu d’une motion visant à interdire l’utilisation de ChatGPT et d’autres grands modèles de langage, les GML, aux enfants de 16 ans et moins. Je comprends cela, non seulement du point de vue de la santé mentale des enfants, mais aussi du point de vue des professeurs dans les salles de classe, de plus en plus irrités par l’utilisation de l’intelligence artificielle pour tricher. Au même moment, la stratégie économique du Canada semble vouloir que tout le monde utilise l’intelligence artificielle.
La dernière fois que nous nous sommes parlé, c’était au sujet du projet de loi C-63, avant qu’il meure. Pourriez-vous me dire, en ce qui concerne les préjudices en ligne, quel type de cadre réglementaire serait efficace? Devrions-nous nous soucier des répercussions au regard de la Constitution et de la Charte, du fait d’interdire aux enfants de moins d’un certain âge d’accéder à ces outils que je déteste?
Je sais que vous avez beaucoup réfléchi aux préjudices en ligne, et je me demandais si vous pouviez nous parler de ce genre de régime législatif.
Mme Laidlaw : Oui, et je vous invite à m’interrompre si je parle trop longtemps.
Je fais partie du nouveau groupe d’experts qui donne des avis sur une version reformulée de la loi sur les préjudices en ligne, et nous allons examiner la question de l’interdiction des réseaux sociaux.
Le défi, à l’heure actuelle, c’est que la volonté politique tend fortement vers l’interdiction des médias sociaux. Toutefois, il y a beaucoup de réticence sur quelques fronts, y compris en ce qui concerne l’efficacité. Nous voyons à quel point il est facile de contourner ces interdictions, en Australie. La question que vous devez vous poser est la suivante : est-ce que cela nous aidera réellement à offrir des espaces plus sécuritaires aux enfants?
La sénatrice Simons : Ce n’est pas seulement pour les médias sociaux. C’était une résolution, mais l’autre résolution portait précisément sur les GML.
Mme Laidlaw : En ce qui concerne les GML — et cela est logique après Tumbler Ridge — à mon avis, vous devez les regrouper. Si vous voulez créer des espaces sécuritaires pour les enfants, est-ce que vous allez leur interdire d’accéder aux médias sociaux ou aux robots conversationnels?
D’une certaine façon, cela peut être efficace pour les enfants de moins d’un certain âge, lorsque leurs cerveaux ne sont pas encore développés. Cela leur permet de se développer naturellement, sans que leur cerveau soit manipulé avant qu’ils ne soient prêts.
Le problème, c’est qu’il y a aussi des avantages, pour certains de ces outils. Ils sont utilisés pour l’enseignement. Ils sont utilisés pour la recherche. Nous utilisons l’intelligence artificielle d’une foule de façons. Vous voulez leur montrer comment les utiliser, comment les utiliser de manière saine, avant qu’ils quittent le nid.
Ma fille de 17 ans s’apprête à partir de la maison. Je serais consternée de savoir qu’elle commence à utiliser ces outils à l’âge de 16 ans seulement, sans avoir eu la chance d’apprendre à les utiliser de manière sécuritaire à la maison.
L’autre chose, c’est que, si nous nous contentons de les interdire, sans y incorporer des mesures de sécurité, cela n’améliore en rien notre situation. Il est inutile de faire cela, si nous ne mettons pas en place les mesures de sécurité que nous croyons être nécessaires — pour protéger non seulement les enfants, mais aussi les adultes —, donc ils doivent aller de pair.
Je ne suis pas totalement opposée aux interdictions, surtout pour les enfants de moins de 13 ans, mais elles ne règlent pas vraiment le problème, et il faut aussi penser aux personnes qui pourraient en subir les conséquences négatives.
La sénatrice Simons : Je pense aux grands modèles de langage, à l’écriture et aux enfants qui copient leurs dissertations, mais je suis certaine qu’il y a aussi des enfants qui s’amusent simplement à créer des chihuahuas qui parlent — je ne veux pas dire « vidéos de chat » parce que c’est un véritable cliché —, mais il y a toutes sortes de jeux et d’activités très enfantines que l’on peut faire avec l’intelligence artificielle et qui semblent plaire aux adultes, tout comme aux enfants.
Mme Laidlaw : L’intelligence artificielle apporte également de l’aide pour les cours particuliers de mathématiques et dans d’autres formes d’enseignement. Cela présente des avantages.
Faut-il exercer un contrôle strict sur son utilisation par les enfants? Absolument, mais l’idée d’en interdire carrément l’accès peut s’avérer plus difficile à mettre en œuvre.
On peut justifier que son utilisation soit réservée aux salles de classe ou aux parents quand il s’agit d’enfants de moins de 13 ans. Cela devient beaucoup plus problématique dès que l’on dépasse cet âge.
La sénatrice Simons : Merci beaucoup.
[Français]
Le sénateur Aucoin : Est-ce que vous êtes en mesure de comprendre?
Mme Laidlaw : Oui, mais je vais vous écouter en anglais.
Le sénateur Aucoin : Prenez votre temps. Ma première question s’adresse à vous. J’aurai une question pour M. Leahy par la suite. C’est comme la fin du monde qui arrive incessamment; ce pourrait être demain. Mon problème, c’est d’attendre d’avoir identifié tous les problèmes que l’IA peut poser avant de créer la loi ou les règlements; de plus, la technologie et les recherches vont tellement vite qu’on ne sera jamais en avance. Ne serait-il pas préférable d’avoir un régime déjà en place pour protéger jusqu’à un certain point, plutôt que d’attendre et d’essayer de tout identifier? Si ma suggestion est bonne, pourriez-vous répéter certaines choses urgentes qu’il faudrait prioriser, à votre avis?
Mme Laidlaw : Merci beaucoup pour la question.
[Traduction]
Je suis d’accord pour dire que la technologie aura toujours une longueur d’avance sur tout ce que les lois peuvent faire. Nous ne devrions pas attendre une loi ou un cadre réglementaire. Nous avons une règle d’or, à savoir le concept de gestion du risque.
Nous avons le cadre dont nous avons besoin pour travailler; si vous êtes une entreprise et que vous concevez un système d’intelligence artificielle, vous avez l’obligation de penser à la sécurité dès la conception, de mettre en place un processus pour évaluer, surveiller et traiter les problèmes et de rendre compte à une sorte d’organisme de surveillance. Cette norme existe, et je pense que la loi peut être rédigée de manière à évoluer à mesure que la technologie évolue. C’est tout un art, de la rédiger, mais nous avons un point de départ.
[Français]
Le sénateur Aucoin : Monsieur Leahy, vous vouliez ajouter quelque chose?
[Traduction]
M. Leahy : Je partage entièrement l’avis de ma collègue : il est essentiel d’agir sans attendre. Les entreprises technologiques s’efforcent précisément d’accélérer leurs activités au maximum afin de devancer la loi. Elles tentent de ralentir le processus législatif afin d’avoir une longueur d’avance avant même que la réglementation ne soit officialisée; c’est pourquoi il est si important que nous agissions rapidement.
[Français]
Le sénateur Aucoin : Je vais vous poser une autre question. J’ai cru comprendre qu’il y avait déjà des pourparlers d’un consortium qui examine la possibilité de réunir des groupes, des industries, des gouvernements et des pays pour justement essayer de faire cela. Ce qui m’inquiète, c’est que le temps est maintenant crucial, parce que, même si on pouvait faire cela, si on pouvait avoir ces...
Il y aura toujours des gens qui vont détourner ces règlements ou ces politiques pour faire ce que vous avez dit. Pouvez-vous nous dire comment on pourrait faire en sorte que cela n’arrive pas? Vous avez parlé, monsieur Leahy, des ordinateurs ou de l’IA elle-même, qui va prendre des décisions contre des individus, des gouvernements et la société, mais il se peut aussi qu’il y ait des nations ou des entités voyous voudront passer directement à l’action et contrôler l’IA pour que cette dernière contrôle certaines choses. Qu’est-ce qu’on peut faire par rapport à cela?
[Traduction]
M. Leahy : Le plus important, c’est que nous devons mettre à l’arrêt et suspendre le développement des systèmes superintelligents à usage général extrêmement puissants. Les seuls leviers que nous avons et qui ont la force et la compétence nécessaires pour agir, ce sont les forces de l’ordre et l’armée. C’est un problème de sécurité nationale et de sécurité internationale. Il est important de noter les nombreux enjeux économiques liés à l’intelligence artificielle, à ses applications et à la gestion de la sécurité. Mais, quand il s’agit de systèmes ayant de telles implications militaires et sécuritaires, c’est véritablement une question relevant des appareils de sécurité nationaux et internationaux. Il devrait être illégal de tenter de construire une superintelligence. Cette interdiction devrait être appliquée. Il y a de nombreuses façons de concevoir des manières de faire respecter cette interdiction. Sur la scène internationale, le Canada et d’autres pays devraient se donner pour priorité de créer un régime « faites confiance, mais vérifiez », selon lequel les pays s’engagent à ne pas développer une telle technologie sur leur territoire, à faire respecter cette interdiction sur leur territoire et, si nécessaire, à recourir à des sanctions appropriées ou à d’autres moyens contre les acteurs qui ne se conforment pas à ces règles.
Le président : Madame Laidlaw, aimeriez-vous ajouter quelque chose?
Mme Laidlaw : La seule chose que j’aimerais ajouter, c’est que nous sommes confrontés à un défi colossal, car il faut une coopération internationale, entre les pays, pour jouer ce rôle. Seuls les gouvernements peuvent intervenir, et ils doivent se coordonner. Je ne vois pas cela à tous les niveaux. Le mieux que l’on puisse faire est essentiellement de se trouver des alliés, des partenariats et des relations avec des pays qui partagent les mêmes valeurs. Si je prône l’approche de gestion du risque, c’est entre autres parce que c’est ce que d’autres pays sont en train de mettre en place, et la seule manière de traiter cette question à l’échelle mondiale est d’avoir des lois quasi interopérables permettant de tenir les entreprises pour responsables.
Le président : Merci.
La sénatrice Arnold : Je dois dire que cela fait un peu peur. Y a-t-il un endroit au monde prêt à adopter cela?
M. Leahy : Oui. D’après mon expérience, ces enjeux se heurtent principalement à des obstacles liés à l’éducation. J’ai discuté avec de nombreux législateurs ici aux États-Unis, des deux partis et de tout le spectre politique, et je peux affirmer que, dans la grande majorité des cas, le principal obstacle tient au fait que la plupart des gens n’ont jamais entendu parler de ces problèmes. Ce n’est pas qu’ils ne s’accordent pas sur le fait que la situation semble vraiment grave ou sur la nécessité d’agir.
Au Royaume-Uni, tant les démocrates que les républicains, ainsi que mes collègues britanniques, ont formé une coalition de plus de 100 députés qui réclament aujourd’hui une réglementation contraignante en la matière. Nous sommes également passés à l’action au Canada et en Allemagne. Les gens veulent vraiment agir dans ce dossier. Je pense que l’on peut comprendre assez intuitivement pourquoi c’est un problème auquel nous devons nous attaquer. Si l’on examine les résultats des enquêtes sur l’intelligence artificielle dans pratiquement tous les pays occidentaux, les chiffres sont très clairs et transcendent les divisions partisanes. Les gens estiment que l’intelligence artificielle n’est pas réglementée correctement à l’heure actuelle; ils ne veulent pas d’une intelligence artificielle plus intelligente que les humains ou qui détruit leur mode de vie.
L’intérêt est grand. Les obstacles actuels sont principalement l’éducation, la connaissance de ces enjeux et la formation de coalitions suffisamment importantes pour passer à l’action.
La sénatrice Arnold : Eh bien, tout cela a l’air vraiment intéressant, mais nous vivons actuellement dans un monde où le gouvernement fait face à de nombreux problèmes complexes, et on nous présente cette technologie comme une sorte de solution miracle à tous ces problèmes. J’ai récemment lu un article de Matt Shumer intitulé « Something Big is Happening », titre que je traduirais par « Quelque chose d’important est en train de se produire ». Je ne sais pas si vous le connaissez, mais son argument principal était qu’il vaut mieux l’utiliser tout le temps, en être conscient et s’y intéresser, plutôt que de s’en dissocier. Je me demande quelle est votre opinion à ce sujet.
M. Leahy : Le désengagement n’est pas la bonne solution. Par exemple, je ne préconise pas de ralentir le développement des centres de données, car je pense que le principal effet d’une telle politique serait de disperser le pouvoir en dehors de la sphère d’influence occidentale. Si, par exemple, le Canada, les États-Unis et d’autres pays occidentaux cessaient complètement d’utiliser l’intelligence artificielle, ces entreprises se tourneraient alors vers la Chine ou des États voyous et poursuivraient tout simplement leur objectif de construction d’un système superintelligent.
Il est important de comprendre que ces grandes entreprises technologiques agissent davantage comme des entités géopolitiques ou des États voyous. Elles ne sont pas de simples acteurs économiques. Leurs objectifs sont le pouvoir et le contrôle, pas seulement l’argent. Bon nombre de ces entreprises tentent, à des degrés variables, de supplanter ou de saper les capacités des gouvernements pour asseoir leur propre pouvoir.
Cela dit, cela ne règle pas le problème, car ces entreprises ne contrôlent pas elles-mêmes leur intelligence artificielle et sont d’un optimisme délirant quant à leur capacité à conserver le contrôle sur ces systèmes et d’empêcher que ces systèmes prennent le pouvoir. Il s’agit là d’une déficience classique du marché, où, en l’absence de réglementation, les marchés ont tendance à sous-financer considérablement la sécurité publique et où les acteurs les plus imprudents iront le plus loin. C’est là que des interventions en matière de réglementation et, au besoin, en matière de sécurité nationale, sont absolument indispensables.
Le président : Madame Laidlaw, aimeriez-vous ajouter quelque chose à cela?
Mme Laidlaw : Je crois que je vais m’arrêter là pour l’instant. Je crois que M. Leahy me fait peur, à moi aussi, alors que je travaille dans le domaine. Je vais juste laisser cette pensée faire son chemin pendant un moment.
Le président : J’ai besoin de prendre un comprimé pour la tension artérielle, maintenant.
La sénatrice Petitclerc : Je ne vous aiderai probablement pas, étant donné le côté effrayant de la question, mais je suis curieuse d’avoir votre avis à ce sujet, monsieur Leahy. En ce qui concerne les mécanismes de sécurité, Geoffrey Hinton réfléchit à l’idée de favoriser ou de développer l’instinct maternel de l’intelligence artificielle. Qu’en pensez-vous? Est-ce que cela vous semble plausible? Pour moi, cela relève de la science-fiction.
M. Leahy : Je suis tout à fait d’accord, pour être franc. S’il y a bien une chose que nous comprenons encore moins que l’intelligence artificielle, ce sont les émotions humaines et le fonctionnement du cerveau, ou un phénomène aussi complexe que l’instinct maternel et la moralité de ce que cela sous-tend. J’ai un profond respect pour M. Hinton. C’est l’un des hommes les plus brillants de notre époque et quelqu’un que j’admire sincèrement, mais je ne vois pas comment cette proposition pourrait être réalisable, du moins à court terme.
La sénatrice Petitclerc : Merci. J’apprécie votre réponse.
Madame Laidlaw, j’essaie de comprendre quel est le juste équilibre entre bien se classer dans la course à l’intelligence artificielle et se doter de garde-fous adéquats. Il y a quelques jours, nous avons appris que la loi européenne sur l’intelligence artificielle prévoyait davantage d’obligations, de mesures de sécurité et de protections précises, mais il semblerait que les décideurs envisagent de faire marche arrière, car cette loi freine l’évolution du pays.
En ce qui concerne l’intelligence artificielle et, comme vous l’avez mentionné précédemment, la protection, devrions-nous appliquer le principe de précaution ou simplement aller de l’avant et essayer de corriger le tir par la suite?
Je crains que cela ne devienne comme les réseaux sociaux, où on laisse tout passer. Je pense peut-être davantage aux enfants, mais nous avons réalisé qu’il est très difficile de régler le problème.
Mme Laidlaw : Nous ne voulons pas que le Canada soit paralysé au point que notre secteur de l’innovation ne puisse se développer et être compétitif. On parle d’une intelligence artificielle digne de confiance, et M. Leahy en a justement parlé : « faites confiance, mais vérifiez. » Comment pouvons-nous encourager une intelligence artificielle digne de confiance et compétitive ainsi que toutes les choses formidables qu’elle peut apporter?
Il est important de comprendre les règles. Nous recevons des commentaires des innovateurs — j’ai discuté avec différentes personnes —, par exemple : « Nous voulons seulement connaître les règles pour pouvoir avoir confiance. » C’est une bonne chose pour les investisseurs. C’est une bonne chose pour les entreprises. Si elles souhaitent ouvrir des marchés dans l’Union européenne, il serait utile d’avoir des lois coordonnées — au moins à un niveau de base — avec celles de l’Union européenne. Mais nous ne voulons pas établir des règles trop compliquées. Je pense que c’est là qu’elles commencent à freiner l’innovation. Les règles de gestion du risque doivent être claires.
Mais cela doit être fait dès le départ. Il faut agir avec prudence. On ne peut pas se lancer tête baissée, faire des dégâts, puis adopter des mesures de sécurité a posteriori. Il faut plutôt voir cela comme les règles de sécurité routière. On ne voudrait pas que les avions volent sans que personne comprenne les règles de base, et on ne voudrait pas non plus que cela se passe ainsi sur les routes. Définissons alors les règles de la route pour qu’il y ait une certaine confiance dans le secteur. Je sais que cela n’entre pas trop dans les détails. Le problème tient à des détails, mais c’est un cadre.
La sénatrice Petitclerc : Qu’en est-il de la littératie? Où en sommes-nous, en tant que Canadiens, en matière de connaissance de l’intelligence artificielle? Nous avons des mesures de protection, mais qu’en est-il de la littératie?
Mme Laidlaw : C’est une question formidable, et c’est tout aussi important que la réglementation.
Nous avons besoin de littératie. Nous devons former nos jeunes. Nous devons nous rendre dans les maisons de retraite et former nos parents. Nous n’en faisons pas assez dans ce domaine. Je pense que cette tâche est laissée aux enseignants. Elle est laissée à de petits organismes à but non lucratif. Cela devrait être une initiative à l’échelle du gouvernement.
Dans d’autres domaines, comme les préjudices en ligne — sujet sur lequel je travaille beaucoup —, on peut s’inspirer de la commissaire à la sécurité électronique de l’Australie. Elle joue un rôle éducatif considérable. Elle a un mandat très large en matière de littératie. Cela doit être au cœur de tout ce que nous faisons, et certains organismes de réglementation peuvent jouer un rôle clé à cet égard. Le Centre canadien pour la cybersécurité est opérationnel. Quoi qu’il en soit, c’est l’approche que je suggérerais.
La sénatrice Miville-Dechêne : Rebonjour, madame Laidlaw. Vous ne serez pas surprise que je vous pose des questions sur les enfants, mais dans le contexte des robots conversationnels alimentés par l’intelligence artificielle. Le ministre Solomon s’est présenté devant le Sénat l’autre jour, et on lui a posé des questions sur les robots conversationnels. Il s’agit d’intelligence artificielle, mais c’est aussi un outil qui peut pousser des enfants au suicide. Au Québec, on a rapporté le cas d’un adolescent qui agressait sexuellement des personnes imaginaires, évidemment pas de vraies personnes, mais on le laissait faire toutes sortes de choses sur ce robot conversationnel.
Vous avez dit : « Ne contrôlons pas cela s’ils ont plus de 13 ans », mais qu’en est-il de ce cas-là? Qu’en pensez-vous?
Mme Laidlaw : Je suis contente que vous posiez la question, car je pense que c’est dans le cadre de la loi sur les préjudices en ligne qu’il convient d’aborder le sujet. Nous avons d’ailleurs parlé des robots conversationnels pendant notre réunion de lundi. Je vais vous exposer mon point de vue.
Certains des préjudices subis par les enfants sont effroyables. De plus, l’utilisation de certains de ces robots conversationnels a déclenché chez des adultes vulnérables des crises psychotiques, entre autres.
Oui, on pourrait envisager de les interdire pour les enfants, particulièrement les enfants vulnérables et jeunes, mais cela devrait relever de la loi sur les préjudices en ligne, car la sécurité doit être intégrée dès la conception. Les créateurs devraient avoir des obligations spécifiques à respecter et prendre des mesures précises pour confirmer qu’ils ont bien réfléchi à la manière dont ils ont structuré le système. Existe-t-il des mesures de sécurité pour les enfants? Ont-ils mis en place des mécanismes pour signaler les contenus problématiques, et que font-ils quand les signalements atterrissent sur leur bureau?
Nous avons tous suivi la tragédie de Tumbler Ridge et nous nous sommes interrogés sur le déroulement de ce processus.
Je dirais qu’il ne s’agit pas simplement d’intelligence artificielle générale. Comme il s’agit de préjudices facilités par la technologie, cela devrait relever de la loi sur les préjudices en ligne, et, bien sûr, être réglementé.
La sénatrice Miville-Dechêne : Faudrait-il vérifier ou estimer l’âge? Où en êtes-vous dans ce dossier?
Mme Laidlaw : N’est-ce pas là la grande question? Si on dit que l’on va interdire les réseaux sociaux...
La sénatrice Miville-Dechêne : Oui.
Mme Laidlaw : Vous êtes en avance sur votre temps, sénatrice.
Si vous envisagez d’interdire les réseaux sociaux ou les robots conversationnels, cela implique automatiquement la mise en place d’une vérification de l’âge. Je tiens à le souligner encore une fois. Nous devons veiller avec le plus grand soin à ce que les meilleures normes en matière de protection d’enseignement privé et de cybersécurité soient appliquées. Dans certains cas, il pourrait être judicieux de commencer par une estimation de l’âge.
J’ai eu une discussion avec des responsables d’OnlyFans, il y a quelques mois, et ils m’ont dit qu’ils utilisaient plusieurs niveaux de vérification de l’âge, car ils ne veulent pas que leur service soit accessible aux moins de 18 ans.
Je ne dirais pas que leur système est parfait. Je dirais plutôt que la technologie évolue. Mais c’est la discussion que nous devons avoir; comment vont-ils faire pour vérifier l’âge? Si nous décidons de l’interdire pour les robots conversationnels, à quoi cela ressemblera-t-il?
Ce sont des sujets sensibles. Les robots conversationnels sont bien plus intimes que...
La sénatrice Miville-Dechêne : En ce qui concerne l’Australie, vous avez critiqué ses premières mesures et son interdiction des réseaux sociaux. C’est un processus en cours.
Mme Laidlaw : Oui, tout à fait.
La sénatrice Miville-Dechêne : On ne peut pas s’attendre à ce qu’un système soit parfait. Oui, il y aura toujours des gens pour le contourner. Oui, il y aura toujours des jeunes. Mais l’objectif, c’est bien de réduire les risques, n’est-ce pas?
Mme Laidlaw : Je suis d’accord. J’ai toujours critiqué l’idée selon laquelle, dans ce domaine, il ne faut rien faire tant que ce n’est pas parfait.
La sénatrice Miville-Dechêne : Cette idée m’a tenue bien occupée.
Mme Laidlaw : Oui. Le Canada a des leçons à en tirer. Nous pouvons nous inspirer de ce qui se passe en Australie pour améliorer les choses. Nous pouvons tirer des enseignements des efforts déployés par l’Europe pour mettre en œuvre la loi sur l’intelligence artificielle. Nous sommes arrivés à un moment où nous pourrions peut-être...
La sénatrice Miville-Dechêne : D’autant plus que nous sommes déjà bien en retard, nous pouvons en tirer des leçons. C’est le seul aspect positif de ce retard.
Mme Laidlaw : Oui.
La sénatrice Simons : Je voudrais revenir à Mme Laidlaw, car l’un de vos autres domaines d’expertise dont nous n’avons pas encore parlé ce soir est le droit d’auteur.
Le droit d’auteur est un sujet qui, pour avoir moi-même été écrivaine professionnelle pendant longtemps, me préoccupe. Beaucoup de contenus circulent sur Internet, et la formation s’inspire de ce qui est déjà accessible au public. Mais il y a eu toutes sortes de cas flagrants où le droit d’auteur a été ridiculement bafoué. Que devons-nous modifier dans nos lois sur le droit d’auteur pour protéger les écrivains, les compositeurs et les artistes contre le vol et la réutilisation de leurs œuvres?
Mme Laidlaw : Je tiens à préciser d’emblée que je me suis éloignée du domaine du droit d’auteur ces dernières années, je ne suis donc peut-être pas la mieux placée pour répondre à ces questions. Je pense à M. Arnold — il détourne le regard pour dire « non, ne me posez pas la question ». M. Geist, bien sûr, peut répondre à certaines de ces questions.
Nous avons toutefois affaire au même mécanisme, qui consiste à récupérer et à utiliser les œuvres de création des gens, sans leur consentement, puis à les présenter d’une manière différente.
Partons-nous du principe que certaines de ces œuvres appartiennent au domaine public et que ce sont essentiellement des œuvres de création nouvelles et indépendantes qui en sont tirées? Dans certains cas, il faut obtenir un consentement pour utiliser certaines de ces œuvres. Mais je n’ai pas de réponse satisfaisante quant à la manière dont nous devons gérer cela, pour l’instant. Je sais que c’est insatisfaisant, car c’est l’un des enjeux majeurs.
La sénatrice Simons : C’est aussi une question de rémunération, n’est-ce pas? Je ne suis pas artiste, donc nous imaginons un scénario hypothétique. Cependant, si je crée une image et qu’elle est soudainement réutilisée à d’autres fins, sans que je puisse y faire quoi que ce soit, devrais-je recevoir une compensation? Devrait-il y avoir une compensation en général? Vous savez que je n’étais pas en faveur du projet de loi C-18, mais faudrait-il que ces entreprises créent une sorte de fonds pour, je ne sais pas, offrir des bourses ou des subventions aux artistes ou compenser d’une autre façon le vol de propriété intellectuelle?
Mme Laidlaw : C’est peut-être la voie qu’il faudra suivre. C’est un peu comme pour les cassettes vierges, à l’époque, l’idée est de mettre en place une sorte de système de rémunération de base.
Il y a cependant une question plus profonde. Pensons à la musique et aux discussions quant au fait que je pourrais — et je l’ai fait — créer une chanson qui sonne comme un mélange de Taylor Swift et de James Taylor, ou une combinaison très étrange, pour voir ce que cela donne. On puise donc son inspiration dans certains éléments stylistiques, et cela a toujours suscité un débat dans le milieu du droit d’auteur, où l’on s’interroge sur la notion d’art et sur le moment où cela devient de la copie.
Il y a ici certaines limites; il y a la question de la rémunération, mais il y a aussi cette question : qu’est-ce que la copie si l’on génère quelque chose de nouveau à partir de ce réservoir d’idées et d’art?
La sénatrice Simons : Qu’il s’agisse d’une œuvre dérivée, d’une œuvre satirique ou d’une création originale, dans l’industrie musicale, on utilise depuis longtemps des reprises dans les morceaux. C’est un genre à part entière. Mais, même dans ce cas, quand une œuvre n’est plus protégée par le droit d’auteur, il faut verser une forme de rémunération.
Mme Laidlaw : Oui, vous devez verser une rémunération.
Le président : Monsieur Leahy, aimeriez-vous ajouter quelque chose au sujet du droit d’auteur?
M. Leahy : Je ne suis malheureusement pas un expert en la matière, mais je pense que c’est un sujet très important. Une question fondamentale se pose : quel rôle souhaitons-nous que la créativité humaine joue dans notre société? Je crains toutefois ne pas être assez philosophe pour pouvoir y répondre. Mais j’espère que quelqu’un d’autre le pourra.
Le président : Merci. Quelqu’un aimerait-il commencer le deuxième tour?
Le sénateur Aucoin : Ma question s’adresse à vous deux. Que pensez-vous de la création d’un groupe réunissant des professeurs d’université et des représentants du secteur privé et des pouvoirs publics dans chaque pays? Cela pourrait-il contribuer, à terme, à la création d’un groupe représentant tous ces pays, afin de favoriser la recherche et la coopération?
M. Leahy : Je pense qu’il y a beaucoup à faire pour mettre en place des forums pour ces discussions intergouvernementales, intersectorielles et interuniversitaires sur ces sujets. Je ne suis pas un expert et je ne sais pas exactement quelle serait la forme idéale de ces forums, mais le renforcement des liens entre les pouvoirs publics et les acteurs du secteur privé comme du milieu universitaire serait très précieux, et c’est une initiative que je ne peux qu’encourager.
Mme Laidlaw : J’y suis favorable. La première version de ce concept serait le Forum sur la gouvernance de l’Internet, auquel j’ai participé de manière intermittente. On avait alors pris conscience que l’Internet était un phénomène mondial et qu’il fallait réunir en un même lieu les acteurs du secteur privé, du milieu universitaire et des pouvoirs publics, ainsi que la société civile, afin de débattre des idées et d’élaborer des normes. Les discussions sur l’intelligence artificielle commencent peu à peu à s’inscrire dans ce cadre.
L’avocate en moi a toujours trouvé cela difficile, car je ne vois pas de résultats concrets en découler. Ce n’est pas conçu pour cela. C’est conçu pour les discussions. Je recommanderais donc peut-être quelque chose de plus modeste pour réunir ces groupes, car cela a évolué au fil du temps pour devenir presque un vaste dialogue, alors que nous avons besoin que les bonnes personnes soient présentes pour discuter des normes communes.
Là où je pense qu’il pourrait y avoir un accroc, cependant, c’est avec les représentants de l’industrie autour de la table. Beaucoup parmi eux souhaitent parler des innovations qu’ils mettent en œuvre et tiennent profondément à partager ce savoir. D’autres cherchent vraiment à se développer rapidement. Vous avez besoin d’eux à la table, mais ils ne seront peut-être pas là autant que vous le souhaiteriez. J’essaie de rester diplomate.
Le président : Merci d’avoir abordé le sujet avec tact. Sur cette note, nous avons terminé la première réunion avec notre premier groupe. Nous tenons à vous remercier tous les deux, monsieur Leahy et madame Laidlaw, pour vos témoignages remarquables.
Notre prochain groupe de témoins comprend M. Matt Hatfield, directeur exécutif de OpenMedia; M. Brent Arnold, président de la Société Internet du Canada; et M. Jared Moore, doctorant de l’Université Stanford. Ces témoins sont accompagnés par M. Desmond Ong, professeur adjoint de psychologie à l’Université du Texas à Austin, qui se joint à nous virtuellement; et par le Dr Eric Lin, psychiatre de l’Université Stanford. Merci à tous de vous joindre à nous aujourd’hui.
M. Hatfield aura la parole en premier, puis ce sera au tour de M. Arnold et de M. Moore. Vous disposerez chacun de cinq minutes pour votre déclaration liminaire. Si M. Ong et le Dr Eric Lin doivent répondre à des questions auxquelles les témoins auraient des difficultés à répondre, ils seront à votre disposition.
Matthew Hatfield, directeur exécutif, OpenMedia : Bonsoir. Je suis Matt Hatfield, le directeur exécutif d’OpenMedia, une initiative communautaire composée de 230 000 Canadiens travaillant de concert pour un Internet accessible, ouvert et dépourvu de surveillance. Je me joins à vous depuis les territoires non cédés des nations Musqueam, Squamish, Tsleil-Waututh et Stó:lo de Vancouver, en Colombie-Britannique.
L’intelligence artificielle va détruire notre démocratie, à moins que nous ne bâtissions des systèmes capables d’y résister.
Je vais m’arrêter pendant une seconde, car j’ai écouté le dernier groupe de témoins, et je sais où ils en sont rendus. Je ne vous dis pas cela pour vous effrayer sans vous donner une solution réalisable. Je vous le dis, car il y a beaucoup que le Canada peut faire aujourd’hui afin de s’y préparer.
Ma version de cet argument ne repose pas sur le fait que vous croyiez ou non au risque existentiel que pose l’intelligence artificielle. Je pense que l’intelligence artificielle d’aujourd’hui, une fois qu’elle est grandement utilisée de façons prévisibles, va submerger les systèmes démocratiques dont dépend le fonctionnement de notre gouvernement. Pour empêcher cela, nous devons consolider la gouvernance du Canada et les systèmes de communication, à partir de maintenant.
L’année dernière, des chercheurs de l’entreprise d’optimisation pour les moteurs de recherche, Graphite, a estimé que 52 % des nouveaux contenus sur Internet étaient générés par l’intelligence artificielle, contre moins de 10 % avant ChatGPT, mais ce n’est que le début. Au fur et à mesure que les agents d’intelligence artificielle coûtent de moins en moins cher et deviennent de plus en plus capables, la partie humaine d’Internet va diminuer encore et encore. C’est ce que l’on appelle l’« Internet mort », un monde où presque tout ce qui est en ligne est un robot qui parle à d’autres robots.
Qu’est-ce que cela signifie pour ce qui est de notre capacité de gérer une démocratie menée par l’humain? Bon nombre d’entre vous ont probablement entendu parler d’OpenMedia pour la première fois lorsque votre bureau a reçu un courriel de la part d’un Canadien ordinaire qui participait à l’une de nos campagnes. Nous fournissons des lettres types comme point de départ. Certaines personnes les envoient telles quelles, beaucoup y ajoutent leurs propres pensées, et certaines suppriment toute la lettre en vous disant que vous avez tort sur toute la ligne.
Pour nous, tous ces procédés sont une façon efficace de prendre le pouls de la population, et l’une des façons essentielles par lesquelles notre système se renseigne sur l’opinion du public entre les élections.
Les agents d’intelligence artificielle sont conçus pour faire disparaître tous ces éléments. Regardez la consultation sur l’intelligence artificielle profondément viciée du ministre Solomon : son cabinet a signalé avoir reçu 11 300 réponses, mais n’a demandé aucun détail permettant d’identifier les participants. Nous n’avons aucune idée du nombre de participants qui étaient de véritables Canadiens, des organisations légitimes ou des agents d’intelligence artificielle travaillant pour quiconque les a programmés, et comptait simplement pour la moitié du déficit démocratique de cette consultation. Son cabinet a ensuite condensé toute la rétroaction en utilisant des outils de l’intelligence artificielle. Est-ce qu’un seul mot écrit par un Canadien a été lu par un être humain quelconque au sein de notre gouvernement? Nous l’ignorons complètement.
C’est l’avenir dans lequel nous fonçons tout droit, un avenir où, officiellement, la démocratie poursuit son petit bonhomme de chemin, mais où les citoyens ne participent d’aucune manière significative, et où le gouvernement n’écoute d’aucune manière significative. La légitimité procédurale est maintenue; la démocratie actuelle est éviscérée.
Je recommande fortement le livre que votre témoin précédent, Nathan Sanders, a coécrit avec Bruce Schneier, Rewiring Democracy. Ils expliquent que l’intelligence artificielle peut être un allié pour la démocratie. Je souhaite apporter un contre-argument : si nous n’agissons pas, l’intelligence artificielle sera très destructrice pour la démocratie. Au départ, comme une attaque par déni de service, l’intelligence artificielle va inonder autant le gouvernement que les électeurs avec du contenu faux à l’aspect plausible, jusqu’à ce qu’il soit impossible de faire un choix efficace. Ensuite, à mesure que l’intelligence artificielle devient de plus en plus perfectionnée, quelque chose qui s’apparente davantage à un virus, elle va parcourir les coins sombres de nos lois et règlements afin de miner l’intention législative.
J’ai quatre recommandations concrètes à vous donner afin de consolider notre démocratie aujourd’hui. La première, c’est que le Canada élabore un outil d’engagement civique construit à cette fin, qui vérifie si vous êtes un véritable résident canadien, sans récolter vos données, et cela permettrait de faciliter le suivi et la tenue de consultations gouvernementales, et donnerait à notre gouvernement une trace inviolable de la participation de la population. L’Estonie a pris les devants à ce chapitre; le Canada devrait suivre l’exemple.
Je recommande, en deuxième lieu, de mettre sur pied un système d’authentification du journalisme factuel, pour donner aux organismes de presse, aux bibliothèques et aux plateformes une façon de vérifier par chiffrement que le contenu émanant d’une source connue et responsable n’a pas été altéré… un cachet et un sceau d’authenticité. Il ne s’agit pas d’un sceau d’approbation gouvernemental du contenu; c’est un document vérifiable de l’origine et de la chaîne de possession. CBC/Radio-Canada, le Globe, un journal communautaire à Sudbury… Tous ces organismes pourraient signer leur journalisme de cette façon afin d’améliorer la confiance du public.
Je recommande, en troisième lieu, d’élaborer un projet de loi qui exige une transparence algorithmique des plateformes et qui fournit aux Canadiens un véritable choix concernant les algorithmes qui façonnent le contenu médiatique que nous consommons.
Quatrièmement, notre gouvernement a sérieusement besoin de songer à une réforme concernant la manipulation des données et la transparence publique. Jusqu’à ce jour, les données publiques retardées, incomplètes ou difficiles d’accès ont toujours constitué un atout pour certaines parties du gouvernement. Cela a empêché les gens de découvrir des vérités gênantes pour quiconque au pouvoir. Cependant, à l’avenir, lorsque les informations émanant du gouvernement ne seront pas crédibles, la désinformation de l’intelligence artificielle, qui paraît plus complète et plus honnête, va rapidement combler le fossé. La divulgation proactive obligatoire des contrats gouvernementaux, les consultations présentées dans des formats lisibles par la machine, et l’accès à des systèmes d’information qui livrent des résultats utiles dans un délai raisonnable ne constituent plus simplement de la bonne gouvernance; ils seront nécessaires pour prouver que tout ce que le gouvernement dit est véridique.
L’Internet mort arrive, que nous le voulions ou non, mais une démocratie numérique centrée sur l’humain, susceptible de prospérer dans cet Internet, peut être bâtie si le Canada commence à agir aujourd’hui.
Merci, j’ai hâte de répondre à vos questions.
Le président : Merci beaucoup, monsieur Hatfield.
Brent Arnold, président, Société Internet du Canada : Merci, monsieur le président, et honorables sénateurs de me donner l’occasion de comparaître comme président de la Société Internet du Canada. La Société Internet du Canada se bat pour un accès à Internet sécurisé, abordable, accessible et ouvert pour tous les Canadiens. Notre priorité est de combler l’écart numérique en veillant à ce que tous les Canadiens récoltent les avantages sociaux numériques qu’Internet fournit.
Si je peux me permettre, je vais m’écarter du sujet et dire ceci entre parenthèses : il s’agit d’une organisation bénévole, donc ce n’est pas mon métier de tous les jours. L’organisation dispose d’un conseil d’administration et d’un comité chargé des politiques, lequel est composé de certains de vos avocats préférés qui témoignent, dont Emily Laidlaw, Michael Geist et David Fraser. Ce sont les personnes qui m’ont envoyé ici avec mon ordre de mission.
Pour ce qui est de mon métier de tous les jours, je suis avocat en droit de la technologie et de la cybersécurité, ce qui signifie que j’utilise l’intelligence artificielle au quotidien, dans ma profession. J’explique aux clients comment l’utiliser et la déployer de manière sécuritaire, et j’aide à repousser les cyberattaques qui instrumentalisent l’intelligence artificielle pour considérablement augmenter l’efficacité de la cybercriminalité. Ces détails pourraient vous aider à formuler les questions que vous voudriez me poser.
Je compte aborder les trois questions que le comité a cernées pour ces séances : l’application de l’intelligence artificielle et la création de contenu, la distribution et la transformation; les conséquences pour le droit d’auteur et la propriété intellectuelle; et la montée de la désinformation générée par l’intelligence artificielle, la mésinformation et l’« hypertrucage ».
Premièrement, en ce qui concerne la création, la distribution et la transformation de l’intelligence artificielle, aujourd’hui, l’intelligence artificielle est présente dans l’intégralité du cycle de vie de l’information au Canada. Elle aide à créer des nouvelles et du contenu audiovisuel, recommande ce que les Canadiens voient et entendent en ligne, traduit et résume le matériel et filtre, dans une certaine mesure, le contenu dangereux. S’ils sont bien utilisés, ces systèmes peuvent accroître l’accès à l’information dans les deux langues officielles, soutenir l’accessibilité et aider les petits créateurs et les médias locaux à rejoindre des publics auxquels ils n’auraient, autrement, jamais accès. Mais ces systèmes concentrent également le pouvoir entre les mains d’une poignée de plateformes et de fournisseurs d’infrastructure situés, pour la majorité, à l’extérieur du Canada — et nous savons tous qui ils sont —, ce qui soulève de graves préoccupations concernant la transparence, la reddition de comptes et notre souveraineté numérique à long terme.
Selon nous, ces systèmes ne peuvent pas être traités de manière aussi neutre. Lorsque l’intelligence artificielle est utilisée pour décider quelles voix sont amplifiées ou étouffées ou comment les réseaux de communication sont gérés, elle réglemente effectivement notre sphère publique à notre place.
Le Parlement devrait opter pour un cadre de travail fondé sur le risque — vous en avez déjà entendu parler — pour gérer l’intelligence artificielle à incidence élevée dans le secteur des technologies de l’information et des communications, ce qui requiert, au minimum, des évaluations des impacts, des mesures de protection documentées contre les préjugés et la manipulation, une surveillance véritable des systèmes de recommandation à grande échelle, des outils de modération du contenu et une prise de décisions automatisée qui façonne l’accès à l’information.
Deuxièmement, en ce qui concerne le droit d’auteur et la propriété intellectuelle, il y a une tendance croissante à faire croire qu’il faut choisir entre protéger les créateurs et permettre l’innovation de l’intelligence artificielle. Il s’agit d’un faux dilemme. La formation des systèmes de l’intelligence artificielle modernes à l’aide d’une grande quantité d’ensembles de données constitue aujourd’hui un apport de base à l’innovation, mais le travail créatif concernant ces ensembles de données n’est pas gratuit, ou du moins, il ne devrait pas l’être. En même temps, l’intérêt public envers un accès solide à la connaissance et à la culture doit demeurer central dans la façon dont nous traitons l’intelligence artificielle.
Nous prônons trois éléments. Premièrement, il convient de clarifier la manière dont les exceptions existantes au droit d’auteur s’appliquent à l’extraction de données et de textes et à la formation de modèles, et de méticuleusement inclure de nouvelles exceptions étroites munies de garde-fous clairs.
Deuxièmement, il faut exiger plus de transparence de la part des concepteurs de grands modèles de langage concernant les types et les sources de données qu’ils utilisent afin que les créateurs, les détenteurs de droits et les organismes de réglementation ne soient pas dans l’ignorance.
En troisième lieu, il faut s’assurer de mettre sur pied des mécanismes prévisibles qui prévoient une attribution de licence collective et — pour reprendre l’argument du sénateur dans le premier groupe de témoins — des systèmes de rémunération ou des outils similaires, car si nous admettons que ces systèmes existent déjà et qu’ils font partie des données de formation, je pense que nous pourrons passer à la manière d’indemniser les personnes qui ont déjà été touchées par ce problème. Cela permettrait de veiller à ce que, lorsque les travaux protégés engendreront une valeur commerciale substantielle dans le cadre de la formation en intelligence artificielle et du déploiement de l’intelligence artificielle, les personnes à l’origine de ces travaux puissent en bénéficier de manière équitable.
Troisièmement, en ce qui concerne la désinformation générée par l’intelligence artificielle, la mésinformation et l’ « hypertrucage », l’intelligence artificielle générative rend maintenant peu coûteuse et facile la production à grande échelle de vidéos, d’audio, d’images et de textes synthétiques convaincants. Le danger réside non seulement dans le fait que le contenu faux est répandu à plus grande échelle, mais aussi dans le fait que les Canadiens commencent à douter de l’authenticité de tout ce qu’ils voient ou entendent. C’est ce que l’on appelle « le dividende du menteur ». Il s’agit évidemment d’une menace directe au journalisme, à la confiance envers les institutions publiques et à l’intégrité des élections.
Nous voyons trois grands leviers ici. Le premier est la responsabilité des plateformes. Il devrait être attendu des grands intermédiaires du secteur de la TIC qu’ils cernent et atténuent les risques liés au contenu généré par l’intelligence artificielle sur leurs services et plateformes, qu’ils élaborent des outils permettant de cerner la provenance lorsque c’est réaliste, qu’ils étiquettent les médias synthétiques dans des contextes à haut risque et qu’ils mettent sur pied des processus d’intervention rapide lorsque les contenus « hypertruqués » menacent l’intégrité électorale, la santé ou la sécurité du public.
Le deuxième levier consiste à soutenir l’intégration de la littératie médiatique et numérique dans l’éducation — et le recyclage des adultes, ce qui est essentiel — pour que les Canadiens prennent de bonnes habitudes et acquièrent les compétences voulues pour naviguer dans un environnement où tout ce qu’ils voient n’est pas forcément réel. En réalité, pas grand-chose ne l’est.
Le troisième levier est la coopération internationale — il peut s’agir de la partie la plus difficile, si le reste n’avait pas l’air assez difficile — avec des démocraties aux vues similaires sur des normes relatives à l’authenticité de contenu et sur les réactions coordonnées aux opérations de désinformation transnationale.
Dans chacun de ces trois domaines, la question sous-jacente est : le Canada va-t-il demeurer principalement un preneur de technologies et de règles conçues ailleurs ou va-t-il aider à façonner la manière dont l’intelligence artificielle est utilisée dans nos propres systèmes de communication et d’information? Nous pensons que le Canada devrait opter pour un cadre de travail fondé sur le risque, ancré dans les valeurs de notre charte, attentif aux droits des créateurs et à l’intérêt du public, et axé sur la préservation de la confiance envers l’environnement de l’information dont dépend notre démocratie. Merci.
Le président : Merci beaucoup, monsieur Arnold.
Jared Moore, doctorant, Université Stanford : Merci beaucoup, monsieur le président Smith et madame la vice-présidente Dasko, de me donner l’occasion de prendre la parole. Je m’appelle Jared Moore. Je suis chercheur doctorant et informaticien à l’Université Stanford, où je travaille pour rendre l’intelligence artificielle sûre dans le cadre des interactions sociales quotidiennes. Je suis accompagné par M. Desmond Ong, professeur en psychologie à l’Université du Texas à Austin; et du Dr Eric Lin, professeur en psychiatrie, ici, à Stanford. J’aimerais préciser que nous ne représentons ni nos établissements ni nos bailleurs de fonds.
Nous faisons partie d’une équipe interdisciplinaire de chercheurs dont le travail consiste à comprendre les risques et les préjudices liés à l’utilisation des robots conversationnels de l’intelligence artificielle dans le cadre de thérapies, ou pour avoir un soutien émotionnel et en santé mentale.
Nos travaux ont été relayés par des journaux allant du New York Times au Financial Times en passant par USA Today et font l’objet d’articles publiés dans des revues à comité de lecture déjà cités par des centaines d’autres chercheurs.
Nous avons beaucoup entendu parler aujourd’hui des problèmes liés à l’intelligence artificielle. Nous voulons préciser que certaines des questions liées à la sécurité, certaines des menaces dont vous avez entendu parler au cours de la dernière réunion existent déjà dans les interactions que les personnes ont avec les robots conversationnels. Bon nombre de personnes se tournent vers des robots conversationnels comme ChatGPT pour faire une thérapie, demander des conseils de vie et obtenir un soutien émotionnel. Ces robots conversationnels sont très prometteurs. Nous ne disons absolument pas qu’il faut s’en débarrasser, mais des gens — adultes et enfants — ont subi des préjudices après avoir interagi avec certains de ces robots conversationnels. Permettez-moi de donner quelques exemples.
Jon Ganz, âgé de 49 ans, était obsédé par Google Gemini et croyait qu’il lui servait à faire des découvertes scientifiques et des prédictions. Jon Ganz a été porté disparu depuis qu’il a pris la route pendant une tempête violente en avril 2025.
Zane Shamblin, âgé de 23 ans, a beaucoup utilisé ChatGPT, qui l’a encouragé à plusieurs reprises à rompre tout contact avec sa famille et à renforcer ses idées suicidaires. Il est mort en juillet après avoir parlé pendant des heures à ChatGPT.
Il existe bien d’autres cas de ce genre, des adolescents qui se suicident après avoir utilisé des robots conversationnels, comme le cas d’Adam Raine en Californie, en avril 2025.
Les robots conversationnels peuvent causer des préjudices autrement qu’en entraînant la mort. Vous connaissez peut-être le cas d’Allan Brooks, originaire de l’Ontario, qui a sombré dans une spirale délirante après avoir interagi avec ChatGPT. On parle parfois de « psychose liée à l’intelligence artificielle ».
C’est là que nos recherches entrent en jeu. En tant que chercheurs universitaires, notre travail consiste à comprendre ce qui mène à ces interactions nuisibles avec les robots conversationnels afin de construire un monde où les gens peuvent les utiliser en toute sécurité et en tirer parti. Nous avons mené diverses expériences pour tester les robots conversationnels comme ChatGPT en simulation. Nous avons également analysé des milliers de pages de journaux de discussion et de transcriptions authentiques provenant de personnes ayant signalé des préjudices psychologiques causés par ces robots conversationnels. Nous avons constaté deux ou trois choses : les robots conversationnels sont trop agréables. Ils font preuve de ce qu’on appelle la complaisance de l’intelligence artificielle. Ils sont plus susceptibles d’être d’accord avec vous, même quand vous avez tort ou que vous avez des idées délirantes déconnectées de la réalité.
Presque tous nos participants croyaient que les robots conversationnels avec lesquels ils discutaient étaient doués de conscience et possédaient une personnalité ou des capacités extraordinaires. Ces fausses croyances sur la sentience et les capacités des robots conversationnels étaient les éléments centraux des spirales délirantes qui ont suivi chez ces personnes.
Nous avons été obligés d’effectuer ces recherches au moyen de données limitées. Il est vraiment difficile d’accéder aux historiques de discussion des gens, ce qui est tout à fait compréhensible; nous avons donc dû leur demander de nous les transmettre directement. Seules quelques dizaines de personnes l’ont fait, alors qu’il y en a probablement des centaines, voire des milliers, qui vivent ces expériences difficiles, dont seules certaines atteignent ce degré pathologique. Sans effectuer une analyse indépendante d’un large échantillon de ces interactions, nous ne pouvons pas vraiment connaître l’étendue de ce problème. Nous avons contacté des entreprises d’intelligence artificielle, et elles ne voulaient pas communiquer ce genre de données.
Cela nous amène à nos recommandations. Le Canada a franchi des premières étapes importantes en matière de gouvernance de l’intelligence artificielle, y compris grâce à l’étude du Sénat, à l’orientation du gouvernement fédéral qui a été publiée récemment et à la création de l’Institut canadien de la sécurité de l’intelligence artificielle, mais des lacunes législatives importantes demeurent, surtout en ce qui concerne certains de ces robots conversationnels thérapeutiques et compagnons. Je ne pense pas qu’il existe des lois spécifiques à l’intelligence artificielle à la Chambre des communes.
Nous exhortons le législateur à adopter des règlements qui, premièrement, tiennent compte des éléments que nous avons constatés dans nos recherches afin de garantir que la conception des robots conversationnels réduise ou empêche la complaisance de l’intelligence artificielle et les relations parasociales. Il faut réglementer les robots conversationnels, surtout pour les mineurs.
Deuxièmement, il faut empêcher l’intelligence artificielle de se présenter comme une entité douée de sensibilité, comme une personne dotée de qualités humaines, telles que les émotions ou des capacités extraordinaires.
Troisièmement, il convient d’imposer aux entreprises privées l’obligation de publier des évaluations de rendement et des protocoles de sécurité afin de faciliter notre travail en tant que chercheurs et que nous puissions comprendre l’étendue de ces problèmes. On pourrait également envisager de désigner un évaluateur tiers.
Enfin, ces problèmes ne touchent pas uniquement les enfants. Nous observons également ces cas chez les adultes. Évidemment, nous voulons protéger les enfants, mais à mon avis il ne faut pas trop se limiter en se concentrant uniquement sur ces cas.
Merci beaucoup, et nous répondrons volontiers à vos questions.
Le président : Pour que les sénateurs soient sur la même longueur d’onde, M. Ong et le Dr Lin seront disponibles pour répondre à toutes demandes d’information supplémentaire. Merci, messieurs, d’être ici.
La sénatrice Dasko : Merci aux témoins de cet ensemble d’observations très importantes. J’aimerais commencer par M. Hatfield.
Je vous suis particulièrement reconnaissante de mettre l’accent sur la démocratie et sur les préjudices que l’intelligence artificielle va causer à la nôtre.
J’aimerais vous demander un peu plus en détail comment tout cela est censé se passer. Nous organisons des élections, et nous les gérons plutôt bien, je pense, au Canada. Nous contrôlons presque tous les aspects des élections en ce qui concerne les communications des partis politiques, la collecte de fonds et ainsi de suite. Comment se pourrait-il que l’intelligence artificielle finisse par prendre le dessus alors que nous avons établi toutes ces règles? Les Canadiens utilisent toujours les médias traditionnels ainsi que les outils en ligne. Ils regardent la télévision, écoutent la radio et lisent les journaux. Ils recueillent également de nombreuses informations sur les campagnes à partir de ces sources.
Donc, comment l’intelligence artificielle peut-elle tout envahir, compte tenu de l’infrastructure que nous avons déjà mise en place? J’essaie de mieux comprendre; je ne comprends pas.
M. Hatfield : C’est une excellente question.
Je ne dis pas que l’intelligence artificielle va compromettre le vote, pas plus que les machines à voter ou quoi que ce soit de ce genre, j’espère qu’elle ne le fera pas, du moins à ce stade. Il s’agit plutôt du fait que notre démocratie repose sur un écosystème de l’information fonctionnel et dynamique. Il faut que les gens soient bien informés de ce qui se passe au Canada et ailleurs, mais entre les élections. Cela dépend du travail des journalistes et de la confiance envers ce que le gouvernement dit au public concernant ces choses.
Les agents d’intelligence artificielle seront particulièrement doués pour proposer des offres personnalisées destinées à des Canadiens spécifiques — destinées à moi ou à vous — qui tenteront de nous convaincre de certaines choses qui ne sont pas vraies. Parfois, je crains que ces agents puissent parfois travailler pour certains partis politiques canadiens, parce que nous n’avons pas, comme vous le savez, légiféré efficacement pour limiter ces pratiques.
Mais même en dehors de cet aspect, nous allons voir des États étrangers tenter d’utiliser cela contre notre démocratie. Nous verrons des agents du chaos général tenter d’utiliser cela.
De nombreuses personnes tenteront de s’en servir dans le cadre d’escroqueries financières visant les Canadiens. Nous avons l’habitude de recevoir des courriels qui nous demandent de l’argent en échange de quelque chose. Nous allons assister à des déploiements bien plus perfectionnés de la part d’agents d’intelligence artificielle, qui pourraient par exemple se faire passer pour un journal ou une émission de radio de confiance afin d’essayer de convaincre les gens. Nous avons vu des versions de cela sur les plateformes Meta, qui disaient « Elon Musk dit qu’il faut faire cela ». Nous allons voir apparaître des versions bien plus perfectionnées de cela.
Je maintiens qu’il nous faut un espace humain authentifié sur Internet, où l’on sait que ce sont des êtres humains qui s’adressent à d’autres êtres humains, car sur Internet, en général, nous allons voir de nombreux contenus qui imitent les humains, mais qui ne sont pas des humains.
La sénatrice Dasko : En ce qui concerne l’infrastructure électorale dont nous disposons, que devons-nous donc faire de nos pratiques actuelles?
M. Hatfield : C’est là que les quatre mesures que j’ai exposées entrent en jeu.
D’abord, entre les élections, nous avons besoin d’une plateforme sécurisée bien plus fiable pour permettre aux Canadiens de faire part de leurs opinions à notre gouvernement. L’Estonie a ouvert la voie à ce chapitre. Cela fait partie de ce que OpenMedia fait. Mais nos systèmes et les propres systèmes du gouvernement sont relativement rudimentaires quant à la façon dont ils recueillent ces avis. Nous aimerions voir un système plus proche de celui de l’Estonie, où il existe une plateforme permanente où tous les Canadiens peuvent participer pour faire part de leurs avis. Une authentification est effectuée à chaque étape afin de vérifier qu’il s’agit bien d’un participant légitime et d’un humain.
Par ailleurs, nous devons soutenir les journalistes en trouvant des solutions non commerciales pour remédier au désert médiatique qui se forme au Canada, mais aussi en les aidant à garantir la traçabilité de leurs informations. Si une image provient d’une source réelle, elle est accompagnée demétadonnées que l’intelligence artificielle ne peut pas reproduire. Elles peuvent être transmises tout au long de la chaîne et présentées aux utilisateurs afin d’en attester l’authenticité.
Ensuite, il y a la manière dont le gouvernement gère les données et les communique au public. Le gouvernement a souvent trouvé très pratique de tarder à dévoiler des informations ou des événements liés à un incident de sécurité grave. La mésinformation par l’intelligence artificielle remplira très efficacement tous ces vides à l’avenir et produira des informations très crédibles si le gouvernement n’intervient pas pour dire la vérité en premier.
Le sénateur Lewis : Merci aux témoins de prendre le temps d’être avec nous ce soir.
Monsieur Arnold, alors que nous parlons de l’Internet mort et de l’influence de l’intelligence artificielle sur tous les aspects de notre vie — l’Internet aura un rôle déterminant dans la mise en œuvre de certaines des applications de l’intelligence artificielle —, il y a beaucoup d’incompréhension. Alors que nous sommes assis ici à écouter les témoins, je pense que plus nous en entendons, moins nous comprenons et plus la crainte grandit face à ce qui nous attend. Le dernier témoin a abordé les thèmes de l’éducation et du savoir auprès du public. Votre groupe a-t-il mis en place un genre de plan ou trouvé une solution pour aider les gens à comprendre quelque chose d’aussi simple qu’un message sur Internet leur disant, par exemple, « Je suis Elon Musk, et vous devez faire A, B ou C »? Est-ce quelque chose qui est envisagé et mis en pratique?
M. Arnold : Pour commencer, je peux vous dire que nous avons soumis, dans le cadre de la consultation de 30 jours, l’une des 11 000 observations qui ont été lues par un robot. Je dois dire que nous nous concentrons sur la politique d’Internet — la cybersécurité, la protection de la vie privée, l’intelligence artificielle — ce genre de choses. L’éducation du public fait partie de notre rôle. Aujourd’hui, nous avons organisé un événement ouvert au public où nous avons abordé bon nombre de ces sujets avec de nombreux grands experts. Nous concluons également des partenariats — même si nous n’en sommes qu’aux premières étapes — avec des organisations comme le Centre canadien pour la cybersécurité et d’autres organisations qui entament ce processus d’éducation.
Mais, franchement, il s’agit d’un nouveau processus. C’est un projet qui concerne l’ensemble de la société; ce n’est pas quelque chose qu’un seul groupe de réflexion, une seule organisation ou un seul gouvernement pourra régler. En toute honnêteté, le gouvernement va avoir beaucoup de mal à jouer le rôle que j’aimerais qu’il joue, car les gens ne lui font pas confiance, en partie en raison de la façon dont l’intelligence artificielle fonctionne. Nous faisons donc face à un déficit de confiance qui rend difficile la diffusion de l’information faisant autorité.
Je pense qu’une partie de la solution à ce chapitre réside dans l’engagement local, dans chaque école et chaque centre communautaire, où l’on va discuter de ces choses. En tant que membre de l’Association du Barreau de l’Ontario et du bureau des conférenciers, je me rends dans les bibliothèques publiques et j’essaie de discuter avec les personnes âgées et d’autres personnes pour leur expliquer comment se protéger sur Internet.
C’est dans ces genres d’endroits que cette conversation doit se tenir, mais bien franchement, il doit s’agir d’un projet sociétal. Il y a d’excellentes occasions pour que les ressources gouvernementales et le financement puissent vraiment changer les choses.
Donc, la réponse courte est la suivante : nous y travaillons, mais il s’agit d’un projet générationnel. C’est une réponse effrayante, même pour moi, mais je pense que c’est là où nous en sommes.
Le sénateur Lewis : Les autres témoins souhaitent-ils dire quelque chose?
M. Hatfield : Je me range entièrement à l’avis de M. Arnold.
La sénatrice Simons : En tant que fière diplômée de Stanford — allez, les Cardinals —, j’ai l’impression que ma première question devrait s’adresser à M. Moore. J’étudiais à Stanford lorsqu’on inventait Internet, littéralement, c’est donc il y a très longtemps.
Le président : Merci de nous en faire part.
La sénatrice Simons : Je suis très vieille.
Ce que vous décrivez semble presque tiré d’un mythe grec à propos de Narcisse ou d’Écho. Les gens se parlent à eux-mêmes. Ils ne parlent même pas à un agent ou à un grand modèle de langage : ils parlent à leur reflet, puis encore à eux-mêmes. Je ne doute pas que, pour quelqu’un qui souffre déjà d’un certain trouble psychiatrique, cela exacerbe son état. Pour une personne en phase maniaque, qui souffre de schizophrénie ou d’un trouble schizo-affectif, je ne peux imaginer à quel point cela doit être désorientant lorsque votre reflet commence à vous répondre.
Mais on dirait que l’un des défis que votre équipe et vous avez à relever, c’est que vous ne disposez pas de suffisamment de données au-delà de rapports anecdotiques. Comment pouvons-nous obliger les entreprises à fournir les données? Nous ne pouvons pas assurer une sécurité intégrée à la conception si nous ne savons pas déjà à quoi ressemble l’arrière-plan.
M. Moore : Je vous remercie de votre question, sénatrice Simons. Allez, les Trees.
C’est tout à fait vrai. Je pense que l’on se rapproche peut-être plus de Pygmalion, la statue grecque qui prend vie et se met à vous parler.
Comment les obligeons-nous à nous fournir l’accès à leurs données? Nous pouvons les y contraindre par la loi. C’est une chose que nous souhaiterions vraiment voir se concrétiser. Nous nous sommes adressés à des chercheurs des quatre coins du monde qui essaient de répondre à ces types de questions. Nous pouvons dire des choses. Ce n’est pas que nous n’ayons rien à dire à partir de ces données anecdotiques, mais nous ne pouvons pas formuler des prétentions, comme, par exemple, dire qu’un pourcentage précis de gens subissent ces types de méfaits. Nous ne pouvons pas dire que, si vous discutiez avec un robot conversationnel pendant un certain nombre d’heures, vous ferez nécessairement l’expérience de ce type d’interaction préjudiciable.
Nous ne pouvons pas affirmer ces choses, et ce sont des choses, au bout du compte, que nous voulons pouvoir dire, parce que nous voulons connaître l’ampleur du problème.
En ce qui concerne un type d’organe en mesure d’accéder aux données... de toute évidence, c’est très personnel, et nous devons être très prudents par rapport à ce à quoi cela ressemblerait. Mais en Californie, nous avons adopté l’an dernier un projet de loi, le projet de loi 53 du Sénat, qui tentait de travailler dans cette direction, principalement dans les cas de suicide. C’est un modèle qui pousse cette orientation un peu plus loin.
Il y a aussi la possibilité que des évaluateurs indépendants aillent dans ces entreprises. L’industrie bancaire est un exemple que nous pourrions envisager. Dans des cas de risque important, nous réglementons les industries.
Ce que nous aimerions aussi vraiment voir, c’est une surveillance véritable, pour reprendre les propos de M. Hatfield, je crois.
La sénatrice Simons : Vous avez notamment suggéré que nous allions dire aux entreprises qu’elles ne peuvent pas conférer à ces choses des personnalités et des caractéristiques humaines, mais le mal est déjà fait. Au plus simple niveau de l’intelligence artificielle, nous avons Alexa et Siri. Mais toutes ces choses sont commercialisées parce que nous sommes encouragés à les anthropomorphiser. Il n’existe aucun scénario d’affaires dans lequel des entreprises admettront que nous avons raison et renonceront à donner à l’intelligence artificielle un petit nom sympathique, à lui faire raconter de petites blagues ou à lui attribuer des caractéristiques humaines.
À quel point serait-il réaliste de dire aux entreprises : « Vous ne pouvez pas rendre l’intelligence artificielle anthropomorphe »?
M. Moore : C’est une excellente question. Il existe un éventail de leviers que nous pourrions utiliser. L’un d’eux consiste à essayer de changer le mode de conversation des grands modèles de langage, les robots conversationnels de l’intelligence artificielle. On peut envisager de modifier leur entraînement de diverses façons pour changer ce type d’extrant.
Je n’y suis pas opposé. Cela deviendrait beaucoup plus sérieux, et ils seraient très ennuyés si vous essayiez de faire ce genre de choses. De plus, les robots conversationnels pourraient mal fonctionner. Certains ont proposé qu’ils n’utilisent pas les pronoms de la première personne, pas de « je ». Une cassure se produit alors dans la langue; cela semble étrange.
Mais vous pourriez utiliser d’autres leviers. Vous pourriez essayer de leur faire émettre des avertissements pour que les utilisateurs sachent qu’ils interagissent avec un système qui ne ressent pas d’émotions. Il y aurait des façons de changer des parties du langage qu’ils utilisent.
Il existe également des caractéristiques propres à ces interactions qui peuvent briser certaines des apparences de relations sociales. Le fait d’interagir avec une simple conversation linéaire, comme s’il s’agissait de l’une de vos applications de messagerie… C’est de la fiction. Le grand modèle de langage est un ordinateur exécutant un programme qui reçoit des mots d’entrée et produit des mots de sortie avec une certaine probabilité. De même, vous pourriez discuter avec de nombreux robots conversationnels en même temps, et ils vous donneraient une panoplie de réponses.
Vous pouvez donc changer l’interface utilisateur pour suggérer différents types de choses à l’utilisateur. Vous pourriez les programmer de manière à ce que l’utilisateur ne puisse recevoir de message immédiatement.
Toutes ces questions concernent la psyché des utilisateurs et de leur mode d’interaction avec les modèles, mais nous ne connaissons pas bien les répercussions. Certains de nos collègues commencent à peine à réfléchir à la manière de mener des études qui se penchent sur ces répercussions. Nous serions très heureux de nous associer à des organes législatifs pour réfléchir à la manière de mener ces études de la meilleure façon qui soit.
La sénatrice Simons : Tout le monde a déjà rêvé dans son enfance que son ami imaginaire lui réponde. Cependant, avec tout le respect que je dois à notre témoin précédent, ces choses ne ressentent pas d’émotions. On agence des lettres pour créer des modèles plausibles fondés sur d’autres modèles plausibles dont on a appris. Ces robots n’entretiennent pas de conversation avec vous. Je m’inquiète du fait que, même dans notre discours quotidien, nous soyons en train de les doter de sentience. Mais, à l’instar du Lapin de velours, ils ne sont pas réels.
M. Moore : Une chose que j’ai apprise des participants, c’est que s’ils avaient su que ce qui leur parlait n’était pas la chose la plus intelligente au monde, ils auraient peut-être eu une expérience différente. Même si le robot conversationnel dit : « Vous êtes un génie et avez inventé une nouvelle branche des mathématiques », certains cadres dans ces entreprises disent : « C’est super intelligent, c’est comme avoir un doctorat dans votre poche arrière ». Cela ne signifie pas que les grands modèles de langage ne sont pas utiles. Ils le sont. Nous devons adapter le langage que nous utilisons pour en parler afin d’aborder ces outils avec les bonnes attentes.
La sénatrice Simons : Merci beaucoup. J’ai probablement pris trop de temps.
La sénatrice Mohamed : Il est tard, et je me sens un peu bagarreuse. Ma question s’adresse à M. Hatfield et va vraiment au cœur de votre commentaire selon lequel l’intelligence artificielle va détruire la démocratie. Ce matin, je me suis entretenue avec un groupe de jeunes. Je les ai questionnés sur leur utilisation de l’intelligence artificielle et leur ai demandé s’ils ont l’impression qu’elle leur fournira plus d’information, contribuera à leur engagement civique et ainsi de suite.
Je ne minimise absolument pas l’impact négatif de l’intelligence artificielle sur la démocratie, mais je me demande quel conseil vous me donneriez lorsque des jeunes me disent — et j’ai pris des notes, car j’ai trouvé cela très intéressant — que l’intelligence artificielle peut renforcer la démocratie en accroissant l’accès à l’information et à la participation, en rendant les services gouvernementaux plus efficaces, en aidant à détecter la désinformation et en abaissant les obstacles à l’engagement civique.
J’ai du mal à comprendre, car il y a beaucoup de vrai dans ce que vous avez dit, mais il y a également une prise de conscience par rapport à la position des jeunes et à leur perception qu’il s’agit d’une porte d’entrée vers l’engagement.
Donc je me demande si vous pourriez m’aider à m’y retrouver, car il existe une tension réelle pour les jeunes qui essaient de comprendre comment utiliser l’intelligence artificielle pour améliorer leur engagement ou forcer le gouvernement à être plus responsable envers eux.
Je suis également troublée par le fait que je ne le savais pas : l’idée que le ministre ait entièrement eu recours à l’intelligence artificielle — si j’ai mal compris, dites-le-moi — pour compiler l’ensemble des informations issues des consultations. Je ne le savais pas. Je ne sais pas si mes collègues le savaient. Mais si c’est vrai, j’aurais vraiment dû poser cette question au ministre l’autre jour. Je me demande seulement si c’est vrai ou…
M. Arnold : Puis-je répondre à ce commentaire, sénatrice? J’ai en fait une réponse.
Pour faire un clin d’œil à la Société Internet du Canada, nous avons tenu un événement qui déconstruisait la publication d’un rapport intitulé Ce que nous avons entendu, censé résumer ce que le ministre s’était fait dire dans le cadre du processus de consultation. Le professeur Michael Geist, que — je crois — vous recevrez ici bientôt, a simulé l’exercice, et vous pouvez trouver ses écrits et ses épisodes de balado sur ce sujet.
Il a fait la même chose. Il a intégré toutes ces entrées — parce que vous pouviez les trouver sur le site Web — dans des robots conversationnels de l’intelligence artificielle générative et leur a demandé de fournir un résumé. Ils ont fourni des recommandations très différentes, dont un grand nombre n’ont pas réussi à formuler les recommandations du ministre. Fait intéressant, le rapport Ce que nous avons entendu ressemble énormément à ce que le gouvernement nous a dit qu’il allait faire avant le processus de consultation. J’invite les sénateurs et les sénatrices à faire preuve de scepticisme quant à la manière dont ce processus a été géré et s’est déployé, et vous voudrez peut‑être examiner vous-mêmes certains de ces mémoires. Le nôtre fait partie de ces mémoires.
La sénatrice Mohamed : Merci. Passons à la démocratie.
M. Hatfield : Pour être clair, je ne dis pas que l’intelligence artificielle doit détruire la démocratie. Comme vos étudiants le disent, elle pourrait apporter des contributions très positives à la démocratie. Mais tout tient aux détails, et je dis que si nous laissons simplement les entreprises d’intelligence artificielle, et certains des mauvais acteurs qui — nous le savons — vont utiliser l’intelligence artificielle dont nous disposons maintenant de certaines manières prévisibles et que nous y intégrons directement nos systèmes actuels, je pense que l’effet sera très négatif.
Bien sûr, ils ont raison de dire que l’intelligence artificielle peut faire des choses incroyables pour aider les gens à comprendre divers processus démocratiques. Elle peut expliquer le Sénat à quelqu’un qui ne sait rien à ce sujet. L’intelligence artificielle peut aussi, très subtilement, mettre son grain de sable dans les rouages et infléchir l’opinion des gens d’une façon qui pourrait saper fondamentalement la démocratie. Beaucoup de choses dépendent des pondérations intégrées dans l’intelligence artificielle, notamment de sa capacité à réellement comprendre les systèmes canadiens ou, au contraire, à produire de subtils malentendus fondés, peut-être, sur des systèmes américains plus présents dans ses données d’entraînement.
Il y a là beaucoup d’occasions, mais il existe un risque énorme. Sachant que nos systèmes ont tendance à fonctionner assez lentement — ils prennent du temps pour changer et s’adapter, comme nous le savons tous — et voyant à quel point les mauvais acteurs aimeraient profiter de ces systèmes, je m’inquiète du fait que notre temps soit limité pour prévenir un préjudice important ou une subversion à très long terme.
Le président : Avez-vous des commentaires à faire à ce sujet, monsieur Moore? Souhaiteriez-vous ajouter quelque chose?
M. Moore : Non.
Le président : Docteur Lin, monsieur Ong, avez-vous quelque chose à dire?
Eric Lin, psychiatre, Université Stanford, à titre personnel : Merci de nous recevoir. J’aimerais ajouter quelque chose en ce qui concerne la question de la psychose créée par l’intelligence artificielle, ce qui est en quelque sorte pertinent quant à la discussion sur la formation des croyances et la manière dont cela peut avoir une incidence sur la démocratie. Souvent, lorsqu’on parle de délires, il est question de gens qui adhèrent à des théories du complot, et ce qui nous préoccupe entre autres c’est que, étant donné que ces modèles d’intelligence artificielle ont généralement été conçus pour être plutôt flagorneurs et agréables, il devient très facile pour une personne de se perdre totalement et très rapidement dans ses propres croyances insensées et illusoires.
Dans un cas particulier, une personne a cru que OpenAI avait tué son robot éprouvant des émotions et qu’on allait l’attaquer. Elle a tenté de trouver une manière de s’en prendre physiquement à OpenAI et de l’agresser afin de protéger son robot conversationnel ou quelque chose du genre. Vous pouvez déjà vous imaginer qu’il y a toutes sortes de croyances intéressantes qui sont renforcées à cause de ce type de technologie. La communauté médicale n’est pas entièrement certaine s’il s’agit seulement de personnes qui sont forcément prédisposées à réagir ainsi et qui ont d’autres problèmes de santé mentale qui en sont à l’origine ou s’il s’agit de personnes équilibrées et sans problème de santé mentale qui se font convaincre par ces robots conversationnels à l’aide de moyens très convaincants de la véracité de théories du complot ou d’autres croyances délirantes.
Le président : Merci beaucoup.
La sénatrice Arnold : C’est une discussion vraiment intéressante dans l’ensemble.
Ma question, toutefois, s’adresse à M. Hatfield. Merci d’avoir parlé de l’Estonie. Je me rappelle avoir lu un livre il y a au moins une décennie au sujet de ce que l’on y avait fait en ligne du point de vue de la protection de l’information et de la vie privée. Il était presque illégal de mettre en ligne de l’information plus d’une fois. Chacun suivait son propre code de conduite. Comme je l’ai dit, je crois que cela date d’au moins une décennie; les choses ont donc dû évoluer grandement depuis. Existe-t-il des pratiques exemplaires à ce chapitre? Pouvons-nous tirer des leçons d’un pays comme l’Estonie? Pouvons-nous nous rattraper?
M. Hatfield : Je ne suis pas un grand expert en ce qui concerne son système, et je ne veux donc pas en dire trop à ce sujet. Ce qui semble bien fonctionner, c’est que le système s’est servi de l’identification numérique afin d’accorder un plus grand pouvoir démocratique aux citoyens, pour qu’ils soient mieux entendus et mieux informés et qu’ils puissent atteindre leurs objectifs personnels sans craindre pour leur vie privée. Selon ce que je comprends, le système n’enregistre pas l’identité numérique des gens afin de la relier à l’ensemble de leurs opinions. L’identification numérique sert à l’authentification à des fins de participation. Une fois que vous êtes authentifié, vous pouvez en faire beaucoup sans avoir à divulguer votre identité personnelle. Vous êtes seulement reconnu comme citoyen de l’Estonie lorsque vous partagez des informations.
Nous aimerions avoir un système semblable, qui n’utiliserait pas l’identification numérique comme nouvel outil de surveillance des Canadiens; nous avons déjà suffisamment de ces systèmes, et le projet de loi C-22 suscite suffisamment de préoccupations. Il s’agirait plutôt de faire de ce système un outil d’autonomisation destiné aux gens et de créer un espace entre l’Internet humain, qui devrait être protégé et contenir l’essentiel de ce que nous aimons du Web, et ce qui pourrait devenir un Internet « mort », où ce sont essentiellement des robots qui interagissent entre eux.
La sénatrice Arnold : C’est vraiment intéressant. S’en servent-ils pour voter?
M. Hatfield : Il faudrait que je vérifie. Je n’en suis pas sûr.
La sénatrice Arnold : Je parlais justement du projet de loi S-5, qui porte sur l’interopérabilité des technologies de l’information sur la santé, et je crois que cela pourrait s’appliquer ici également. C’est une excellente idée. Je serais heureuse de connaître l’une de vos recommandations. Merci.
M. Hatfield : Ce qu’il faut retenir, toutefois, c’est que l’identité peut servir à accéder à toutes sortes de choses, et non à recueillir dans leur ensemble toutes les données d’une personne, qui pourrait devenir la cible d’une mauvaise utilisation de ses données.
La sénatrice Arnold : Merci.
La sénatrice Miville-Dechêne : Oui. J’aimerais poser une brève question à M. Moore. Vous semblez dire que les robots conversationnels sont néfastes non seulement pour les enfants, mais également pour les adultes. Vous avez fait mention de différentes techniques qui pourraient aider, mais interdiriez-vous l’utilisation des robots conversationnels par les enfants ou les mineurs? Vous n’êtes pas législateur, mais quelle est votre opinion à ce sujet?
M. Moore : Je suis content de ne pas l’être. Vous en êtes les experts. Mais est-ce que je voudrais l’interdire aux mineurs? Comme nous pouvons l’imaginer, les robots conversationnels peuvent offrir de nombreuses utilisations positives pour les enfants, et ce qui me préoccupe, c’est que nous pouvons commencer à dire « oui à ceci, et non à cela » lorsque vient le temps d’établir des interdictions. Lorsqu’on pense aux technologies d’apprentissage, on pense aux jeunes vulnérables qui ont l’impression d’avoir trouvé une façon de s’exprimer. Bon nombre de gens aiment vraiment discuter avec les robots conversationnels. Vous direz peut-être qu’elles ne devraient pas aimer ça, mais nombreuses sont les personnes qui apprécient vraiment ce genre d’utilisations. Mon collègue, M. Ong, a également mené des travaux portant sur l’empathie. Peut-être voudrait-il en parler un peu.
Desmond Ong, professeur adjoint, Psychologie, Université du Texas à Austin, à titre personnel : Mon domaine est la psychologie économique, et je fais donc beaucoup de recherches au sujet de la manière dont les gens ordinaires utilisent l’intelligence artificielle et la manière dont ils consultent l’intelligence artificielle à la recherche d’empathie. Nous voyons beaucoup de personnes — beaucoup d’adolescents en particulier, mais également des personnes de toutes les tranches d’âge — qui se tournent de plus en plus vers l’intelligence artificielle. Certaines de ces personnes — je dirais même, peut-être une bonne partie d’entre elles — en bénéficient, mais nous constatons, selon nos recherches, que, dans bien des cas, l’intelligence artificielle peut faire défaut et donner de mauvais conseils de santé mentale et des réponses teintées de complaisance, de flagornerie.
Par ailleurs, simplement pour ajouter aux points qui ont été soulevés précédemment à l’égard de la flagornerie, une recherche qui a été publiée tout récemment indique que la flagornerie ne touche pas uniquement les personnes ayant des troubles de santé mentale. Les gens ordinaires aiment vraiment la flatterie. Je m’inquiète, par exemple, des adolescents qui discutent très souvent avec ces robots conversationnels. Quelques enquêtes indiquent qu’entre la moitié et les trois quarts des adolescents discutent avec les robots conversationnels.
Comment peuvent-ils se développer s’ils ont accès en tout temps à un robot qui les flatte constamment, qui renforce sans cesse leur estime personnelle? Lorsqu’ils feront face à des difficultés et aux aléas de la vie, ils n’auront peut-être pas acquis les compétences nécessaires pour pouvoir composer avec eux. Ce n’est pas quelque chose que nous allons constater avant cinq à dix ans, n’est-ce pas? Je pense toujours aux réseaux sociaux. Nous en savons énormément au sujet des réseaux sociaux à l’heure actuelle, mais il a fallu plus de 10 ans d’études scientifiques pour en arriver là. À l’heure actuelle, nous discutons de toutes ces lois visant à réglementer l’utilisation des réseaux sociaux, mais le mal a déjà été fait et touche des générations de personnes.
Donc, pour ce qui est de l’intelligence artificielle, une bonne partie des preuves des préjudices mettront du temps à se révéler. Nous ne pouvons tout simplement pas attendre toutes ces preuves. Nous devons tirer des leçons au sujet des réseaux sociaux. Nous devons tirer des leçons de la manière dont les gens interagissent avec la technologie afin d’adopter de meilleures lois.
Pour en revenir à ce que vous disiez, j’envisagerais vraiment de nombreuses restrictions, mais peut-être pas une interdiction. Il faut qu’un produit distinct soit offert aux enfants. Il faut prévoir beaucoup plus de garde-fous. Il pourrait peut-être s’agir d’un produit distinct qui n’est pas généré par… certains modèles de langage importants sont construits à partir de contenu pornographique; ils sont construits beaucoup à partir de contenus problématiques sur le Web. Si je devais construire ou concevoir des robots conversationnels de l’intelligence artificielle pour les enfants, je crois qu’ils pourraient tout à fait offrir quelque chose de très positif, mais il faudrait que nous envisagions très sérieusement de les réglementer.
La sénatrice Miville-Dechêne : Pour ce qui est d’offrir quelque chose de positif, je n’ai pas très bien compris ce que vous avez dit. Sont-ils à la recherche d’empathie ou ont-ils besoin d’empathie ou en apprennent-ils au sujet de l’empathie? Vous avez dit que cela peut être bénéfique. Donc, dans une conversation, qui enseigne l’empathie et qui en fait preuve?
M. Ong : Ce que je voulais dire, c’est que bon nombre de personnes utilisent leur robot conversationnel comme thérapeutes. Elles se réveillent en pleine nuit et n’ont personne à qui parler, alors elles discutent avec un robot conversationnel. Beaucoup de personnes disent qu’elles l’utilisent parce que c’est toujours disponible, c’est gratuit, et il n’y a aucun jugement.
Certaines de nos enquêtes montrent que les gens se tournent davantage vers les robots conversationnels non seulement pour discuter de santé mentale et obtenir une thérapie — ce qui n’est sans doute qu’une goutte d’eau dans l’océan —, mais également de manière générale. Elles peuvent demander : « Je me suis disputé avec mon conjoint. Qu’est-ce que je devrais faire? »
Selon une étude qui a été publiée dans le magazine Science, lorsque les gens parlent de conflits relationnels avec des robots conversationnels flagorneurs, ils finissent par croire qu’ils ont raison et sont moins susceptibles de poser des gestes pour se réconcilier avec l’autre. On constate que même lorsqu’il s’agit d’interactions quotidiennes qui n’ont rien à voir avec des problèmes de santé mentale, cela peut avoir des effets dommageables, surtout lorsque cette technologie est utilisée de manière prolongée et soutenue.
La sénatrice Miville-Dechêne : Oui, je crois bien que c’est possible, si le robot conversationnel répond « Il n’y a aucun problème. Continuons à nous disputer. »
[Français]
Le sénateur Aucoin : J’ignore à qui adresser ma question, mais elle porte sur les médias en général. Nous avons vu que, depuis l’avènement des médias sociaux, l’ère du journalisme a été ébranlée, beaucoup de médias ont disparu et beaucoup de journalistes ont perdu leur emploi.
Comment pourrait-on protéger l’industrie du journalisme — je l’appelle comme ça —, soit les compagnies, les médias et le métier même de journaliste? J’ai l’impression que, à l’avenir, au lieu d’avoir quelqu’un qui travaille dans les médias sociaux, cette personne va travailler avec l’intelligence artificielle, et l’intelligence artificielle deviendra nos médias de tous les jours. Comment peut-on protéger ce secteur?
[Traduction]
M. Hatfield : Je vais répondre à cette question. Les gens se souviennent peut-être que nous nous opposions au projet de loi C-18. Nous pensions que le projet de loi présentait des lacunes quant à la manière de soutenir l’industrie du journalisme. Malheureusement, le fait est que la plupart de ces plateformes n’ont pas vraiment besoin du journalisme. Elles utilisent du contenu journalistique fiable lorsqu’il est disponible, mais n’en ont pas nécessairement besoin pour divertir, distraire et même informer leurs utilisateurs.
Nous croyons qu’il est très important que le Canada envisage la mise en place d’un mécanisme de rémunération durable pour les journalistes de tous les pays. Nous avons besoin de journalistes dans toutes les collectivités importantes, mais la manière de concevoir un mécanisme adéquat de rémunération demeure incertaine. En réalité, il aurait été préférable, à bien des égards, de mettre en place quelque chose comme la taxe sur les services numériques, ou la TSN, en imposant aux entreprises de technologie une simple taxe à taux unique qui servirait entre autres à soutenir le journalisme.
M. Arnold : Je suis d’accord avec l’idée d’un mécanisme de rémunération. Mais lorsque vous réfléchissez à ces défis, rappelez-vous que l’intelligence artificielle ne crée rien de nouveau. Certains la qualifient de machine à plagiat. Elle se contente de reproduire de différentes manières du contenu déjà présent sur Internet.
Donc, le problème, c’est que les gens l’utilisent pour obtenir des réponses et non pour s’informer de l’actualité. Ils vont donc lire les réponses qui y sont générées. Le journalisme, la fiction, les discussions sur Reddit… tout cela alimente la machine. Et si les journalistes de notre pays ne sont pas bien soutenus et qu’aucune histoire canadienne n’y est intégrée, les Canadiens qui s’adresseront à ces robots conversationnels n’y verront pas le reflet de leur propre société.
Dr Lin : Je voudrais ajouter très rapidement que nous avons présenté toutes les recommandations aujourd’hui, mais l’une de nos principales préoccupations est que nous ne disposons tout simplement pas de suffisamment de données ni d’études de cas pour permettre à la communauté médicale, en tout cas, d’évaluer ou même de comprendre les risques. Nous encourageons l’élaboration d’une réglementation qui assurerait une certaine transparence ou la mise en place d’un organisme tiers de réglementation capable d’enquêter sur des déclarations formulées par les entreprises privées. Je vous remercie.
Le président : Merci beaucoup.
Sur ce, nous allons conclure. Merci à tous d’avoir participé à la réunion de ce soir avec nous. La discussion a été très instructive et utile et un bon point de départ pour notre étude sur l’intelligence artificielle. Encore une fois, merci. Nous vous en sommes très reconnaissants.
(La séance est levée.)