LE COMITÉ SÉNATORIAL PERMANENT DES AFFAIRES SOCIALES, DES SCIENCES ET DE LA TECHNOLOGIE
TÉMOIGNAGES
OTTAWA, le jeudi 26 février 2026
Le Comité sénatorial permanent des affaires sociales, des sciences et de la technologie se réunit aujourd’hui, à 10 h 36 (HE), avec vidéoconférence, afin d’examiner, pour en faire rapport, les questions relatives aux répercussions de l’intelligence artificielle au Canada.
La sénatrice Rosemary Moodie (présidente) occupe le fauteuil.
[Traduction]
La présidente : Bonjour. Je m’appelle Rosemary Moodie. Je suis sénatrice de l’Ontario et présidente de ce comité.
Avant de commencer, j’aimerais demander aux sénateurs de se présenter.
La sénatrice Burey : Bonjour et bienvenue. Sharon Burey, sénatrice de l’Ontario.
La sénatrice Senior : Bonjour. Paulette Senior, sénatrice de l’Ontario.
[Français]
Le sénateur Boudreau : Bonjour. Victor Boudreau, du Nouveau-Brunswick.
[Traduction]
La sénatrice Arnold : Dawn Arnold, sénatrice du Nouveau-Brunswick.
La sénatrice Hay : Katherine Hay, de l’Ontario.
[Français]
La sénatrice Petitclerc : Chantal Petitclerc, du Québec.
[Traduction]
La sénatrice Greenwood : Margo Greenwood, sénatrice de la Colombie-Britannique.
La sénatrice Osler : Flordeliz (Gigi) Osler, sénatrice du Manitoba.
Le sénateur Cuzner : Rodger Cuzner, sénateur de la Nouvelle-Écosse.
La sénatrice Muggli : Tracy Muggli, du territoire visé par le Traité n o 6, en Saskatchewan.
La présidente : Aujourd’hui, le comité poursuit son étude des questions relatives aux répercussions de l’intelligence artificielle au Canada. Cette étude portera notamment sur la gouvernance et la souveraineté des données, l’éthique, la protection des renseignements personnels et la sécurité, ainsi que les risques, les avantages et les répercussions sociales de l’intelligence artificielle au Canada.
Ce matin, nous sommes heureux d’accueillir M. Geoffrey Hinton. M. Hinton est le lauréat du prix Nobel de physique de 2024, et nous l’appellerons le « parrain de l’intelligence artificielle ».
Il est reconnu à l’échelle internationale comme un pionnier dans le domaine de l’apprentissage profond, qui est une branche de l’intelligence artificielle. Il a reçu le prix Nobel de physique pour les découvertes et les inventions fondamentales qui permettent l’apprentissage automatique avec des réseaux neuronaux artificiels, notamment son invention de la machine de Boltzmann à l’aide de techniques de physique statistique.
Monsieur Hinton, vous avez 10 minutes pour faire votre déclaration préliminaire, puis les membres du comité vous poseront des questions. La parole est à vous.
Geoffrey Hinton, professeur, Université de Toronto, à titre personnel : Je vous remercie de cette présentation. Je vais commencer par une déclaration de deux minutes au sujet des risques associés à l’intelligence artificielle, puis, pendant les huit minutes qu’il me reste, j’expliquerai ce qu’est l’intelligence artificielle, car j’imagine que bon nombre d’entre vous ne comprennent pas vraiment de quoi il s’agit.
Des progrès spectaculaires sont réalisés dans le domaine d’une nouvelle forme d’intelligence artificielle qui utilise des réseaux neuronaux artificiels pour apprendre à résoudre des problèmes computationnels complexes. Cette nouvelle forme d’intelligence artificielle excelle dans la modélisation de l’intuition humaine plutôt que du raisonnement humain. Elle nous permettra de créer des assistants très intelligents et compétents qui augmenteront la productivité dans presque tous les secteurs. Si les avantages de cette productivité accrue peuvent être partagés équitablement, ce sera un progrès formidable pour l’humanité tout entière.
Malheureusement, les progrès rapides dans le domaine de l’intelligence artificielle s’accompagnent de nombreux risques à court terme. Elle a déjà créé des chambres d’écho qui sèment la division en proposant aux gens des contenus qui les indignent. Des gouvernements autoritaires l’utilisent déjà pour surveiller indûment la vie des gens, et des cybercriminels s’en servent pour mener des attaques d’hameçonnage.
Dans un proche avenir, on pourrait se servir de l’intelligence artificielle pour créer de terribles nouveaux virus et d’horribles armes meurtrières qui décideraient elles-mêmes qui tuer ou mutiler. Ces risques à court terme exigent une attention urgente et ferme de la part des gouvernements et des organisations internationales. Nous ne pouvons pas nous contenter d’accepter les affirmations des lobbyistes des grandes entreprises technologiques selon lesquelles la réglementation étouffera l’innovation.
Ensuite, une menace existentielle à plus long terme surgira lorsque nous créerons des êtres numériques plus intelligents que nous. Nous ne savons pas si nous pouvons garder le contrôle. Nous avons toutefois la preuve que si ces êtres sont créés par des entreprises motivées par la réalisation de profits à court terme, notre sécurité ne sera pas leur priorité absolue. Nous devons mener de toute urgence des recherches sur la manière d’empêcher ces nouveaux êtres de vouloir prendre le contrôle. Ils ne relèvent plus de la science-fiction.
Voilà pour ma déclaration préliminaire préparée à l’avance au sujet des risques. Pour comprendre ces risques, nous devons nous poser une question scientifique très importante : ces grands modèles de langage comprennent-ils ce qu’ils disent? Certaines personnes croient que non. Ce sont généralement des personnes qui croient en une intelligence artificielle traditionnelle.
J’aimerais prendre deux minutes pour parler de l’histoire de l’intelligence artificielle. Dans les années 1950, lorsque l’intelligence artificielle a vu le jour, il y avait deux approches. L’une était fondée sur la logique. L’idée était que l’on comprend une phrase en la traduisant en un langage interne particulier, symbolique et sans ambiguïté, et une fois que cela est fait, on peut appliquer des règles aux expressions symboliques pour en générer de nouvelles. C’est ainsi que fonctionne la logique, c’est ce qu’est le raisonnement, et le raisonnement est l’essence même de l’intelligence.
L’approche biologique était complètement différente. Selon cette approche, le système d’intelligence que nous connaissons, c’est nous : nous avons un gros cerveau dans lequel toutes nos connaissances résident dans la force des liens entre les neurones. Donc, pour comprendre l’intelligence, ce qu’elle est, nous devons comprendre comment le cerveau apprend à renforcer ces liens.
Ce sont deux théories très différentes. Selon la théorie biologique, on comprend le sens d’un mot à l’aide des nombreuses caractéristiques qui s’y rattachent. Le sens du mot « chat » est composé des éléments suivants : le chat a des moustaches, c’est un prédateur, il peut être très indifférent, et c’est un animal de compagnie. Une foule de caractéristiques représentent ces propriétés propres au chat, lesquelles sont représentées par l’activation des cellules du cerveau. Ainsi, chaque fois que l’on pense à quelque chose qui a des moustaches, une cellule cérébrale s’active.
La question est de savoir si on peut unir ces deux théories. La théorie symbolique affirme que le sens d’un mot réside entièrement dans le rapport de ce mot à d’autres mots. Cette théorie remonte à une centaine d’années. La théorie psychologique affirme quant à elle que le sens d’un mot est constitué d’un ensemble de caractéristiques. Ces deux théories semblent très différentes.
On peut les unir de la façon suivante. On prend une séquence de mots et on essaie de prédire le mot suivant dans cette séquence. On peut y arriver, entre autres, à l’aide d’un grand tableau de phrases courantes : si on voit la première partie d’une phrase, on peut prédire le bout suivant. C’est ainsi que fonctionnait la prédiction des mots, auparavant.
Les choses ont changé. Une façon beaucoup plus sophistiquée de prédire le mot suivant dans une séquence est de transformer chaque mot dans le contexte — les mots que l’on a déjà vus — en une foule de caractéristiques, de favoriser les interactions entre les caractéristiques des différents mots pour prédire la caractéristique du mot suivant, puis, une fois que cela est fait, on devine le mot suivant grâce à ses caractéristiques. C’est ainsi que fonctionnent les grands modèles de langage actuels, les GML. C’est très différent de la théorie symbolique selon laquelle la compréhension d’une phrase vient de sa traduction en une suite interne de symboles.
L’approche biologique stipule que la compréhension consiste à convertir le symbole associé à chaque mot en un grand nombre de caractéristiques. Avant de conclure, je vais vous présenter une analogie qui vous aidera à comprendre : les briques LEGO. Si vous voulez comprendre la forme d’une Porsche, par exemple, vous pouvez construire cette forme à l’aide de briques LEGO. La forme ne sera pas tout à fait la même, l’aérodynamisme ne sera pas parfait, mais vous serez en mesure de dire où se trouvent les éléments d’une Porsche grâce aux briques LEGO.
Les mots sont comme des briques LEGO. Toutefois, au lieu de simplement modéliser des objets en 3D, on peut les utiliser pour modéliser n’importe quoi. Nous sommes des singes exceptionnels, car nous avons inventé cette façon très ingénieuse de faire de la modélisation qui est universelle.
Les mots diffèrent des briques LEGO de quatre façons. C’est ce que je vais vous expliquer maintenant, puis j’aurai terminé.
La première différence, c’est qu’il y a beaucoup plus de mots qu’il n’y a de briques. Chacune de ces briques LEGO spéciales porte un nom — le nom du mot — et il y en a peut-être 30 000 que vous utilisez couramment. C’est la première différence.
La deuxième différence, c’est que les mots ont beaucoup plus de dimensions. Une brique LEGO n’a qu’une longueur, une largeur, une hauteur et une orientation; c’est à peu près tout. Un mot comporte des milliers de dimensions, et ces dimensions représentent l’ensemble des caractéristiques actives possibles. Le mot « chat », par exemple, a des caractéristiques actives comme le fait qu’un chat a des moustaches, et des caractéristiques inactives comme le fait que c’est un objet fabriqué, et il existe des milliers d’autres caractéristiques. Plutôt que de n’avoir que quelques caractéristiques, comme une brique LEGO, qui a une taille et un emplacement, un mot possède des milliers de caractéristiques, que nous apprenons. Nous les apprenons en essayant de prédire le mot suivant dans une séquence de mots; nous essayons de trouver comment convertir les mots en caractéristiques afin de pouvoir prédire le mot suivant à l’aide de ces caractéristiques.
La première différence est donc qu’il y a beaucoup plus de mots qu’il n’y a de briques LEGO. La deuxième différence est que les mots ont beaucoup plus de dimensions et qu’ils ont de nombreuses caractéristiques. Une troisième différence, c’est que les mots ne sont pas rigides, contrairement aux briques LEGO. Les mots ont une forme approximative. Ce sont des mots sans ambiguïté; les mots ambigus ont deux formes approximatives assez différentes. La forme qu’ils adoptent dépend du contexte dans lesquels on les utilise. Un mot est relativement souple et sa forme précise sera déterminée en fonction du contexte. Ainsi, il pourra s’assembler parfaitement avec les autres mots. C’est la troisième différence : les mots sont souples, mais pas toujours, évidemment. La forme que peut prendre un mot que vous connaissez est très limitée. Cela dit, le mot peut adopter de nombreuses formes. Il a plusieurs dimensions.
La dernière différence réside dans le fait que la manière dont les mots s’assemblent est beaucoup plus complexe que pour les briques LEGO. Les briques LEGO s’emboîtent grâce à un petit cylindre en plastique qui s’insère dans un petit trou en plastique. La façon dont les mots s’assemblent ressemble à ceci — c’est une approximation de ce qui se passe dans les grands modèles de langage — : imaginez que chaque mot est muni d’une multitude de bras longs et flexibles, au bout desquels se trouve une main. Les mains sont de différentes couleurs et leur forme peut changer. À mesure que l’on change la forme du mot — c’est‑à‑dire lorsqu’il s’adapte à son contexte pour adopter une forme qui lui convient —, la forme des mains change. De plus, chaque mot est muni de gants. Les doigts du mot sont accrochés à la brique LEGO, et à mesure que le mot change de forme, la forme des gants change également.
Pour comprendre une phrase, il faut commencer par obtenir la forme approximative de chaque mot, qui donne des formes approximatives à ses mains et à ses gants, puis, il faut jouer avec la forme, il faut l’ajuster pour que les mains des mots puissent s’insérer dans les gants d’autres mots et, bien sûr, la forme des mains dans les gants change à mesure que l’on change la forme du mot. C’est un problème difficile qui est résolu dans ces ordinateurs en utilisant beaucoup d’électricité et dans notre cerveau en utilisant beaucoup de cellules cérébrales. Ils résolvent le même problème.
La compréhension consiste donc à prendre les formes approximatives de tous ces mots et à les modifier pour qu’elles s’emboîtent les unes dans les autres. Ainsi, les mains de certains mots peuvent s’insérer dans les gants d’autres mots. On obtient ensuite une structure, et une fois que l’on a cette structure de caractéristiques qui s’imbriquent toutes les unes dans les autres, on comprend le message. C’est ce qui se passe dans notre cerveau. C’est ce qui se passe dans ces robots conversationnels, et c’est totalement différent de l’idée traditionnelle que l’on pourrait avoir de l’intelligence artificielle selon laquelle la compréhension consiste à traduire les mots en un langage symbolique interne. L’intelligence artificielle ressemble beaucoup plus au fait de déterminer la structure d’une protéine : on obtient une série d’acides aminés, et il faut déterminer une forme dans laquelle ils s’emboîtent parfaitement.
Lorsque vous réalisez que ces grands modèles de langage comprennent les choses comme nous les comprenons, la situation devient beaucoup plus inquiétante. Nous sommes en train de créer des êtres étrangers qui comprennent vraiment ce qui se passe, et qui — selon la plupart des experts — vont devenir plus intelligents que nous au cours des 20 prochaines années, et nous n’avons aucune idée de ce qui va se passer à ce moment-là. J’ai terminé ma déclaration préliminaire.
La présidente : Merci, monsieur Hinton.
Nous allons maintenant passer aux questions des membres du comité. Pour ce groupe de témoins, les sénateurs disposeront de quatre minutes pour poser leurs questions, ce qui comprend la réponse.
La sénatrice Burey : Monsieur Hinton, c’est un honneur de m’adresser à vous aujourd’hui. Je vous remercie de votre présence à notre comité.
J’ai pris connaissance de votre travail pour la première fois il y a 10 ans, lorsque mon fils m’a transmis un article sur vos prédictions au sujet des radiologistes. En tant que médecin, j’ai bien aimé votre franchise et votre clairvoyance. Cela m’a poussée à avoir des conversations nécessaires et m’a aidée à commencer à me préparer à ce monde difficile et très différent.
D’après votre déclaration préliminaire, je sais que vous n’allez pas hésiter à vous montrer franc avec notre comité. Je vais limiter mes questions à la liste des risques existentiels dont vous avez parlé à la fin de votre déclaration; ceux dont l’humanité ne pourrait se remettre. Le Machine Intelligence Research Institute affirme que la création d’une superintelligence artificielle entraînera inévitablement l’extinction de l’humanité. Il y a quelques jours à peine, j’ai lu qu’Anthropic, l’un des concurrents d’OpenAI, avait assoupli certains de ses principes de sécurité de base, alors qu’ils sont censés être du côté des bons.
Je vous pose la question suivante : l’objectif des grandes entreprises dans ce domaine est-il de créer une IA superintelligente et, le cas échéant, quelles en seraient les conséquences pour les Canadiens si elles réussissaient? Autrement dit, qu’est-ce qui vous empêche de dormir la nuit, et que devrions-nous faire en tant que législateurs?
M. Hinton : Il y a des mesures que vous pouvez prendre à court terme. L’utilisation des outils d’intelligence artificielle afin de créer des virus malveillants est un problème auquel on devrait s’attaquer de toute urgence. C’est très inquiétant. Je ne sais pas trop comment y remédier, mais au moins, une collaboration internationale s’est mise en place pour essayer d’empêcher cela.
Les questions les plus urgentes concernent la corruption des élections. Il y aura d’ailleurs bientôt une élection aux États-Unis. Si on voulait corrompre les élections américaines, la première chose à faire serait de recueillir autant de données que possible sur les citoyens américains. Vraisemblablement, c’était là le véritable objectif du département de l’efficacité gouvernementale, ou DOGE. Les personnes concernées ont des contacts avec ceux qui ont, par exemple, porté atteinte au Brexit; Cambridge Analytica.
Le problème le plus important après cela est le chômage. Les grandes entreprises technologiques veulent faire beaucoup d’argent; autrement, elles n’investiraient pas, ensemble, près de 1 billion de dollars dans des centres de données. Elles ne pourront faire autant d’argent qu’en remplaçant des emplois. Or, elles n’ont pas bien réfléchi à ce qui se passera si l’intelligence artificielle remplace de nombreux travailleurs : l’assiette fiscale va disparaître. Il sera alors difficile de mettre en œuvre des mesures telles que le revenu de base universel, car il n’y aura plus d’assiette fiscale. David Duvenaud en parlera plus en détail.
Si l’intelligence artificielle peut accomplir le même travail qu’un humain, la main-d’œuvre humaine n’aura plus de valeur. David Duvenaud a souligné que s’ils ne sont pas imposés, les humains ne seront pas bien représentés. Il est donc d’avis qu’il n’y a pas de représentation sans imposition. Je partage son point de vue. Je crois qu’une crise se profile à l’horizon : l’intelligence artificielle entraînera un chômage massif.
J’ai fait cette prédiction en 2016, mais elle ne s’est pas concrétisée. L’intelligence artificielle est certes utilisée en radiologie, mais ce domaine connaît une forte croissance. Les radiologistes utilisent l’intelligence artificielle afin d’interpréter un plus grand nombre d’images. C’est un marché élastique. Dans le secteur de la santé, la demande en soins de santé est aussi grande que l’offre disponible. L’intelligence artificielle n’entraînera donc pas de chômage dans ce secteur. Il y en a toutefois d’autres, comme les centres d’appels, où elle conduira à un chômage massif.
La sénatrice Burey : Merci, monsieur Hinton.
La sénatrice Hay : Je suis heureuse de vous revoir, monsieur Hinton. Vous vous souvenez peut-être de moi, du temps où je travaillais à l’Institut Vecteur.
Il y a quelques jours, vous avez fait une déclaration très importante à la radio de la CBC selon laquelle l’intelligence artificielle doit développer un instinct maternel, sinon nous risquons de disparaître. C’est certainement une déclaration qui attire l’attention et qui est inquiétante. Comment aborderiez-vous cette question de l’instinct maternel dans le cadre de l’étude que nous menons, alors que nous réfléchissons aux garde-fous et à la situation du Canada dans le contexte de la souveraineté et de la gouvernance des données liées à l’intelligence artificielle? Comment demanderiez-vous au gouvernement d’aborder cette question ou de légiférer à cet égard, si c’est possible? Quels garde-fous devrions-nous envisager pour pallier ce manque d’instinct maternel? Est-ce même possible?
M. Hinton : Nous ne savons même pas si c’est possible. Pour l’instant, ce n’est pas comme les changements climatiques. Nous savons comment lutter contre les changements climatiques : il suffit de planter beaucoup d’arbres et d’arrêter de brûler des combustibles fossiles. Nous devrions planter énormément d’arbres au Canada.
Ce n’est pas la même chose avec l’intelligence artificielle. Nous ne connaissons pas la solution à cette menace existentielle. Nous devrions faire beaucoup de recherches à ce sujet, car il n’y en a presque pas, à l’heure actuelle. Il n’y a peut-être que 1 % des chercheurs en intelligence artificielle qui se penchent sur cette question, voire moins. Le gouvernement pourrait essayer d’imposer la réalisation de davantage de recherches visant à déterminer si nous pouvons inventer une façon de cohabiter avec des entités plus intelligentes que nous. Nous ne savons pas si c’est possible.
À court terme, il est évident qu’il ne faut pas permettre aux grandes entreprises de commercialiser des robots conversationnels sans qu’ils aient fait l’objet de tests approfondis. Les grandes entreprises technologiques aux États-Unis disposent d’un puissant lobby qui diffuse de nombreuses publicités affirmant que tout règlement nuira à l’innovation. C’est un peu comme si les grandes pétrolières disaient qu’elles ne pourraient pas extraire autant de pétrole si nous adoptions un règlement en matière de protection environnementale. C’est vrai, mais cela ne veut pas dire qu’on ne devrait pas avoir de règlement.
C’est une question difficile, car si un pays n’a pas de règlements alors qu’un autre en a, cela créera des avantages concurrentiels. C’est pourquoi Elon Musk, à titre d’exemple, a intenté des poursuites contre OpenAI. Il voulait obtenir un avantage concurrentiel pour le Texas par rapport à la Californie.
Sans règlements, l’intelligence artificielle fera une foule de choses atroces, comme inciter des enfants à se suicider. Il ne fait aucun doute que les entreprises devraient être tenues de divulguer les tests qu’elles ont effectués, en plus des résultats qu’elles ont obtenus. Ces tests devraient être très rigoureux. Ils devraient vérifier tout ce qui, à notre connaissance, pourrait mal tourner.
En ce moment, aux États-Unis, les grandes entreprises se sont pliées aux exigences de Trump et essaient d’éliminer toute réglementation. Si l’Europe et le Canada insistent pour que l’utilisation d’un robot conversationnel sur leur territoire ne puisse se faire qu’en respectant certains règlements, cela pourrait contraindre les États-Unis à adopter, eux aussi, des règlements, car ils ne veulent pas se partager le marché. Ils veulent être en mesure de vendre le même robot conversationnel partout.
La sénatrice Hay : J’aimerais poser une question au sujet des données, leur stockage et leur circulation. La plupart des grandes entreprises spécialisées dans les données et l’intelligence artificielle, comme Anthropic, AWS, Microsoft et OpenAI, se trouvent aux États-Unis. Lorsqu’elles sont en sol canadien — comme AWS à Montréal —, je crois qu’il y a un risque que l’on infiltre ou porte atteinte à nos données, seulement en raison d’un décret du président des États-Unis. Est-ce juste? Comment défendre notre souveraineté numérique et nos frontières numériques si des entreprises américaines détiennent nos données alors qu’elles se trouvent en sol canadien?
M. Hinton : Je ne suis pas un expert en cybersécurité ou en protection des renseignements personnels. Je ne peux donc pas m’exprimer de manière éclairée à ce sujet, et je m’en excuse.
La sénatrice Hay : Merci.
La sénatrice McPhedran : Merci, monsieur Hinton, d’être avec nous aujourd’hui. Nous attendions cette rencontre avec impatience. Je viens de terminer une conversation sur les progrès réalisés ici au Canada concernant la protection des Canadiens, et, évidemment, cela s’appuie sur ce que nous savons maintenant au sujet de la décision d’une entreprise d’IA de ne prévenir personne au sujet de la personne responsable de la fusillade de Tumbler Ridge. Pouvez-vous m’aider à comprendre quelque chose? Hier, des témoins du gouvernement nous ont dit que le Canada avait lancé sa stratégie en matière d’IA en 2017. Si tel est le cas, comment se fait-il que nous semblions si loin derrière aujourd’hui ?
M. Hinton : C’est parce que nous sommes un petit pays par rapport aux États-Unis et à la Chine. Le Canada ne peut pas investir des centaines de milliards de dollars dans l’IA comme eux le font. En gros, nous devons accepter que le Canada est un pays de taille moyenne. Nous devrions évidemment collaborer avec d’autres pays de taille moyenne, mais nous ne sommes pas au rang des deux acteurs principaux.
J’ai une observation à formuler au sujet de Tumbler Ridge. J’ai travaillé pour une grande entreprise, Google, et je suis donc en mesure de voir l’autre côté des choses. Je peux voir le point de vue des entreprises technologiques. De leur point de vue, les choses ne sont pas aussi simples que les médias le laissent entendre. En effet, si vous demandiez combien d’autres utilisateurs avaient des profils aussi effrayants que celui de la personne responsable de la fusillade de Tumbler Ridge, je pense qu’il y en aurait des milliers, voire des dizaines de milliers. Les responsables doivent donc décider lesquels sont les plus terrifiants. Ils pourraient simplement alerter le gouvernement au sujet du nombre important de personnes qui ont de tels profils, mais ce n’est pas comme s’il y avait une seule personne effrayante dont ils n’auraient pas parlé.
La sénatrice McPhedran : Que pourrait-on faire de plus pour mettre l’accent sur la protection des personnes, en particulier des jeunes? Si vous me le permettez, je vais vous poser une question assez générale : pensez-vous qu’il soit réaliste de demander que du travail soit fait, même dans la sphère privée, en tenant compte des droits de la personne?
M. Hinton : Oui, lorsque les droits de la personne s’opposent aux profits des grandes entreprises, nous savons qui l’emporte.
La sénatrice McPhedran : Est-ce quelque chose que nous devrions aspirer à faire? Devrions-nous mettre au point des mesures législatives en ce sens, même si les grandes entreprises ne sont pas très enclines à se préoccuper de cela?
M. Hinton : Oui. Je crois que le capitalisme nous a apporté toutes sortes de bonnes choses, mais qu’on doit l’encadrer. Il faut le contraindre par des règlements afin que la seule façon de gagner beaucoup d’argent soit de faire des choses qui sont bonnes pour les gens.
Il est insensé de croire que l’on peut gagner beaucoup d’argent en faisant des choses qui nuisent aux gens, comme le fait Mark Zuckerberg. Il faut des règlements pour empêcher cela.
Le sénateur Cuzner : Merci beaucoup. J’espérais un peu de répit avec le projet de loi C-4, mais jusqu’ici, ce que l’on apprend est terrifiant.
Y a-t-il des gouvernements nationaux dans le monde qui mènent la charge pour la mise en place d’un cadre réglementaire concernant l’intelligence artificielle?
M. Hinton : Je ne sais pas ce qu’il en est des gouvernements, mais en Grande-Bretagne, par exemple, ils ont organisé la réunion de Bletchley Park, ce qui était une bonne chose. Ensuite, le gouvernement britannique — le gouvernement Sunak — a décidé de ne pas adopter de règlement.
Cependant, ils ont tout de même pris certaines mesures. Ils ont consacré environ 100 millions de livres sterling à la création d’un excellent groupe de recherche sur la sécurité, qui est aujourd’hui l’un des meilleurs au monde et qui mène de nombreuses recherches de pointe sur les dangers de l’IA. Aux États-Unis, la RAND Corporation mène de nombreuses recherches sur les dangers de l’IA. Il existe plusieurs groupes très compétents qui font de la recherche à ce sujet.
En ce qui concerne la réglementation, il existe un règlement européen, mais le fait est qu’il ne s’attaque pas vraiment aux menaces actuelles, aux grandes menaces. Le règlement européen, par exemple, contient un article stipulant que les utilisations militaires de l’IA sont exemptées du règlement, car les fabricants d’armes, comme la France et d’autres pays européens, ne veulent pas être freinés dans la fabrication de nuées de drones, etc. Ils y voient l’avenir des armes. À ma connaissance, il n’existe pas de réglementation qui soit particulièrement efficace.
Un règlement assez modéré a été proposé en Californie. On pense notamment au projet de loi SB-1047, qui a été adopté par les deux chambres californiennes, mais qui a ensuite été rejeté par Gavin Newsom pour des raisons qui ne sont pas tout à fait claires. Il se peut que les grandes entreprises technologiques aient fait pression sur lui, mais c’était peut-être autre chose. Il reste qu’il n’existe aucun règlement rigoureux nulle part.
Le sénateur Cuzner : Merci. Le problème, c’est que cette technologie évolue si rapidement qu’il est très difficile de suivre la cadence.
Le chiffre avancé est la perte de 300 millions d’emplois d’ici 2030, soit dans les quatre ou cinq prochaines années. Où la plupart de ces emplois seront-ils perdus? Quelle est votre opinion à ce sujet?
M. Hinton : Tout d’abord, lorsque les progrès sont aussi rapides, en particulier s’ils sont exponentiels, le fait d’essayer de prédire l’avenir revient à essayer de voir dans le brouillard. On voit très clairement sur une courte distance, mais bientôt, un mur se dresse et on ignore tout de ce qui vient après.
Si nous nous projetons dans 10 ans, par exemple, nous n’avons aucune idée de ce qui nous attend. Personne ne sait ce qui va se passer dans 10 ans. Vous pouvez le constater, car si vous retournez 10 ans en arrière pour voir si les gens auraient pu prédire ce qui se passe présentement, personne, pas même les plus enthousiastes comme moi, n’aurait pu prévoir que nous aurions les modèles linguistiques que nous avons aujourd’hui. Il est impossible de prédire ce qui se passera dans 10 ans, sauf que ce sera probablement quelque chose que nous n’avions pas pu voir venir.
Pour ce qui est de ce qui va se passer dans quelques années, les opinions divergent beaucoup. Les soi-disant experts, comme Gary Marcus, affirment que cela ne remplacera que 2 % des emplois, ce qui est tout simplement absurde. D’autres affirment que cela remplacera tous les emplois assez rapidement, ce qui est tout aussi absurde. Il est toutefois clair que cela remplacera beaucoup d’emplois, en particulier ceux des centres d’appels. Les personnes qui y travaillent sont mal payées, mal formées et souvent incapables de répondre aux questions qu’on leur pose. Dans ce domaine, l’IA peut faire un bien meilleur travail que l’humain, et elle sera bientôt utilisée à cette fin. On ne sait pas encore ce que feront ces personnes.
Lorsque la révolution industrielle a eu lieu, les ouvriers agricoles ont pu se reconvertir pour devenir serveurs dans des hôtels, ou s’occuper à autre chose. Ils ont pu se tourner vers le secteur des services ou vers le travail administratif. Lorsque l’IA arrivera et commencera à remplacer certains emplois, elle sera également capable d’effectuer tous les nouveaux emplois qui seront créés. On ne sait pas très bien ce qu’il adviendra des personnes qui seront touchées, mais pour la plupart des experts, il semble assez évident que cela entraînera un problème de chômage à grande échelle et une perte de recettes fiscales.
Le chiffre de 300 millions est-il plausible? Qui sait? Tout ce que nous savons, c’est qu’il y en aura beaucoup.
La sénatrice Senior : Merci, monsieur Hinton, en particulier pour votre déclaration liminaire. Je n’ai pu en suivre qu’environ la moitié, mais je suis plutôt contente de l’avoir fait. J’ai également l’impression que la population ignore complètement ce dont nous discutons aujourd’hui, ce qui explique en partie pourquoi je me réjouis que nous menions cette étude. Cela dit, la sensibilisation du public ne semble pas être une priorité, mais plutôt le dernier élément de la liste des choses à prendre en considération.
Je crains que ce ne soit pas une priorité pour le gouvernement, et même si de nombreux endroits mènent des recherches, comme vous l’avez dit, comment ces recherches sont-elles traduites afin que le public soit informé ou ait une certaine conscience de ce qui nous attend, que ce soit en 2030 ou même avant?
Connaissez-vous des pays qui prennent des mesures dont nous pourrions nous inspirer afin d’informer et de préparer le public? Avez-vous des recommandations à nous faire à cet égard? Ma deuxième question est la suivante : avez-vous été consulté au sujet de la stratégie que le gouvernement va publier dans les prochaines semaines?
M. Hinton : Je n’ai pas vraiment été consulté. On m’a donné des occasions, mais j’étais trop occupé pour les saisir. C’est donc moi qui suis fautif à ce chapitre.
Je considère que mon rôle consiste désormais à faire comprendre au public ce qu’est l’IA et quels sont ses dangers. Le modèle que j’ai en tête est le suivant : en ce qui concerne les changements climatiques, les grandes entreprises énergétiques pouvaient amener les gouvernements à leur permettre de faire ce qu’elles voulaient. Le vent a tourné lorsque le public a pris conscience de l’existence des changements climatiques et qu’il a commencé à les comprendre. Les entreprises peuvent encore tromper le public dans une large mesure, mais une fois que celui‑ci comprend qu’il y a vraiment des changements climatiques et qu’ils sont vraiment causés par la combustion du carbone, une pression commence à s’exercer sur les politiciens, qui vient contrebalancer celle qu’exercent les grandes entreprises énergétiques.
Mon point de vue, c’est que pour contrer la pression que les grandes entreprises technologiques exercent sur les politiciens, il faut une pression qui vient du public, et cela ne se matérialisera pas tant et aussi longtemps que le public n’aura pas compris ce qui est en train de se produire.
Le public est déjà très inquiet au sujet des possibles pertes d’emplois. Les jeunes sont très inquiets quant à la formation qu’ils doivent suivre pour trouver un emploi dans le monde de demain. Je pense que c’est une bonne chose qu’ils le soient, car cela les incitera à faire pression sur les politiciens pour qu’ils agissent.
Je considère que mon rôle est d’éduquer le public, et c’est à peu près tout ce que j’ai à dire à ce sujet. Je ne pense pas que les gouvernements s’acquittent très bien de cette tâche.
La sénatrice Senior : Je vous remercie.
La sénatrice Petitclerc : Merci d’être parmi nous. Je voudrais poursuivre dans la même veine.
Dans une récente interview à la BBC — et je voudrais vous citer, monsieur Hinton —, vous avez déclaré ceci :
[...] la main invisible ne va pas assurer notre sécurité. Il ne suffit donc pas de s’en remettre à la motivation financière des grandes entreprises pour s’assurer qu’elles développent des produits sûrs [...] La seule chose qui peut obliger ces grandes entreprises à faire davantage de recherche en matière de sécurité, c’est la réglementation gouvernementale.
Vous avez commencé à aborder ce sujet avec ma collègue. Plus précisément, quand on parle de réglementation, par où commenceriez-vous? À quoi cela ressemblerait-il dans le contexte canadien?
M. Hinton : Le Canada devrait disposer d’une réglementation sur les robots conversationnels qui couvrirait toute utilisation de cette technologie à l’échelle du pays. Mes amis qui possèdent une entreprise qui produit des robots conversationnels ne vont pas m’aimer pour avoir dit cela, mais je crois que le Canada devrait mettre en place une réglementation stricte pour encadrer les tests qu’il faudrait faire passer aux robots conversationnels avant leur déploiement. Beaucoup de travail a été fait pour établir ce à quoi cette réglementation pourrait ressembler.
Trump, bien sûr, tente de bloquer toute réglementation aux États-Unis. Pour avoir une réglementation sur les robots conversationnels, nous avons donc besoin que l’Europe, le Canada, la Corée du Sud et d’autres pays se mobilisent et insistent pour que les robots conversationnels utilisés sur leur territoire aient été soumis à des tests rigoureux dont les résultats auront été rendus publics.
La sénatrice Petitclerc : Hier, nous avons reçu des représentants du gouvernement, et je leur ai posé des questions sur l’importance des principes de précaution. Les représentants ont répondu qu’ils estimaient que le Canada avait une approche équilibrée consistant à tirer parti des possibilités offertes par l’IA tout en essayant de faire les choses à un rythme responsable. J’aimerais avoir votre avis. Voyez-vous les choses de cette façon? Après vous avoir écouté, je me demande s’il n’est pas déjà trop tard pour prendre des précautions. Devrions-nous aller de l’avant? Est-il encore temps de le faire? Voyez-vous où je veux en venir?
M. Hinton : Oui. Je pense qu’il y a deux questions ici.
Quant à savoir s’il est trop tard, c’est peut-être le cas. Beaucoup de personnes à l’avant-garde de l’industrie, dont beaucoup de mes anciens étudiants — j’ai un aperçu de la situation en discutant avec eux —, pensent que cela arrive très vite. Ils pensent que, d’ici quelques années, il y aura un chômage massif. Je ne suis pas certain que ce sera le cas. Je crois que cela prendra plus de temps. Je pense que nous en arriverons là, mais que cela prendra plus de temps que ce qu’eux prédisent. Il n’est peut-être pas trop tard à cet égard, mais bientôt, oui.
Quant à savoir si le Canada fait quelque chose d’utile, j’aime bien le fait que nous ne sommes pas l’un des deux principaux acteurs dans ce domaine. Nous devons l’accepter. Nous devons donc conclure des alliances avec les autres pays de niveau intermédiaire, comme l’ensemble des pays européens. Le bloc européen pourrait être l’un des principaux acteurs. Nous devons conclure des alliances avec eux et, ensemble, nous devons réclamer que les grandes entreprises technologiques américaines effectuent des contrôles de sécurité sur leurs robots conversationnels et nous en communiquent les résultats. Nous avons besoin d’une réglementation beaucoup plus stricte dans ce domaine. Il s’agit d’une évidence, et c’est quelque chose que nous pouvons absolument faire.
À l’heure actuelle, par exemple, si quelqu’un commercialise un robot conversationnel qui n’a pas fait l’objet de tests approfondis visant à établir s’il peut inciter les gens à se suicider, cela devrait être considéré comme un crime.
La présidente : Si vous me le permettez, j’aimerais poser une question pour faire suite à celle que la sénatrice Petitclerc a posée.
Monsieur Hinton, ma question est la suivante : on nous dit — et je pense que c’est l’impression de tout le monde — que le Canada dispose d’une capacité et d’un potentiel de recherche très importants. Nous obtenons de bons résultats dans ce domaine. C’est peut-être le seul domaine dans lequel nous obtenons de bons résultats à l’heure actuelle.
Si l’on examine plus particulièrement le domaine de la recherche en matière de sécurité, où le Canada peut-il se démarquer en tant que pays de taille moyenne?
M. Hinton : Nous avons des chercheurs de renommée mondiale dans le domaine de la sécurité. David Kristjanson Duvenaud, qui témoignera plus tard, est un chercheur de renommée mondiale dans le domaine de la sécurité, tout comme Roger Grosse, qui travaille également à l’Université de Toronto. Il y a là un très bon groupe de professeurs d’âge moyen, pas des professeurs âgés comme moi. C’est un domaine dans lequel nous sommes des leaders mondiaux.
En ce qui concerne le développement d’une IA nouvelle, d’une IA de pointe, le problème est qu’il faut d’énormes capitaux. Il est très difficile d’imaginer comment le Canada pourrait avoir accès à des ressources de cette ampleur. Les chercheurs de pointe doivent travailler avec les grandes entreprises technologiques américaines.
Actuellement, les professeurs ont deux emplois. Ils ont un emploi où ils font leurs recherches et un autre où ils interagissent avec une grande entreprise pour obtenir des ressources. Je ne vois pas comment l’on pourrait contourner cette dynamique.
Par exemple, l’un de mes étudiants a quitté l’Institut Vector de Toronto, où il pouvait compter sur 100 processeurs graphiques qui lui étaient réservés. Il est allé travailler pour Musk, où on lui donnait accès à 100 000 processeurs graphiques. Le Canada n’a aucun moyen d’égaler cela.
La présidente : Je vous remercie.
La sénatrice Arnold : Merci beaucoup, monsieur, d’être avec nous aujourd’hui. Je vous remercie d’exprimer votre objectif très noble d’éduquer le public. Je suis curieuse de savoir ceci : quel genre de conseils donnez-vous à vos étudiants? Selon vous, quels types d’êtres humains seront les plus efficaces?
Je ne parle pas nécessairement d’emplois, mais plutôt du genre d’humains dont nous aurons besoin à l’avenir pour lutter contre certains de ces phénomènes et pour avoir l’esprit critique nécessaire afin de pouvoir rendre le monde meilleur à l’avenir, compte tenu de tout ce que nous savons à ce sujet.
M. Hinton : Oui, c’est une question difficile. À mon avis, l’engagement moral des gens est essentiel. Lorsqu’ils sont étudiants, ils arrivent avec ou sans cet engagement. Certaines personnes en ont beaucoup; d’autres n’en ont pas beaucoup. Je ne sais pas comment on peut le créer. Je pense que cela arrive quand on est très jeune. Un conseil serait d’examiner la façon dont Trump a été élevé et de faire le contraire.
Parmi ces gens, il y en a qui ont un sens moral très fort, comme Ilya Sutskever, qui a congédié Sam Altman, au moins pendant quelques jours, puis qui a créé sa propre entreprise qui essaie de développer une superintelligence sécuritaire. C’est aussi le cas des gens que j’ai mentionnés à l’Université de Toronto et que je connais très bien — David Kristjanson Duvenaud, qui témoignera plus tard, et Roger Grosse —, qui ont tous deux à cœur l’avenir de l’humanité. C’est pourquoi ils font de la recherche sur la sécurité. C’est Roger Grosse qui m’a encouragé à m’intéresser à la sécurité il y a plusieurs années.
Je n’ai pas de conseils à donner sur la façon de renforcer l’engagement moral des étudiants. J’ai l’occasion de les côtoyer lorsqu’ils sont aux cycles supérieurs, et soit ils ont cela en eux, soit ils ne l’ont pas.
La sénatrice Arnold : Merci.
Le sénateur Boudreau : Merci, monsieur, d’être ici. Il semble clair que, tout comme les changements climatiques, le développement de l’intelligence artificielle doit également être une préoccupation mondiale, et je pense que c’est le cas, mais il faut adopter une approche commune à l’égard de sa gestion.
Vous avez déjà abordé le sujet, mais vous pourriez peut-être nous en parler plus en détail. À quels forums internationaux le Canada participe-t-il actuellement dans ce domaine? Où se fait le travail le plus important pour gérer l’intelligence artificielle à l’échelle mondiale, tant du point de vue du développement que du point de vue de la réglementation?
M. Hinton : Yoshua Bengio pourra répondre beaucoup mieux que moi à cette question. Il déploie beaucoup plus d’efforts pour interagir avec ces organisations internationales. Je me suis principalement concentré sur l’éducation du public sur ce qu’est l’intelligence artificielle.
Je peux vous donner une idée. Il existe une organisation, dont le nom a toute une série de lettres que j’ai oubliées, qui encourage la collaboration entre les universitaires chinois et occidentaux. J’ai assisté à une réunion de cette organisation à Shanghai. C’est très efficace.
Le principal commentaire que j’ai à faire à ce sujet, c’est qu’à l’échelle internationale, les pays collaboreront lorsque leurs intérêts sont les mêmes, et feront semblant de collaborer lorsqu’ils ne le sont pas.
Par exemple, les intérêts de la Chine et des États-Unis en ce qui a trait aux cyberattaques sont à l’opposé parce qu’ils s’en prennent les uns aux autres. Il en va de même pour ce qui est de la corruption des élections, par exemple.
Ils s’entendent sur deux choses : premièrement, ils ne veulent pas que les terroristes créent de sales virus, et ils collaboreront à cet égard. Du moins, c’est ce que ferait un gouvernement raisonnable aux États-Unis.
Ils collaboreront également sur la façon d’empêcher l’intelligence artificielle de prendre le dessus. Sur cette question particulière, tous les pays sont sur la même longueur d’onde. Aucun gouvernement ne veut que l’intelligence artificielle prenne le dessus. Si un pays découvrait comment prévenir une telle situation, il le dirait volontiers à tous les autres. Il ne garderait pas le secret. Il en informerait immédiatement les autres pays, parce qu’il ne veut pas que l’intelligence artificielle prenne le contrôle.
Donc, du point de vue de cette menace existentielle, c’est un peu comme une guerre nucléaire mondiale. Au plus fort de la guerre froide dans les années 1950, les États-Unis et la Russie collaboraient sur la façon de prévenir une guerre thermonucléaire mondiale parce qu’elle n’était pas dans l’intérêt de l’un ou l’autre.
Mais pour toutes les autres questions, comme les armes autonomes, les cyberattaques et la corruption des élections, ils feront semblant de collaborer, mais ils ne collaboreront pas.
Le sénateur Boudreau : C’est effrayant.
La sénatrice Osler : Merci beaucoup d’être avec nous aujourd’hui, monsieur Hinton.
Ma question est la suivante : si vous étiez un parlementaire canadien, où concentreriez-vous votre travail en ce qui a trait à l’intelligence artificielle, et comment le feriez-vous? Est-ce que vous réaliseriez des études à l’appui de la recherche? Est-ce que vous adopteriez des mesures législatives, des règlements? Par où commenceriez-vous si vous étiez un parlementaire canadien?
M. Hinton : La première chose à dire, c’est que je suis une scientifique. J’ai contribué au développement de l’intelligence artificielle. Je comprends comment elle fonctionne. Je ne suis pas un spécialiste des politiques, alors je suis un amateur dans ce domaine. Je ne témoigne pas ici en tant qu’expert.
Je me concentrerai sur quelques points : premièrement, il faut effectuer des tests efficaces avant que les robots conversationnels ne soient lancés. C’est évident. Vous pouvez le faire, et c’est là que la plupart des efforts législatifs ont été déployés jusqu’à présent. Je pense que c’est une bonne chose à faire.
Je me centrerais également sur le chômage. Si le taux de chômage est élevé, qu’allons-nous faire avec l’impôt? Où le gouvernement prendra-t-il son argent et comment allez-vous vous occuper de tous ces chômeurs?
J’ai tendance à avoir des instincts socialistes. Je crois au capitalisme, mais je pense qu’il doit être fortement réglementé afin que l’on puisse seulement faire de l’argent en faisant ce qui est bon pour la société. Le développement d’Internet, par exemple, a été dans l’ensemble très bon pour la société, et c’est bien que des gens aient fait beaucoup d’argent avec sa création. Le développement des médias sociaux semblait être une bonne chose au départ, mais on a vite réalisé qu’ils allaient surtout entraîner des conséquences négatives, et il incombait au gouvernement d’empêcher les gens de faire beaucoup d’argent de cette façon.
C’est un principe qui, à mon avis, devrait guider les politiques, mais je ne suis pas un spécialiste en la matière.
La sénatrice Osler : Je ne pense pas que quiconque — certainement pas autour de cette table — oserait dire que vous êtes un amateur dans quoi que ce soit. Nous avons un groupe diversifié composé de scientifiques et de chercheurs.
Je vous en remercie.
La présidente : Je vais poser une autre question avant que nous passions à la deuxième série. Hier était le premier jour de notre étude. Nous avons entendu parler un peu — ou beaucoup — de la nécessité des garde-fous. Nous avons moins entendu parler de la réglementation et de la législation visant à contrôler certains des problèmes de sécurité qui émergent et qui émergeront probablement en raison de l’intelligence artificielle et du recours à cette nouvelle technologie.
Vous ne voulez peut-être pas parler en tant qu’expert, mais où en sommes-nous à cet égard? On vous pose sans cesse les mêmes questions, monsieur. Dans quelle mesure devons-nous exercer des pressions pour des lois et dans quels domaines, à votre avis?
La deuxième partie de la question est la suivante : que faisons‑nous de manière positive en tant que pays au sujet de la menace existentielle?
M. Hinton : Pour ce qui est de la menace existentielle, personne ne sait comment régler la question. Nous en sommes à un point où nous avons besoin de nombreux efforts de recherche différents. Yoshua Bengio propose une solution très différente de la mienne, qui consiste à amener ces technologies à nous aimer. Nous les créons, alors nous devrions y intégrer l’instinct maternel si nous pouvons trouver un moyen de le faire. Nous devrions certainement financer beaucoup plus de recherches à ce sujet, mais nous ne connaissons pas la solution.
Si nous ne trouvons pas la solution avant que ces outils deviennent plus intelligents que nous, je pense que nous sommes cuits, alors il me semble que le financement en ce sens soit une bonne idée.
Il est clair que nous devrions avoir des règlements rigoureux sur la mise à l’essai des robots conversationnels, et nous ne les avons pas encore. Il est assez évident que le taux de chômage sera élevé, et nous ne savons pas encore quoi faire à ce sujet. Nous devrions financer la recherche économique sur la façon de gérer la fiscalité.
Bill Gates a récemment laissé entendre — il a peut-être de mauvais comportements, mais il est très intelligent — qu’il faudrait imposer les agents de l’intelligence artificielle. Lorsque vous remplacez un travailleur par un agent d’intelligence artificielle qui fait le même travail, il faudrait l’imposer; sinon, l’assiette fiscale disparaîtra.
Les grandes entreprises technologiques s’y opposeront avec vigueur, bien sûr. Elles croient que tous les profits doivent leur revenir. Ce sera très difficile à faire, mais d’une façon ou d’une autre, il faut avoir une assiette fiscale.
La sénatrice McPhedran : Monsieur Hinton, une grande partie de ce que vous nous dites aujourd’hui me fait penser à divers écrits sur la dystopie, mais surtout à Margaret Atwood, qui voit l’avenir dans la lutte contre les entreprises.
Je suis désolée si vous estimez que cette question est trop politique, mais nous sommes saisis d’un projet de loi qui est à l’étude depuis quelques années, et nous avons des groupes de sénateurs qui prônent un revenu de base garanti depuis plus de 20 ans maintenant. Je sais que ce n’est pas votre domaine, mais en tant que Canadien, pensez-vous que cela contribuerait dans une certaine mesure au genre d’améliorations que nous devons évidemment commencer à planifier?
M. Hinton : Oui, je pense qu’une telle mesure pourrait aider d’une certaine façon. Elle ne réglera pas les problèmes de dignité si les chômeurs ont l’impression d’avoir perdu leur raison d’être, mais cela aidera dans une certaine mesure.
Je suis au fait d’une expérience très réussie sur le revenu de base universel au pays de Galles, avec des adolescents en famille d’accueil qui, à l’âge de 18 ans, perdent tous leurs avantages et doivent se débrouiller seuls. Il s’agit d’une population très définie, et seuls ceux qui en font partie pouvaient avoir accès au revenu de base universel. Je n’en connais pas le montant, mais ce n’était pas énorme. Il a toutefois été d’une grande aide pour ces jeunes et les a aidés à faire la transition.
Évidemment, le problème avec le revenu de base universel, c’est que beaucoup de gens essaieront d’en profiter, mais je ne pense pas qu’il y ait de solution de rechange pour cela. Toutefois, si un grand nombre de personnes y ont recours, il faut se demander comment nous financerons le système, parce que nous allons perdre l’assiette fiscale.
La sénatrice McPhedran : C’est un bon point, oui. Merci beaucoup.
La sénatrice Burey : Monsieur Hinton, vous parlez de la vitesse à laquelle les choses évoluent et de la rapidité avec laquelle nous pourrions dépasser le point de non-retour. Quelles sont certaines des étapes qui limitent le taux de développement de l’intelligence artificielle? Certains programmes évoquent les puces, l’énergie et l’eau. Existe-t-il de telles mesures qui pourraient ralentir le processus?
M. Hinton : Oui, il y a une diversité d’opinions à ce sujet, ce qui est bien. Certaines personnes pensent que l’époque où l’on pouvait simplement améliorer la technologie en procédant à une mise à l’échelle tire à sa fin parce que nous manquons de données bon marché pour l’alimenter. Je ne suis pas tout à fait d’accord avec eux. Je pense qu’ils ont tort, mais ils ont peut-être raison. Il se peut que l’évolution ralentisse en raison d’un manque de données.
Évidemment, les puces et l’énergie sont les principales limites à l’heure actuelle. Aussi, nous pourrions avoir besoin de nouvelles idées scientifiques. En 2017, un groupe de personnes a mis en place des transformateurs chez Google, une nouvelle idée scientifique qui a fait une énorme différence, et nous n’aurions pas les grands modèles de langage d’aujourd’hui si ce n’était de cela. Nous en aurions, mais ils ne seraient pas aussi efficaces.
Je ne crois pas qu’il faille ralentir le processus. Je ne pense pas que ce sera possible, car les bonnes utilisations sont nombreuses. En ce qui a trait aux armes nucléaires, par exemple, on aurait pu ne pas mettre au point la bombe à hydrogène, et c’est ce que souhaitait Oppenheimer, parce qu’elle ne sert qu’à faire exploser des choses.
Mais l’intelligence artificielle sera extrêmement utile pour les soins de santé et l’éducation. Elle permettra à presque toutes les industries d’être plus efficaces. Il est fou de penser que cette invention qui va faire croître la productivité de manière très importante puisse être mauvaise. Intrinsèquement, elle n’est ni bonne ni mauvaise; elle va simplement mener à une forte augmentation de la productivité. C’est notre système politique qui ne sait pas comment gérer la situation. Nous avons un système axé sur le profit, et cette technologie va entraîner toutes sortes de conséquences négatives, parce qu’elle n’est pas correctement réglementée.
C’est mon point de vue.
La sénatrice Hay : J’ai besoin d’être mieux informée, alors je vais poser une question en ce sens. J’ai bien entendu — et je suis d’accord avec vous — que nous avons besoin de réglementer les robots conversationnels au pays, et d’effectuer plusieurs tests avant leur utilisation à grande échelle. Il faut aussi réglementer ce qu’ils sont, comment ils sont utilisés, à quoi ils servent, etc.
Comment pourrions-nous aborder la question de la fluidité des frontières numériques? Sommes-nous en mesure d’ériger des « clôtures électroniques », si je puis dire, de sorte que seuls les robots conversationnels réglementés puissent être utilisés au Canada? Est-ce possible?
M. Hinton : Je ne le sais pas; je ne suis pas un expert dans ce domaine. Je n’en ai aucune idée. Je suis désolé.
La sénatrice Hay : Il n’y a pas de problème.
La sénatrice Petitclerc : J’ai une brève question. Vous avez mentionné à quelques reprises l’importance de tester les robots conversationnels. Je veux simplement comprendre ce que nous sommes en mesure de tester exactement. Est-ce que nous testons les préjugés, par exemple? Est-ce qu’il est possible de le faire? Pouvez-vous nous donner des exemples des essais que nous devrions faire sur les robots conversationnels?
M. Hinton : La présence de certains biais constitue un enjeu quelque peu différent. Un robot conversationnel est doté de certains biais en fonction des données avec lesquels il a été programmé, mais il est toujours possible de « geler » ces biais, dans une certaine mesure. Avec une personne en chair et en os, c’est difficile à faire, car on obtient souvent l’« l’effet Volkswagen », c’est-à-dire que dès que la personne se rend compte qu’elle est testée, elle tend à modifier son comportement.
En ce qui concerne les biais et les préjugés, notre objectif avec l’intelligence artificielle devrait être de la rendre moins partiale que le système qu’elle remplace, et non pas complètement impartiale. Il ne sera probablement jamais possible de créer une intelligence artificielle complètement impartiale, mais je crois que nous pouvons continuer à perfectionner nos modèles. Le problème des préjugés ne m’inquiète pas particulièrement, mais cela tient peut-être au fait que je suis un homme blanc d’un certain âge.
Ce que nous devons tester, c’est notamment si certaines formes d’intelligence artificielle sont capables de pousser des enfants au suicide. Est-il facile de surmonter le renforcement humain qui leur a été inculqué? Après avoir été entraînés à prédire le mot suivant, ils sont programmés, ou entraînés si l’on préfère, à ne pas émettre de commentaires inappropriés. Pour ce faire, on demande à des personnes d’essayer de leur faire dire certains commentaires inappropriés, puis on leur demande de cesser. La programmation d’une intelligence artificielle est assez facile à surmonter, en particulier si on libère le poids des modèles afin que l’utilisateur puisse exécuter le modèle à partir de son propre ordinateur.
Pour le moment, il est particulièrement facile de contourner la manière dont les intelligences artificielles sont programmées. Par exemple, un robot conversationnel peut-il expliquer à un utilisateur comment fabriquer un engin explosif improvisé? Bien entendu, si l’utilisateur demande directement au robot de quelle manière procéder, celui-ci lui répondra qu’il n’est pas autorisé à exécuter ce type de tâche. Par contre, il est possible au moyen de différentes tactiques de finir par piéger le robot. Par conséquent, nous devons continuer à peaufiner l’intelligence artificielle pour l’empêcher de se faire manipuler de la sorte.
La présidente : Voilà qui termine la comparution du premier groupe d’invités. Monsieur Hinton, je tiens à vous remercier pour votre témoignage aujourd’hui.
Chers collègues, pour notre deuxième groupe de témoins, nous avons le plaisir d’accueillir les invités suivants: Wyatt Tessari L’Allié, fondateur et directeur général, Gouvernance et Sécurité de l’IA Canada, GSIA Canada; David Kristjanson Duvenaud, professeur agrégé en informatique, Université de Toronto, qui comparaît à titre personnel; et, par vidéoconférence, Inioluwa Deborah Raji, chercheuse, Université de la Californie, Berkeley.
Vous disposerez de cinq minutes pour vos déclarations liminaires, qui seront suivies des questions des membres du comité. Monsieur Tessari L’Allié, à vous la parole, je vous prie.
[Français]
Wyatt Tessari L’Allié, fondateur et directeur général, Gouvernance et Sécurité de l’IA Canada (GSIA Canada) : Merci, madame la présidente. Mesdames et messieurs les membres du comité, je vous remercie de l’honneur que vous me faites de m’avoir invité.
Gouvernance et Sécurité de l’IA Canada est un organisme à but non lucratif non partisan et une communauté de personnes à travers le pays. Notre point de départ est la question suivante : que pouvons-nous faire, au Canada et à partir du Canada, pour s’assurer que l’IA avancée soit sécuritaire et bénéfique pour tous?
Depuis 2022, nous fournissons au gouvernement fédéral des recommandations de politiques d’intérêt public, comme nos soumissions sur le projet de loi sur l’intelligence artificielle et les données et nos multiples témoignages aux comités parlementaires.
[Traduction]
En 2012, des chercheurs sous la supervision de M. Hinton ont mis au point une technique révolutionnaire qui a donné naissance à l’ère des systèmes d’intelligence artificielle à usage unique tels qu’Alexa, Google Traduction, ou encore les algorithmes des réseaux sociaux, tout en introduisant des risques de partialité, de perte de confidentialité et de chambres d’écho virtuelles.
En 2022, le lancement de ChatGPT a inauguré l’ère de l’intelligence artificielle générative : des robots conversationnels capables de répondre à des questions complexes, de concevoir des pans entiers de code, et de générer des images et des vidéos réalistes. Cela a également entraîné de nouveaux défis à relever, tels que les escroqueries, la désinformation au moyen d’hypertrucages, les cyberattaques, et les robots conversationnels capables de persuader des utilisateurs à commettre des actes répréhensibles.
Au début de l’année 2026, une nouvelle avancée majeure en matière de capacités nous a définitivement propulsés dans l’ère des agents d’intelligence artificielle. Contrairement aux robots conversationnels qui se contentent de répondre à une requête, les agents d’intelligence artificielle sont des systèmes capables d’agir dans le monde réel, de fonctionner de manière autonome pendant des heures et de surmonter les obstacles qui se dressent sur leur chemin. Les agents d’intelligence artificielle peuvent, par exemple, être utilisés pour développer une application à partir de zéro, non seulement en écrivant le code, mais aussi en l’ouvrant et en remédiant aux bogues jusqu’à ce qu’elle soit fonctionnelle. De plus en plus d’utilisateurs commencent également à confier à leur agent d’intelligence artificielle l’accès à leurs ordinateurs et à leurs cartes de crédit pour effectuer des tâches telles que la gestion de leurs courriels, de leur agent, ou encore de leurs achats.
Cette dernière avancée en matière de capacités a commencé à entraîner des incidents liés à une perte de contrôle. Parmi ceux‑ci, on peut citer des agents qui volent des mots de passe, contournent les fermetures et harcèlent les développeurs afin d’atteindre les objectifs souvent banals qui leur ont été assignés. Les agents peuvent désormais franchir la barrière numérique, en payant ou en trompant des acteurs humains pour qu’ils agissent physiquement en leur nom.
L’augmentation récente des capacités de l’intelligence artificielle est également susceptible de rendre l’utilisation à des fins militaires par des acteurs malveillants beaucoup plus efficaces. Par exemple, en novembre dernier, un laboratoire de premier plan a découvert que des acteurs étatiques chinois avaient utilisé leurs outils non seulement pour aider des pirates informatiques humains à mener une cyberattaque, mais aussi pour planifier ce type d’attaque sophistiquée de manière autonome.
Actuellement, les modèles les plus puissants sont développés par des sociétés technologiques de premier plan, telles que OpenAI et Anthropic, qui imposent certaines restrictions d’utilisation. Néanmoins, les modèles de type « sources ouvertes » et « poids ouverts » tels que DeepSeek n’accusent que de trois à six mois de retard par rapport aux modèles américains, et pourraient bientôt être en mesure d’annuler toutes formes de restrictions d’utilisation. Avec les modèles de type « poids ouverts », un utilisateur est désormais en mesure de télécharger, de modifier et d’utiliser une intelligence artificielle sans aucune forme de surveillance ni de reddition de comptes.
Tout cela signifie que les Canadiens pourraient bientôt être confrontés à des agents d’intelligence artificielle militarisés défectueux, voire malveillants, que les technologues ne peuvent ni suivre ni contrôler. Alors que les entreprises se livrent à une course effrénée pour rendre l’intelligence artificielle plus intelligente que l’humain, et qu’aucun cadre de gouvernance applicable n’est en place pour contenir les risques, une perte de contrôle systémique et potentiellement permanente est possible.
En octobre dernier, nous avons publié notre livre blanc intitulé Préparation à la crise de l’IA: un plan pour le Canada, dans lequel nous avons présenté les mesures que le Canada peut prendre. Compte tenu de cette dernière avancée dans le domaine de l’intelligence artificielle, nous nous concentrons désormais sur trois objectifs principaux.
Premièrement, nous devons nous adapter pour faire face à la crise de l’intelligence artificielle. Le développement de systèmes d’intelligence artificielle avancés représente la plus grande menace pour la sécurité des Canadiens, et pour cette seule raison, il mérite d’être une priorité absolue. Mais l’intelligence artificielle va également bouleverser presque tous les autres domaines de l’existence, de la défense nationale à l’emploi, en passant par les soins de santé, l’éducation, l’énergie, et l’environnement. Tout comme durant la pandémie en 2020, il arrive parfois que la chose responsable à faire pour le gouvernement soit de se concentrer sur la crise en cours et de réévaluer les priorités des autres enjeux en conséquence.
Deuxièmement, nous devons mener des discussions à l’échelle internationale. En effet, la course à l’intelligence artificielle est mondiale, et aucun pays ne peut la gérer seul. Le monde a besoin de leadership, et à Davos, le premier ministre Carney a montré ce que le Canada peut faire. Notre atout majeur est de mener les discussions et les solutions mondiales et de jeter les bases d’un traité sur l’intelligence artificielle que les États-Unis et la Chine pourraient signer lorsque la crise frappera et qu’ils se rendront compte qu’ils n’ont pas d’autre choix.
Troisièmement, nous devons renforcer la résilience du Canada face aux menaces liées à l’intelligence artificielle. Nous devons mettre en place plusieurs lignes de défense contre les outils d’intelligence artificielle et défectueux et malveillants, notamment en matière de prévention, en limitant le développement et le déploiement de systèmes dangereux, en surveillant et en suivant systématiquement l’activité des agents d’intelligence artificielle, en développant des capacités de défense, notamment des protocoles de confinement et d’arrêt pour neutraliser les agents malveillants, en améliorant la préparation aux situations d’urgence, et en veillant à ce que la société soit prête à faire face à d’éventuelles attaques à grande échelle et à des pannes d’infrastructures essentielles.
Tout comme au début de la crise financière et de la crise de la COVID, nous sommes confrontés à un défi de taille et à une grande incertitude. Aussi turbulentes que ces crises aient été, nous sommes parvenus à les surmonter. Par conséquent, si nous agissons rapidement et de manière décisive, nous pouvons non seulement atténuer la crise naissante de l’IA, mais aussi faire en sorte que les Canadiens profitent des avantages de cette technologie transformationnelle.
Je vous remercie.
La présidente : Je vous remercie. Monsieur Duvenaud, à vous la parole, je vous prie.
David Kristjanson Duvenaud, professeur agrégé en informatique, Université de Toronto, à titre personnel : Merci.
Je m’appelle David Duvenaud. Je suis professeur d’informatique à l’Université de Toronto, où je me spécialise dans l’apprentissage profond et les modèles génératifs.
De 2023 à 2024, j’ai dirigé l’équipe d’évaluation de l’alignement chez Anthropic. Notre tâche consistait à vérifier si les modèles d’IA conçus par cette société étaient désormais capables de poursuivre des objectifs cachés, par exemple en contournant la supervision et la prise de décision humaines.
J’ai également participé à la rédaction d’un document intitulé le Rapport international sur la sécurité de l’IA, et je suis également membre du Groupe consultatif sur l’IA sécuritaire et sûre, qui fait partie du Conseil consultatif sur l’intelligence artificielle du gouvernement du Canada. Je suis également codirecteur du Schwartz Reisman Institute for Technology and Society de l’Université de Toronto. Je souhaite aujourd’hui m’exprimer à titre personnel.
Pour commencer, je souhaite me rallier à l’avis de M. Hinton. À bien des égards, l’IA est déjà en mesure de comprendre et de planifier comme le font les humains. Les grands modèles linguistiques et leurs successeurs sont en passe de devenir des substituts compétitifs, voire supérieurs, aux humains dans presque tous les rôles économiques et décisionnels importants au cours de la prochaine décennie. Je partage également l’avis de M. L’Allié selon lequel la perte de contrôle de l’IA, et son usage par des acteurs malveillants, peut mener à des risques catastrophiques bien réels.
Néanmoins, même si nous parvenons à faire face à ces risques immédiats, je souhaite aborder un défi plus vaste auquel nous serons confrontés. Le problème fondamental est que nous sommes en passe de rendre presque tous les êtres humains obsolètes sur le plan économique, et ce, de manière permanente. Cette révolution risque logiquement d’entraîner une perte permanente du pouvoir de négociation des travailleurs. La majorité de nos concitoyens risquent ainsi de passer graduellement du statut de travailleurs essentiels à la croissance à celui de personnes embêtantes et marginalisées à la charge de l’État.
De fait, nous sommes confrontés à une problématique bien plus grave que la simple gestion d’une perturbation temporaire du marché du travail. Je suis conscient que mes propos pourraient vous rappeler les nombreuses prédictions erronées faites à propos de perturbations antérieures du marché du travail, comme lors de la révolution industrielle. Certes, l’amélioration des capacités de l’IA entraînera la création de nombreuses richesses, de nombreux nouveaux emplois, et de nouveaux créneaux économiques. Néanmoins, l’IA sera éventuellement en mesure d’occuper elle-même ces nouveaux emplois, et ce, de manière plus efficace que les humains à partir d’un certain stade.
À terme, chaque être humain, y compris nous-mêmes, sera appelé à rivaliser avec des machines au moins aussi compétentes que nous, mais plus rapides, plus réactives, plus fiables, et moins coûteuses. Voilà l’objectif avoué des plus grandes entreprises spécialisées dans l’AGI, ou intelligence artificielle générale, et elles sont déjà en bonne voie d’atteindre cet objectif.
On pourrait s’attendre à ce que les dirigeants des grandes sociétés spécialisées dans l’intelligence artificielle aient une réponse à la question de savoir comment le développement de l’AGI est censé profiter économiquement, même indirectement, au citoyen ordinaire. Néanmoins, leur position constante est qu’il s’agit en réalité d’un énorme problème qui demeure insoluble pour le moment. Je tiens à saluer leur honnêteté à cet égard.
Par exemple, voici ce que Dario Amodei, PDG d’Anthropic, a écrit dans un essai publié l’an dernier:
... à long terme, l’intelligence artificielle risque de devenir si efficace et si bon marché que [l’avantage comparatif] ne s’appliquera plus. À ce stade, notre système économique actuel n’aura plus aucun sens...
Lorsque Sam Altman, PDG d’OpenAI, s’est récemment vu poser la question: « Comment les gens vont-ils survivre à la révolution de l’IA ? », il a simplement répondu la chose suivante: « Je ne sais pas, et personne d’autre ne le sait non plus. ».
Au cours des dernières années, je me suis beaucoup entretenu avec des collègues qui travaillent dans des laboratoires industriels, des instituts de recherche, et dans le monde universitaire. Je leur ai tous demandé s’ils avaient une vision cohérente concernant la manière dont les intérêts humains pourraient continuer d’être servis une fois que nous ne serons plus compétitifs sur le plan économique. Le seul consensus est que la possibilité pour les travailleurs de rivaliser et de gagner de l’argent est en train de disparaître. En vérité, la plupart de mes collègues qui partagent ce point de vue continuent de s’enrichir au sein de la Silicon Valley.
Et qu’est-ce que tout cela signifie pour les travaux de votre comité? Le principal élément que je voudrais que vous gardiez à l’esprit à l’avenir, c’est que les travailleurs ont raison de craindre d’être éventuellement remplacés par la robotisation, l’automatisation et l’intelligence artificielle. Il ne s’agit pas seulement d’une période de perturbation après laquelle les choses reviendront à la normale. La voie par défaut est que nous devenions tous inaptes à l’emploi, sauf dans des contextes de travail obligatoire, puis que nous soyons finalement marginalisés au profit d’une économie mécanisée orientée vers la croissance au nom de la compétitivité.
Le deuxième élément à garder à l’esprit est que nous devons nous attendre à ce que les gouvernements deviennent généralement beaucoup moins réactifs envers les besoins de leurs propres citoyens après que cela se produise. Le besoin de main-d’œuvre humaine harmonise de manière naturelle les incitations de l’État avec celles de ses citoyens. À l’heure actuelle, les investissements dans l’éducation et le capital humain finissent par être rentables pour tout le monde. Néanmoins, l’obligation fiduciaire exigera bientôt d’investir principalement dans des centres de données, des centrales électriques, ainsi que des usines de robotique.
Enfin, il n’y a aucun moyen de résoudre ce problème sans une coordination mondiale. Le remplacement humain peut se produire même si toutes les personnes concernées préfèrent donner la priorité aux intérêts humains. Ce sera tout simplement le seul moyen de rester compétitif. Chaque pays, chaque secteur d’activité et chaque travailleur doit choisir entre s’adapter le plus rapidement possible à l’intelligence artificielle ou être devancé par la concurrence. Personne ne peut agir seul pour ralentir ou atténuer le choc de la perte éventuelle de pertinence de l’être humain.
Je vous remercie.
La présidente : Je vous remercie, monsieur Duvenaud. Madame Raji, à vous la parole, je vous prie.
Inioluwa Deborah Raji, chercheuse, Université de la Californie, Berkeley, à titre personnel : Bonjour. Je m’appelle Deborah Raji, et je suis chercheuse en informatique à l’Université de Californie à Berkeley. Mes travaux portent principalement sur la reddition de comptes en matière d’intelligence artificielle au sein des politiques publiques, en particulier en ce qui concerne les paramètres de déploiement d’intérêt public.
Deux grandes questions m’intéressent particulièrement. Premièrement, que signifie la notion de « fonctionner » pour les systèmes d’intelligence artificielle, et au bénéfice de qui ces systèmes fonctionnent-ils? Deuxièmement, en cas d’échec et de dommages fonctionnels, qui doit être tenu responsable? Comment pouvons-nous évaluer la qualité des choix effectués en matière de conception, de développement et de déploiement de systèmes d’intelligence artificielle?
Je travaille avec différents réseaux de praticiens : Health AI Partnership, dont les travaux se portent principalement sur le secteur des soins de santé; ITU, une coalition de personnes qui s’intéressent au déploiement de l’intelligence artificielle dans le secteur de l’éducation; et GovAI Coalition, un groupe de dirigeants municipaux et gouvernementaux qui réfléchissent au déploiement de l’intelligence artificielle au sein de la fonction publique.
Je travaille également avec de nombreux groupes de la société civile. Je collabore avec l’American Civil Liberties Union, ou union américaine pour les libertés civiles, et la Leadership Conference, ou conférence sur le leadership. Je siège à leur comité consultatif pour ce qui a trait à leur travail sur les politiques technologiques. Je travaille également avec divers gouvernements fédéraux au Royaume-Uni, aux États-Unis et au Canada. Tout comme M. Kristjansen Duvenaud, je fais partie du Groupe consultatif sur l’IA sécuritaire et sûre de l’Institut canadien pour la sécurité de l’intelligence artificielle. J’ai également travaillé avec l’organisme américain qui est maintenant connu sous le nom de Center for AI Standards and Innovation, ou centre pour les normes et l’innovation en matière d’IA, et je collabore étroitement avec l’AI Security Institute du Royaume-Uni, ou institut de sécurité de l’IA, anciennement appelé l’AI Safety Institute. Dans chacun de ces cas, je me soucie particulièrement du rôle que les déploiements de l’IA jouent dans les gouvernements fédéraux.
À l’échelle internationale, j’ai également travaillé, tout comme M. Kristjansen Duvenaud, à l’élaboration du rapport international sur la sécurité de l’IA, et je suis experte-conseil auprès de l’OCDE et des Nations unies, là encore, en matière de questions relatives au déploiement sécuritaire de l’IA.
Les grands modèles de langage, ou GML, ont déjà fourni des traductions incorrectes dans des contextes cruciaux liés à l’immigration et aux soins de santé, qui ont eu des effets désastreux. Ils ont établi des diagnostics erronés et inventé des références infondées pour des affirmations scientifiques et juridiques. Même avant le déploiement des GML, des évaluations des risques effectuées au moyen de l’IA ont conduit à l’identification erronée de soi-disant fraudeurs de l’assurance-emploi, au rejet inacceptable de nombreuses demandes de logement subventionné et au refus d’accorder à des personnes des prestations de santé appropriées.
Ces défaillances détruisent de manière disproportionnée la vie de personnes sous-représentées ou mal représentées dans les données, ainsi que celle des personnes les plus susceptibles de devoir compter sur ces décisions automatisées ou d’en subir les conséquences, telles que les personnes à faible revenu ou les personnes handicapées.
Jusqu’à maintenant, il est déjà tout à fait clair que, même si ces systèmes d’IA sont très prometteurs pour l’avenir, ils peuvent échouer d’une manière inattendue et souvent indétectable qui peut avoir des effets souvent pernicieux et parfois désastreux. Ils peuvent donc causer des préjudices réels et durables aux populations marginalisées.
Pour répondre à ces préoccupations croissantes, il sera essentiel d’avancer dans un environnement où nous pourrons choisir un déploiement de cette technologie qui sera sûr et efficace pour tous. Cela ne sera possible que si la technologie est conçue, développée et déployée d’une manière plus responsable qu’elle ne l’est en ce moment.
Concrètement, je vais vous présenter trois propositions concernant la manière d’aborder cette question.
La première consiste à demander aux développeurs de l’IA, c’est-à-dire ceux qui mettent au point cette technologie, d’évaluer ces systèmes avant leur déploiement et d’expliquer de manière très claire et transparente les capacités et les limites des produits d’IA, tout en nous permettant de réaliser des vérifications internes indépendantes ou de faire appel à des vérificateurs externes spécialisés dans l’IA, avant leur déploiement.
Deuxièmement, il est important de surveiller l’utilisation des systèmes d’IA après leur déploiement et d’exiger des entités responsables de ces déploiements, c’est-à-dire les organisations qui utilisent ces systèmes d’IA, en particulier dans des domaines essentiels comme les soins de santé, l’éducation et l’administration publique, qu’ils jouent également un rôle en vue d’inciter les gouvernements à exercer une surveillance à cet égard.
Enfin, nous devons favoriser l’innovation relative à l’évaluation de l’IA, à sa sécurité, à sa responsabilisation, à ses infrastructures et à la recherche dans le domaine de l’IA.
Qu’est-ce que cela signifie plus précisément? En ce qui concerne le premier aspect, il devrait incomber aux entreprises d’évaluer correctement leurs systèmes et de décrire de manière appropriée leur rendement, avant leur déploiement. Comme dans d’autres domaines essentiels, tels que l’aérospatiale, les soins de santé et le secteur financier, il devrait y avoir des vérificateurs internes ou des entités distinctes de l’organisation technique, qui sont capables de mener des évaluations des risques et une analyse complète des attentes minimales normalisées en matière de sécurité de ces technologies, tant dans des circonstances particulières que dans un contexte plus général. Les entreprises devraient être tenues de procéder à des essais internes adéquats et de documenter et communiquer au public les limites, les capacités et les risques des modèles qu’elles déploient.
De plus, nous ne pouvons pas nous fier uniquement aux discours des entreprises. Le gouvernement devrait permettre qu’une surveillance externe indépendante soit exercée sur les systèmes algorithmiques déployés en garantissant l’accès aux données, à la protection contre les représailles des entreprises et à la divulgation des renseignements relatifs aux modèles de données à des vérificateurs tiers.
Deuxièmement, des garde-fous devraient être mis en place immédiatement quand des systèmes d’IA sont utilisés dans des domaines d’intérêt public caractérisés par des enjeux importants, notamment en exigeant des organisations d’intérêt public qu’elles utilisent ces systèmes dans ces domaines pour surveiller les répercussions des déploiements après la mise en place des systèmes d’IA. Les déploiements d’IA ont lieu même dans des domaines réglementés, comme la finance et les soins de santé, ainsi que dans des domaines protégés par des droits civils, comme l’éducation, le logement et l’emploi.
Il n’existe aucune exception liée à l’IA aux lois en vigueur en matière de droits civils, de sécurité des produits et de protection des consommateurs. Les organisations qui choisissent d’adopter et de déployer cette technologie dans des applications caractérisées par des enjeux importants ne devraient pas être exemptées de toute responsabilité. De plus, comme nous sommes encore en train de catégoriser la nature des préjudices associés à ces outils à usage général, un plan sérieux doit être élaboré pour exiger des entités responsables de ces déploiements qu’ils mènent à des essais adéquats et continus ainsi qu’une surveillance après la commercialisation de ces systèmes.
Enfin, le gouvernement devrait prendre au sérieux son engagement à investir dans l’innovation bidirectionnelle afin de ne pas se contenter de favoriser le développement de cette technologie d’IA sans soutenir également les organismes de recherche et les outils qui favorisent l’élaboration d’une infrastructure de responsabilisation, de mécanismes d’engagement participatif et d’efforts adéquats d’atténuation des préjudices.
Il n’y a rien d’hypothétique à considérer à cet égard. L’IA est une technologie qui a actuellement des conséquences concrètes, des conséquences qui ne feront que s’aggraver à mesure que les écosystèmes technologiques et industriels mûriront et que la population touchée continuera de croître.
Si nous voulons vraiment nous attaquer à ces problèmes, nous devons faire preuve de diligence dans la manière dont nous gérons ces préoccupations. Je vous remercie de votre attention.
La présidente : Je vous remercie, madame Raji. Nous allons maintenant passer aux questions des membres du comité. Vous aurez donc l’occasion d’étoffer vos observations.
Pour ce groupe d’experts, les sénateurs disposeront de quatre minutes pour poser leurs questions, et obtenir des réponses.
La sénatrice Burey : Je vous remercie tous de vous être joints à nous et d’avoir fait preuve d’une telle franchise envers notre comité. Ces études sont l’un des travaux que le Sénat fait le mieux.
Nous avons entendu ce qu’a dit le professeur Hinton, et nous avons entendu ce que vous avez dit. Je ne reviendrai pas là‑dessus. Nous parlons de problèmes de sécurité, de gouvernance et de responsabilisation. Comment pouvons-nous nous occuper de ces enjeux au moyen de mesures législatives? Que devons‑nous faire? Vous avez parlé de la communauté internationale qui se mobilise, mais que pouvons-nous faire, en tant que législateurs? J’adresse cette question à tout le monde.
M. Tessari L’Allié : Nous avons absolument besoin de réglementations et de lois contraignantes concernant les essais préalables au déploiement et les mesures de responsabilisation en cas de problème, et ce sont des lacunes que vous pouvez combler en tant que législateurs chargés d’adopter des lois. Le fait que l’on puisse commercialiser un modèle très puissant sans que des essais indépendants aient été menés est un très gros problème, et ce problème ne pourra être réglé que si des lois existent pour le faire. Les codes volontaires sont une excellente chose, mais même Anthropic, qui est considérée comme la plus responsable des entreprises d’IA et qui s’était engagée à « ne déployer que des systèmes sûrs », est revenue sur cet engagement hier, en raison de la concurrence d’autres entreprises.
En gros, les codes volontaires ne fonctionneront pas. Il faut imposer des réglementations strictes et des conséquences contraignantes.
Mme Raji : J’ai partagé quelques idées à propos des mesures que les organismes de réglementation pourraient prendre, selon moi. Aux États-Unis, nous avons beaucoup d’expérience de la gestion de cet enjeu. Les répercussions les plus importantes que nous avons observées au sujet de cet enjeu ont été les suivantes. Quelques-uns d’entre nous travaillaient au déploiement de l’IA et réfléchissaient à son rendement, à ses fonctionnalités et à ses essais. En 2023, le président Biden a été en mesure de signer un décret présidentiel sur l’IA qui exigeait, par exemple, que différents organismes fédéraux rendent compte des systèmes d’IA qu’ils déployaient au sein de leur administration dans un répertoire d’IA, et qu’ils présentent un plan sur la manière de mettre à l’essai ces systèmes et sur les fonctionnalités à cibler. Avant cela, l’Office of Science and Technology Policy, ou bureau de la politique scientifique et technologique, alors dirigé par Alondra Nelson, avait publié une charte des droits en matière d’intelligence artificielle. Cette charte présente de manière détaillée toutes les considérations nécessaires à ce travail, d’un point de vue politique, ainsi que les restrictions à mettre en place avant de permettre au gouvernement ou au public d’adopter des outils d’IA.
Cela dit, et pour revenir à la question qui vient d’être soulevée, une grande partie du rôle actuel du gouvernement ou la manière dont il a entamé un dialogue avec des développeurs d’IA, c’est‑à‑dire les organisations ou les entreprises qui développent ces technologies, a consisté à se contenter de ces engagements volontaires. Certains acteurs du secteur se sont fortement engagés à cet égard. Dans le cadre de mon travail avec les instituts de sécurité de l’IA, par exemple, des entreprises comme Anthropic ont participé de manière assez volontaire. Cependant, je ne crois pas que cela soit suffisant. Il y a une limite à ce que ces entreprises sont prêtes à faire, surtout lorsque la recherche des profits entrave leur capacité à participer à des vérifications de sécurité. De plus, comme il s’agit d’entreprises, elles sont assujetties à des restrictions en matière de transparence et de secret commercial. Il faut aussi garder cela à l’esprit.
Comme je l’ai mentionné dans ma déclaration préliminaire, nous devons exiger que les développeurs d’IA procèdent à des essais préalables au déploiement, puis exiger des responsables du déploiement de l’IA, y compris les utilisateurs gouvernementaux de la technologie d’IA, qu’ils fassent également preuve de transparence et qu’ils assurent une surveillance après la commercialisation, en plus de mettre en œuvre d’autres types d’essais et de mesures de transparence.
M. Kristjanson Duvenaud : Certains des engagements volontaires pris par les laboratoires, comme la nouvelle politique de mise à l’échelle responsable, ou responsible scaling policy, fournissent également des modèles qui pourraient être utilisés pour mettre au point des mesures législatives, des mesures qui permettraient probablement de rendre des comptes à tout le monde. Par conséquent, un pas dans la bonne direction consisterait à rendre certains de ces engagements volontaires contraignants d’un point de vue réglementaire. Cependant, en ce qui concerne les préoccupations que j’ai soulevées concernant le remplacement des êtres humains, la seule option consiste essentiellement à œuvrer en faveur de la création d’organismes mondiaux qui pourraient, en principe, contrôler ou limiter le développement de l’intelligence artificielle générale à l’échelle mondiale.
La sénatrice Hay : Je vous remercie tous de votre présence. Certains jours, j’ai du mal à épeler « IA », mais je vais poser la même question que j’ai posée hier aux représentants du gouvernement. Je suis curieuse de connaître votre réponse à cette question. Elle concerne le stockage des données, leur transmission et les garde-fous que nous devrions peut-être mettre en place. À l’heure actuelle, nos données sont transmises à l’extérieur du Canada, puis retournées dans notre pays, par l’intermédiaire de la plateforme Twilio ou d’un autre mécanisme. Ensuite, elles aboutissent dans un centre de données situé en sol canadien, qui appartient souvent à AWS. Comme le centre de données se trouve à Montréal, les données sont bien à l’abri en sol canadien, sauf que ces entreprises, à savoir Microsoft, AWS, et cetera, sont américaines et qu’elles sont régies par des lois américaines. Le fait que le gouvernement américain peut utiliser un décret présidentiel pour avoir accès aux données de ces entreprises, quel que soit l’emplacement de leur centre de données, nous empêche de défendre nos frontières numériques et notre souveraineté.
Comment pouvons-nous nous défendre contre cette possibilité? Je crois que cette entreprise coûtera des milliards de dollars.
Mme Raji : J’ai une brève observation à formuler à ce sujet. Je ne sais pas si vous collaborez déjà avec l’Office de l’IA de l’Union européenne. Ses membres réfléchissent beaucoup à la souveraineté numérique en matière de données, ce qui a été un thème majeur de la Loi sur les services numériques et du Règlement général sur la protection des données, ou RGPD. La protection des données est une priorité absolue dans l’Union européenne. Il serait donc formidable que le Canada s’implique davantage dans ce domaine. Je sais que nous avons un Commissariat à la protection de la vie privée très efficace au Canada, ce qui nous permettrait de nouer un excellent partenariat avec l’Union européenne à cet égard. J’aimerais beaucoup voir l’Union européenne collaborer avec le Canada dans ce domaine.
M. Kristjanson Duvenaud : À cet égard, je voudrais m’en remettre à mon collègue, Nitarshan Rajkumar, qui est canadien et qui a contribué à la rédaction d’une partie du code de bonnes pratiques pour l’IA de l’Union européenne. Il a longuement réfléchi à ces questions. Personnellement, je n’ai pas d’opinion particulière concernant l’importance de la souveraineté numérique dans différents contextes.
M. Tessari L’Allié : Cela dépasse également mes compétences.
La sénatrice Hay : Je vais vous poser la même question que j’ai posée au professeur Hinton. Il a répondu que cela dépassait ses compétences, alors cela dépassera peut-être aussi les vôtres. Vous avez parlé de l’évaluation et de la mise à l’essai des produits avant leur déploiement, puis de leur surveillance. Le professeur Hinton a parlé de réglementations et de robots conversationnels. Je suis curieuse de savoir comment vous élaboreriez des réglementations à cet égard, étant donné que les robots conversationnels peuvent être créés n’importe où.
Mme Raji : En Californie, l’Assemblée législative de l’État de Californie discute actuellement de la réglementation des robots conversationnels et, dans ce contexte, elle réfléchit à certains des risques qu’ils peuvent présenter pour la santé mentale et au rôle des essais préalables au déploiement. De même, au Royaume-Uni, l’AI Security Institute — anciennement connu sous le nom d’AI Safety Institute — a beaucoup investi pour tenter de détecter et d’évaluer les risques de suicide présents dans certains de ces modèles.
Je vais mentionner quelques enseignements tirés de l’expérience californienne, et je vous encourage vivement à communiquer avec les membres de l’Institut britannique de sécurité de l’IA qui mènent des recherches dans ce domaine.
Bon nombre de gens en concluent que, premièrement, la méthodologie n’est en réalité pas très robuste. Ainsi, chaque fois que nous parlons d’essais préalables au déploiement, nous précisons — et M. Hinton l’a aussi mentionné au cours de son témoignage — que le gouvernement pourrait jouer un rôle important dans l’amélioration de la sécurité de ces systèmes, en investissant simplement dans la recherche sur la sécurité de l’IA et dans les infrastructures nécessaires pour faire avancer les travaux. Certaines des recherches les plus novatrices dans ce domaine ont déjà été menées au Canada, et il serait intéressant de consacrer davantage de projets de recherche et de ressources à la mise au point d’outils qui permettent de détecter et d’évaluer les risques dont nous parlons. Voilà donc un enseignement. Comme nous ne disposons pas d’une méthodologie robuste pour évaluer ces risques, l’une des solutions consisterait à investir dans l’Institut canadien pour la sécurité de l’intelligence artificielle.
La sénatrice McPhedran : Je vous remercie beaucoup d’avoir pris le temps de vous joindre à nous et de partager des connaissances que la plupart d’entre nous ne peuvent même pas commencer à envisager. Professeur Duvenaud, j’ai ressenti un moment de terreur absolue pendant votre intervention, et je voudrais vous poser une question assez concise à ce sujet. En tant que législateurs, de combien de temps disposons-nous pour prendre des mesures efficaces dans ce domaine — car on nous répète sans cesse que c’est notre travail et notre responsabilité?
M. Kristjanson Duvenaud : Je dirais que nous approchons d’une période où notre capacité à intervenir efficacement sera maximale, mais nous n’en sommes probablement pas encore tout à fait là. Fondamentalement, j’estime que, grâce en partie à l’IA et, de manière générale, à notre capacité d’améliorer la gouvernance, il apparaît de plus en plus clairement que la possibilité de coordonner nos efforts à l’échelle mondiale et notre capacité de coordination et de prévision vont progressivement s’améliorer au fil du temps. L’une des interventions techniques que nous pouvons mettre en œuvre consiste à essayer de faire en sorte qu’il soit plus facile pour les gens de croire en cette vision de l’avenir en s’appuyant sur un plus grand nombre d’experts, au lieu de se fier uniquement à la parole de quelqu’un comme moi.
Je m’attends à ce que notre capacité à coordonner nos efforts dans ce domaine s’améliore pendant un certain temps. Le public commence tout juste à prendre conscience de l’importance de la question. La semaine dernière, des programmeurs ont vraiment commencé à regarder la réalité en face et à admettre que leurs compétences étaient essentiellement désuètes. C’est le problème auquel nous allons probablement faire face dans un avenir proche. Je constate que notre volonté d’agir et notre capacité à coordonner nos efforts augmentent. Puis, à un moment donné, à mesure que les gens seront remplacés et deviendront inutiles, notre capacité à manifester notre volonté et à faire en sorte que nos institutions obéissent à nos intérêts va diminuer. Je considère que les deux à six prochaines années constituent la période la plus importante.
C’est très difficile à dire à quel moment cela va arriver et quelles parties de l’économie seront automatisées. Comme Geoffrey Hinton l’a mentionné, nous ne savons pas vraiment qui seront les premiers à perdre leur emploi. Il pourrait y avoir une longue période de travail physique, où il y aura encore beaucoup d’emplois dans ce secteur. Je dirais que notre capacité d’agir là-dessus va probablement s’améliorer un peu au cours des deux prochaines années.
M. Tessari L’Allié : L’évolution de l’IA est complexe, et différents aspects se feront sentir à différents moments. Il reste facilement de deux à six ans avant que les emplois ne soient touchés; toutefois, les risques concernant la sécurité, la perte de contrôle et la représentation sont bien réels actuellement. Vous n’avez pas deux ou trois ans pour adopter un projet de loi prévoyant des balises; il faut adopter des mesures très rapidement. Je suis au courant du projet de loi C-5 de l’an dernier, mais c’est le rythme auquel il faut agir pour protéger les Canadiens.
Mme Raji : Le temps d’agir, c’est maintenant. J’interagis avec bon nombre de groupes de la société civile et de gens sur le terrain. Les gens vivent déjà les contrecoups du déploiement inapproprié ou prématuré de ces systèmes. Il est urgent de répondre aux préoccupations soulevées sur le terrain à l’heure actuelle, et ce sera un excellent point de départ pour régler les enjeux qui se présenteront à l’avenir. Je réitère l’urgence que les autres témoins ont soulignée.
La sénatrice Senior : Merci à tous de vos témoignages. Je suis moi aussi très craintive face à ce que vous nous avez présenté.
Je voudrais en savoir plus sur ce que vous nous avez dit, madame Raji, concernant certains groupes avec qui vous travaillez, dont l’ACLU.
Je pense à la population en général, aux gens vulnérables et aux Américains qui ont perdu leurs soutiens, comme leur assurance-médicaments. J’ai des gens dans ma parenté qui l’ont perdue et qui ont dû faire tout un processus pour la récupérer. Je pense à ce genre de conséquences bien réelles qui touchent les gens les plus vulnérables, qui ont moins de capacités pour se défendre.
Je ne pense pas avoir encore entendu ce genre d’histoires au Canada. Je ne sais pas si quelqu’un connaît des histoires où l’intelligence artificielle sert à établir qui recevra des prestations ou non. J’aimerais connaître la situation au Canada, de même que celle aux États-Unis.
Mme Raji : Le département du Trésor a été l’un des premiers à utiliser les évaluations d’impact des outils d’IA sur leur protocole relatif aux fournisseurs. Ce département dispose d’une base de données sur les différentes applications de l’IA concernant différents groupes gouvernementaux. Je pense qu’il y a des applications qui portent sur les services sociaux.
Au Canada, c’est clair qu’on a utilisé l’IA pour déterminer les prestations par le passé. Je ne suis pas certaine de quelles prestations il s’agit exactement, mais c’est clair que cela se fait jusqu’à un certain point au Canada.
De plus, le Globe and Mail a fait état de l’utilisation de l’IA dans le système de justice pénale au Canada, notamment Clearview AI et des outils de reconnaissance faciale. Je pense certainement que cela se fait au Canada et que cela constitue un risque au Canada.
Ces groupes de la société civile m’ont approchée, parce qu’une grande partie de mes recherches porte sur la fonctionnalité. M. Hinton, M. Kristjanson Duvenaud et d’autres ont parlé de cas où la technologie fonctionne très bien. Nous ne savons pas comment réagir en pareilles circonstances.
Si nous perdons le contrôle de ces systèmes ou qu’ils finissent par remplacer les humains, comment devrons-nous nous y prendre? Une grande partie de mes recherches conclut qu’en fait, nous n’en sommes pas encore là. Cette technologie n’est pas parfaite. Souvent, on la déploie avant qu’elle ne soit prête, alors elle échoue. Elle ne répond pas à nos attentes en matière de rendement. Qui est oublié dans le processus? Qu’est-ce qui échoue? Qui n’en bénéficie pas? Ce sont les différents aspects que les groupes de la société civile et moi faisons valoir. Bon nombre de personnes sont aux prises avec des prédictions ou des jugements incorrects qu’elles doivent porter en appel.
M. Kristjanson Duvenaud : Je suis d’accord que les systèmes actuels font parfois des erreurs de manières systématiques. L’enjeu sur lequel je me concentre, c’est que comme M. Hinton l’a mentionné, il est plus facile d’automatiser ces systèmes que les humains. Nous nous attendons à ce que les efforts des gens comme Mme Raji permettent tôt ou tard à ces systèmes d’arriver à un point où ils sont bien moins biaisés que les systèmes humains actuels.
Au bout du compte, la crainte, c’est que ces systèmes fonctionnent si bien que les humains n’ont plus besoin d’y participer.
Mme Raji : Ce n’est pas pour tout de suite.
M. Tessari L’Allié : Je pense que les gouvernements sont plutôt responsables. Ils évaluent l’impact de l’IA avant son déploiement. Je dirais que je suis moins préoccupé à l’heure actuelle par l’utilisation qu’en fait le gouvernement, par rapport à ce qu’en font les secteurs public et privé.
Le sénateur Boudreau : J’ai une question assez semblable à vous poser, mais elle porte sur l’appareil gouvernemental. À la fin de notre étude, nous allons faire des recommandations au gouvernement. À l’échelle provinciale, j’ai vu de première main que des enjeux complexes de la sorte peuvent poser des difficultés au gouvernement, en partie parce qu’ils s’appliquent à plusieurs ministères en même temps et qu’il n’y a pas qu’un seul responsable.
Avez-vous des conseils à nous donner sur la façon d’organiser l’appareil gouvernemental pour traiter des enjeux aussi vastes et complexes? L’adoption de ces outils d’IA dans les ministères ne m’intéresse pas vraiment. Je veux plutôt savoir comment les gouvernements pourront gérer les nombreuses incidences sociales de l’IA partout au pays, que ce soit en matière de système de justice, d’économie ou de prestation de service. Quels conseils donneriez-vous au gouvernement là-dessus?
M. Tessari L’Allié : Tout d’abord, j’appuierais ses efforts pour créer un registre de l’IA. Je pense que c’est une bonne idée. On saurait au moins comment l’IA est utilisée de prime abord. Oui, il faut investir davantage dans la surveillance des incidences. C’est difficile, car il y a tellement de types d’incidences différents, et les capacités du gouvernement sont limitées.
Oui, il convient d’abord de savoir ce qui se fait, surtout avec les agents d’IA dans le secteur privé, là nous ne savons vraiment pas de quoi il en retourne. La situation est donc sans doute bien pire que nous ne le réalisons, car nous ne savons pas ce qui se fait.
M. Kristjanson Duvenaud : Actuellement, on ne consacre pas beaucoup d’efforts à surveiller comment l’IA remplace les travailleurs humains. Anthropic publie un indice économique. OpenAI fait quelque chose de semblable, ce qui est un pas dans la bonne direction. Ce serait donc sans doute une bonne chose que les gouvernements fassent des efforts pour créer un registre plus vaste et plus officiel.
Comme je l’ai déjà dit, il y a des limites à ce qu’un seul gouvernement peut faire, mais je pense que ce serait un pas dans la bonne direction pour gagner du temps afin de prolonger la période durant laquelle l’option la plus efficace constitue de faire travailler les humains avec l’IA. Il y a là un léger obstacle, car c’est plus facile d’évaluer comment une machine peut faire le travail à elle seule. On n’a pas besoin d’embaucher un humain qui va aider l’employé à pratiquer les tâches et qui va l’évaluer. C’est bien plus facile de tout faire avec une machine.
Les gouvernements pourraient subventionner l’évaluation des équipes humains-machines dans différents contextes pour encourager le développement de ce type de travail comme étant la meilleure option viable à plus long terme. En fin de compte, la solution qui fait appel uniquement à la machine sera toujours la meilleure, mais si nous pouvons prolonger la période durant laquelle on emploie aussi des humains, je pense que ce sera un pas dans la bonne direction.
La sénatrice Osler : Merci à tous les témoins de leur présence ici aujourd’hui.
Ma question s’adresse à M. Kristjanson Duvenaud, mais j’inviterais ensuite les autres témoins à y répondre aussi s’ils le souhaitent.
Vous nous avez présenté des arguments nuancés sur l’incidence économique de l’IA en matière de perte d’emplois par secteur et d’humains remplacés par l’IA qui perdent leur gagne-pain et deviennent dépendants de l’État. M. Hinton nous a parlé des pays qui perdraient leur assiette fiscale et du revenu universel de base. Tous ces facteurs pourraient perturber la société encore plus.
Ma question ressemble à celle que j’ai posée à M. Hinton. Si vous représentiez le gouvernement du Canada ou étiez un parlementaire canadien, par quoi commenceriez-vous le travail en matière d’incidence économique de l’IA? Mèneriez-vous une étude? Faudrait-il selon vous élaborer une réglementation ou une législation?
M. Kristjanson Duvenaud : Bien sûr, oui. La réponse courte, c’est qu’il faut améliorer les institutions et mieux axer toute notre civilisation sur les intérêts de l’humain avant de perdre les sources d’harmonisation naturelles du travail de l’humain et, au fond, le besoin d’avoir des humains.
Je ne suis pas sociologue. Je suis un informaticien qui demande à tout le monde: quel est le plan? Il n’y a pas de plan. La plupart de mes collègues sociologues sont toujours à l’étape du déni et disent que l’IA ne peut pas encore faire ceci ou cela ou qu’elle présente des failles. Je suis tout à fait d’accord, mais nous sommes en voie de régler ces problèmes.
J’aimerais beaucoup trouver plus de collègues, de fonctionnaires ou autres qui sont prêts à regarder assez loin dans l’avenir pour voir que cela devient plausible et que nous n’aurons plus à nous soucier de ces enjeux.
Nous avons parlé du revenu universel de base. Je pense que c’est un grand pas dans la bonne direction, mais je ne pense pas que cela sera stable. Je pense que la situation sera très délicate et que bien des manifestants à temps plein vont exiger plus d’argent. Il y aura toutes sortes de cas exceptionnels où les clones numériques des gens vont exiger ce revenu. Je ne sais pas exactement de quoi cela aura l’air, mais je pense qu’il y aura une lutte permanente en matière de revenu universel de base. C’est le grand problème que nous devons nous préparer à régler.
Au bout du compte, je pense que nous devrons être prêts à refonder nos institutions ou à avoir une réceptivité plus durable envers les citoyens que le genre de mécanismes indirects que nous avons actuellement.
M. Tessari L’Allié : La complexité de l’économie et de la société en général est telle que la première chose à faire à l’heure actuelle, c’est d’étudier les incidences de l’IA et d’examiner les cas de figure positifs et négatifs que nous voulons encourager ou éviter. Il vous reste un peu de temps pour faire de telles études, mais j’agirais quand même assez rapidement. Il faut aussi faire la distinction avec l’aspect sécuritaire, sur lequel il faut agir tout de suite.
Mme Raji : J’ajouterais brièvement que d’un point de vue pratique, à l’Assemblée législative de la Californie, nous reconnaissons que bien des restrictions en matière de recherche sur les incidences économiques sont dues aux enjeux de publication des données. En dehors des entreprises d’IA de pointe, très peu de gens savent vraiment comment l’IA est utilisée en pratique et dans toute sa diversité. Il faut donc que les organismes publics emploient ces outils pour publier l’information sur la façon don l’IA est utilisée. Sinon, les gouvernements pourraient exiger que ces entreprises divulguent leurs données à des vérificateurs externes ou à des chercheurs.
M. Tessari L’Allié : Le problème avec les données sur ce type d’enjeux, c’est qu’elles montrent seulement ce que l’IA actuelle peut faire. Le gouvernement doit se préparer à ce que l’IA sera capable de faire à l’avenir. Dans ce cas, il faut davantage faire de la planification et des efforts de prévision stratégique qu’examiner les données sur ce que l’IA peut faire actuellement.
Le sénateur Cuzner : Je repense encore à la question de la sénatrice McPhedran, qui vous demandait si l’IA allait nous tuer avant que les changements climatiques ne le fassent. C’est une réunion assez épeurante.
Ma question s’adresse au représentant de GSIA. Nous avons une stratégie pancanadienne sur l’IA et trois centres d’excellence à Toronto, Edmonton et Montréal. Pour ceux qui ne connaissent pas trop le sujet, les recommandations que vous faites dans votre livre blanc paraissent tout à fait sensées. À votre troisième recommandation, vous dites qu’il est impératif de nous pencher sur les systèmes de défense. Est-ce que ces centres d’excellence seraient chargés d’examiner ce genre d’enjeu? Vous pourriez peut-être nous dire comment votre organisation interagit avec ces centres d’excellence.
M. Tessari L’Allié : En tant qu’ancien militant du climat qui est devenu militant en matière d’IA parce qu’il s’agit d’un enjeu plus vaste et plus urgent, je suis préoccupé moi aussi.
Concernant ce que les centres Amii, Mila et Vector peuvent faire en matière de défense, je m’en remettrais à M. Kristjanson Duvenaud, simplement parce que je ne sais pas à quel point ces centres examinent cet enjeu de manière systémique. Comment pouvons-nous renforcer notre superstructure internet et nos centres de données en cas d’attaque majeure, s’il faut éteindre un serveur parce qu’un agent d’IA est en train de s’en servir? Comment devrions-nous coordonner nos efforts? Comment pouvons-nous nous assurer que le gouvernement peut éteindre des parties du système en cas d’incident? C’est sans doute une question de protection civile et de sécurité nationale qui excède le niveau de cote de sécurité de bien des instituts.
M. Kristjanson Duvenaud : En général, les centres Vector, Mila et Amii mènent de la recherche pure et abstraite plutôt que de la recherche appliquée dont il serait pertinent de parler ici. Il y a certainement des gens prêts à faire des détachements ou des stages, mais en général, l’essentiel du travail porte sur la recherche pure menant à de vastes tests pour améliorer les grands modèles de langage, plutôt que sur le déploiement ou la robotique qui concernent surtout la R-D normale.
Mme Raji : Au Royaume-Uni, l’institut de sécurité sur l’IA est le groupe qui traite ce genre d’enjeux. L’Institut canadien pour la sécurité de l’intelligence artificielle pourrait y faire appel.
Le sénateur Cuzner : Madame Raji, M. Hinton a parlé du projet de loi 1047 de la Californie qui était un peu léger, mais c’était un début. Par contre, le gouverneur Newsom est arrivé et l’a torpillé.
Aimeriez-vous nous en parler? Pourquoi le gouverneur y a-t-il mis fin? Est-ce que la Californie planche sur une autre stratégie qui réglerait les mêmes enjeux?
Mme Raji : Le projet de loi 1047 est devenu digne de Frankenstein. Bien des gens y avaient ajouté des annexes. Le gouverneur Newsom est devenu nerveux quant à la taille du projet de loi lorsqu’il a été adopté par l’Assemblée législative de la Californie, c’est donc pourquoi il y a opposé son droit de veto.
Il a aussi ajouté l’exigence ou le besoin d’avoir des preuves avant de prendre des mesures tangibles pour restreindre les actions des entreprises dans l’État. Un autre aspect très important, c’était que les risques soulevés dans le projet de loi n’étaient pas fondés sur des preuves concrètes. C’est la raison qu’a mentionnée le gouverneur Newsom dans sa lettre de véto.
[Français]
La sénatrice Petitclerc : Merci beaucoup d’être là.
[Traduction]
Je me rends compte que ce n’est peut-être pas votre domaine d’expertise, mais en vous écoutant, je songe aux mesures de protection et de préparation. Je ne peux m’empêcher de m’inquiéter pour la prochaine génération — nos jeunes. Je sais que nous aurons l’occasion plus tard de parler davantage de leur exposition à l’intelligence artificielle, mais ce dont j’aimerais vous entendre parler — et j’espère que vous pourrez nous éclairer là-dessus —, c’est ceci : lorsque nous réfléchissons à la perte d’emplois et à l’avenir des enfants qui grandissent aujourd’hui, à qui revient la responsabilité de prévoir ce à quoi ressemblera leur monde et de déterminer comment les préparer adéquatement? La transition est déjà en marche. Espérons qu’elle se déroulera en toute sécurité. Effectuons-nous des recherches à ce sujet? Le gouvernement devrait-il élaborer des modèles et des scénarios? Qui s’en occupe? Est-ce que nous y contribuons?
M. Tessari L’Allié : Ce qui se fait actuellement est trop peu et trop lent. Il s’agit assurément d’un travail de prévision stratégique et de planification de scénarios, car nous ne connaissons pas les risques associés aux multiples trajectoires possibles de l’intelligence artificielle.
À l’heure actuelle, l’éducation vise, en grande partie, à former les jeunes pour les emplois du futur. Si nous entrons dans un monde où le travail n’aura plus la même place, alors la nature même de l’éducation et son utilité changent. Idéalement, elle se recentrera sur l’épanouissement personnel et le développement moral, selon les intérêts de chacun, mais il faudra repenser en profondeur l’éducation et le rôle des êtres humains dans l’économie. Cette recherche doit se faire assez rapidement.
M. Kristjanson Duvenaud : Si je suis ici, c’est parce que je n’ai encore jamais entendu qui que ce soit présenter le moindre modèle permettant d’imaginer à quoi pourrait ressembler notre civilisation ou comment elle pourrait fonctionner pour un enfant qui grandit aujourd’hui. Mon fils aîné a 7 ans. Je serais très étonné qu’il fasse des études, se prépare à un métier pendant quelques années et puisse ensuite l’exercer pendant plus de deux ou trois ans. En somme, je n’ai pas de réponse, et personne n’en a.
La sénatrice Petitclerc : C’est un point d’interrogation.
M. Kristjanson Duvenaud : En effet. Je dois dire que donner des cours à l’université devient déprimant parce que les étudiants se rendent compte qu’on peut leur apprendre à manier les grands modèles de langage au cours des prochaines années, mais il est évident que, dans quelques années, ces modèles seront suffisamment performants pour faire eux-mêmes tout ce que les étudiants pourraient apporter comme valeur ajoutée. Encore une fois, c’est pour cette raison que je suis ici.
La sénatrice Greenwood : Merci à nos invités d’aujourd’hui. Je ne m’y connais pas trop en intelligence artificielle, alors je vous prie de garder cela en tête. Je vous ai écoutés très attentivement, vous et l’intervenant précédent. Ma spécialité, c’est le domaine des sciences sociales. C’est ce que je faisais comme travail avant d’arriver ici.
J’aimerais entendre vos réactions aux réflexions suivantes. Elles me sont venues à l’esprit pendant que je vous écoutais.
La première repose sur l’observation de M. Hinton au sujet de l’instinct maternel. Comment préserver des parcelles d’humanité au sein d’un système d’intelligence artificielle? Je sais que l’instinct maternel, le jugement moral et d’autres notions de ce genre font l’objet de recherches. Je m’interroge à ce sujet.
On a également fait remarquer que les gains de productivité doivent être partagés équitablement. Si les gens ne peuvent plus travailler, nous n’aurons plus d’assiette fiscale. Nous vivons dans une société capitaliste. Or, il existe d’autres façons de concevoir la vie collective et la redistribution des ressources. Je n’ai qu’à penser à ma propre histoire. Je suis une Autochtone. Nous avions des façons très différentes de partager les richesses. C’est donc à cela que je réfléchis en abordant cette question.
Je pense aussi aux répercussions sur les systèmes de connaissances humaines. Il y a diverses cultures dans le monde, et chacune d’elles possède des systèmes de connaissances uniques et particulières. Comment l’intelligence artificielle transformera-t-elle les systèmes de connaissances propres à l’humain? C’est, en fin de compte, une sorte de lutte pour l’humanité.
Je voulais donner suite à l’intervention de la sénatrice Senior. Comment pouvons-nous sensibiliser le public à ces grandes questions et aux enjeux très précis que vous avez évoqués? Pour ma part, qu’est-ce que je devrais savoir en premier? Comment devrais-je aborder tout cela si je veux pousser le gouvernement à apporter des changements?
Je suis désolée. C’était là un préambule plutôt long. Ma question s’adresse à vous tous, et toute réponse à l’un ou l’autre de ces points serait très utile.
M. Kristjanson Duvenaud : Si vous lancez de temps en temps l’un des derniers modèles d’intelligence artificielle et que vous entamez une discussion avec le système — peu importe si vous parlez de questions morales, de l’histoire de l’Amérique du Nord ou de n’importe quel autre sujet —, vous constaterez qu’il est au moins possible, en principe, que ces modèles soient capables de comprendre la morale humaine et ce que cela signifie pour nous d’avoir des envies, des espoirs, des rêves, et de réfléchir aux choses avec autant de profondeur que les humains. C’est là un autre aspect à prendre en considération. Ce n’est pas comme si nous avions affaire à des êtres terrifiants, totalement différents de nous et dépourvus de pensée, des êtres qui ne nous comprendront jamais. Au contraire, je pense qu’ils nous comprennent réellement aussi bien que nous nous comprenons entre nous — et si ce n’est pas encore tout à fait le cas aujourd’hui, ce le sera bientôt. Ce n’est donc pas un obstacle fondamental.
C’est aussi une source d’espoir. Comme on l’a déjà mentionné, je pense que la plupart des gens qui conçoivent l’intelligence artificielle se disent que nous finirons par créer des systèmes d’intelligence artificielle qui nous resteront fondamentalement bienveillants et que, dans une large mesure, nous leur demanderons quoi faire parce que nous n’avons pas de plan, mais ces systèmes seront plus intelligents que nous. Si nous parvenons à nous assurer de leur bienveillance, alors les choses pourront peut-être bien se passer. Voilà, en gros, à quoi se résume le plan.
Je ne pense pas que ce soit un mauvais plan, mais j’estime que ce n’est pas suffisant, et c’est pour cela que je suis ici.
Mme Raji : Mon approche rejoint ce que M. Kristjanson Duvenaud a mentionné plus tôt : il s’agit de former la prochaine génération. À Berkeley, nous avons donné quelques cours visant à inculquer une réflexion éthique ou ces principes dans l’esprit des futurs développeurs d’intelligence artificielle ou des futurs chefs de file de cette industrie. C’est un bon point de départ.
Ensuite, pour revenir à ce que vous avez dit au sujet de la souveraineté des données et des peuples autochtones, il existe un groupe, appelé Indigenous and AI, qui réfléchit beaucoup à ces questions, et les Canadiens y sont très bien représentés. Ce serait probablement un excellent groupe avec lequel vous pourriez entrer en communication.
La présidente : Je crains que nous n’ayons plus de temps, mesdames et messieurs, même si cette séance a été particulièrement intéressante. Voilà qui met fin à notre réunion. Je tiens à remercier tous les témoins de leur temps, de leur présence parmi nous aujourd’hui et de la qualité de leurs interventions.
(La séance est levée.)