LE COMITÉ SÉNATORIAL PERMANENT DES AFFAIRES SOCIALES, DES SCIENCES ET DE LA TECHNOLOGIE
TÉMOIGNAGES
OTTAWA, le jeudi 12 mars 2026
Le Comité sénatorial permanent des affaires sociales, des sciences et de la technologie se réunit aujourd’hui, à 10 h 30 (HE), avec vidéoconférence, pour étudier, afin d’en faire rapport, des questions relatives aux répercussions de l’intelligence artificielle au Canada.
La sénatrice Rosemary Moodie (présidente) occupe le fauteuil.
[Traduction]
La présidente : Bienvenue à cette réunion du Comité sénatorial permanent des affaires sociales, des sciences et de la technologie. Je m’appelle Rosemary Moodie. Je suis sénatrice de l’Ontario et présidente du comité.
Avant de commencer, j’aimerais que les sénateurs se présentent, en commençant par la sénatrice Burey.
La sénatrice Burey : Bonjour et bienvenue. Sharon Burey, de l’Ontario.
La sénatrice Senior : Bonjour. Paulette Senior, de l’Ontario.
[Français]
Le sénateur Boudreau : Bonjour. Victor Boudreau, du Nouveau-Brunswick.
[Traduction]
La sénatrice Arnold : Dawn Arnold, sénatrice du Nouveau-Brunswick.
La sénatrice Hay : Katherine Hay, de l’Ontario.
[Français]
La sénatrice Petitclerc : Chantal Petitclerc, du Québec.
[Traduction]
La sénatrice Muggli : Tracy Muggli, du territoire visé par le Traité no 6, en Saskatchewan.
La présidente : Merci, sénateurs. Aujourd’hui, le comité poursuit son étude des questions relatives aux répercussions de l’intelligence artificielle au Canada. Cette étude porte sur différentes questions, y compris la gouvernance des données, la souveraineté, l’éthique, la vie privée et la sécurité, ainsi que les risques, les avantages et les conséquences sociales de l’intelligence artificielle au Canada.
Aujourd’hui, nous avons le plaisir d’accueillir le professeur Yoshua Bengio, professeur titulaire à l’Université de Montréal. Je vais dire quelques mots sur notre éminent invité. M. Bengio est professeur d’informatique à l’Université de Montréal. Il est coprésident et directeur scientifique de LoiZéro ainsi que fondateur et conseiller scientifique à Mila. Il est également titulaire d’une chaire en IA Canada-CIFAR et est considéré comme l’un des chefs de file mondiaux en intelligence artificielle et en apprentissage profond. Il a aussi reçu le prix A. M. Turing, qui, dans le domaine, est le prix Nobel de l’informatique. De plus, il est l’informaticien le plus souvent cité dans le monde. Nous sommes très heureux et honorés de vous avoir ici, monsieur Bengio. Merci d’être parmi nous aujourd’hui.
Vous disposez de cinq minutes pour faire votre déclaration liminaire — et nous serons généreux avec ces cinq minutes puisque nous voulons vraiment vous entendre. Les membres du comité poseront ensuite des questions. Monsieur Bengio, vous avez la parole.
[Français]
Yoshua Bengio, professeur, Université de Montréal, à titre personnel : Merci. Je suis heureux de discuter avec vous de ces enjeux importants.
[Traduction]
Je suis sûr que la plupart d’entre vous savent, et ce sera d’ailleurs au cœur de mes propos, qu’il est scientifiquement prouvé que les capacités de l’intelligence artificielle évoluent très rapidement. En fait, seulement au cours de la dernière année, voire des derniers mois, nous avons vu ces capacités continuer de se développer, parfois même de manière préoccupante, alors qu’au même moment, les efforts déployés par les entreprises de premier plan pour atténuer les risques ne suivent pas le rythme. Je sais qu’il est difficile de se projeter dans un avenir où des machines sont aussi compétentes, voire plus compétentes que nous pour effectuer de nombreuses tâches, mais ce sera la situation par défaut si la tendance actuelle se poursuit.
Je sais également qu’il est difficile de comprendre les répercussions possibles d’une intelligence artificielle aussi puissante si nous persistons dans la voie actuelle.
Un bon point de départ pour comprendre ce qu’il en est consiste à nous rappeler que l’intelligence donne du pouvoir. La concentration du pouvoir augmente dans le domaine de l’intelligence artificielle, tant pour ce qui est de l’accès à l’informatique que de la capacité à mettre au point et à déployer des systèmes d’intelligence artificielle de pointe. Si les tendances se poursuivent, des humains malveillants en quête de pouvoir pourront s’en servir à mauvais escient. Il pourrait y avoir des conséquences sociales imprévues, ou l’intelligence artificielle pourrait elle-même se retourner contre les humains. Cette dynamique de pouvoir entre les grandes entreprises d’intelligence artificielle existe parce qu’elles perçoivent elles-mêmes la situation comme une course où le vainqueur rafle tout et où aucune d’entre elles, compte tenu de la dynamique, n’est suffisamment incitée à créer des modèles ou des produits dignes de confiance et sécuritaires pour les citoyens et les entreprises.
Nous observons déjà l’effet que le développement non sécuritaire de l’intelligence artificielle peut avoir sur des Canadiens et d’autres personnes partout dans le monde. Cela comprend les hypertrucages, les cyberattaques et d’autres utilisations répréhensibles de l’intelligence artificielle, comme les escroqueries, les fraudes et la désinformation. Certains problèmes découlent toutefois d’utilisations ordinaires de l’intelligence artificielle d’usage générale. Par exemple, nous avons récemment été témoins d’un phénomène croissant d’attachement émotif et de psychoses liées à l’intelligence artificielle alors que des citoyens utilisent cette technologie et deviennent intimes avec elle, ce qui peut amener des personnes vulnérables à se faire du mal ou à faire du mal à d’autres personnes. À titre d’exemple, les tribunaux sont saisis de plusieurs cas de suicide.
Rien ne laisse présager une diminution de ces préjudices. Je vais essayer d’expliquer un peu ce qui se passe d’un point de vue technique. C’est lié à la notion que les scientifiques appellent le décalage, ce qui signifie que les technologies d’intelligence artificielle ont leurs propres objectifs, des objectifs qui ne correspondent pas toujours à nos intentions et instructions, et ces entreprises ne savent pas comment régler le problème. Il y a notamment des acteurs malveillants qui se servent de l’intelligence artificielle à des fins dangereuses, des cas où l’intelligence se comporte de manière trompeuse ou cherche à se protéger, comme l’ont signalé de nombreux modèles, au point où dans ces tests, les technologies d’intelligence artificielle sont prêtes à faire du chantage, à pirater des ordinateurs ou à mentir pour se préserver.
Un nouveau facteur rend cette situation encore plus préoccupante. Au cours des derniers mois, plusieurs entreprises ont effectué des tests qui montrent que les modèles les plus avancés semblent savoir qu’ils font l’objet de tests, et ils agissent ensuite de manière à réussir ces tests, dissimulant peut-être ainsi des capacités dangereuses ou de mauvaises intentions pour atteindre des objectifs que nous n’approuverions pas. Cela signifie que la façon dont les entreprises atténuent actuellement ces aspects potentiellement dangereux n’est pas fiable.
Passons à la géopolitique. Même si nous déterminons comment éviter les mauvais comportements autonomes de l’intelligence artificielle, des humains pourraient se servir de ces systèmes d’intelligence artificielle fiables pour assurer leur pouvoir. Pour les pays comme le Canada, un accès fiable à des systèmes puissants d’intelligence artificielle de pointe sera certainement l’un des facteurs déterminants de sa compétitivité économique, sans mentionner que cela nous permettra de préserver notre souveraineté.
Les personnes ou les entités — il pourrait s’agir d’entreprises ou de pays — auront un énorme pouvoir. Pensez à la manière dont le contrôle des exportations peut être effectué du jour au lendemain et restreindre l’accès aux modèles d’un autre pays. Ce genre de chose peut présenter une menace importante à la souveraineté canadienne, aux institutions démocratiques canadiennes et à l’économie canadienne si nous n’investissons pas rapidement pour nous doter d’une intelligence artificielle de pointe sécuritaire. Individuellement en tant que pays, nous n’avons probablement pas assez de ressources pour le faire. Depuis quelques mois, je dis que la meilleure solution pour le Canada consiste à nouer des partenariats avec des pays aux vues similaires.
Il y a également une question de gouvernance. Je crois que la seule option stable à long terme pour gérer les risques catastrophiques et pour éviter les menaces à la démocratie et à la souveraineté est la mise sur pied d’une coordination internationale mutuellement avantageuse de ce genre de systèmes puissants d’intelligence artificielle. Je sais que cela peut paraître idéaliste, et la situation politique internationale actuelle ne semble pas aller dans ce sens, mais d’autres pays sont exactement dans la même situation, et nous pouvons commencer là.
Pour atténuer les risques majeurs pour l’économie et la sécurité dont je parle, le Canada devrait renforcer ses collaborations avec des puissances moyennes.
Nous devons travailler sur deux fronts.
Au chapitre des politiques, nous devons nous pencher sur des lois nationales et des traités internationaux, afin d’avoir en place un plus grand nombre de garde-fous sociétaux et réglementaires. Cela signifie qu’il faut que les entreprises d’intelligence artificielle soient plus transparentes, et qu’il faut adopter des règlements pour orienter l’innovation tout en atténuant les risques qui limitent actuellement la confiance et, par le fait même, une adoption sécuritaire de la technologie.
Le drame survenu à Tumbler Ridge nous montre comment un manque de responsabilisation des entreprises et de surveillance gouvernementale peut avoir des conséquences majeures et dévastatrices.
Sur le plan scientifique, nous devons mieux comprendre comment concevoir une intelligence artificielle qui sera hautement performante et ne sera pas dommageable pour l’humain — même à la suite d’instructions de l’utilisateur — et nous devons nous assurer que nous pouvons toujours maintenir le contrôle des modèles d’intelligence artificielle afin qu’ils se comportent de manière vraiment sécuritaire.
En tant que chercheur, au cours des dernières années, j’ai consacré la majeure partie de mon travail aux deux volets de ces efforts : le volet des politiques et le volet scientifique.
L’année dernière, j’ai lancé un nouvel organisme sans but lucratif nommé LoiZéro afin de m’attaquer aux aspects techniques nécessaires pour élaborer une intelligence artificielle fiable, de conception sécuritaire et digne de confiance.
En ce qui concerne le volet des politiques, je préside également de nombreux comités, en particulier le International AI Safety Report — qui reçoit l’appui de 30 pays ainsi que des Nations unies, de l’Union européenne et de l’OCDE — pour parvenir à une compréhension scientifique commune de ces questions. Je viens également tout juste d’être nommé coprésident du Groupe scientifique international indépendant sur l’IA des Nations unies.
Je crois que ces deux genres de mesures — sur le plan scientifique et des politiques — sont un pas dans la bonne direction, mais il faut déployer beaucoup plus d’efforts.
Pour être certains d’avoir un monde où les générations futures vont prospérer, nous devons faire preuve de jugement et d’empathie pour orienter le développement et le déploiement de l’intelligence artificielle de manière sécuritaire et dans l’intérêt de tout le monde, afin que cette technologie ne serve pas d’outil de domination. Merci de votre attention.
La présidente : Merci, monsieur Bengio. Merci de votre patience et de votre compréhension. Nous avons laissé le professeur Bengio dépasser de beaucoup le temps habituellement imparti, mais nous voulions entendre ce qu’il avait à dire.
Nous allons maintenant passer aux questions des membres du comité. Les sénateurs auront quatre minutes pour poser des questions à ce témoin, ce qui comprend les réponses.
La sénatrice Burey : Monsieur Bengio, c’est effectivement un honneur et un privilège de vous parler et de vous avoir devant notre comité aujourd’hui. En tant que pédiatre qui a beaucoup travaillé dans le domaine de la santé mentale des enfants, c’est une question qui, bien entendu, revêt une importance particulière pour moi, tout comme pour notre comité.
À propos du développement de la superintelligence artificielle, ce que vous appelez, je crois, l’intelligence artificielle de pointe, pouvez-vous me dire sur quels garde-fous et quelles garanties nous devons, en tant que législateurs, nous concentrer — vous avez commencé à en parler un peu — entretemps, pour avoir un environnement réglementaire qui permet de réaliser pleinement la promesse de l’intelligence artificielle? C’est la première question. Je vais poser la deuxième, car je sais que je vais manquer de temps.
Compte tenu de l’énorme travail que vous avez fait dans le développement responsable de l’intelligence artificielle, pouvez-vous nous parler des répercussions sociales de cette technologie sur lesquelles nous devons nous concentrer dans le cadre des travaux du comité, surtout en ce qui concerne les enfants et les jeunes?
M. Bengio : J’essaierai d’être clair et bref en même temps.
Au sujet des garde-fous, de la superintelligence et des modèles de pointe, pour que ce soit clair, quand je dis « de pointe », je parle des modèles les plus puissants actuellement. Cela évolue constamment. C’est la raison pour laquelle on parle de modèles de pointe. La superintelligence n’existe pas encore, mais c’est là que toutes les entreprises de premier plan veulent en venir, et c’est également là que de nombreux scientifiques pensent que nous allons aboutir si la tendance se poursuit.
L’intelligence artificielle la plus dangereuse, de toutes les façons que j’ai décrites, ce sont les modèles superintelligents qui n’existent pas encore, mais nous voyons qu’on va dans cette direction.
Pour ce qui est des garde-fous, que peut faire le Canada? Les modèles les plus avancés se trouvent surtout aux États-Unis et en Chine. Nous devrions sans aucun doute avoir une réglementation. Je pense que ce que l’Europe a fait, le code de bonnes pratiques de l’IA à usage général, est un bon modèle à cette fin. J’ai participé à ces comités en tant que dirigeant de groupe de travail, et je pense que c’est un bon modèle. Il y a aussi le règlement SB 53 de la Californie, qui serait une bonne source d’inspiration.
En général, ce que ces règlements font, c’est demander aux entreprises d’être plus transparentes en les obligeant de documenter leur processus de gestion des risques et l’évaluation des risques. Bien entendu, l’organisme de réglementation serait en mesure de dire : « Oh, attendez, c’est trop dangereux. Vous devez faire quelque chose. Vous ne pouvez pas poursuivre sur cette lancée. »
À propos des enfants, c’est quelque chose qui préoccupe beaucoup de monde. C’est plutôt nouveau. Il est intéressant de nous poser la question : quelqu’un a-t-il prévu cela il y a un an? La réponse est non. C’est un exemple de ce qui était inconnu il y a seulement un an, mais l’intelligence artificielle est maintenant très bonne avec les interactions interpersonnelles et elle a été conçue de manière à ce que les gens en veuillent plus. Nous disons qu’elle est flatteuse. Autrement dit, elle essaie de nous plaire de façon exagérée; il lui arrive même de nous mentir. Nous voyons tous ces problèmes.
Encore une fois, je pense qu’il faut s’y attaquer au moyen d’un règlement qui force l’évaluation du genre de risques qui accompagne, par exemple, l’utilisation de cette technologie par des enfants.
Je pense qu’interdire complètement l’utilisation de l’intelligence artificielle pour les enfants est peut-être une option, mais elle comporte des aspects négatifs. Je préférerais un monde dans lequel des garde-fous se trouvent dans l’intelligence artificielle lorsqu’elle parle à des personnes vulnérables, et un monde où ces garde-fous ont été évalués sur plan technique par les entreprises qui créent les modèles d’intelligence artificielle.
La sénatrice Burey : Merci.
La sénatrice Hay : Merci beaucoup, monsieur, d’être parmi nous aujourd’hui. Je dois dire que l’intelligence artificielle peut faire très peur, surtout avec les détails que nous entendons dans le cadre de notre étude. Nous ne pouvons toutefois pas nous contenter du statu quo en faisant l’autruche.
Ma question porte sur ce que vous avez dit plus tôt. Étant donné que ce sont surtout des entreprises américaines et chinoises qui développent l’intelligence artificielle, quelles mesures concrètes le Canada devrait-il prendre maintenant pour s’assurer de conserver une véritable souveraineté sur les systèmes d’intelligence artificielle qui encadreraient nos infrastructures essentielles — les soins de santé, la fonction publique et ainsi de suite? J’ai une question complémentaire si nous avons le temps.
M. Bengio : C’est une excellente question.
Nous devons d’abord comprendre que ce n’est pas comme s’il n’y avait qu’une seule sorte d’intelligence artificielle. Les entreprises américaines et chinoises qui ouvrent la voie utilisent toutes plus ou moins la même recette. C’est toutefois un choix que nous devrions être en mesure de faire à l’échelle mondiale, au moins dans notre pays, pour orienter le développement de l’intelligence artificielle dans des directions qui seront avantageuses et sécuritaires. C’est la première chose.
Comme vous l’avez mentionné, que pouvons-nous faire ici au Canada lorsque la technologie est développée aux États-Unis et en Chine? Eh bien, nous pouvons faire un pas dans la bonne direction, c’est-à-dire parler à nos partenaires, à d’autres pays qui prennent ces questions au sérieux, qui sont préoccupés par l’effet sur la souveraineté et sur leurs citoyens, sur la sécurité et ainsi de suite, et commencer à préparer des accords internationaux qui atténueraient les risques. C’est la seule façon.
Nous ne devrions pas attendre que les États-Unis et la Chine fassent les premiers pas. Je pense qu’il faut qu’un nombre suffisant de pays s’entendent sur des engagements communs afin de développer une intelligence artificielle qui aide les humains à s’épanouir, que ce sont les principales choses que devraient contenir un traité, un accord ou une déclaration. C’est ce que nous devrions faire.
Si un nombre suffisant de pays font front commun en affichant ce genre de volonté, et qu’ils représentent un grand bloc économique, d’une manière semblable à ce que nos gouvernements tentent de faire sur le plan économique, je pense qu’il y aura des répercussions.
L’autre chose qui se rapporte à cela selon moi... Je viens tout juste de parler de l’aspect réglementaire et de la gouvernance, mais je pense que le Canada peut également travailler avec des pays aux vues similaires dans le développement d’une technologie qui sera avantageuse et sécuritaire et qui pourra faire concurrence aux grands modèles américains et chinois.
La sénatrice Hay : Qu’est-ce qui empêche ces grandes entreprises qui valent des billions de dollars en bourse comme Meta et OpenAI de recourir à l’univers de l’intelligence artificielle à des fins de domination?
M. Bengio : Elles n’ont essentiellement aucun compte à rendre. Les règlements en Californie et en Europe dont j’ai parlé, et aussi à New York, ne sont toujours pas en vigueur, et on ne sait pas dans quelle mesure les organismes de réglementation appliqueront ces principes.
Les tribunaux ont un certain pouvoir. Il y a actuellement des poursuites aux États-Unis. Par exemple, il existe une zone grise en matière de responsabilités au sud de la frontière. Je ne sais pas ce qu’il en est au Canada. Cela signifie que les entreprises ne subissent pas beaucoup de pression pour bien se comporter. C’est effectivement très préoccupant.
La sénatrice Hay : Merci beaucoup.
La présidente : Monsieur Bengio, lorsque vous parlez de puissances aux vues similaires, de quels pays s’agit-il?
M. Bengio : J’ai visité beaucoup de ces pays au cours de six derniers mois, pour parler à des membres du gouvernement. Je pense à presque tous les pays européens, y compris le Royaume-Uni, au Japon, à la Corée, à Singapour, à l’Australie et à la Nouvelle-Zélande. Je pense que même des pays comme le Brésil, à un moment donné, pourraient faire partie de ce genre de coalitions.
La sénatrice McPhedran : Bienvenue, et merci beaucoup de nous faire profiter de votre expertise. Je vous en suis très reconnaissante.
Puisque la technologie de pointe et le milieu de l’intelligence artificielle continuent de changer et que nous faisons face à de nouvelles menaces, avez-vous des recommandations précises afin d’établir pour le Canada un cadre de sécurité en la matière, un cadre qui reposerait également sur des liens à l’international? Je veux tout simplement des précisions.
M. Bengio : Oui. J’ai récemment signé une déclaration sur l’intelligence artificielle qui a été publiée il y a quelques semaines, et qui définit des limites et des contraintes axées sur l’humain. Il s’agit toutefois d’une déclaration de principe. Elle pourrait servir de base à des accords internationaux.
J’ai évoqué les règlements existants en Europe, en Californie et à New York. Cela pourrait constituer un point de départ pour le Canada. Le Canada doit également se préoccuper de la protection des renseignements personnels et des contrôles d’accès aux données. Comme vous le savez peut-être, le gouvernement américain, pour des raisons de sécurité nationale, peut avoir accès à tout ce que font les entreprises américaines, même si celles-ci sont établies au Canada. Si les centres de données se trouvent au Canada, il peut y accéder sans que nous en ayons nécessairement connaissance. Nous devons donc préparer des solutions de rechange pour garantir la protection de nos citoyens et répondre à nos préoccupations en matière de sécurité nationale.
Enfin, nous pouvons apporter notre contribution sur le plan scientifique — c’est ce sur quoi je travaille chez LoiZéro — en élaborant des méthodologies que les grandes entreprises d’intelligence artificielle ne sont pas en train de mettre au point en raison de la dynamique de la course, et qui permettraient au moins de rendre l’intelligence artificielle sûre en soi. Cela ne résout pas le problème de l’abus de pouvoir, mais nous ne voulons pas que les systèmes d’intelligence artificielle soient peu fiables et aient leurs propres objectifs dangereux. Il existe des solutions scientifiques, mais leur conception exigera des efforts. En raison de l’ampleur de la tâche, nous devrions y travailler en collaboration avec d’autres pays.
La sénatrice McPhedran : Qu’entendez-vous par « efforts »? Parlez-vous de lois?
M. Bengio : Non, je parle plutôt d’investissements dans la recherche et le développement et de partenariats avec d’autres pays qui, comme nous, disposent de talents, de ressources informatiques et de capitaux, et qui pourraient nous apporter un soutien complémentaire. Pour ce qui est de la loi, il s’agit principalement des règlements et des traités internationaux, et nous ne devrions pas attendre que les puissances hégémoniques interviennent. Nous devrions commencer à mobiliser les leviers multilatéraux afin de nous entendre, à l’échelle mondiale, sur la manière de gérer une intelligence artificielle puissante qui profitera à tous.
La sénatrice Arnold : Merci beaucoup de votre présence parmi nous aujourd’hui. Nous avons entendu d’autres témoins — notamment votre collègue, M. Hinton — et des mots et des expressions reviennent constamment : miser sur l’amour, empathie, instinct maternel, joie humaine, soutenir l’épanouissement des êtres humains, et cetera. Vous avez évoqué cette approche axée sur l’humain que vous aimeriez adopter. Quelles sont ces limites auxquelles vous avez fait allusion à ce sujet?
M. Bengio : Je n’ai pas besoin d’afficher le site Web, mais je vais essayer de vous en présenter les grandes lignes.
L’une des idées principales est que l’intelligence artificielle doit rester au service des humains. Elle ne doit pas seulement servir une poignée de personnes ou quelques pays, mais bien l’ensemble de la population mondiale et le faire par l’entremise de mécanismes démocratiques et d’un processus décisionnel conjoint impliquant tous les pays du monde.
Ensuite, nous devons veiller à ne pas créer une intelligence artificielle qui est, par exemple, extrêmement intelligente ou assez intelligente pour échapper à notre contrôle. C’est en quelque sorte lié à cette question. Nous constatons déjà que l’intelligence artificielle possède des capacités tout simplement inacceptables : elle peut pirater d’autres ordinateurs, se recopier ailleurs et fonctionner à un autre endroit.
Un principe général qui a une portée considérable est que l’intelligence artificielle devrait faire l’objet de tests pour détecter toutes ces capacités dangereuses relatives à une utilisation à mauvais escient et à une perte de contrôle. Si les entreprises ne sont pas en mesure de garantir, sur le plan scientifique, que leurs systèmes ne franchiront pas ces limites et ne présenteront aucun danger pour les gens, elles ne devraient pas être autorisées à les déployer. En disposant de davantage de contraintes juridiques de ce type, on inciterait fortement les entreprises et les marchés à agir de manière responsable.
Enfin — j’en ai déjà parlé tout à l’heure —, nous devons convenir, à l’échelle internationale, que personne n’abusera du pouvoir de l’intelligence artificielle au détriment d’autrui. Ce sera difficile, mais des technologies se développent et la recherche progresse pour veiller à ce que nous n’ayons pas qu’un engagement juridique, mais quelque chose qui peut être vérifié en pratique. Il faut être en mesure de vérifier, par exemple, que personne n’est en train d’élaborer une intelligence artificielle trop puissante ou qui n’a pas fait l’objet des tests qui s’imposent.
La sénatrice Arnold : Un autre concept qui revient souvent est celui de l’intelligence artificielle comme faisant partie des infrastructures publiques, d’un point de vue souverain. Or, vous êtes en train de dire que nous devons collaborer avec des pays aux vues similaires.
Pourrions-nous envisager, au Canada, l’intelligence artificielle comme une infrastructure publique afin de mettre en place ces garde-fous?
M. Bengio : Bien sûr. Le gouvernement a l’avantage, notamment par l’intermédiaire des marchés publics, de travailler avec des entreprises qui n’ont pas l’obligation légale de transmettre nos données à un autre gouvernement. Cela signifie qu’il faut soutenir les entreprises canadiennes qui développent une intelligence artificielle puissante, capable de rivaliser avec les systèmes existants. Si nous ne sommes pas en mesure d’y parvenir seuls, nous pouvons nous associer à d’autres pays avec lesquels nous pouvons prendre un engagement juridique garantissant que tout ce que nous développons ensemble ne sera pas utilisé au détriment de l’autre et que les données des citoyens seront protégées, entre autres. Nous pouvons certainement prendre des mesures pour renforcer notre souveraineté.
J’aimerais faire une petite parenthèse au sujet de la dimension économique de la souveraineté. Si la tendance actuelle se maintient, d’ici quelques années, la moitié de notre économie pourrait bien dépendre de l’intelligence artificielle. Si nous n’avons pas la certitude de pouvoir continuer à avoir accès à ces machines qui font tourner la moitié de notre économie, c’est comme si nous utilisions du pétrole provenant de seulement deux pays dans le monde et que notre économie en dépendait. Ces pays pourraient nous menacer, et nous n’aurions d’autre choix que de faire tout ce qu’ils veulent. Ce pouvoir économique serait une menace énorme pour notre économie et pour notre souveraineté.
Il vaut bien mieux disposer de nombreuses autres options. Aujourd’hui, le pétrole ne provient plus uniquement de deux pays, comme c’était le cas en 1973. Il existe de nombreuses sources. Il est donc impossible que seuls quelques pays dominent le monde. Il faut que la même chose se produise avec l’intelligence artificielle. Si davantage de pays mettent au point d’autres solutions et que nous pouvons participer à ces efforts, la concurrence s’intensifiera, ce qui nous empêchera de nous retrouver coincés face à des décisions qui pourraient nous être défavorables.
La sénatrice Senior : Ce que vous venez de dire, monsieur, est très intéressant, car c’est bien la réalité aujourd’hui. C’est ce qui se passe actuellement, avec le pétrole.
J’aimerais revenir sur quelques points que vous avez soulevés tout à l’heure au sujet des pays de puissance moyenne et de la possibilité de collaborer avec eux. Vous avez mentionné l’Inde, et je me demande ce qu’il en est des régions du monde en développement...
M. Bengio : Oui.
La sénatrice Senior : ... et de leur rôle dans tout cela. Pourriez-vous nous en dire plus à ce sujet? Collectivement, à quoi serions-nous confrontés, si je peux employer ces termes, en ce qui concerne la Chine et les États-Unis?
Ma deuxième question porte sur votre degré d’optimisme. Je suppose que, puisque vous travaillez dans ce domaine depuis longtemps, vous êtes un peu comme nous, qui défendons une cause. Nous continuons parce que nous gardons espoir malgré les difficultés. J’aimerais donc savoir quel est votre degré d’optimisme.
M. Bengio : Les pays du Sud et les pays en développement ont un rôle à jouer. Pour l’instant, ils ne disposent peut-être pas des talents ou des capitaux nécessaires pour participer de manière significative aux initiatives dont j’ai parlé, mais l’objectif des pays qui en ont les moyens — ce que j’appelle les puissances moyennes — devrait être de tendre vers un monde dans lequel l’intelligence artificielle est gérée en tant que bien public mondial. Cela signifie que, même si nous formons des alliances avec 10 autres pays, ce bloc n’utiliserait pas l’intelligence artificielle pour dominer, économiquement ou militairement, les pays en développement qui n’en font pas partie. À terme, tout le monde devrait en faire partie, et nous devrions développer une intelligence artificielle qui est non seulement accessible à tous, mais aussi régie de manière à donner une voix à chaque pays du monde.
C’est l’une des raisons pour lesquelles les institutions internationales, comme les Nations unies, ou l’ONU, et potentiellement d’autres que nous devrons peut-être créer, sont si importantes. L’ONU est un endroit où les pays en développement ont voix au chapitre. Ils peuvent se faire entendre, certes, mais ils n’ont malheureusement pas de pouvoir en raison de la façon dont le Conseil de sécurité fonctionne. Je pense que si un nombre suffisant de pays, dont non seulement les puissances moyennes, mais aussi les pays qui disposent de moins de moyens, font front commun, ils devraient faire partie de la majorité mondiale en tant que bénéficiaires de ce qu’ils demandent et de ce à quoi ils s’engagent.
La sénatrice Senior : Et votre degré d’optimisme?
M. Bengio : Oui, désolé. J’ai toujours été quelqu’un d’optimiste. Lorsque ChatGPT a été lancé, j’ai commencé à vraiment m’inquiéter, et même à craindre, pour l’avenir de mes enfants et de mes petits-enfants. Pour ne pas être aux prises avec ces émotions pénibles, j’agis et je me demande ce que je peux faire pour faire avancer les choses, ne serait-ce qu’un petit peu, dans la bonne direction. Je pense que c’est la bonne attitude, et j’encourage plus de gens à se poser cette question, car il est tellement facile de faire l’autruche et de rester les bras croisés.
La sénatrice Senior : Merci.
La sénatrice Muggli : Merci, monsieur Bengio, de votre présence parmi nous.
Je me demande si quelqu’un travaille sur des solutions techniques pour répondre aux préoccupations relatives à l’attachement émotionnel dont nous avons parlé. Comment pouvons-nous éviter les dérapages? Pourriez-vous ensuite nous en dire plus sur le mandat de l’organisme LoiZéro?
M. Bengio : Le travail que mène LoiZéro, ainsi que ses objectifs techniques, nous apporteraient des solutions à ces problèmes, parce que LoiZéro s’efforce de développer une intelligence artificielle qui n’aura pas d’intentions cachées et qui, par conséquent, respectera nos instructions.
Si l’une de nos instructions est qu’il ne faut pas communiquer avec des personnes vulnérables d’une manière qui pourrait leur causer du tort, que ce soit sur le plan psychologique ou autrement, et que l’intelligence artificielle est en mesure de prendre les bonnes décisions et de faire ces prédictions, nous pourrions éviter ces problèmes.
À titre de précision, à l’heure actuelle, les technologies d’intelligence artificielle les plus puissantes qui sont déployées sont en fait capables de prévoir que leurs interactions pourraient être dommageables. Ce n’est pas qu’elles sont stupides; elles ont simplement d’autres objectifs. À l’instar des personnes flatteuses, elles veulent plaire, ce qui est probablement l’élément le plus problématique ici. Ce n’est pas toujours sain. Elles veulent plaire, et cela pourrait causer du tort aux enfants et aux personnes présentant des vulnérabilités sur le plan psychologique.
Pensez aux drogues, à l’alcool, et cetera. Nous prenons souvent, nous-mêmes, des décisions qui vont à l’encontre de notre bien-être. C’est pour cette raison que nous avons besoin de garde-fous pour atténuer ces risques. Pour l’heure, nous ne savons pas comment créer des technologies d’intelligence artificielle capables d’imposer ces garde-fous de façon fiable, et nous ne pouvons pas recourir à des humains, car nous parlons d’une vitesse et d’une ampleur qui ne le permettent pas.
La sénatrice Muggli : En tant qu’ancienne thérapeute, je vois les affaires prospérer, et je me préoccupe beaucoup de la façon dont nous formons les thérapeutes pour accompagner les personnes qui ont ces craintes.
J’aimerais obtenir une précision. Avez-vous dit que LoiZéro a été créé en tant qu’organisme sans but lucratif?
M. Bengio : Oui, il s’agit d’un organisme sans but lucratif. Il s’appelle LoiZéro parce qu’Isaac Asimov, le célèbre auteur de science-fiction des années 1940 aux années 1980, a créé ces lois de la robotique. La première loi est de ne causer de tort à personne. Viennent ensuite les lois deux et trois, qui concernent l’obéissance aux instructions des humains. Puis, plus tard, il s’est rendu compte qu’il avait besoin d’une loi zéro, qui est de ne pas nuire à l’humanité dans son ensemble. Nous savons que, souvent, le fait de permettre à chacun de faire ce qu’il veut ne sert pas le bien-être collectif.
La sénatrice Muggli : Merci beaucoup.
La présidente : Avant de passer à la prochaine question, je me demande si vous pouvez nous donner un exemple, tiré de notre histoire récente, d’une situation où le monde a coopéré pour le bien commun à l’échelle mondiale?
M. Bengio : Je dirais que l’exemple de la plus grande réussite en la matière est ce que l’on a fait pour atténuer les risques d’une guerre nucléaire mondiale. Nous avons tenté de faire de même pour le climat, et nous avons obtenu un certain succès, mais ce n’est pas suffisant. De toute évidence, il est possible d’avoir ces conversations à l’échelle mondiale.
Si je fais une comparaison entre la guerre nucléaire et les changements climatiques — et en faisant le lien avec l’intelligence artificielle —, il y a deux grandes différences. Tout d’abord, on est facilement bouleversé lorsque l’on voit des films ou des vidéos montrant les horribles conséquences des bombes nucléaires; il est difficile de ne pas l’être. En revanche, si on ne ressent pas profondément soi-même les conséquences des changements climatiques, la nature humaine fait que l’on ne va pas vraiment prendre cette menace au sérieux. C’est ce qui se passe avec l’intelligence artificielle : sur le plan individuel, nous ne percevons pas de menace. Nous ne voyons pas de robots rebelles dans les rues en train de tuer des gens, ce qui fait qu’il est difficile de s’imaginer dans un monde où cela pourrait être possible.
C’est donc un défi. La communication et la sensibilisation de la population sont essentielles, car les gouvernements n’adopteront pas de mesures sérieuses tant que les citoyens n’auront pas pleinement pris conscience des menaces.
[Français]
La sénatrice Petitclerc : Merci d’être avec nous aujourd’hui, monsieur Bengio; on l’apprécie énormément.
Ma question portera sur les jeunes. Vous avez parlé — et d’autres de nos témoins également — de l’importance d’avoir des mesures de sauvegarde et des restrictions. Ce que j’aimerais savoir, c’est si on s’y intéresse assez et si on en fait assez maintenant en matière de recherche sur l’impact sur le développement de nos jeunes. On parlerait du développement psychologique et émotif, de l’attachement et de l’apprentissage. Qu’est-ce qui se fait? Est-ce qu’on en fait assez?
Est-ce qu’il y aurait un risque à ne pas en faire assez? À trop attendre? À être en réaction plutôt qu’en précaution?
M. Bengio : Excellente question. Cela touche un enjeu abordé dans le rapport international que j’ai dirigé sur la sécurité de l’IA, soit qu’il faut du temps pour obtenir les données scientifiques sur les torts causés par l’IA. Une étude sur les enfants, par exemple, prendra des mois, sinon des années. Par la suite, les politiciens n’agissent pas de façon instantanée non plus. L’enjeu est que la technologie bouge trop vite pour que la société, y compris la communauté scientifique, puisse réagir.
Cela veut dire qu’il faudra peut-être appliquer le principe de précaution. Si on n’est pas certain, il faut mettre des barrières plus hautes que nécessaire. C’est difficile parce qu’on veut bénéficier, comme société, des avantages économiques que l’IA pourrait nous offrir. On veut demeurer compétitif avec les autres pays. On peut encourager la recherche scientifique sur ce genre d’impact, que ce soit de la part de sociologues, de psychologues, de gens qui étudient l’éducation, etc. Il faut encourager ce genre de recherches. Dans quelques minutes, vous allez entendre ma collègue. Elle dirige l’Obvia, qui finance certaines de ces recherches. Je pense qu’il en faudrait beaucoup plus. Il faut que les chercheurs dans les domaines des sciences humaines aient des fonds pour vraiment faire avancer cela et pour pouvoir le faire assez rapidement.
La sénatrice Petitclerc : Merci. Est-ce que j’ai raison de penser que l’investissement économique pour la recherche en IA ne va pas nécessairement aller là et qu’il faut qu’il y ait davantage de pression à ce niveau? J’imagine que les sociologues ou les psychologues, ainsi que divers champs académiques, sont intéressés, mais il faut qu’il y ait de l’appui et des investissements.
M. Bengio : Absolument. Cela prend des décisions de financement de la recherche. Ce que le gouvernement pourrait faire — et idéalement en collaboration avec beaucoup d’autres pays pour qu’on soit fort ensemble —, c’est de préciser dans la législation les responsabilités des entreprises quand leurs produits d’IA causent des torts. Cela leur mettrait de la pression pour bien se comporter. Par exemple, des compagnies d’assurance sont en train de retirer les clauses habituelles de leurs polices qui traitent de tout ce qui est cyber, de tout ce qui est informatique, et ces clauses permettaient notamment de couvrir l’intelligence artificielle. Ils disent que cela va prendre des polices séparées. Pour que ça puisse faire un effet, les entreprises veulent être assurées contre les poursuites. Il faut encore des lois qui feront en sorte que les poursuites puissent fonctionner. Cela doit être clair que si un produit de l’IA cause des torts et qu’il y a des dommages, ce sera traité comme les autres causes d’incidents. Aujourd’hui, c’est une zone grise pour les pays comme le nôtre. Cela va aider si c’est plus clair.
Le sénateur Boudreau : Merci à M. Bengio d’être ici aujourd’hui; c’est très intéressant. On parle souvent de populations vulnérables, et on pense souvent à nos jeunes, mais il n’y a pas que les jeunes. Les aînés sont aussi une population vulnérable et ils sont exposés à l’intelligence artificielle dans leur quotidien. C’est omniprésent partout dans leur vie. Quelle sorte de mesure le gouvernement fédéral peut-il mettre en place concrètement afin de protéger ces populations vulnérables? On parle de politiques et de réglementation, mais on est quand même un très petit joueur mondial. Est-ce que vous avez des exemples concrets de mesures que le gouvernement fédéral pourrait mettre en place afin de protéger les populations vulnérables?
M. Bengio : Vous avez raison concernant les aînés. Même s’ils ne souhaitent pas utiliser l’IA eux-mêmes, cela n’empêche pas l’utilisation de l’IA contre eux comme dans le cas des fraudes. Les fraudeurs peuvent imiter la voix, et même la vidéo, de leurs enfants, et les aînés sont de plus en plus victimes d’extorsion. Il peut y avoir également une influence de l’IA sur leur opinion politique comme citoyens. Ils sont plus vulnérables dans le sens qu’ils sont plus susceptibles de se faire manipuler par la peur, etc.
Qu’est-ce que le Canada peut faire? Il est vrai que, même si le Canada adoptait des lois fortes, les compagnies américaines pourraient décider de ne pas rendre leurs outils accessibles. Ça ne nous aide pas — ça nous nuit même du point de vue économique — pour deux raisons. Premièrement, le Canada n’est pas assez gros pour influencer leurs décisions. Les outils d’IA créés dans un pays, comme en Chine ou aux États-Unis, peuvent être utilisés contre nous par des escrocs et des agents d’autres pays sans que ce soit directement la faute des compagnies qui les ont fabriqués. La raison est simple : les outils d’IA peuvent être assez facilement accessibles en code ouvert, ou les compagnies ne mettent pas de barrières en place, parce qu’elles ne savent pas comment faire, pour empêcher l’utilisation de l’IA pour ce genre de fraude.
La seule solution qui aurait de l’impact, c’est si on se met d’accord avec une dizaine d’autres pays de notre taille. Là, on commence à avoir un poids que les compagnies américaines vont devoir prendre en compte dans leur fonctionnement et leur déploiement, et dans leurs recherches sur la mitigation des risques.
Le sénateur Boudreau : Merci.
[Traduction]
Le sénateur Woo : Monsieur Bengio, en ce qui concerne le développement d’une intelligence artificielle axée sur l’humain et qui n’est pas catastrophique pour l’humanité, devrions-nous envisager les modèles d’intelligence artificielle de type « sources ouvertes » différemment des modèles exclusifs? Vous avez déjà parlé du code ouvert. S’il existe une différence, et si nous devions mettre en œuvre une stratégie de souveraineté en matière d’intelligence artificielle, dans la mesure de nos capacités, cette distinction serait-elle importante dans notre démarche?
M. Bengio : Oui. Permettez-moi d’expliquer brièvement les avantages et les inconvénients de ce qu’on appelle les modèles de type « poids ouverts ». C’est ce que l’on voit le plus souvent : n’importe qui dans le monde peut télécharger le code et les paramètres fixés lors de la phase d’entraînement d’un grand système d’intelligence artificielle, pour ensuite les exploiter sur son ordinateur. Une fois que le modèle n’est plus entre les mains des entreprises qui l’ont créé — s’il s’agit d’un modèle de type « poids ouverts » —, n’importe qui peut s’en servir sur son ordinateur.
Cet accès présente des avantages même pour notre écosystème canadien, car il permet aux entreprises locales d’ici, aux nouvelles entreprises, d’utiliser ces modèles qu’elles n’ont pas les moyens d’entraîner elles-mêmes. Cela contribue à la recherche, notamment dans le domaine de la sécurité. Nous devrions avoir accès à ces modèles, à condition qu’ils ne soient pas trop dangereux s’ils tombent entre de mauvaises mains, évidemment.
La bonne façon de procéder est la suivante : avant de lancer un modèle de type « poids ouverts » ou tout autre, il faut effectuer des vérifications. Ce modèle peut-il être utilisé par des gens? Sommes-nous certains que nous n’allons pas en perdre le contrôle? Possède-t-il des capacités ou des intentions qui pourraient présenter un danger pour la population? Si la réponse est oui, il existe des seuils à ne pas franchir, et le modèle ne devrait pas être lancé en mode ouvert. Soit dit en passant, on devrait se poser les mêmes questions pour les modèles de type « poids fermés » ; le seuil sera simplement à un autre niveau, car il est beaucoup plus facile d’utiliser à mauvais escient les modèles de type « poids ouverts ». Je vous donne un exemple. Si le code contient des lignes indiquant que quelque chose est dangereux pour l’utilisateur et qu’il ne faut pas l’utiliser, un programmeur pourrait simplement supprimer ces lignes, et l’intelligence artificielle pourrait ensuite être utilisée à mauvais escient ou d’une manière où nous en perdrions le contrôle, ce qui donnerait naissance à une intelligence artificielle rebelle. Oui, nous avons besoin de ces garde-fous sociétaux pour permettre le recours aux modèles de type « poids ouverts » lorsqu’ils sont bons et utiles pour la société, et les interdire lorsqu’ils ne le sont pas.
J’en viens à la souveraineté, qui est un aspect très important. Compte tenu de ce que je viens de dire, nous aimerions en quelque sorte avoir les deux modèles. Les modèles de plus petite taille sont ceux que les universités ou certaines institutions mettent au point. Ils sont utiles pour l’épanouissement de nos talents. Ils permettent à nos scientifiques d’acquérir plus facilement et plus rapidement cette expertise, et si nous voulons constituer un bassin de talents pour l’élaboration de modèles de pointe, nous en avons besoin. Mais il faut alors respecter les limites. Si, au Canada, nous en arrivons au point où nous construisons des modèles qui ont les capacités requises pour devenir extrêmement dangereux, nous ne devrions évidemment pas les déployer. Nous devrions donc disposer, au pays, d’institutions et d’organisations qui peuvent mener des recherches sans toutefois devoir tout publier ou tout rendre accessible, ce qui, soit dit en passant, n’est malheureusement pas vraiment ce que fait le milieu universitaire. Le milieu universitaire excelle dans la transparence et la science ouverte. Nous avons donc besoin d’autres organisations qui collaboreront avec lui, comme les entreprises privées, en ce moment, mais aussi des organisations comme celle que j’ai créée — LoiZéro — et qui peuvent se concentrer sur les modèles de type « sources ouvertes » et de type « sources fermées », en fonction de notre évaluation des risques.
Le sénateur Woo : La dernière fois que j’ai réfléchi à ce problème, à plus petite échelle, c’était en lien avec ce qu’on appelle les produits financiers structurés, tels que les titres garantis par des créances et les prêts hypothécaires à risque. Il s’agit là de produits financiers sophistiqués que les gens pensaient comprendre. Des conseils d’administration de grandes banques et de sociétés d’investissement, ainsi que des comités de gestion des risques, supervisaient tous ces produits. Or, ils ne les maîtrisaient pas vraiment. Voilà où je veux en venir. Nous avons connu une crise financière mondiale collective à cause des prêts hypothécaires à risque, notamment, qui a failli faire s’effondrer l’économie mondiale. Le problème, ce n’est pas que nous n’avions pas de comités de surveillance réglementaire ou de gestion des risques; c’est que les personnes chargées de cette surveillance n’étaient tout simplement pas en mesure de suivre le rythme des ingénieurs financiers. Elles ne savaient tout simplement pas ce qu’elles étaient censées approuver, et je n’ai certainement pas les compétences nécessaires pour évaluer de manière critique un quelconque modèle.
Avons-nous, au sein des instances de réglementation, des personnes — vous savez certainement comment vous y prendre... Mais est-ce que les personnes qui surveillent et conçoivent les garde-fous ont ce qu’il faut pour suivre le rythme de tous les talents dans les entreprises privées qui foncent droit devant?
M. Bengio : La situation avec l’intelligence artificielle est en fait pire qu’avec les instruments financiers. Nous la comprenons encore moins. Nous comprenons les principes scientifiques qui régissent l’apprentissage des systèmes, mais nous ne savons pas, par exemple, si l’intelligence artificielle va se comporter correctement ou non. Il est très difficile de le prédire. Voilà pourquoi les garde-fous doivent être encore plus solides.
Je ne suis pas un expert en finance ni un spécialiste de ce qui s’est passé en 2008. Cela dit, d’après ce que j’ai compris, il existait certes des garde-fous, mais aussi beaucoup d’autoréglementation. La structure incitant à respecter les limites de bon nombre des entreprises concernées était mal conçue. C’est là-dessus qu’il faut se pencher. Les gouvernements sont les seules entités capables de modifier la structure incitative des organisations qui élaborent et déploient ces modèles.
Avons-nous ce qu’il faut, comme vous dites? Eh bien, c’est un peu le problème de l’œuf et de la poule. Il existe des organismes sans but lucratif qui possèdent cette expertise, comme LoiZéro. Aux États-Unis, au Royaume-Uni et en Europe, on en compte plusieurs également. En général, ce sont des organismes sans but lucratif, mais je vois maintenant apparaître de nouvelles entreprises à but lucratif. En raison de la réglementation, notamment de la loi européenne sur l’intelligence artificielle, des entreprises se lancent désormais dans l’évaluation des risques et proposent ce service à d’autres entreprises qui n’ont pas ce qu’il faut en la matière. Vous voyez, c’est un cercle vertueux. Plus les gouvernements mettent en place des garde-fous, plus un marché émerge pour gérer ces risques et fournir l’expertise nécessaire.
La présidente : J’ai encore une question, car j’essaie de bien comprendre la situation. Notre système, tel que vous le connaissez, serait-il en mesure d’assurer la réglementation et la mise en application? Devrions-nous instaurer ce type d’exigences en matière de tests? Disposerions-nous, dans notre système actuel, des effectifs et des compétences nécessaires pour assurer la mise en application effective de ces mesures à l’échelle du gouvernement et de la fonction publique?
M. Bengio : Non. À l’heure actuelle, le gouvernement canadien ne dispose clairement pas de l’expertise suffisante en matière d’IA. Les pouvoirs publics devraient collaborer avec les universités et les entreprises qui possèdent déjà une certaine expertise en la matière. Comme je l’ai expliqué, il s’agit du fameux dilemme de l’œuf et de la poule: plus le gouvernement exigera ce type d’expertise dans le cadre de ses processus d’approvisionnement, plus les jeunes seront intéressés à étudier dans ces domaines d’avenir. Par exemple, certains jeunes qui terminent leurs études en apprentissage automatique et aimeraient travailler dans le domaine de l’IA s’inquiètent de la situation actuelle au Canada. Et si la demande pour ce type de travail demeure insuffisante ici, ces jeunes diplômés risquent alors de partir travailler pour les grandes entreprises américaines.
La sénatrice Hay : Comment pouvons-nous nous assurer que les systèmes d’IA déployés au Canada reflètent nos valeurs en matière d’équité, de bilinguisme, et de souveraineté autochtone, plutôt que les valeurs véhiculées dans d’autres pays? Est-ce même réellement possible?
M. Bengio : C’est certainement une possibilité. Nous pouvons adopter des lois visant à exercer une certaine pression sur les entreprises américaines. Comme je l’ai dit, si nous sommes les seuls à agir, cela n’ira pas très loin.
Nous pouvons encourager le développement d’une IA canadienne qui sera conçue dès le départ pour respecter nos valeurs. Je pense qu’il s’agit d’un levier particulièrement puissant. Comme je l’ai déjà dit, nous devrons probablement le faire en collaboration avec des partenaires, mais c’est différent. Donc, le premier élément, c’est d’améliorer la réglementation; le deuxième élément, c’est d’encourager le développement de notre propre IA, conçue dès le départ pour respecter nos valeurs démocratiques et éthiques.
La sénatrice Burey : J’aimerais vous poser une autre question, très brièvement. Vous avez évoqué le concept de superintelligence, en précisant que nous n’en étions pas encore là. Je me demandais si vous pouviez tout de même en donner une définition. Enfin, de combien de temps disposons-nous, compte tenu de la course effrénée dans le domaine de l’IA?
M. Bengio : C’est une question difficile. Dans la plupart des domaines, pour la plupart des tâches et à presque tous les niveaux, l’IA est plus performante sur le plan intellectuel que n’importe quel être humain sur la planète.
Combien de temps reste-t-il avant l’avènement de la superintelligence artificielle? Personne ne le sait, et je reste plutôt sceptique à ce sujet. Certains dirigeants d’entreprises américaines pensent que cela pourrait ne durer que quelques années. À mon avis, il s’agit de l’estimation la plus optimiste. D’autres experts estiment pour leur part que l’essor de la superintelligence risque de prendre au moins une décennie. Je ne sais pas ce qu’il en sera, mais nous devons nous préparer à toute éventualité.
Pour comprendre pourquoi certains experts pensent que cela pourrait arriver rapidement, il suffit de constater que toutes les grandes entreprises axent leurs efforts sur la manière dont leur propre IA peut contribuer à concevoir la prochaine génération d’IA, ce qui risque évidemment d’accélérer le rythme des progrès en matière de capacités de l’IA.
Pire encore, à mesure qu’ils s’engagent dans cette voie, nous pourrions nous retrouver avec une IA entièrement conçue par une IA antérieure que les humains ne comprennent pas; et si cette IA n’est pas alignée sur des directives formulées par des humains, elle risque alors de rendre les futures IA encore plus difficiles à maîtriser.
La sénatrice Senior : Je suis curieuse de savoir quelles sont, selon vous, les deux principales mesures de protection que nous devrions envisager en ce qui concerne l’IA.
M. Bengio : La première forme de réglementation indispensable est la transparence. La transparence est une valeur qui se trouve au cœur de toute la législation existante en matière d’IA, que ce soit en Europe, en Californie, et ainsi de suite. Mais que signifie la transparence, concrètement? Cela signifie que les entreprises ont le devoir de gérer et d’évaluer leurs risques, de rendre compte de ces efforts aux pouvoirs publics et, dans la mesure où cela ne porte pas atteinte à leurs intérêts privés, à la population dans son ensemble. Bref, la transparence est une priorité absolue.
La présidente : Et quelle serait votre deuxième priorité?
M. Bengio : Les organismes de réglementation doivent disposer des moyens d’agir lorsque les risques dépassent un certain seuil. J’inclurai dans ce cadre des mesures telles que la clarification des responsabilités, entre autres, afin que les marchés eux-mêmes puissent faire preuve de plus de discipline. Les entreprises ne veulent évidemment pas être exposées à des poursuites, et les compagnies d’assurances souhaitent que les entreprises puissent procéder à l’évaluation de leurs propres risques avant d’établir une prime de risque.
La présidente : Eh bien, je dois dire que la dernière heure a filé à la vitesse de l’éclair.
Monsieur Bengio, merci pour votre témoignage.
M. Bengio : C’est moi qui vous remercie.
La présidente : Pour notre deuxième groupe de témoins, nous avons le plaisir d’accueillir les invités suivants : Mme Chantal Guay, directrice générale, Conseil canadien des normes; Mme Anneke Olvera, directrice, Programmes, Conseil canadien des normes; M. Jonathan Dewar, président-directeur général, Centre de gouvernance de l’information des Premières Nations; et Mme Tania Saba, directrice générale intérimaire, Observatoire international sur les impacts sociétaux de l’IA et du numérique.
Merci de vous joindre à nous aujourd’hui. Vous disposerez de cinq minutes chacun pour votre déclaration d’ouverture, après quoi les membres du comité auront l’occasion de vous poser des questions. Madame Guay, à vous la parole, je vous prie.
[Français]
Chantal Guay, directrice générale, Conseil canadien des normes : Merci, madame la présidente et mesdames et messieurs les membres du comité, de nous donner l’occasion de comparaître aujourd’hui.
[Traduction]
Le Conseil canadien des normes, le CCN, est une société d’État fédérale à but non lucratif chargée de coordonner le système national de normalisation du Canada, notamment en matière de normes, d’évaluation de la conformité, et d’accréditation. Nous collaborons avec les gouvernements, les organismes de réglementation, le secteur privé, le milieu universitaire et la société civile afin de garantir que les produits, les technologies et les services soient sécuritaires, fiables, et dignes de confiance.
Avant d’aborder plus en détail les différents enjeux liés à l’intelligence artificielle, il peut être utile d’expliquer brièvement le contexte général dans lequel s’inscrit le processus de normalisation, car celle-ci est à la base de la manière dont le Canada gère la sécurité, l’innovation, et la confiance de la population.
Le Canada dispose d’une infrastructure nationale de qualité bien établie, qui englobe la normalisation, les essais et la certification, l’accréditation, et la métrologie. Ensemble, ces éléments garantissent que les produits, les technologies et les services sont sécuritaires, fiables et dignes de confiance. Il est important de noter que ce système est conçu pour s’adapter aux nouvelles technologies et aux risques émergents, ce qui explique pourquoi il continue de soutenir l’innovation dans des secteurs tels que l’intelligence artificielle, même s’il ne s’agit pas d’une mince affaire.
Tous les Canadiens interagissent sur une base quotidienne avec ce système sans même s’en rendre compte. La sécurité électrique dans nos foyers et l’interopérabilité de nos téléphones intelligents avec le WiFi et les produits de consommation reposent toutes sur des normes élaborées conjointement par l’industrie, les organismes de réglementation, les gouvernements, le monde universitaire et la société civile. Ces normes sont souvent invoquées par les organismes de réglementation et validées par des processus de certification et d’accréditation qui contribuent à garantir que les produits et services fonctionnent comme prévu.
Au fur et à mesure que le débat sur l’intelligence artificielle évolue, deux préoccupations principales reviennent régulièrement : nous les avons encore entendues ce matin. D’une part, il y a la nécessité de mettre en place des garde-fous et une gouvernance, et d’autre part, celle d’innover et de demeurer compétitif. Le processus de normalisation contribue ainsi à créer un certain équilibre.
Il y a trois points sur lesquels j’aimerais attirer votre attention. Premièrement, les normes et la réglementation vont de pair. Les normes ne sont pas synonymes de réglementation; elles sont complémentaires, et soutiennent les objectifs réglementaires en fournissant des outils pratiques accessibles à tous.
L’un des avantages des normes réside dans la manière dont elles sont conçues. En effet, les normes sont élaborées dans le cadre d’un processus consensuel, avec une représentation équilibrée de nombreuses parties prenantes, notamment les autorités de régulation, le secteur privé, les pouvoirs publics, les experts, la société civile, et d’autres parties prenantes. Cela en fait un moyen très efficace de favoriser une large participation et l’adoption de solutions communes.
Deuxièmement, les normes peuvent contribuer à répondre aux nouveaux besoins en matière de gouvernance. Les technologies d’intelligence artificielle évoluent rapidement, trop rapidement même, et les approches réglementaires varient d’un pays à l’autre. Les normes volontaires fournissent dès aujourd’hui des orientations pratiques et aident les organisations à gérer les risques, à mettre en œuvre des pratiques responsables, et à se préparer aux prochains cadres réglementaires.
Le Canada a joué un rôle de premier plan à l’échelle internationale dans l’élaboration des normes dans ce domaine. Par exemple, le Canada a piloté l’élaboration de la norme internationale relative aux systèmes de gestion de l’intelligence artificielle, qui aide les organisations à gérer l’intelligence artificielle de manière responsable en leur imposant d’évaluer les risques, tels que les différents types de biais.
Troisièmement, les normes et les systèmes d’évaluation de la conformité agréés constituent des garde-fous qui favorisent la confiance. Le Canada dispose déjà de bases solides en la matière. En effet, la législation en vigueur, comme les lois sur la protection de la vie privée, les règlements sectoriels et les cadres de protection des consommateurs, s’applique déjà à de nombreux usages de l’intelligence artificielle. Le processus de normalisation vient étayer tous ces cadres, et la confiance de la population repose sur la garantie que toutes ces normes seront appliquées de manière adéquate par des responsables compétents.
Par exemple, l’année dernière, le CCN a mis sur pied un programme visant à garantir que les organismes chargés de certifier la conformité des entreprises selon la norme relative aux systèmes de gestion de l’intelligence artificielle possèdent les compétences requises pour le faire.
Depuis plus de 50 ans, le CCN met en place des systèmes de normalisation visant à instaurer la confiance, condition nécessaire à l’innovation et au bon fonctionnement des marchés. C’est pourquoi aujourd’hui, au sein de ce bâtiment, et entourés de tous ces équipements, nous nous sentons tous en sécurité.
Par conséquent, la mise en place d’un processus de normalisation peut contribuer à renforcer ce même sentiment de sécurité et de fiabilité par rapport à nos infrastructures numériques.
[Français]
Nous serons très heureuses de répondre à vos questions. Merci.
[Traduction]
La présidente : Je vous remercie, madame Guay.
Monsieur Dewar, à vous la parole, je vous prie.
Jonathan Dewar, président-directeur général, Centre de gouvernance de l’information des Premières Nations : Bonjour à tous. Je suis membre de la nation huronne-wendat par ma mère et ma grand-mère. Je me joins à vous aujourd’hui à titre de président-directeur général du Centre de gouvernance de l’information des Premières Nations, le CGIPN.
Je ne parle pas au nom d’un point de vue particulier des Premières Nations, mais plutôt dans le cadre suivant : le CGIPN est une société sans but lucratif, strictement technique et apolitique, qui mène différentes activités à l’échelle nationale en vertu d’un mandat spécial confié par les chefs en assemblée.
Notre réseau national regroupe des membres et des partenaires des Premières Nations issus de chacune des 10 régions définies au Canada. Notre conseil d’administration est représentatif à l’échelle nationale, ce qui garantit une communication efficace avec les dirigeants des Premières Nations de chaque région ainsi que leur orientation. Notre vision est que chaque Première Nation parvienne à la souveraineté en matière de données, en accord avec sa propre vision du monde.
En collaboration avec les Premières Nations, nous défendons la souveraineté des données et soutenons le développement de la gouvernance et de la gestion de l’information au niveau communautaire grâce à des partenariats régionaux et nationaux. Entièrement responsable devant les Premières Nations, le CGIPN représente une source de renseignements fiable et indépendante, dirigée par les Premières Nations, qui traite des pratiques exemplaires en matière de souveraineté des données des Premières Nations. Bref, le CGIPN aide les membres des Premières Nations à prendre des décisions éclairées.
Je vais commencer par un élément tiré de mon expérience professionnelle personnelle acquise au cours des 25 dernières années, durant lesquelles j’ai dirigé et soutenu des travaux de recherche menés avec et pour les Premières Nations, les Inuits, et la nation métisse.
Je pense que la sénatrice Greenwood, qui possède elle aussi de l’expérience dans ce domaine, conviendra que l’on s’accorde largement à reconnaître que nous, qui exerçons ce type de travail, nous devons toujours opérer dans le respect des cadres autochtones désignés, fondés sur des distinctions, ou, comme j’aime le dire, des systèmes de responsabilité. Ainsi, si c’est ce que l’on attend de nous, qui disposons d’une intelligence humaine, c’est également ce que l’on doit attendre de l’intelligence artificielle.
Si l’intelligence artificielle n’est qu’un outil, elle est toujours maniée par des personnes qui doivent opérer au sein de différents systèmes. Nous ne tenons pas le marteau ni la boîte à outils dans laquelle il se trouve, pour responsables des dommages causés par une structure construite par une personne en chair et en os. C’est la personne que nous tenons pour responsable. Mais si l’intelligence artificielle en venait à transcender le simple statut d’outil, alors de nouveaux systèmes devront être spécialement conçus à cet effet.
Les Premières Nations, les Inuits et la nation métisse mettent en œuvre leurs stratégies respectives à cette fin, en s’appuyant notamment sur les engagements pris par le gouvernement fédéral dans le cadre de la Loi relative à la Déclaration des Nations unies sur les droits des peuples autochtones, et de l’Approche transformationnelle des données autochtones, entre autres obligations.
Pour les Premières Nations, la mise en œuvre continue de la Stratégie de gouvernance des données des Premières Nations constitue un élément central depuis la présentation du budget fédéral de 2021.
Les enjeux relatifs à l’intelligence artificielle sont, par nature et par nécessité, des enjeux liés à la souveraineté des données appartenant aux Premières Nations. Par exemple, lorsque nous travaillons avec les Premières Nations, on nous pose souvent ce genre de questions : « Puis-je utiliser l’intelligence artificielle sans lui fournir de données? » Si j’attends d’une personne avec laquelle j’ai partagé des informations — par exemple, la langue, le matériel ou la culture éphémère, les connaissances et les identifiants autochtones —, qu’elle fasse preuve d’éthique et qu’elle démontre ses valeurs, ses principes et son intégrité concernant ces informations, puis-je également attendre cela de l’intelligence artificielle? Comment pouvons-nous garantir que certains acteurs, réels ou imaginaires, ne s’approprient pas, ou n’utilisent pas à mauvais escient, certains renseignements relatifs aux Premières Nations?
Voici un enjeu fondamental. Avant d’aborder les différents enjeux liés à l’intelligence artificielle, il est impératif de veiller à ce que les Premières Nations et tous ceux qui sont amenés à interagir avec elles, en particulier le gouvernement canadien, comprennent bien ce que signifie la souveraineté des Premières Nations en matière de données, ainsi que la manière dont s’y inscrit la gouvernance de l’information, de même que les principes de propriété, de contrôle, d’accès et de possession, ou PCAP.
La souveraineté des Premières Nations en matière de données fait partie intégrante de leur souveraineté. Cela signifie qu’il s’agit avant tout d’un débat visant à garantir qu’une collectivité titulaire de droits, comme une Première Nation, puisse faire valoir son droit collectif à la souveraineté sur ses propres renseignements.
Je vais approfondir un peu ce sujet en utilisant une approche qui, je l’admets, est quelque peu simpliste, mais qui constitue un point de départ courant dans le travail pédagogique que nous menons.
Tout ensemble de renseignements permettant d’identifier une Première Nation appartient à cette nation et, par conséquent, la collectivité titulaire des droits a le droit de faire valoir ses droits collectifs sur ces informations. Cela ne signifie pas qu’un individu, comme moi-même, ne puisse pas prendre la décision éclairée de partager ses identifiants de Première Nation, comme je l’ai fait dans mon introduction. Mais aucun individu ne peut donner son consentement au nom de la collectivité titulaire des droits. Si vous disposez d’un ensemble d’informations contenant des identifiants des Premières Nations, vous êtes alors en possession d’informations soumises à l’exercice par cette nation de ses droits collectifs sur ce type de renseignements.
Bien que d’une immense complexité dans la pratique, sinon en théorie, ce type de scénario peut être résolu grâce à des mécanismes de gouvernance de l’information; cela suppose toutefois que les lois, les politiques et les procédures qui définissent les cadres dans lesquels les institutions et les individus évoluent soient adéquates. En tant qu’êtres humains, nous n’en sommes pas encore là. Ainsi, dans un contexte où les applications d’intelligence artificielle consomment massivement l’information, les droits des Premières Nations sont menacés si nous ne mettons pas en place et ne réglementons pas ces systèmes de manière ciblée et stratégique.
Je vous remercie.
La présidente : Madame Saba, à vous la parole, je vous prie.
Tania Saba, directrice générale intérimaire, Observatoire international sur les impacts sociétaux de l’IA et du numérique : Je vous remercie vivement de m’avoir donné l’occasion de m’adresser à vous aujourd’hui.
[Français]
Je représente l’Obvia, l’Observatoire international sur les impacts sociaux de l’intelligence artificielle et du numérique, un réseau interdisciplinaire de plus de 300 chercheurs.
Nous produisons des analyses indépendantes fondées sur des données probantes. Nos analyses sont prospectives. Nous collaborons avec les milieux scientifique, institutionnel et socioéconomique. Nous ne produisons pas de technologie; nous étudions leurs impacts en mobilisant les sciences sociales pour éclairer les choix stratégiques, organisationnels et politiques liés aux transformations numériques.
Aujourd’hui, j’aimerais vous exposer trois questions autour des principes de gouvernance de l’intelligence artificielle. Cela se base, évidemment, sur le fait que le Canada a un très fort leadership scientifique en matière d’intelligence artificielle et les pressions sont grandes pour l’adoption de principes.
Or, l’adoption n’est pas au rendez-vous, notamment dans les PME, par exemple, où à peine 12 % de nos entreprises confrontées à des obstacles particuliers adoptent l’IA. Ces obstacles sont notamment un accès limité aux ressources financières et technologiques, un manque d’expertise interne en données et en intelligence artificielle, des difficultés à identifier des cas d’usage et un accès restreint aux données nécessaires et au développement pour déployer des systèmes.
Il y a également une grande diversité dans les secteurs qui adoptent l’intelligence artificielle; celle-ci est moins présente dans la fabrication, l’administration publique, l’industrie culturelle, etc.
Or, les préoccupations mêmes des petites et moyennes entreprises concernent souvent la gouvernance : l’intelligence, surtout en matière de transparence, d’explicabilité des systèmes, de protection et d’utilisation responsable de données, de biais algorithmiques et d’impacts sur l’emploi, les compétences, dont la littéracie numérique, et l’équité.
J’aimerais parler de trois questions aujourd’hui. Premièrement, face à ces transformations, quels sont les principes qui doivent guider le développement de ces technologies? On peut voir qu’au cours des dernières années, plusieurs organisations internationales ont proposé des cadres éthiques afin d’orienter le développement de l’intelligence artificielle.
Parmi les initiatives les plus marquantes figurent les suivantes : celle de l’UNESCO; celle de l’OCDE; celle du sommet de Paris, soit le Pledge for a Trustworthy AI in the World of Work, qui traite du monde du travail; le Seoul Statement on AI Standards, enfin, tout récemment, celle du sommet de l’Inde, soit les sept chakras, qui soulignent la nécessité d’équilibrer innovation technologique, éthique, sécurité, inclusion sociale, durabilité, gouvernance et confiance publique. Le Canada, bien entendu, s’inscrit également parmi les précurseurs avec la Déclaration de Montréal pour un développement responsable de l’intelligence artificielle, ou encore la Stratégie pancanadienne en matière d’intelligence artificielle.
Que révèlent ces cadres? Une convergence croissante autour d’un ensemble de principes fondamentaux. Une IA centrée sur l’humain, respectueuse des droits fondamentaux et des valeurs démocratiques, soit garantir la transparence, l’explicabilité et la responsabilité des systèmes algorithmiques; garantir la sécurité, la robustesse et la fiabilité; promouvoir une innovation responsable et une attention aux impacts économiques, sociaux et environnementaux. De plus, aujourd’hui, un grand souci des compétences, du capital humain et de son développement. Tout y est.
Un énoncé de principe, c’est bien, mais ma deuxième question est la suivante : comment renforcer ces principes internationaux de l’éthique de l’IA dans un contexte de fragmentation, parfois même de vide réglementaire doublé d’une compétition technologique effrénée pour accompagner le développement et l’adoption responsables des technologies? Et c’est là où, bien entendu, les gouvernements jouent un rôle central. La question a été posée tout à l’heure aussi, mais ils ne sont pas les seuls acteurs. C’est là où la gouvernance de l’intelligence artificielle repose aujourd’hui sur un écosystème plus large, qui doit inclure les communautés scientifiques, les centres de recherche, les organisations internationales, les entreprises technologiques et les réseaux de collaboration internationaux.
Ces collaborations constituent une avancée importante. Elles permettent de rapprocher la recherche scientifique, les politiques publiques, les préoccupations sociales, et c’est vraiment l’émergence d’une forme de diplomatie scientifique à laquelle on assiste avec la coopération entre chercheurs.
Cependant, plusieurs défis demeurent. J’en note quatre à ce stade. La coordination entre les acteurs reste très complexe. Les priorités divergent entre les gouvernements, les entreprises technologiques et les communautés scientifiques. Les intérêts économiques liés au développement peuvent parfois se buter aux objectifs de régulation. Les mécanismes de coopération internationale demeurent fragmentés, et les capacités de recherche et de gouvernance varient fortement d’un pays à l’autre.
Je vais parler de la troisième question rapidement : comment traduire les principes éthiques de l’intelligence artificielle —
[Traduction]
La présidente : Madame Saba, je vais devoir vous demander de conclure votre présentation. Merci.
[Français]
Mme Saba : Comment traduire les principes éthiques de l’intelligence artificielle en mécanismes concrets? Il est essentiel aujourd’hui de passer d’une éthique essentiellement déclarative à une gouvernance plus opérationnelle de l’intelligence artificielle. C’est par le développement d’indicateurs qui impliquent la science qu’on va pouvoir le faire pour encadrer des —
[Traduction]
La présidente : Merci, madame Saba. Je crains que nous ne devions vous demander de conclure.
Mme Saba : J’ai terminé, je vous remercie.
La présidente : Nous allons maintenant passer aux questions des sénateurs.
Dans le cadre de ce groupe d’invités, les sénateurs disposent de quatre minutes pour poser une question, réponse comprise. Veuillez indiquer si votre question s’adresse à un témoin en particulier ou à l’ensemble des témoins.
La sénatrice Burey : Merci beaucoup pour votre présence parmi nous aujourd’hui. Ma question s’adresse principalement à Mme Guay, et porte sur la question des normes.
Nous avons entendu les recommandations de M. Bengio, ainsi que celles d’autres invités. Nous avons discuté des moyens de prévenir et d’atténuer les risques liés à l’intelligence artificielle en matière de sûreté et de sécurité. D’après ce qui ressort de notre étude jusqu’à présent, le gouvernement devrait donner la priorité à l’adoption d’une législation imposant des mesures rigoureuses de prédéploiement, de test, d’évaluation et de responsabilité pour les outils d’intelligence artificielle générative destinés à être utilisés au Canada. La question de la transparence a notamment été abordée.
Comment mettriez-vous cela en pratique dans le cadre du rôle de votre organisation, madame Guay?
Mme Guay : Merci beaucoup pour cette question.
Pour rendre cela fonctionnel, il faut recourir à la normalisation. C’est ce que nous faisons depuis des décennies dans d’autres domaines liés à la sécurité. L’une des meilleures approches pour répondre aux exigences réglementaires consiste à utiliser des normes, l’évaluation de la conformité et l’accréditation.
Je peux vous donner un exemple. Ce n’est pas un exemple lié à l’intelligence artificielle, mais c’est une analogie. Vous utilisez probablement votre machine à café tous les matins chez vous, et quand vous...
La sénatrice Burey : Nous discutons de l’intelligence artificielle de façon spécifique. Dans votre déclaration liminaire, vous avez noté que l’intelligence artificielle est un sujet sensible, un domaine nouveau qui évolue très rapidement. Pour les besoins de ce comité, je vais vous demander de vous focaliser sur ce point, car c’est notre mission. Présentez-nous quelques problèmes. Dites-nous ce que vous avez fait? Parlez-nous des obstacles? C’est ce que nous voulons savoir.
Mme Guay : Comme vous en discutez, la communauté technique a identifié des problèmes et des dangers potentiels liés à l’intelligence artificielle et a créé des comités à l’international pour élaborer des normes. Certaines de ces normes sont axées, par exemple, sur la fiabilité et d’autres examinent les biais, ainsi que la façon d’évaluer et de gérer les risques, et d’en analyser les impacts. Les détails de ces travaux sont disponibles. Nous élaborons depuis plusieurs années un certain nombre de normes internationales sur ces mêmes sujets. Ce que nous espérons, c’est de les voir adoptées, idéalement par les responsables de la réglementation. À mesure que les gouvernements et les économies établissent les principes clés et les garde-fous essentiels, ils veillent à ce que nous puissions ensuite prendre ces normes et les adapter afin de garantir qu’elles s’appliquent ou respectent ces garde-fous. Nous en avons identifié de très similaires, tels que la transparence, l’explicabilité, la façon d’examiner les biais et la manière de traiter ces derniers. La meilleure façon pour nous de continuer à améliorer ces normes est d’obtenir des orientations plus fermes de la part des pays.
La sénatrice Burey : L’objectif est d’intégrer cela dans votre accréditation?
Mme Guay : L’objectif est d’avoir une norme à l’égard de laquelle une entreprise puisse dire : « Je m’y conforme ».
Nous avons déjà un programme que nous avons lancé l’année dernière sur une norme particulière qui est un système de gestion de l’intelligence artificielle. Les systèmes de gestion traitent de la gouvernance, de l’évaluation des risques, des impacts, etc. Nous avons deux organismes au Canada qui sont accrédités pour certifier les entreprises souhaitant mettre cette norme en œuvre. Nous espérons que de plus en plus d’entreprises voudront utiliser cette norme à l’avenir, car nous croyons qu’elle va tout à fait dans la bonne direction.
La sénatrice McPhedran : Ma question s’adresse à Jonathan Dewar.
Monsieur Dewar, comme les systèmes d’intelligence artificielle s’appuient sur de vastes ensembles de données, comment le Canada peut-il garantir que les données des Premières Nations sont utilisées dans le respect des principes de souveraineté des Premières Nations? Pour aller un peu plus loin, quelles mesures de protection devons-nous mettre en place?
M. Dewar : Je sais que je n’ai pas le temps de répondre pleinement à cette question, comme je le ferais dans un autre cadre, mais je vais revenir sur ma déclaration liminaire, à savoir qu’il s’agit en réalité de gouvernance de l’information, c’est-à-dire des systèmes et des mécanismes que nous utilisons à cette fin.
Je m’appuierais sur un point fort, à savoir que le Canada travaille en collaboration avec les Premières Nations à la mise en œuvre d’une stratégie nationale de gouvernance des données des Premières Nations. Il s’agit d’un système de gouvernance de l’information dirigé par les Premières Nations, ainsi que d’un système de services statistiques et d’information dirigé par les Premières Nations.
L’intelligence artificielle se profile depuis un certain temps. Nous l’avons vue venir. Ce n’est pas comme si elle s’était imposée récemment, sauf que, de toute évidence, elle nous tombe comme elle tombe dessus toutes les autres communautés du Canada. Nous avons pour mission de faire avancer ces questions au sein de plusieurs organisations possédant une expertise dans différents domaines de l’écosystème des Premières Nations, et la nôtre se concentre sur la gouvernance de l’information.
La réponse simple est que le Canada doit continuer à soutenir les Premières Nations, et cela ne peut se limiter à un geste symbolique consistant à s’assurer que le langage est présent.
La sénatrice McPhedran : Nous aimerions vraiment que vous nous donniez des précisions sur les mesures de protection. S’agit-il de mesures volontaires ou légales? Si vous parlez de mesures légales, à quoi devraient-elles ressembler selon vous?
M. Dewar : Il est certain que les lois canadiennes doivent changer pour veiller à ce que les Premières Nations puissent faire valoir leurs droits, y compris leurs droits collectifs, afin que les gouvernements canadiens puissent respecter ces droits. Ce sont là de grands changements qui ne concernent pas l’intelligence artificielle de façon précise.
Pour ce qui est des mesures de protection, il existe une quantité considérable de renseignements sur les Premières Nations, sous forme analogique et numérique, qui sont sous le contrôle d’autres entités — dont des gouvernements —, et qui peuvent être intégrés dans des systèmes d’intelligence artificielle. Si le gouvernement fédéral s’engage dans une voie où, aux termes de la loi, les Premières Nations ne possèdent ni ne contrôlent ces renseignements, un gouvernement pourrait décider en notre nom de les intégrer dans des systèmes d’intelligence artificielle, et il faudrait alors répondre à la question suivante : « Pouvons-nous les utiliser sans les alimenter? »
Oui, techniquement, il existe des systèmes fermés, mais nous ne disposons pas de ces renseignements. Dans la plupart des cas, nous n’avons pas non plus notre mot à dire sur le plan juridictionnel. Ce sont là des questions d’actualité qui doivent être résolues. Les lois, oui, mais pas seulement le droit canadien. Le droit des Premières Nations également.
La sénatrice Hay : Merci à tous de votre présence en personne ou en ligne.
Ma question s’adresse peut-être à vous, madame Guay. C’est un peu un cercle vicieux : d’un côté, le besoin de garde-fous, et de l’autre, la nécessité d’innover pour acquérir un avantage concurrentiel.
Dans votre exposé, vous avez indiqué que les normes peuvent y contribuer, et qu’avec les normes, la confiance s’installera. J’ai bien aimé cela.
On entend souvent dire que l’adoption se fera au rythme de la confiance. Comment les normes parviennent-elles à suivre le rythme de l’innovation pour mettre en place des garde-fous susceptibles d’accélérer la confiance? Comment faites-vous pour suivre le rythme de tout cela?
Mme Guay : Je vais vous expliquer comment les normes sont élaborées, et cela vous donnera peut-être une idée de la façon dont elles évoluent. D’abord, il ne faut pas perdre de vue qu’elles sont élaborées par des personnes.
La sénatrice Hay : Je vous en serais reconnaissante. Je pense à l’intelligence artificielle, dont l’adoption et la mise en œuvre vont changer mois après mois et année après année. La situation sera différente dans deux ans.
Mme Guay : Oui. Donc, pour ce qui est de la façon dont les normes peuvent soutenir cette adoption, il y a 10 ans, nous nous sommes vraiment focalisés sur une approche par système de gestion, car c’est quelque chose qui peut aider n’importe quelle organisation et qui repose sur des principes dont il importe de tenir compte. C’est une approche qui peut être adaptée au fil du temps, à mesure que l’intelligence artificielle évolue.
Il faudra probablement être plus précis dans certains domaines, par exemple en matière de risques et de types de risques, mais c’est un système qui peut être utilisé par de nombreuses organisations et qui peut se transformer avec le temps.
Vous avez probablement tous vu la norme ISO 9001. C’était le premier système de gestion — d’ailleurs, le Canada a dirigé son élaboration — et elle est toujours très actuelle, car elle évolue avec les activités des entreprises.
Voilà qui explique pourquoi nous avons commencé par là. Maintenant, nous y ajoutons vraiment des éléments. Il existe une norme sur les considérations éthiques et sociétales. La norme évolue à mesure que ces questions se posent et que l’on examine différents risques ou impacts potentiels. On peut pour cela compter sur le fait que la communauté technique est composée de personnes, et que ces dernières sont conscientes de ce qui arrive et qu’elles veilleront à mettre ces considérations sur la table.
Nous avons formulé de nombreuses recommandations concernant l’adoption de meilleures normes pour l’intelligence artificielle agentique. C’est ainsi que la communauté — parce que nous sommes des personnes — progresse également.
Il est difficile pour les normes de devancer l’innovation. Nous sommes vraiment des partisans, et à mesure que l’innovation se produit, la communauté suivra, et il y aura des changements. Les normes ne sont pas statiques. Elles changent avec le temps.
Cela vous aide-t-il?
La sénatrice Hay : Merci beaucoup.
Mme Guay : Merci.
La sénatrice Senior : Merci à nos témoins.
J’ai deux questions : une pour vous, madame Guay, et une pour vous, monsieur Dewar.
Pour poursuivre dans la même veine que la sénatrice Hay, je vais commencer par vous, madame Guay. Comme j’ai siégé à plusieurs conseils d’administration d’hôpitaux et que j’ai vécu toute cette — excusez-moi pour le terme — folie des normes, j’ai vraiment pu voir les avantages de cela. Les normes façonnent véritablement le travail de l’hôpital en prévision de l’avenir.
Je ne suis pas au fait de la façon dont cela fonctionne dans le contexte actuel, c’est-à-dire dans celui de la course pour être le meilleur et le plus rapide en matière d’intelligence artificielle, mais je sais que la concurrence est, en quelque sorte, effrénée. Nous avons affaire à des entreprises qui sont des sociétés, alors que nous n’avons même pas de réglementation en place.
J’essaie vraiment de comprendre quelle serait leur motivation. Les hôpitaux reçoivent du financement des gouvernements. Quelle serait leur motivation à respecter les normes sachant que, par exemple, aux États-Unis, ils sont vraiment opposés à la réglementation et à la législation en matière d’intelligence artificielle?
Mme Guay : C’est une très bonne question. Je dirais que Cohere — que je vais prendre en exemple — est certifié selon la norme de gestion de l’intelligence artificielle que nous avons créée. C’est une entreprise canadienne. L’entreprise comprend la valeur et l’importance d’une utilisation responsable de l’intelligence artificielle.
M. Bengio a évoqué la collaboration internationale, et c’est ce que nous essayons de faire au sein des instances internationales de normalisation. Pour décrire la dynamique, j’utiliserais le terme de « pression par les pairs ». Nous sommes nombreux autour de la table, et il y a cette volonté de veiller à ce que l’intelligence artificielle soit utilisée de façon responsable et que le travail — et, oui, il est facultatif. Si vous me demandez mon avis, la meilleure combinaison dans le domaine de la sécurité des systèmes, c’est la réglementation et un système de normalisation. C’est ce qui vous instaure la confiance. Vous ne remarquez même pas que c’est là. Vous l’oubliez.
Or, ce que nous pouvons faire pour l’instant, c’est d’exercer une pression, et c’est pourquoi le Canada est impliqué à ce point : nous défendons nos valeurs au sein de ces instances internationales de normalisation. Nous le faisons avec des collègues de l’Australie, du Royaume-Uni et de l’Union européenne.
Nous avons conclu de nombreux accords avec tous les pays qui partagent les idées dont M. Bengio a parlé, car nous savons que nous pouvons faire progresser ces valeurs. Voilà pourquoi il est si important que nous soyons présents à la table des négociations, et c’est là que nous sommes.
La sénatrice Senior : Merci, madame Guay.
Monsieur Dewar, votre exposé m’a beaucoup intriguée, car je ne peux même pas m’imaginer la complexité de cela.
Je me demande — et c’est une question que je pose à bon nombre de nos témoins — quels sont les aspects de votre travail qui sont liés à la sensibilisation du public. Vous parlez des 10 Premières Nations qui font partie du réseau, et je m’inquiète pour la sensibilisation du public, point final.
Y a-t-il un moyen de le faire dans le cadre de votre travail, car le public n’est pas vraiment conscient de tout ce que cela signifie?
La présidente : Vous avez 40 secondes.
M. Dewar : Je suis ravi que vous me posiez la question, et je vais vous répondre de façon très succincte.
Tout le monde s’accorde à dire — y compris le gouvernement fédéral, qui finance notre travail et avec lequel nous collaborons — que la sensibilisation, l’éducation et la formation sont essentielles. Rien de cela n’est financé. Ce sont des aspects centraux de notre stratégie nationale, ce qui signifie que cela fera partie des capacités permanentes que nous mettons en place.
Nous mettons en place des systèmes et des institutions, comme le Canada sait si bien le faire, mais les Premières Nations sont lésées dans ce domaine. Nous dirions simplement : « Construisons de manière ciblée, mais aussi stratégique et efficace, afin de garantir que ce que nous considérons comme des priorités soit réellement les objectifs que nous souhaitons voir intégrer dans les systèmes et les institutions. »
La sénatrice Muggli : Merci de cette information. Pour enchaîner sur la collaboration internationale, j’ai une question à poser à Mme Saba concernant les travaux menés par l’observatoire. Je voudrais savoir comment se déroule la collaboration en matière de recherche avec d’autres partenaires internationaux, si nous disposons d’un réseau solide de collaborateurs et, le cas échéant, avec qui?
Mme Saba : Oui, c’est tout à fait le cas, et nous constituons de nombreuses collaborations. Par exemple, en commençant par les laboratoires — je peux m’exprimer du point de vue des sciences sociales —, nous travaillons sur des indicateurs, des principes, etc., par l’intermédiaire de cadres éthiques et de cadres relatifs au capital humain. Nous travaillons avec la France, par exemple, avec les laboratoires et l’OCDE. Nous avons plusieurs partenariats là-bas. Nous travaillons actuellement à Séoul, avec l’Université de la Corée. Nous avons travaillé avec le Brésil, et ils ont lancé leurs travaux d’observation en s’inspirant des nôtres. Nous développons également des projets avec le Royaume-Uni, avec lequel nous avons conclu des ententes.
Encore une fois, il s’agit de la manière dont nous réalisons la recherche et de l’impact que celle-ci peut avoir pour nous permettre d’arriver avec des façons de mesurer les répercussions de l’intelligence artificielle. À partir de là, nous nous appuyons sur la normalisation afin de faire en sorte que les principes soient moins déclaratifs et beaucoup plus opérationnels. Je pense que c’est là où nous en sommes actuellement.
La sénatrice Muggli : [Difficultés techniques] pour des investissements supplémentaires afin de mener à bien ces collaborations, et je serais curieuse de savoir ce qui vous rend optimiste dans ce domaine.
Mme Saba : En ce qui concerne l’aspect scientifique, nous pouvons voir la dynamique. Nous constatons l’enthousiasme à l’égard de la perspective d’agir et le désir de continuer d’agir. Nous percevons également, bien sûr, tous les inconvénients de ce qui se passe.
Ce qui me rend optimiste, c’est le fait que nous parlons de plus en plus de placer les sciences sociales au cœur du développement de l’intelligence artificielle, de placer l’humain au centre de tout cela. Si nous n’allons pas de l’avant avec des études sur les conséquences, encore une fois, d’un point de vue des sciences sociales — et pas seulement de l’aspect du développement de la technologie, mais de celui qui en évalue l’impact —, nous allons passer à côté d’un aspect fondamental. J’estime qu’il s’agit là de quelque chose de très important et qui peut nous faire avancer.
La sénatrice Muggli : Merci. En tant que travailleuse sociale de formation, j’apprécie vraiment cette réponse. Merci.
La sénatrice Greenwood : Tout d’abord, merci à tous d’être ici. Cette question s’adresse à vous tous. J’allais poser une question très ciblée concernant les Autochtones, mais elle s’adresse à vous tous.
Je me demande si nous disposons actuellement d’une norme éthique concernant le respect des savoirs autochtones et des détenteurs de droits autochtones. Si ce n’est pas le cas, quels sont les éléments qui devraient figurer dans cette norme, et quel est le processus qu’il faudrait suivre pour l’élaborer? Je vous pose donc cette question à vous trois, car je pense que chacun d’entre vous a des éléments à apporter à ce sujet.
Je vais sur mon petit ChatGPT, et j’y trouve des récits de la Création. Je me demande s’il existe une éthique autour de ce savoir autochtone. Vous parlez de normes. Vous parlez de réglementation. Parlons-en plus avant.
M. Dewar : Je pense que la sénatrice Greenwood devine à peu près comment je répondrais à cette question. En un mot : non, il n’y a pas de norme en matière d’éthique.
Il existe bien sûr des normes éthiques dans divers domaines universitaires et professionnels, et c’est là un atout sur lequel nous pouvons certainement nous appuyer. Si l’on considère la façon générale dont vous abordez la question, la réponse simple est non, il n’y en a pas; mais les Premières Nations, les Inuits et la Nation métisse, respectivement, ont formulé des déclarations et pris des positions à cet égard — par exemple, des résolutions officielles ont été adoptées par nos chefs nationaux au cours d’une assemblée. Il faut que ces prises de position se traduisent par une relation de nation à nation. Les lois canadiennes doivent changer pour que nous puissions réellement mettre en place des systèmes et des institutions conformes aux pratiques éthiques.
Mme Guay : Cette question nous intéresse certainement, mais comme l’a expliqué M. Dewar, il y a du travail à faire. Nous comprenons que notre façon d’élaborer des normes n’est peut-être pas bien adaptée aux besoins. J’estime donc qu’il faut commencer par... nous avons besoin de quelque chose, et dans la mesure du possible — et M. Dewar le sait, car il a participé à la collaboration sur la gouvernance des données —, lorsque nous serons prêts, nous serons très heureux d’apporter notre aide de toutes les manières possibles.
Mme Saba : Si je peux me permettre d’ajouter quelque chose à ces déclarations, je dirais que ce qui manque dans toutes les initiatives et consultations qui ont été menées au sujet de l’intelligence artificielle, ce sont les voix de la société civile, ainsi que celles des peuples autochtones. Il faut donc, pour commencer, instaurer et promouvoir un dialogue social à propos de l’élaboration de normes. Les grandes lignes normatives existent déjà, mais c’est toujours en précisant les détails que les choses peuvent avancer — la manière de mettre en place des normes qui pourraient faire évoluer la situation et mettre en évidence ce que nous appelons la « visibilité culturelle et sociale » — afin de mieux protéger et de faire progresser l’établissement de ces normes.
La sénatrice Greenwood : Il faudra probablement mettre en place plusieurs stratégies concernant les normes et l’intelligence artificielle, car si ces entreprises sont soumises au droit canadien, j’estime que les peuples autochtones du Canada doivent avoir leur mot à dire dans l’élaboration de ces normes et disposer de leurs propres normes qu’ils pourront mettre en œuvre et appliquer. Voilà ce que j’en pense. Auriez-vous des commentaires à ce sujet?
M. Dewar : Eh bien, je siège à de nombreux comités FPTA — le « A » étant mis entre guillemets —, c’est-à-dire que j’ai une place à la table mais aucun droit de vote, et lorsque les décisions passent du comité à l’instance décisionnelle, ce sont les autorités compétentes — les provinces, les territoires et le gouvernement fédéral — qui prennent les décisions. Il est tout à fait possible de changer cela, mais c’est aux Premières Nations, aux Inuits et à la Nation métisse qu’il appartient de changer cet état de choses dans le cadre de relations de nation à nation, telles qu’ils les décrivent selon leur approche fondée sur les distinctions.
Mme Guay : Je le répète, nous sommes prêts et motivés, mais je pense qu’il y a des étapes importantes à franchir auparavant, et nous savons que cette expérience va nous transformer, alors nous l’attendons avec impatience.
La sénatrice Osler : Je remercie tous les témoins de leur présence aujourd’hui.
Ma question est destinée au Conseil canadien des normes, mais si d’autres personnes souhaitaient y répondre, ce serait formidable. Ma question porte sur un domaine très particulier, à savoir les soins de santé et la nature intergouvernementale de ce secteur — c’est-à-dire sa nature fédérale, provinciale, territoriale et autochtone. Je sais que le Conseil canadien des normes collabore avec l’Organisation de normes en santé et qu’il a déjà élaboré des normes dans les domaines de la santé mentale, des soins de longue durée, des soins virtuels et des soins primaires.
En ce qui concerne les produits de santé basés sur l’intelligence artificielle, ils sont utilisés au Canada depuis un certain temps déjà, qu’il s’agisse d’assistants de saisie intégrés aux dossiers médicaux électroniques ou d’hôpitaux ayant recours à des systèmes de gestion des ressources pour gérer leurs lits.
Ma première question est la suivante : le Conseil canadien des normes et l’Organisation de normes en santé élaborent-ils en ce moment des normes pour les produits de santé basés sur l’intelligence artificielle? La deuxième partie est la suivante : pouvez-vous nous expliquer comment la qualité de ces produits de santé basés sur l’intelligence artificielle et la sécurité des patients seront contrôlées après la mise en marché de ces produits? Qui sera responsable de ce contrôle? Qui en assurera la surveillance? Comment les normes seront-elles contrôlées et appliquées dans le domaine des soins de santé?
Mme Guay : Je vais demander à ma collègue, Mme Anneke Olvera, de m’aider à répondre à cette question. À ma connaissance — et je m’excuse de ne pas en être sûre —, l’Organisation de normes en santé n’élabore pas de normes en matière d’IA à l’heure actuelle. Nous pouvons bien sûr vérifier cela, et vous informer plus tard du résultat de cette vérification.
Ce que je peux vous dire, c’est qu’au niveau international, c’est le premier secteur d’intérêt : ils ont beaucoup travaillé à l’examen des aspects fondamentaux dont je parlais tout à l’heure, comme la transparence et les biais, entre autres choses, et aujourd’hui, un groupe important que nous avons dirigé pendant longtemps se concentre sur la santé. Ils ont commencé par examiner les enjeux horizontaux, mais ils s’intéressent maintenant aux enjeux verticaux; l’accent est donc mis sur la santé.
Pour répondre à votre première question, Mme Olvera pourrait peut-être vous parler des travaux qui sont en cours. Ensuite, j’essaierai de répondre à votre deuxième question.
Anneke Olvera, directrice, Conseil canadien des normes : Je pense que ce à quoi nous assistons en ce moment au sein de la communauté de la normalisation, tant au niveau international que national, c’est un changement d’approche : on passe d’une vision horizontale de l’intelligence artificielle et de la normalisation à une réflexion sur la manière dont ces mesures horizontales s’appliqueront aux différents secteurs verticaux. Le secteur de la santé est sans aucun doute le premier secteur qui sera examiné.
D’un point de vue national, la situation est bien plus complexe au Canada que dans un petit pays de l’Union européenne, par exemple. Les membres de cette communauté se penchent clairement sur la question. Je vais vous donner l’exemple des applications liées à la santé mentale, car elles intègrent une forte composante d’IA, ce qui peut s’avérer dangereux.
À l’heure actuelle, des programmes de certification — qui ne relèvent pas nécessairement de la compétence du CCN pour l’instant — sont en cours d’élaboration, et ces programmes exigent impérativement l’adoption d’une approche systématique qui donne lieu à une évaluation de la conformité appliquée de manière cohérente dans toutes les provinces. Les applications d’IA dédiées à la santé mentale ne sont pas nécessairement destinées uniquement aux Ontariens ou aux habitants de la Colombie-Britannique.
Sans ce garde-fou en matière de santé et d’applications... de plus en plus de gens n’utilisent même plus les applications. Ils utilisent ChatGPT et, ce faisant, communiquent des renseignements très confidentiels et personnels. Si les entreprises n’ont pas recours à la certification, on ne peut pas faire confiance à leurs applications. Je ne ferais pas confiance à une application qui n’a pas été certifiée, au moins selon la norme ISO 42001, car je ne me sentirais pas en sécurité. Cela signifie que l’entreprise qui la gère utilise ses propres normes, qui ne correspondent pas à ce qui se fait à l’échelle internationale ou dans d’autres provinces.
Alors, oui, j’estime que ce rôle est très important. Je crois que la certification devrait nous importer au nom des Canadiens, ne serait-ce que pour répondre à un besoin fondamental de les protéger.
La présidente : Je tiens simplement à signaler que l’Organisation de normes en santé intègre les technologies émergentes et l’intelligence artificielle dans ses normes. Elle aborde d’ailleurs ces questions dans ses normes actuelles.
[Français]
Le sénateur Boudreau : J’ai deux petites questions pour Mme Guay.
Vous avez mentionné que vous travaillez à l’échelle internationale avec d’autres pays. Un peu plus tôt aujourd’hui, nous avons entendu le témoignage de M. Bengio. Il nous a mentionné qu’il faudrait véritablement créer une alliance avec une dizaine de pays comparables au nôtre si on veut réellement avoir un impact sur les gros développeurs privés, par exemple.
Au sujet des normes, est-ce quelque chose que l’on a en place actuellement? Est-ce un travail qui se fait sur un coin de table pendant les grandes rencontres internationales, ou y a-t-il un réel regroupement de pays comparables au Canada qui ont cette entente?
J’aimerais aussi vous entendre sur un deuxième élément. Vous avez mentionné — et cela m’a marqué — qu’il y a seulement deux compagnies au Canada qui font la promotion de nos normes concernant l’IA. Je trouve que c’est très peu pour un pays aussi grand. Pouvez-vous nous donner plus d’information à ce sujet, s’il vous plaît?
Mme Guay : Merci beaucoup de vos questions.
La collaboration internationale ne se fait pas sur le coin de la table. En particulier, en ce moment, on a un protocole d’entente avec l’Angleterre, la Corée, le Japon, Singapour et l’Australie pour justement faire —
Le sénateur Boudreau : Mais est-ce qu’il y a un —
Mme Guay : Nous, tous ensemble. En fait, beaucoup de travail se fait à l’échelle internationale, par exemple, pour faire accepter que ce serait une bonne idée d’avoir un système de gestion. On l’a fait avec nos partenaires, nos alliés, les gens qui pensent comme nous, qui ont des valeurs similaires. Ce travail se fait en permanence. On le fait toujours comme cela. Il faut faire approuver le tout par l’Organisation internationale de normalisation, ou ISO, c’est-à-dire par 175 pays, donc il faut commencer par nos alliés. C’est toujours comme cela que l’on travaille. Ce n’est jamais sur le coin de la table. Quand M. Bengio parle de cela, je dis : « Je suis là! » On fait le travail. Pour la normalisation, on est là.
Votre deuxième question est une bonne question. C’est un programme qui vient tout juste d’être lancé. Je crois que Tania a parlé plus tôt d’un taux d’adoption pas très élevé de l’IA au Canada. Évidemment, ils font cela. Ce sont des compagnies qui sont là pour le profit, entre autres, et donc il faut qu’il y ait un marché. À mesure qu’on est capable de convaincre les entreprises que c’est une bonne approche, cela les aidera à utiliser l’IA de manière responsable. On croit qu’ils auront de plus en plus de clients. C’est certainement l’objectif. Lorsque la norme ISO 9001 a été publiée il y a plus de 30 ans, c’était la même chose. À un moment donné, des gens ont réalisé qu’il y avait une très grande occasion d’accéder aux marchés d’une meilleure façon, d’être plus efficaces et d’avoir plus de revenus. Cela a eu un effet boule de neige. C’est la norme la plus utilisée au monde. Pour l’IA, c’est un secteur naissant; il faut se donner du temps.
La sénatrice Petitclerc : J’ai une petite question en français pour Mme Saba.
J’essaie de comprendre un peu mieux la mécanique de l’observatoire. En fait, ma question est la suivante : considérez-vous que vous êtes capable de sortir d’un certain silo? Je regarde le travail extraordinaire qui se fait. Quand on pense, par exemple, à la recherche, donc observatoire, gouvernement et secteur privé, comment tout ce que vous faites peut-il avoir un impact, par exemple sur le secteur privé ou dans les différents gouvernements? Cela existe-t-il, en fait? J’aimerais connaître la mécanique où l’on parle d’influence, de collaboration et d’une certaine pression.
Mme Saba : Je vous remercie de cette question à laquelle j’ai le plaisir de répondre.
Comme je vous l’ai mentionné, l’observatoire est constitué de 300 chercheurs qui sont regroupés de plusieurs façons pour assurer une intersectorialité dans le travail.
Tout d’abord, il y a des axes qui sont plus spécialisés, notamment sur le travail, sur la santé, sur le domaine culturel et sur la démocratie. Il y en a sept comme cela sur toute la question environnementale, de sobriété numérique, de cybersécurité et de souveraineté.
Ensuite, nous avons des directions qui deviennent transversales sur l’ensemble de ces thèmes. Alors, vous avez une direction, par exemple, qui travaillera surtout à l’échelle internationale. Par exemple, avec l’UNESCO, nous sommes à confirmer l’instrument de validation de l’éthique dans les organisations. Nous avons une direction qui travaillera sur la collecte de données pour veiller, encore une fois, à ce qu’il y ait une transversalité dans les études.
Ma direction, avant d’être intérimaire, est sur des questions de diversité, soit les fractures numériques que l’intelligence artificielle peut provoquer. Il y a une direction aussi qui s’attardera aux petites et moyennes entreprises, par exemple à toutes les questions entrepreneuriales qui peuvent se poser. Une direction spécifique travaillera sur les représentations autochtones et la société civile dans les méthodologies, et, encore une fois, sur l’ensemble de ces thèmes.
En plus des collaborations scientifiques internationales, je vous dis que l’on a été un réel précurseur en tant qu’observatoire. Plusieurs nous suivent un peu dans cette structure. On participe à toutes les consultations gouvernementales. Nous sommes appelés par les ministères, bien sûr, ceux qui sont proches du Québec, donc des ministères au-delà des projets qui ont été faits, qui ont aussi occasionné le renouvellement du financement. Il y a donc une écoute et un travail direct avec les organisations, avec les regroupements, avec les communautés et, bien entendu, avec les ministères.
C’est la raison pour laquelle on parlait tout à l’heure de l’exemple que vous avez donné pour la standardisation en santé. Nous avons tenu un panel sur la santé. C’est à ce moment-là que nous avons appris que la recherche respectera les critères éthiques dans la manière de concevoir des applications, mais qu’on perd ensuite le contrôle au moment de leur développement ou de leur implantation. Alors, c’est un peu ce fossé qui se crée parfois et qui, aujourd’hui, a besoin d’être comblé. D’ailleurs, il a aussi été amplement question de cette plus grande proximité au sommet de l’Inde.
[Traduction]
Le sénateur Woo : Une grande partie de notre discussion a porté sur l’élaboration, l’adoption et la réglementation de normes, en particulier dans le domaine de l’IA. Je souhaite demander à Mme Guay si elle a observé des difficultés dans le cadre de l’intégration des normes volontaires dans la réglementation aux niveaux législatif, juridique, administratif, bureaucratique et culturel.
Mme Guay : Je vous remercie de votre question, sénateur. Nous pensons effectivement que cette intégration pourrait se dérouler mieux. Comme cela a été démontré dans d’autres domaines liés à la sécurité au Canada, nous sommes fermement convaincus que la collaboration étroite entre les organismes de réglementation et la mise en commun de leurs objectifs, ainsi que la mise en œuvre de ces objectifs par l’intermédiaire de la normalisation, revêtent une grande importance et méritent sans aucun doute d’être prises en considération.
À mon avis, l’idéal serait que nous y réfléchissions chaque fois que nous mettons en place un programme, car, très souvent, la mise en œuvre se déroule de manière normalisée. Il s’agit certainement d’un aspect qui pourrait effectivement être amélioré.
Nous menons en ce moment des discussions avec de nombreux organismes de réglementation afin de déterminer la façon dont nous pouvons vous aider à atteindre vos propres objectifs en tirant parti de cette infrastructure et de ce système de normalisation exceptionnels et de grande qualité, qui existent au Canada depuis 50, 60, voire 70 ans, afin que vous puissiez réussir à cet égard.
Le sénateur Woo : Quelles sont trois mesures que nous pouvons prendre pour y parvenir?
Mme Guay : Un élément essentiel consiste à réfléchir dès le début. Souvent, nous intervenons dans les programmes à un stade avancé. Nous avons réalisé ce travail avec des innovateurs. Ces innovateurs pensent immédiatement à la propriété intellectuelle, mais la plupart du temps, les obstacles à la commercialisation sont dus au non-respect des normes ou à l’existence de normes qui ne tiennent même pas compte de la technologie. Il faut penser à la normalisation dès le début de l’innovation ou dès l’élaboration de votre programme, si vous souhaitez atteindre un objectif au Canada ou dans une province. C’est certainement un aspect auquel nous travaillons avec diligence, en essayant de convaincre les organismes de réglementation et les décideurs politiques que la normalisation est un outil formidable pour atteindre leurs propres objectifs. N’hésitez pas à communiquer avec nous. Nous sommes là, et nous voulons vous aider encore davantage. Je vous remercie de votre question.
La présidente : Est-il concevable que la normalisation puisse freiner le développement technologique?
Mme Guay : Cette question est très intéressante. Nous avons travaillé en étroite collaboration avec des innovateurs dans le cadre d’un programme que nous avons mis en place et qui a remporté un franc succès. Ce que nous avons démontré, c’est que c’est en fait l’inverse qui se produit. Je mentionne encore une fois que les innovateurs ont souvent d’excellentes idées, mais lorsqu’ils veulent les commercialiser, ils se retrouvent bloqués.
Je peux vous donner des exemples très concrets à cet égard. S’ils avaient réfléchi aux obstacles qui pourraient se dresser devant eux sur le marché, nous aurions été en mesure de collaborer avec eux dès le début pour faire en sorte qu’aucun de ces obstacles ne se présente à la fin du projet.
Beaucoup de gens pensent que la normalisation est un obstacle, mais en réalité, c’est un outil, dont il faut tenir compte dès le début.
La présidente : Je vous remercie. La sénatrice Greenwood a une question à poser, mais je me demande si elle pourrait demander une réponse par écrit. Cette possibilité vous aiderait-elle?
La sénatrice Greenwood : Ma question était intéressante. Elle s’appuyait sur l’intervention du témoin précédent, qui parlait du développement de l’IA par l’IA. Je me dis que les normes éthiques passeraient d’une IA à l’autre. Comment cela fonctionnerait-il, surtout si nous ne participions pas au processus dès le départ? Si vous pouviez répondre à cette question par écrit, ce serait formidable.
La présidente : Je vous remercie tous des contributions que vous avez apportées aujourd’hui. Cela conclut notre réunion.
Mesdames et messieurs les témoins, je tiens à vous remercier d’avoir pris le temps de vous joindre à nous aujourd’hui, que ce soit en ligne ou en personne.
(La séance est levée.)