LE COMITÉ SÉNATORIAL PERMANENT DES DROITS DE LA PERSONNE
TÉMOIGNAGES
OTTAWA, le lundi 23 février 2026
Le Comité sénatorial permanent des droits de la personne se réunit aujourd’hui à 16 h 3 (HE), avec vidéoconférence, pour examiner, afin d’en faire rapport, les incidences de l’intelligence artificielle sur les droits de la personne et la sécurité économique au Canada. Le comité s’intéresse en particulier aux conséquences de cette technologie sur les groupes marginalisés et sur le travail, un droit humain reconnu à l’échelle internationale.
La sénatrice Paulette Senior (présidente) occupe le fauteuil.
[Traduction]
La présidente : Bonjour à tous et toutes. Je tiens d’abord à reconnaître que nous nous réunissons sur le territoire traditionnel, ancestral et non cédé de la nation algonquine anishinabe. Je m’appelle Paulette Senior, je suis sénatrice de l’Ontario et présidente de ce comité.
Je demanderais aux sénateurs de bien vouloir se présenter.
La sénatrice Karetak-Lindell : Nancy Karetak-Lindell, sénatrice du Nunavut.
La sénatrice Robinson : Mary Robinson. Je représente l’Île‑du-Prince-Édouard.
[Français]
La sénatrice Arnold : Dawn Arnold, du Nouveau-Brunswick.
[Traduction]
Le sénateur K. Wells : Kristopher Wells, sénateur de l’Alberta, territoire visé par le Traité no 6.
La présidente : Merci. Bienvenue à vous, chers collègues, et à tous ceux qui suivent nos délibérations. Nous entamons aujourd’hui une étude sur les incidences de l’intelligence artificielle sur les droits de la personne et la sécurité économique au Canada. Nous nous intéressons en particulier aux groupes marginalisés et aux conséquences de cette technologie sur le travail, un droit humain reconnu à l’échelle internationale. Nous avons très hâte de commencer.
Nous entendrons cet après-midi trois groupes de témoins. Ces derniers feront une déclaration liminaire, puis les sénateurs auront l’occasion de leur poser des questions. Je vais maintenant présenter notre premier groupe de témoins. On a demandé à chacun d’entre eux de faire des remarques liminaires de cinq minutes.
Nous accueillons trois témoins en présentiel : M. Samir Chhabra, directeur général, Direction générale des politiques‑cadres du marché, à Innovation, Sciences et Développement économique Canada; et Mme Katherine Burke, directrice générale, Direction générale de l’examen des investissements étrangers et de la sécurité économique, également à ISDE. Bienvenue, madame, monsieur. Nous entendrons également M. Emmanuel Zangio, boursier 1834 et analyste des politiques. J’invite M. Chhabra à faire son exposé, suivi de celui de M. Zangio.
[Français]
Samir Chhabra, directeur général, Direction générale des politiques-cadres du marché, Innovation, Sciences et Développement économique Canada : Merci, madame la présidente. Mesdames et messieurs les membres du comité, merci de me donner l’occasion de contribuer à votre étude sur les répercussions de l’intelligence artificielle sur les droits de la personne et la sécurité économique au Canada.
Aujourd’hui, je vous présenterai les travaux en cours à Innovation, Sciences et Développement économique Canada (ISDE) ainsi que dans d’autres ministères, visant à atténuer les biais liés à l’IA sur les droits de la personne, sur les emplois des Canadiens et sur la sécurité économique du Canada.
[Traduction]
Le gouvernement surveille les conséquences éventuelles de l’IA sur les droits de la personne. À titre d’exemple, cette technologie peut avoir des tendances discriminatoires et les amplifier. Si ces tendances ne sont pas atténuées correctement, elles peuvent avoir une incidence sur des groupes marginalisés, en particulier quand on fait appel à ces systèmes pour des recommandations ou des déterminations importantes dans des contextes lourds de conséquences.
Il importe de souligner que les lois en vigueur continuent de s’appliquer. La Loi canadienne sur les droits de la personne, par exemple, interdit la discrimination fondée sur certaines caractéristiques énoncées dans la loi, quelle que soit la technologie employée.
Depuis 2020, les ministères fédéraux qui utilisent des systèmes décisionnels automatisés, y compris ceux qui sont équipés d’IA, doivent se conformer à la directive sur la prise de décisions automatisée. Cette directive vise à ce que les décisions prises soient justes, transparentes et impartiales.
Puis, en 2023, le gouvernement a adopté le Code de conduite volontaire visant un développement et une gestion responsables des systèmes d’IA générative avancés. Ce code énonce des mesures que les entreprises peuvent prendre pour lutter contre les risques que pose l’IA.
Les signataires du code s’engagent à examiner et sélectionner les données d’entraînement, à la fois pour en assurer la qualité et lutter préventivement contre des tendances éventuelles. Ils s’engagent également à mettre en œuvre un éventail de contrôles de leurs systèmes. À ce jour, 46 entreprises de toute taille ont adhéré au code, y compris de jeunes entreprises et de grandes multinationales.
En 2024, le gouvernement a également investi 50 millions de dollars sur cinq ans pour lancer notre propre Institut canadien de la sécurité de l’intelligence artificielle, ou ICSIA. L’ICSIA réunit d’éminents chercheurs canadiens à l’intérieur et à l’extérieur du gouvernement pour faire avancer la science de la sécurité de l’intelligence artificielle, en collaboration avec des instituts semblables en Europe, en Asie, aux États-Unis et ailleurs.
Je peux vous donner quelques exemples de projets pertinents réalisés par l’ICSIA, y compris le financement récemment annoncé par l’entremise de l’Institut canadien des recherches avancées pour aider à élaborer des modèles d’intelligence artificielle plus sûrs et plus équitables pour les minorités linguistiques.
Le Conseil national de recherches travaille également en étroite collaboration avec nous et réalise cette année un certain nombre de projets liés aux préjugés. L’un d’entre eux est sur l’évaluation multilingue des modèles pionniers, un autre porte sur l’explicabilité des modèles de langage visuel et un troisième examine la suppression accidentelle des garde-fous lors de la mise au point des systèmes d’intelligence artificielle.
Sur la scène internationale, le Canada a cofondé le Partenariat mondial sur l’intelligence artificielle, ou PMIA, une initiative mondiale multipartite intégrée au sein de l’OCDE dont la mission est de promouvoir le développement et l’utilisation responsables de l’intelligence artificielle au moyen de projets concrets. En 2024, le centre d’expertise du PMIA, le CEIMIA, basé à Montréal, a lancé des lignes directrices stratégiques, avec Mila, sur l’égalité des sexes et la diversité dans l’intelligence artificielle.
Le Canada a également appuyé l’adoption du Pacte numérique mondial des Nations unies, un cadre qui établit des principes communs pour une coopération numérique mondiale inclusive, sûre et responsable. De plus, le Canada a signé le Traité du Conseil de l’Europe en février 2025, qui est le tout premier traité international juridiquement contraignant visant à garantir que l’utilisation des systèmes d’intelligence artificielle respecte entièrement les droits de la personne, la démocratie et la primauté du droit.
[Français]
Un autre angle important à considérer est l’incidence de l’IA sur la vie privée des Canadiens. Le ministre de l’Intelligence artificielle et de l’Innovation numérique s’est engagé à moderniser la Loi sur la protection des renseignements personnels et les documents électroniques afin de renforcer la protection de la vie privée et de veiller à ce que les risques liés à l’intelligence artificielle soient adéquatement pris en compte par les lois canadiennes.
[Traduction]
En ce qui concerne l’incidence de l’intelligence artificielle sur le travail, le gouvernement surveille de près l’incidence prévue de l’intelligence artificielle sur les emplois canadiens. L’intelligence artificielle a notamment le potentiel de transformer et d’améliorer les emplois et la vie de nombreux Canadiens. Pour saisir cette occasion, le gouvernement met en place plusieurs initiatives pour soutenir l’adoption de l’intelligence artificielle. Prenons l’exemple de l’Initiative régionale en matière d’intelligence artificielle, élaborée par les agences de développement régional du Canada, et le programme Assistance IA, qu’offre le Conseil national de recherches du Canada.
Par contre, l’intelligence artificielle pourrait aussi avoir une incidence sur les travailleurs et perturber certains secteurs. Dans le budget de 2024, le gouvernement a consacré 50 millions de dollars supplémentaires au Programme de solutions pour la main-d’œuvre sectorielle afin de fournir de nouvelles formations professionnelles aux travailleurs des communautés et des secteurs qui pourraient être perturbés. Le gouvernement poursuit également des discussions et des initiatives sur les répercussions de l’intelligence artificielle sur la main-d’œuvre grâce à sa participation à des forums internationaux. Pendant la présidence canadienne du G7 en 2025, le Groupe de travail du G7 sur l’emploi a élaboré un recueil de pratiques exemplaires pour la conception et l’utilisation de l’intelligence artificielle axées sur les personnes dans le monde du travail.
De plus, le Partenariat mondial sur l’intelligence artificielle, dont j’ai parlé plus tôt, compte le Groupe de travail sur l’avenir du travail, qui examine les répercussions de l’intelligence artificielle sur la main-d’œuvre, les milieux de travail, la qualité des emplois, l’inclusion, la santé et la sécurité.
Enfin, par rapport à la sécurité économique, le gouvernement reconnaît que, à mesure qu’il continue de se développer, le secteur canadien de l’intelligence artificielle attire les investissements étrangers. Le Canada dispose des outils nécessaires pour que de tels investissements répondent à nos intérêts à long terme en matière de sécurité et les protègent. Par exemple, en vertu de la Loi sur Investissement Canada, le gouvernement adopte une approche modérée et au cas par cas lorsque des propositions d’investissement soulèvent des préoccupations liées à l’économie ou à la sécurité.
[Français]
Pour ce qui est de l’avenir, le gouvernement travaille à développer une stratégie renouvelée en matière d’intelligence artificielle. Elle devrait être publiée d’ici la fin du présent trimestre. La stratégie sera développée grâce aux milliers de mémoires reçus lors de la consultation menée en octobre dernier, ainsi qu’au rapport produit par le Groupe de travail sur la stratégie en matière d’intelligence artificielle, qui est composé de 28 experts.
[Traduction]
Voilà qui conclut ma déclaration préliminaire. Je serai heureux de répondre à vos questions. Merci.
La présidente : Merci, monsieur Chhabra. Nous allons maintenant écouter notre prochain témoin.
Emmanuel Zangio, boursier 1834 et analyste des politiques, à titre personnel : Je vous remercie de m’avoir invité à comparaître devant vous aujourd’hui. Je m’appelle Emmanuel Zangio. Je suis fonctionnaire et ancien boursier de la Fondation 1834. J’exprimerai aujourd’hui mes propres points de vue et recommandations. Je suis ici à titre personnel en tant que Canadien congolais de première génération passionné par l’équité, l’intelligence artificielle et la sécurité économique.
[Français]
Nous sommes réunis ici, parce que l’intelligence artificielle n’est pas un enjeu du futur. Elle transforme déjà nos marchés du travail et nos institutions. La question n’est plus de savoir si l’intelligence artificielle changera notre quotidien, mais comment, et surtout qui en profitera, qui sera protégé et qui risque d’être laissé pour compte.
[Traduction]
Je m’adresse à vous aujourd’hui en m’appuyant non seulement sur mon expérience en analyse de politiques, mais aussi sur des connaissances ancrées dans mes expériences vécues. J’ai grandi dans une communauté dépendant de l’aide sociale, et le jeune élève noir dyslexique que j’étais éprouvait des difficultés dans certaines facettes de l’école : j’ai été élevé par des systèmes qui n’ont jamais été conçus pour quelqu’un comme moi. La seule raison qui explique ma présence ici aujourd’hui, c’est que le Canada a choisi, à des moments clés, d’ouvrir la porte à quelqu’un qui, statistiquement, n’aurait pas dû être en mesure de parcourir tout ce chemin.
L’IA a été l’une de ces portes. Les outils d’IA m’ont aidé à écrire, à lire et à saisir des occasions auxquelles je n’aurais pas eu accès autrement. À bien des égards, ces outils ont égalisé les chances.
Cependant, j’ai aussi constaté le revers de cette médaille. Récemment, un proche parent a perdu son emploi. S’il avait été privé de conseils pour s’y retrouver dans les outils d’IA nécessaires au formatage de son curriculum vitæ, les possibilités dont mon proche avait besoin de toute urgence lui auraient glissé entre les doigts.
L’IA peut ouvrir des portes, mais aussi nous laisser en plan.
C’est ce que vivent de nombreux Canadiens. Beaucoup sont laissés pour compte.
[Français]
L’IA progresse à un rythme plus rapide que la capacité des personnes vulnérables à s’adapter. L’accès au soutien dépend souvent du fait qu’une personne ait, dans son entourage immédiat, quelqu’un pour l’aider. Plusieurs n’en ont pas.
[Traduction]
Aujourd’hui, j’aimerais transmettre trois messages clés au comité.
Premièrement, la littératie en matière d’IA est maintenant un enjeu de littératie scientifique et de sécurité économique. Le Canada compte des chercheurs de calibre mondial en IA, mais aussi l’une des populations les moins instruites en la matière parmi les économies avancées. Le fossé se creuse. Si nous n’intervenons pas, nous risquons d’accentuer les inégalités et de devenir une nation moins concurrentielle.
Deuxièmement, les programmes fédéraux existants sont robustes, mais parfois inaccessibles, et ils profitent rarement aux personnes qui en ont le plus besoin. Je pense aux adultes qui n’ont pas de diplômes, aux travailleurs âgés déplacés, aux communautés racisées ou à faible revenu et aux personnes qui n’ont pas de confiance numérique. Ces Canadiens font face à des problèmes transactionnels, d’alphabétisation, de langue, de confiance, de connaissances, de transport ou ne savent simplement pas que ces programmes existent. L’intelligence artificielle ne peut pas porter ses fruits si les personnes pour qui elle engendre le plus de répercussions ne peuvent même pas apprendre à l’utiliser.
Troisièmement, et en dernier lieu, le Canada a besoin d’une stratégie coordonnée axée sur les Canadiens mal servis. Je recommande un modèle communautaire mettant à contribution les bibliothèques, les organismes venant en aide aux nouveaux arrivants, les centres communautaires et le mentorat par de jeunes étudiants et des professionnels en début de carrière qui peuvent rendre l’intelligence artificielle accessible. Cette approche est pratique, modulable et conforme aux priorités du Canada en matière d’innovation, de formation de la main‑d’œuvre et d’équité.
Honorables sénateurs et sénatrices, je m’adresse à vous non pas par ma propre force, mais en tant que produit de ce que le Canada peut faire lorsqu’il choisit d’aider les personnes vulnérables. Le soutien et les possibilités qui m’ont aidé me permettent de comparaître devant vous aujourd’hui.
[Français]
Je suis un jeune Néo-Brunswickois de 27 ans et je suis heureux d’être ici, instruit, autonome et déterminé à servir ma communauté et celles qui sont différentes de la mienne.
[Traduction]
Je tiens à remercier le Sénat de me donner — à moi, un jeune homme comptant peu d’expérience — l’occasion d’exprimer mes opinions. Merci beaucoup.
La présidente : Merci, monsieur Zangio et monsieur Chhabra, de vos déclarations liminaires.
Nous allons maintenant passer aux questions des sénateurs. Mesdames et messieurs les sénateurs, vous disposez de cinq minutes pour poser vos questions et entendre les réponses.
Le sénateur K. Wells : Ma première question s’adresse aux fonctionnaires du gouvernement ici présents.
Nous parlons de la nécessité d’encadrer l’intelligence artificielle de garde-fous, et nous voyons des exemples de plus en plus troublants de personnes qui ont besoin de soutien en santé mentale se tourner vers l’intelligence artificielle au lieu d’être dirigées vers un soutien ou des soins locaux appropriés. Nous constatons souvent que leurs circonstances empirent ou s’exacerbent à cause de l’intelligence artificielle, ce qui les amène, tragiquement, à s’automutiler ou à faire du mal à autrui.
À l’avenir, comment pouvons-nous aborder cet enjeu dans les textes de loi du gouvernement? Les manchettes nous montrent des cas où des entreprises d’intelligence artificielle auraient dû intervenir; or, elles sont restées les bras croisés, ce qui a entraîné des résultats tragiques, bouleversants et dévastateurs.
Ma question est d’ordre général et concerne les garde-fous : comment pouvons-nous nous assurer qu’ils figurent dans la réglementation gouvernementale? En d’autres mots, comment légiférer à l’avenir en élaborant des cadres ou des politiques en matière d’intelligence artificielle? Merci.
M. Chhabra : Je vous remercie de la question.
Nous suivons de près les incidents qui sont étudiés et rapportés dans les médias. Tout d’abord, il est important de comprendre que l’intelligence artificielle est une technologie à usage très général; elle compte de multiples applications dans l’ensemble de l’économie et du marché. Certaines de ces applications sont des robots conversationnels destinés aux consommateurs, dont l’utilisation a augmenté en flèche. Plus tôt aujourd’hui, j’ai examiné des données qui suggèrent que, dernièrement, 70 % de l’utilisation de ChatGPT a été faite à des fins personnelles, plutôt que pour des objectifs liés à la productivité économique ou commerciale. Le ratio semble s’être renversé considérablement au cours des dernières années.
Dans le contexte des utilisations à des fins personnelles et thérapeutiques, le ministre Miller a clairement indiqué que le gouvernement et lui réfléchissent aux mesures à prendre dans le cadre d’une loi sur les préjudices en ligne. C’est un domaine où le gouvernement souhaite déployer des efforts. Je peux également souligner que l’Institut canadien de la sécurité de l’intelligence artificielle s’intéresse également à ce domaine et qu’il continue sa coopération avec ses homologues internationaux pour l’étudier.
Le sénateur K. Wells : J’aimerais maintenant vous entretenir d’un autre élément que vous avez mentionné : la préoccupation au sujet du chômage, en particulier chez les jeunes. Nous savons que l’intelligence artificielle peut éliminer des postes de premier échelon grâce auxquels les jeunes acquièrent une expérience de travail précieuse. Le gouvernement envisage-t-il d’élaborer une stratégie pour protéger les jeunes contre la hausse du chômage et les pertes d’emplois potentielles aux mains de l’intelligence artificielle? Quel est le plan pour soutenir ces jeunes, non seulement pour qu’ils apprennent à exploiter l’intelligence artificielle — ses forces et les défis qu’elle engendre —, mais aussi pour qu’ils décrochent des emplois?
M. Chhabra : Je vous remercie de la question, qui est très importante.
Je vais souligner quelques points. Premièrement, le ministre Solomon a souligné que la stratégie sur l’intelligence artificielle sera lancée au cours de ce trimestre. Cette stratégie a été élaborée en consultation et en collaboration avec 28 experts, comme je l’ai mentionné. Nous avons également reçu plus de 11 000 mémoires du public, ce qui témoigne d’un très grand intérêt. Certains de ces mémoires soulignaient l’importance du perfectionnement des compétences et de la création de débouchés. Je crois que la stratégie qui sera présentée précisera certainement la façon d’aborder les compétences, le perfectionnement et la formation, de façon plus générale, pour les Canadiens.
Comme je l’ai souligné dans ma déclaration préliminaire, le gouvernement a déjà investi 50 millions de dollars en ce sens, par l’entremise d’Emploi et Développement social Canada, pour favoriser le recyclage professionnel.
Le dernier point que je soulèverai, c’est que Statistique Canada examine ce domaine de près et continuera de le faire. À ce jour, selon les statistiques les plus récentes entre 2022 et 2025 — lorsque ChatGPT a fait son apparition comme outil clé pour les consommateurs —, il n’y a pas eu d’incidence définissable; les taux de participation au marché du travail, d’engagement et de chômage n’ont pas beaucoup fluctué. Jusqu’à maintenant, rien ne prouve clairement que les emplois potentiellement plus exposés à l’intelligence artificielle connaissent des baisses disproportionnées par rapport à d’autres professions.
L’enjeu est certainement réel. La question préoccupe manifestement beaucoup les Canadiens. Les répondants ont signalé pendant la consultation qu’il s’agissait d’un risque important pour le travail. Il est certain que le gouvernement prend l’enjeu très au sérieux. À ce stade, nous n’avons pas vu de statistiques éloquentes à ce sujet, mais ces données pourraient encore émerger au fil du temps, étant donné que le recours à l’intelligence artificielle est relativement nouveau dans la sphère professionnelle.
Nous n’avons pas encore constaté de tels effets. Nous surveillons certainement la situation de très près. Nous nous attendons à ce que la stratégie sur l’intelligence artificielle nous en apprenne plus sur l’approche du gouvernement pour que les possibilités qu’offre l’intelligence artificielle soient offertes à tout le monde et que nous prenions très au sérieux son incidence sur les compétences, ainsi que son développement et sa diffusion.
La sénatrice Arnold : J’aimerais commencer par mon compatriote du Nouveau-Brunswick, M. Zangio.
Je me demande si vous pourriez nous en dire un peu plus sur l’importance de la confiance comme facteur d’acceptation de l’intelligence artificielle dans l’ensemble de la société et sur l’effet que sa mise en œuvre aura sur les groupes vulnérables. Vous avez effleuré la question. Vous pourriez peut-être entrer un peu plus dans les détails.
M. Zangio : Oui, bien sûr.
Je peux d’abord dire que, comme je l’ai mentionné, au début de ma vie — je pense que c’était en 5 e ou 6 e année —, j’ai été initié aux premiers outils d’intelligence artificielle assistée, comme la transcription verbale en texte. J’étais un enfant dyslexique, alors je n’étais pas capable de lire seul. À l’époque, mes parents avaient cette préoccupation : si notre enfant se sert de ce genre d’outils tôt dans sa vie, pourra-t-il être autonome quand il sera plus vieux? C’est un enjeu réel.
Je pense que nous faisons de grands progrès dans la mise en œuvre de l’intelligence artificielle au sein de notre gouvernement et dans nos administrations provinciales et nationales, mais les efforts doivent se poursuivre : il faut renforcer cette confiance et faire comprendre, par exemple, que les outils d’intelligence artificielle ne sont pas là pour nous enlever notre autonomie, mais bien pour nous aider, comme je l’ai dit, à égaliser les chances pour tous.
Je crois qu’un message clair et concis aux Canadiens qui utilisent les outils permettrait vraiment d’établir cette confiance.
La sénatrice Arnold : C’est un exemple très intéressant. Je pense que nous oublions que l’intelligence artificielle est utilisée à cette fin depuis longtemps. Mais ce que nous constatons en ce moment, c’est qu’elle suscite beaucoup de craintes.
Avez-vous retiré quelque chose dans l’utilisation que vous en avez faite pendant votre enfance? Tirez-vous des leçons de cette expérience qui pourraient être appliquées aujourd’hui et qui pourraient être utiles à d’autres?
M. Zangio : Oui, tout à fait. Un élément important que je soulèverais, c’est que la classe où nous utilisions ces outils se démarquait grandement des autres : les compétences non techniques qu’on nous y enseignait étaient très différentes. Je pense que c’est ce qu’il faut changer maintenant.
Par exemple, comme la parole était transcrite en texte, que nous n’écrivions pas et que, parfois, les textes ne venaient pas de nous, les enseignants devaient nous enseigner le discernement et la pensée critique. Je crois que cette compétence a des effets incroyables sur ma carrière jusqu’à présent puisque je dois user de pensée critique. Je peux me rappeler mon passage en 5 e et 6e années alors que j’apprenais à utiliser ces outils qui étaient censés m’aider dans mon travail. Pour leur part, les enseignants m’inculquaient les compétences non techniques qui devaient aller de pair avec ces outils. Cet apprentissage pourrait aider un jeune Canadien ou un Canadien plus âgé cherchant à réintégrer le marché du travail.
Comme vous l’avez dit, il est important de bâtir cette confiance. Les Canadiens sont craintifs, et il est important d’établir ces liens de confiance, comme vous l’avez mentionné. Or, la question est aussi intergénérationnelle. Je peux vous en donner un excellent exemple.
Comme je l’ai mentionné, j’ai fait des études, j’ai eu la chance d’aller à l’université et j’ai fréquenté des établissements d’enseignement officiels où j’ai appris à utiliser des outils d’intelligence artificielle. Je suis maintenant en mesure de montrer ces outils aux membres de ma génération dans ma famille qui ne sont pas allés à l’université. Cela engendre de la confiance, parce qu’ils voient quelqu’un comme eux qui est informé et qui a la sensibilité culturelle nécessaire pour les former et leur apprendre à utiliser ces outils en toute sécurité.
Je pense que c’est ainsi que je répondrais à cette question. Merci.
La sénatrice Arnold : Monsieur Chhabra, c’est formidable que différents ministères travaillent sur toutes ces initiatives. Y aura-t-il quelqu’un ou une organisation qui sera responsable d’examiner les résultats et de veiller à ce qu’il n’y ait pas de possibles conséquences négatives fortuites?
M. Chhabra : Merci beaucoup de la question.
Je pense que les gouvernements à l’international adoptent toute une gamme d’approches différentes pour composer avec les risques liés à l’intelligence artificielle. Certains pays ont choisi l’approche sectorielle, notamment le Royaume-Uni et les États‑Unis. D’autres, pour leur part, se penchent essentiellement sur tous les risques et les préjudices émergents. Puis, ils déterminent, par exemple, qu’il est plus approprié que les ministères et organismes des transports se penchent sur l’intelligence artificielle dans les véhicules autonomes; que les organismes de réglementation financière se penchent sur l’intelligence artificielle dans les systèmes financiers; et que les organismes de réglementation de la santé se penchent sur l’intelligence artificielle dans les appareils médicaux.
L’Union européenne a réussi à promulguer la Loi européenne sur l’intelligence artificielle. Avec le projet de loi C-27, le Canada a tenté de se doter d’un vaste texte de loi horizontal. La partie 3 était la Loi sur l’intelligence artificielle et les données, qui, de façon très similaire, promouvait une approche visant à examiner les systèmes présentant une incidence ou un risque élevé et qui prévoyait une catégorie de risque pour l’usage général dans les systèmes d’intelligence artificielle à usage général.
Je pense que nous avons constaté au fil du temps que, pour un certain nombre de régulateurs, compte tenu de la portée de l’intelligence artificielle et de son incidence technologique sur toute une série de demandes, il peut être difficile de tenter de la réglementer de manière centralisée. L’approche actuelle du nouveau gouvernement consiste à motiver et à inciter les organismes de réglementation à se pencher sur l’intelligence artificielle, que ce soit par l’entremise du Bureau de la concurrence du Canada, qui examine les risques liés à la tarification algorithmique, ou de Santé Canada, qui étudie les dispositifs médicaux, entre autres.
Je pense qu’une partie des travaux liés à la stratégie en matière d’intelligence artificielle consistera à déterminer si nous devons régler certains problèmes horizontaux. M. Solomon a notamment clairement souligné l’occasion et la nécessité de mettre à jour la législation canadienne sur la protection de la vie privée dans le secteur privé, la Loi sur la protection des renseignements personnels et les documents électroniques. Cette mise à jour est nécessaire non seulement en raison de l’intelligence artificielle, mais aussi des risques que les technologies de l’intelligence artificielle peuvent présenter, notamment avec les systèmes de décision automatisés et les hypertrucages.
À l’instar de nombreux autres pays, le Canada adopte actuellement une approche hybride. Elle vise à s’assurer que les organismes de réglementation des différents secteurs sont sensibilisés et habilités à traiter les questions liées à l’intelligence artificielle, puis à déterminer s’il existe des lacunes qui doivent être comblées de manière horizontale.
La sénatrice Robinson : Ma question s’adresse à M. Chhabra. Vous avez mentionné dans vos observations liminaires qu’il y aurait des perturbations, mais vous avez également dit que certains secteurs ne subiraient peut-être pas de perturbations négatives.
J’aimerais que vous nous donniez une idée des secteurs dans lesquels l’intelligence apportera une amélioration des emplois. J’espère que votre réponse inclura au moins une fois le mot « agriculture ».
M. Chhabra : Merci beaucoup pour cette question. J’aimerais pouvoir faire une prévision ou une promesse aussi formidable dans ce domaine.
Ce que je peux vous dire, c’est que, comme je l’ai mentionné plus tôt, Statistique Canada surveille cette évolution de près. Statistique Canada examine la situation non seulement au niveau national, mais aussi au niveau international.
Nous n’avons pas encore trouvé de preuves vraiment solides et crédibles d’une orientation spécifique que prendrait le marché de l’emploi vis-à-vis de l’intelligence artificielle. Il existe de nombreuses preuves anecdotiques. Il y a beaucoup de commentaires.
L’une des choses que je peux vous dire, c’est que plusieurs entreprises avec lesquelles nous discutons, plusieurs événements auxquels nous assistons et auxquels nous prêtons attention, ainsi que les documents de recherche disponibles, démontrent qu’une grande partie du codage est désormais effectuée par des outils d’intelligence artificielle et non par des humains.
D’un autre côté, comme vous l’avez mentionné, dans quels domaines doit-on faire plus de travail et recruter plus de personnel? C’est là que les humains entrent en jeu : pour déboguer ce code, pour l’auditer et pour évaluer sa sécurité et sa robustesse.
Si l’on considère le codage dans son ensemble, on pourrait penser que les besoins en programmeurs et codeurs informatiques vont considérablement diminuer. Cependant, on observe une augmentation concomitante des besoins en personnes capables de travailler avec l’intelligence artificielle pour la surveiller, l’évaluer, la dépanner et corriger les erreurs de codage qu’elle crée.
La sécurité est un autre domaine dans lequel nous constatons une augmentation de la demande en professionnels qui comprennent réellement le fonctionnement des systèmes d’intelligence artificielle et leur double usage, notamment leurs capacités offensives en matière de cybersécurité et les efforts considérables nécessaires pour développer leurs capacités défensives.
Nous constatons actuellement que les choses sont en train de changer. Il y aura assurément des répercussions. Certains domaines connaîtront probablement une augmentation de leur productivité. On observe des progrès scientifiques dans divers domaines. L’adoption, le développement et l’utilisation de ces outils présentent des avantages réels. Cependant, il est encore difficile de déterminer quelles catégories professionnelles subiront des répercussions positives ou négatives.
Je suis désolé de ne pas avoir pu vous fournir de renseignements sur l’agriculture en particulier.
La sénatrice Robinson : Je vais creuser encore un peu si vous le permettez.
Je sais que, dans le domaine agricole en particulier, le fait que nos capacités de traitement des données soient si fortement accrues aura des répercussions importantes sur l’accélération de la recherche et du développement de nouvelles variétés, de nouveaux produits phytosanitaires, etc. Avez-vous constaté des avancées de ce type dans vos recherches?
M. Chhabra : Merci encore pour cette question. Nous sommes bien conscients que l’intelligence artificielle présente de nombreuses couches d’application. Vous avez prononcé le mot clé : « données ». La possibilité d’utiliser les données et d’avoir accès à des données propres, fiables et bien structurées est sans aucun doute le point de départ qui permet aux applications de l’intelligence artificielle d’avoir une incidence significative. Nous avons bien compris que, dans le domaine agricole en particulier, il existe des possibilités d’optimisation en matière d’utilisation des sols, de fertilisation et d’autres aspects de l’agriculture qui sont actuellement étudiés, examinés et développés en tant qu’opportunités commerciales à l’aide d’outils de l’intelligence artificielle. Nous sommes bien conscients de ce type d’opportunités et nous les surveillons de près.
La sénatrice Robinson : Il est incroyable de constater à quel point ces outils accélèrent les choses, car dans le domaine agricole, le temps a toujours été le principal facteur de limitation. Pour reproduire une saison, il faut plusieurs années. En agriculture, on participe aux Jeux olympiques chaque année, et un agriculteur qui cultive pendant 40 ans participera à 40 Jeux olympiques au cours de sa vie.
J’ai vu des situations dans lesquelles, au sein d’une exploitation agricole, un chercheur qui utilisait l’intelligence artificielle a accompli l’équivalent du travail accompli par un chercheur exceptionnel au cours de 40 années de carrière. Il est très enthousiasmant de penser à tout ce que nous allons apprendre grâce à ces outils.
Il s’agit plus d’une affirmation que d’une question. Je voulais simplement mentionner l’agriculture.
La sénatrice Karetak-Lindell : C’est un domaine dans lequel je n’ai absolument aucune expertise. J’ai du mal à allumer mon ordinateur portable et à participer à une réunion Zoom sans difficulté. Cependant, je m’intéresse beaucoup à la recherche en matière de santé et à la manière dont celle-ci pourrait améliorer notre accès limité aux soins de santé dans ma région d’origine. La plupart des 25 collectivités du Nunavut n’ont pas de médecin. Nous constatons certaines réussites grâce aux services de santé à distance, car chaque fois que nous avons besoin de soins spécialisés, nous devons nous rendre dans le Sud. Certains services sont actuellement disponibles à Iqaluit, mais ils sont très limités. La plupart des habitants du Nunavut doivent donc se rendre dans le Sud pour bénéficier de soins de santé spécialisés.
Pouvez-vous nous dire de quelle manière l’intelligence artificielle pourrait améliorer les soins de santé? En quoi améliorerait-elle l’accès aux soins de santé et la recherche? Certaines collectivités sont encore touchées par la tuberculose, et on tente d’éliminer cette maladie d’ici 2030. Il y a actuellement beaucoup de cas dans le Nord du Québec. Certaines collectivités du Nunavut ont récemment été retirées de la liste des collectivités où la tuberculose est répandue. Je pense qu’il en reste deux. Elles tentent de recueillir des données tout en soignant les patients atteints de tuberculose.
Il s’agit d’un enjeu complexe pour nous, car nos capacités à collecter des données auprès de 25 centres de santé sont très limitées. De plus, certains de leurs renseignements médicaux sont recueillis dans le Sud, notamment en Ontario, au Québec, au Manitoba et en Alberta, ce qui rend la collecte de toutes ces données particulièrement difficile. Pour obtenir tous les renseignements relatifs à un patient, nous devons nous adresser à de nombreux établissements de soins différents.
J’ai probablement deux questions à vous poser. J’essaie de comprendre comment vous recueillez les données des patients, comment vous les exploitez et comment vous vous assurez qu’elles sont exactes.
M. Chhabra : Merci beaucoup pour cette question. Il s’agit d’un enjeu important auquel le gouvernement accorde une attention considérable. Il finance notamment la Stratégie pancanadienne en matière d’intelligence artificielle pour les trois instituts d’intelligence artificielle : Amii à Edmonton, Vector à Toronto et Mila à Montréal. Au cours de l’année écoulée, j’ai rencontré des chercheurs de Mila qui étudient et examinent précisément cette question : comment mieux exploiter l’intelligence artificielle dans le domaine des soins de santé? Je pense que plusieurs enjeux méritent d’être approfondis.
Le premier est l’utilisation potentielle de l’intelligence artificielle dans le secteur de la médecine personnalisée, domaine dans lequel des recherches sont actuellement menées au Canada et ailleurs, et qui offre des perspectives intéressantes.
Vous avez également soulevé un point important au sujet des données et de la manière dont nous pouvons les exploiter au mieux au sein des systèmes de santé canadiens et auprès de multiples utilisateurs. L’une des principales difficultés auxquelles sont confrontés les chercheurs avec lesquels nous avons discuté est le fait de pouvoir accéder à des données fiables tout en garantissant la confidentialité.
L’année dernière, le gouvernement du Canada a financé un projet appelé VITALL. Il s’agit d’un cas d’utilisation très intéressant qui regroupe des données de santé tout en protégeant la vie privée, dans ce cas-ci grâce à l’apprentissage fédéré, une technique qui améliore la confidentialité. Encore une fois, l’utilisation de l’intelligence artificielle permet essentiellement aux chercheurs d’interroger des bases de données sans avoir à télécharger des renseignements personnels sensibles sur les patients. Au lieu de cela, ils peuvent interroger les données d’une manière qui contribue à entraîner le modèle d’intelligence artificielle sans avoir à intégrer ces renseignements et à les ajuster eux-mêmes. Cette méthode permet de limiter les risques de fuites accidentelles, de divulgation ou d’accès non autorisé à ces données, car ces dernières sont conservées dans un lieu sécurisé.
Ce projet a été lancé l’année dernière. Il s’agit d’un excellent exemple d’utilisation qui montre comment nous pouvons à la fois protéger la vie privée et utiliser plus efficacement les données afin d’améliorer les résultats en matière de soins de santé.
La sénatrice Karetak-Lindell : Monsieur Zangio, vous avez dit avoir découvert l’intelligence artificielle en 5e année et expliqué en quoi elle vous a aidé. Selon vous, comment pourrions-nous partager cette expérience avec d’autres systèmes d’éducation? Devrions-nous l’intégrer directement au programme scolaire? Comment pouvons-nous familiariser les jeunes avec l’intelligence artificielle et leur apprendre à l’utiliser?
M. Zangio : C’est une très bonne question. Merci beaucoup.
L’un des points principaux que j’aimerais souligner est que les autorités provinciales ont très bien réussi à intégrer ces outils d’intelligence artificielle dans les programmes scolaires. Comme l’a dit M. Chhabra, nous savons que cette technologie existe et qu’elle influe sur la manière dont les jeunes apprennent.
Ce que je tiens à souligner et que j’ai pu constater, c’est que les jeunes sont généralement des experts du numérique, car ils utilisent les technologies tous les jours. Ces compétences générales, la capacité à comprendre et à utiliser ces outils, s’apprennent dans la vie quotidienne. L’éducation traditionnelle au secondaire et au primaire est importante, mais c’est en capitalisant sur les expériences vécues en dehors de l’école que l’on pourra vraiment changer la donne. C’est pourquoi les jeunes maîtrisent généralement bien le travail numérique. La société dans laquelle nous vivons actuellement évolue progressivement vers une société plus numérique. Nous devons poursuivre nos efforts. Personnellement, j’ai continué à m’investir, et c’est pourquoi je suis ici aujourd’hui. Merci.
La présidente : J’aimerais commencer par vous interroger sur ce que vous observez. Constatez-vous un écart important entre les générations en matière d’adoption de l’intelligence artificielle? Que disent les données à ce sujet? C’est la première question que j’aimerais vous poser, monsieur Chhabra.
J’aimerais également comprendre quel est le rôle du gouvernement. Que prévoit-il de faire en matière d’éducation publique dans le domaine de l’intelligence artificielle?
M. Chhabra : Merci beaucoup pour cette question, madame la présidente.
Je pense que nous cherchons à obtenir plus de données sur cette question précise de la répartition générationnelle. Je peux vous dire que l’année dernière, un certain nombre de personnes qui surveillent cet espace de près ont été très intéressées de constater que l’utilisation de ChatGPT aux États-Unis avait chuté — je vais peut-être me tromper, mais je pense que la baisse était de l’ordre de 60 % — le lendemain de la fin de l’année scolaire aux États-Unis. Ce fait montre à quel point l’utilisation de ce logiciel était importante dans le milieu scolaire.
Je ne dispose pas, pour l’instant, de données détaillées sur l’utilisation au Canada par tranche d’âge, mais je me ferai un plaisir de revenir devant le comité pour lui fournir plus de renseignements à ce sujet.
Je suis désolé, mais j’ai oublié la deuxième partie de votre question.
La présidente : Elle portait sur le rôle du gouvernement dans le domaine de l’éducation publique.
M. Chhabra : Oui. Merci pour le rappel.
Il s’agit assurément de l’une des pièces du puzzle qui est revenue à plusieurs reprises dans les contributions publiques à la consultation sur la stratégie en matière d’intelligence artificielle ainsi que dans les rapports d’experts. On l’a mentionné à plusieurs reprises comme étant une pièce maîtresse du puzzle. Le fait de veiller à ce que l’intelligence artificielle offre des possibilités à tous les Canadiens est un domaine prioritaire.
Je pense que le gouvernement est conscient que pour y parvenir, nous devons sensibiliser davantage la population et développer les compétences nécessaires afin de favoriser une utilisation responsable.
Je pense que nous en saurons davantage sur l’approche du gouvernement dans ce domaine lorsqu’il publiera la stratégie en matière d’intelligence artificielle dans les prochains mois.
La présidente : Merci beaucoup.
Monsieur Zangio, je crois vous avoir entendu dire dans vos observations liminaires qu’un membre de votre famille avait été touché par l’intelligence artificielle. Le gouvernement nous a également indiqué que les données ne révèlent pas encore de répercussions importantes dans ce domaine. D’après ce que j’ai lu, il semble que les emplois administratifs et autres postes similaires soient les plus touchés. Pourriez-vous nous dire dans quel domaine travaillait le membre de votre famille?
Je pense que vous avez une façon très originale de combiner des expériences réelles avec le rôle que peut jouer l’intelligence artificielle et les conclusions qu’on peut en tirer. Je n’ai entendu personne d’autre parler d’expériences vécues et les associer à l’importance de l’apprentissage de l’intelligence artificielle.
Pourriez-vous également nous en dire plus à ce sujet?
M. Zangio : Merci pour cette question.
Je vais commencer par parler d’une étude réalisée par Deloitte en 2026, qui indiquait que l’intelligence artificielle générative pourrait automatiser près de 40 % des emplois au Canada. Le membre de ma famille en question travaillait dans une boulangerie industrielle. Il était chargé de mettre le pain dans des emballages avant son expédition. Ce sont là des types d’emplois qui poseront problème, car s’ils sont automatisés, les Canadiens concernés n’auront pas nécessairement les moyens financiers de se reconvertir dans des emplois qualifiés, car ils ne disposent pas de la mobilité nécessaire. Ils ont des dettes à rembourser et le coût de la vie est élevé. De plus, comment pourraient-ils réintégrer le marché du travail alors qu’il y a une pénurie d’emplois?
L’un des points soulevés, qui correspond à votre deuxième remarque concernant l’expérience vécue, est que Deloitte a également déclaré que 92 % des investissements dans l’intelligence artificielle sont consacrés à la technologie et seulement 7 % aux ressources humaines. Je pense que l’élément clé ici est le fait que 7 % des investissements sont consacrés aux personnes. C’est ce à quoi j’ai fait allusion dans mon discours. Lorsque la belle province du Nouveau-Brunswick a mis en place ce système d’éducation et créé des classes dans lesquelles certains élèves disposaient d’outils d’intelligence artificielle, elle a axé son financement sur les personnes. En tant que membre de cette société faisant partie d’une famille bénéficiaire de l’aide sociale, j’ai pu fréquenter la même classe pendant deux ans et utiliser des outils d’intelligence artificielle pour égaliser les chances.
Quand vous posez cette question — et je la trouve très intéressante —, j’ai parfois l’impression qu’il y a un déséquilibre entre les sommes que nous consacrons à la technologie et celles que nous consacrons aux personnes. Si l’intelligence artificielle est censée aider les gens à progresser dans la vie, nous devons recentrer le débat sur les personnes.
Merci beaucoup pour cette question.
La présidente : Merci. Je suis certaine que ce que vous avez dit a beaucoup plu à la sénatrice Arnold.
Le sénateur K. Wells : J’aimerais revenir sur ce qu’a dit M. Chhabra au sujet des 50 millions de dollars qui ont été investis. Savez-vous — et si vous ne le savez pas, pourriez-vous vous renseigner pour nous — quelle part de ces 50 millions de dollars était spécifiquement destinée aux jeunes?
M. Chhabra : Merci pour cette question.
Je n’ai pas les données sous les yeux, mais je me ferai un plaisir de consulter mes collègues d’Emploi et Développement social Canada pour obtenir plus de renseignements sur la mise en œuvre de ce programme.
Le sénateur K. Wells : Nous vous en serions reconnaissants. Merci.
Ma prochaine question s’adresse à M. Zangio.
Si vous êtes au courant, pourriez-vous nous parler des recherches que vous avez découvertes au sujet de la présence de préjugés, de langage raciste ou sexiste ou de stéréotypes dans certaines de ces technologies d’intelligence artificielle existantes?
M. Zangio : C’est une très bonne question.
Je ne manquerai pas de faire part au comité des recherches que j’ai découvertes, mais, comme vous l’avez mentionné, l’un des éléments les plus importants liés aux systèmes d’intelligence artificielle est l’existence de préjugés raciaux. Le meilleur exemple est celui de la génération et des représentations d’images par l’intelligence artificielle : on utilise des peaux plus claires pour les postes mieux rémunérés et des peaux plus foncées pour les emplois dans la restauration rapide ou les postes de statut inférieur. Il s’agit là d’un biais algorithmique, et ce n’est pas une théorie. Nous le constatons actuellement.
Le deuxième aspect concerne notre représentation, et les préjugés sont particulièrement forts dans ce domaine : il existe un écart de représentation au sein de la main-d’œuvre du secteur de la technologie du Canada. Cette information provient également de Deloitte : les Canadiens noirs et les nouveaux arrivants ne représentent que 2,6 % de la main-d’œuvre du secteur de la technologie au Canada, alors qu’ils constituent 4,3 % de la population.
Il s’agit donc d’une excellente question, et les préjugés raciaux, les préjugés sexistes et les représentations erronées jouent un rôle clé à cet égard. La représentation permet d’atténuer les préjugés... mais les gens sont capables de générer ces ensembles de données, par exemple. Je serais ravi de communiquer d’autres recherches sur cette question au comité.
Le sénateur K. Wells : Merci d’avoir partagé votre expérience. L’une des principales préoccupations est le fait que l’intelligence artificielle peut perpétuer et amplifier les biais inhérents aux grands modèles de langage sur lesquels elle s’appuie.
Une partie de la question, et ce que nous essayons de comprendre, est la suivante : quelles sont les conséquences sur les droits de la personne lorsque vous prenez ce préjugé, que vous l’amplifiez et que vous le propagez à grande échelle? Il semble que ce soit un phénomène naturel et normal, alors qu’en réalité, il repose sur une discrimination structurelle et systémique. Nous ne voulons pas que ces outils puissants continuent de marginaliser des personnes et de perpétuer la discrimination systémique et structurelle que nous essayons d’éradiquer de nos systèmes grâce à des lois et des politiques efficaces — je pense notamment à l’importance de l’équité, de la diversité et de l’inclusion.
Nous estimons également que nous avons ici une formidable opportunité de repérer les lacunes et de les combler. Nous essayons de trouver un équilibre : comment pouvons-nous tirer parti des avantages de l’intelligence artificielle? En parallèle, comment pouvons-nous éviter de reproduire les désavantages et les discriminations existantes qui, franchement, sont l’antithèse des valeurs canadiennes?
Merci d’avoir partagé ces points de vue. Je pense que les réponses qu’ont apportées tous les témoins ont été utiles et instructives.
La sénatrice Arnold : Je ne voudrais pas que Mme Burke reste là sans qu’on ne lui pose des questions.
Je regarde votre titre — et c’est peut-être injuste —, mais je me pose des questions concernant les coûts environnementaux de l’intelligence artificielle.
J’ai une petite anecdote à vous raconter. L’autre jour sur les réseaux sociaux, j’ai vu que tout le monde générait des images par IA de leur personne. Tout le monde semblait bien plus jeune et plus beau. Puis, quelqu’un a dit que c’était un vrai gaspillage de ressources. Savez-vous combien cela coûte quand les gens publient ces mèmes? J’ai l’impression que personne ne tient ce genre de conversation présentement. Je ne sais pas si cela répond à votre description de poste, mais on dirait que c’est possible.
Examinez-vous ce genre de questions? Quels sont les coûts de cet outil que nous avons tous maintenant à la portée de la main?
Katherine Burke, directrice générale, Direction générale de l’examen des investissements étrangers et de la sécurité économique, Innovation, Sciences et Développement économique Canada : Merci de votre question. Je la comprends, et je suis au courant du point de vue que vous présentez en matière de coûts environnementaux et purement économiques. Je vais répondre à votre question en partie, puis je demanderais à nouveau à mon collègue de vous répondre, car il pourra le faire plus en détail.
Je me concentre sur la sécurité économique. À l’échelle du Canada, cela signifie que je dois explorer les façons dont notre économie de libre marché peut se montrer vulnérable aux menaces externes, surtout celles qui peuvent miner notre sécurité nationale ou notre souveraineté nationale.
Quand notre ministère ou le gouvernement du Canada parle de sécurité économique, nous y réfléchissons du point de vue du Canada en tant que pays souverain et du potentiel qu’il soit compromis par de nouvelles technologies en développement qu’utiliseraient nos adversaires. C’est un concept de sécurité économique un peu différent de ce que vous devez discuter habituellement en comité, mais je suis toujours prête à répondre aux questions.
Pour répondre à votre question précise sur qui réfléchit à ces enjeux, je crains que je ne doive à nouveau céder la parole à mon collègue, M. Chhabra, pour vous donner une réponse plus détaillée.
M. Chhabra : Merci beaucoup de votre question.
En effet, les incidences environnementales, généralement axées sur la consommation d’énergie et d’eau, font l’objet de beaucoup de recherche et de travail. C’est vrai tant sur le plan commercial — parce qu’évidemment, c’est dans l’intérêt des entreprises qui bâtissent les systèmes d’IA et les centres de données qui les sous-tendent de réduire la quantité d’énergie et d’eau qu’ils utilisent — que sur le plan gouvernemental ou dans l’optique des politiques publiques.
Nous prenons des mesures importantes pour nous assurer que les centres de données financés par le gouvernement du Canada emploient les meilleures stratégies de gestion de l’énergie et de la consommation d’eau. C’est clair que des provinces ont pris des mesures pour voir si des centres de données étaient dans leur intérêt et dans celui de leur population concernant la quantité d’énergie qui serait utilisée et la capacité des réseaux de gérer cette demande.
Il se fait beaucoup d’innovation au Canada dans ce domaine. Les organisations comme Mila, dont j’ai parlé et qui est un de nos instituts d’IA, sont à l’avant-garde des travaux en matière d’efficience du travail informatique. On arrive à tirer moins d’énergie pour une quantité d’extrants donnée. C’est important de poursuivre ce type de travail sur les plans politique et technologique.
Pour répondre à votre question, c’est une importante partie de nos discussions. Ces coûts font partie de presque toutes les discussions sur l’IA que nous tenons au pays et à l’échelle internationale. L’hypothèse sous-jacente, c’est que l’IA va sans doute continuer de prendre de l’expansion. Ce qui est plus difficile à prédire présentement, c’est dans quelle mesure, mais c’est clair que la demande pour bâtir des centres de données et conclure des ententes d’utilisation des ressources continue d’augmenter. Dans ce cas, nous devons réfléchir soigneusement pour savoir si nous avons les ressources et l’infrastructure énergétique afin de soutenir le travail qui s’en vient.
La sénatrice Arnold : En tant qu’ancienne politicienne élue, j’ai du mal à penser qu’on puisse retirer des avantages dont bénéficient les gens. S’ils utilisent l’IA si abondamment sans penser aux coûts, est-ce que nous nuisons à l’avenir de cette technologie?
M. Chhabra : C’est une question intéressante. Je ne sais pas si je peux y répondre directement en disant que cela va nuire à l’IA. C’est une technologie relativement nouvelle, même si elle est employée abondamment. Je pense qu’il importe de faire la distinction avec l’utilisation de la technologie pour la science, l’amélioration de la productivité et l’agriculture de précision — comme l’a souligné la sénatrice de l’Île-du-Prince-Édouard —, qui sont très profitables pour la santé et le repliement des protéines. Ce sont de vraies incidences qu’il vaut la peine d’examiner.
Quand les gens parlent d’intelligence artificielle de nos jours, ils pensent généralement à ces robots conversationnels axés sur le consommateur et à la capacité de créer des mèmes ou de discuter avec Gemini, ChatGPT ou d’autres produits pour obtenir des réponses sur une base plus interpersonnelle, comme je le disais tout à l’heure.
Mais je pense que nous voyons une utilisation différente de l’IA se profiler à l’horizon. À l’avenir, il faudra se préoccuper de l’utilisation de l’IA et se poser des questions en matière d’application, d’utilité. Il faudra se demander qui paie pour l’IA, qui la finance. Nous devrons continuer d’explorer ce type de questions, qui vont s’approfondir avec le temps. Je répète que nous sommes à la veille d’une vaste mobilisation sur cet enjeu.
La sénatrice Arnold : Je suis d’accord. Je pense que c’est peut-être le temps de tenir ce genre de discussions.
La sénatrice Robinson : Monsieur Chhabra, je veux connaître votre point de vue sur la façon dont vos recherches sur l’IA tiennent compte de son incidence à venir sur le Canada rural. Y a-t-il un parti pris ici et se soucie-t-on davantage du Canada urbain? Comme nous l’avons entendu, dans le Nord, il y a des préoccupations en matière de soins de santé. De plus, un de nos principaux moteurs économiques, c’est l’agriculture, qui se pratique surtout dans le Canada rural. Pensez-vous que nous devrions être inquiets en matière de parti pris et du fait qu’on ne se soucie pas assez du Canada rural?
M. Chhabra : Merci beaucoup de votre question.
Tout d’abord, le gouvernement participe depuis quelques années à la connectivité rurale et à la large bande, qui sont un des principaux éléments à considérer pour savoir si les gens ont accès aux outils.
De plus, je souligne que le budget de 2024 prévoyait d’importantes sommes pour les agences de développement régionales pour s’assurer que les programmes et les soutiens d’IA soient accessibles partout au Canada, notamment dans les régions rurales. C’est un aspect important qu’examine le gouvernement depuis un certain temps.
Enfin, dans la stratégie d’IA que développe et veut mettre de l’avant le gouvernement, les occasions que présente l’IA pour tous sont un pilier clair afin que personne ne soit laissé pour compte ou sans occasion à saisir. Ce travail comprend entre autres les compétences et l’accès aux ressources informatiques, qui constitue un autre aspect important.
La sénatrice Robinson : J’aimerais prendre un instant pour parler de l’enjeu de la large bande et de la couverture cellulaire, parce qu’au Canada rural, c’est une limite importante en matière d’agriculture de précision. Si on descend dans une vallée, il n’y a plus de couverture. Toute la science à laquelle on a accès pour s’assurer de faire les choses le plus efficacement possible n’est pas là sans connexion.
Vous dites que vous avez examiné cet enjeu. Vous dites que vous en êtes bien conscients, mais pourriez-vous nous parler de vos actions et des livrables?
M. Chhabra : Merci de cette question. Si vous parlez précisément de couverture cellulaire au Canada rural, je devrai revenir avec une réponse plus détaillée, car ce n’est pas mon domaine de spécialité.
La sénatrice Robinson : J’ai hâte de connaître votre réponse. Merci.
La présidente : Madame Burke, je vais aussi faire appel à vous. J’aimerais en savoir plus sur votre travail. Vous avez parlé d’un concept important, la souveraineté. J’aimerais savoir comment cela recoupe l’IA, sachant que l’IA ne connaît pas de frontière.
J’ai eu l’occasion de visiter les trois instituts d’IA au pays l’an dernier. Nous avons parlé des garde-fous que prévoit la politique canadienne et de comment elle se compare avec celles dans d’autres régions du monde, surtout avec celle de notre voisin au sud de la frontière. M. Chhabra a parlé d’une stratégie horizontale, mais je ne suis pas sûre de ce que cela signifie. Pourriez-vous nous en dire plus?
Mme Burke : Merci de votre question, madame la présidente. Je vais bien sûr vous répondre avant de demander à mon collègue de vous donner des précisions.
Selon ce que je comprends, votre question porte sur les liens qui unissent l’IA comme technologie en évolution et notre sécurité économique. Nous parlons de sécurité économique en matière de maintien et d’expansion ou de résilience de la capacité souveraine du Canada de prendre des décisions, à la fois pour la population et pour les entreprises. C’est le point de vue que nous apportons dans mon secteur.
L’incidence que peut avoir l’IA de ce point de vue est à la fois une vulnérabilité et un outil qui pourrait être incroyablement puissant. M. Chhabra vous a parlé aujourd’hui des différentes façons dont l’IA peut améliorer les divers secteurs de notre économie, notre capacité et notre productivité. Ce sont là des façons de renforcer notre sécurité économique.
Par exemple, en matière de soins de santé, notre capacité de soutenir au pays les résultats de la santé publique est une façon de renforcer notre capacité souveraine d’aider les Canadiens et notre économie. Nous pouvons employer l’IA de diverses manières, comme les soins de santé personnalisés, la télémédecine et les chirurgies à distance. Ces nouvelles utilisations de la technologie peuvent renforcer notre sécurité économique et, par extension, notre sécurité nationale et notre souveraineté.
C’est un avantage potentiel que présente l’IA, mais je répète que toute technologie de pointe peut créer des vulnérabilités en matière de fiabilité. Par exemple, plus nous dépendons de la technologie numérique, plus notre dépendance cause des vulnérabilités que pourraient exploiter nos adversaires. Aujourd’hui en comité, nous avons entendu que l’absence d’accès au réseau cellulaire entraîne un manque de connectivité ou de communication avec la technologie sur laquelle on compte. De cette manière, l’IA est clairement une arme à double tranchant en matière de sécurité économique.
Comment pouvons-nous nous assurer de récolter les bénéfices de l’IA sans en subir les vulnérabilités? C’est en adoptant des mesures comme notre nouvelle stratégie sur l’IA — qui est en cours d’élaboration et qui sera publiée sous peu — et un point de vue intégré sur les façons dont ces technologies peuvent profiter à notre marché et à notre prospérité, de même qu’en garantissant que notre gouvernement dispose des outils pour nous protéger contre les vulnérabilités alors que ces technologies évoluent.
La présidente : Le temps est écoulé, et je dois donner les deux dernières minutes au sénateur Wells.
Le sénateur K. Wells : Ma question s’adresse à Mme Burke. Je ne sais pas si vous pourrez y répondre en deux minutes, mais faites de votre mieux.
En prenant une vue d’ensemble sur le travail que vous effectuez, quelles seraient les menaces ou les préoccupations les plus pressantes causées par l’IA en matière de sécurité économique au Canada?
Mme Burke : Merci de votre question. Je vais tenter d’y répondre en deux minutes ou moins.
Je dirais que les principaux risques ou les principales vulnérabilités potentielles que l’IA présente en matière de sécurité économique au Canada, comme je l’ai indiqué, c’est la dépendance accrue que nous pouvons avoir dans notre utilisation de l’IA dans différents secteurs. Cela signifie qu’à mesure que nous élargissons notre utilisation de l’IA ou que nous l’intégrons sous toutes ses formes — pour les consommateurs et les entreprises —, nous devrons être conscients de notre dépendance et assurer notre résilience.
Le gouvernement fédéral peut mener les efforts de résilience. Les provinces peuvent le faire aussi. Chaque entreprise a également l’obligation de reconnaître ses vulnérabilités potentielles et d’élaborer des plans pour les surmonter. Le gouvernement fédéral a clairement la responsabilité de les aider en la matière.
Je vous rappelle que la stratégie sur l’IA qui s’en vient permettra de tenir bon nombre de conversations de ce genre et d’adapter notre réponse à cette technologie en évolution.
La présidente : C’est la fin de notre discussion avec ce groupe de témoins. Je tiens à vous remercier sincèrement de votre participation à notre réunion. Votre aide, votre expertise et vos points de vue nous ont tous été très utiles.
Comme je l’ai dit au début de la réunion, nous sommes tous très enthousiastes à l’amorce de cette étude. Nous sommes impatients de recevoir toute information supplémentaire que vous n’avez pas eu l’occasion de nous soumettre. Merci de votre présence.
Je vais maintenant vous présenter notre deuxième groupe de témoins. Nous avons demandé à chacun d’eux de présenter une déclaration liminaire de cinq minutes, après quoi les sénateurs leur poseront des questions.
Nous accueillons à la table Samuel Buteau, chargé de programme chez ControlAI; et par vidéoconférence, David Scott Krueger, professeur adjoint, Département d’informatique et de recherche opérationnelle de l’Université de Montréal; et Malo Bourgon, chef de la direction du Machine Intelligence Research Institute.
J’inviterais maintenant M. Buteau à faire sa déclaration, puis ce sera au tour de M. Krueger et de M. Bourgon.
Samuel Buteau, chargé de programme, ControlAI : Merci, madame la présidente, membres du comité, de m’avoir invité à témoigner aujourd’hui. Je m’appelle Samuel Buteau. Je travaille au côté technique de l’intelligence artificielle depuis plus de 10 ans, et je suis maintenant chargé de programme au Canada pour l’organisation sans but lucratif ControlAI.
Dans son étude actuelle, votre comité examine l’incidence de l’IA sur les droits de la personne. Sans doute, le droit de la personne le plus important est le droit à la vie. De ce fait, je dois vous mettre en garde, car les entreprises d’IA jouent avec la vie de tous les humains sur la planète.
L’objectif explicite des plus grandes sociétés d’IA, c’est de bâtir une IA super intelligente. Cela signifie que l’IA pourrait remplacer les humains dans l’exécution de toute tâche, autant les humains sur le plan individuel que les groupes, comme les entreprises ou les gouvernements.
Pourtant, en 2023, les récipiendaires du prix Nobel, d’éminents scientifiques en IA et les PDG de ces mêmes sociétés d’IA nous ont avertis qu’une IA extrêmement intelligente menacerait l’humanité d’extinction. Si nous permettons à la recherche et au développement de se poursuivre au même rythme, bien des experts prédisent qu’on va bâtir une telle IA dans les 10 prochaines années.
Je crois que bien des applications de l’IA sont bénéfiques, mais si l’on bâtit des machines plus compétentes que nous dans tous les domaines, c’est un coup de dés. Aucun pays, aucune entreprise et aucun humain ne peut actuellement contrôler une IA qui pourrait se montrer plus maline que nous, réussir mieux et, de façon générale, l’emporter haut la main.
Cependant, il est possible d’empêcher le développement de cette technologie en amont. Tout le monde perdra à la course à la superintelligence artificielle. Les gouvernements n’ont aucun intérêt à laisser les entreprises d’intelligence artificielle poursuivre dans cette voie. Une fois qu’ils auront compris, les pays seront motivés à faire en sorte que cette technologie ne soit mise au point nulle part dans le monde jusqu’à ce qu’il soit sécuritaire de le faire.
Quelques pays clés pourraient unir leurs forces pour y arriver, non pas de façon naïve, mais grâce à un régime de surveillance et de vérification mutuelles. Pour l’instant, pour franchir la frontière de l’IA à usage général, il faudrait de très gros superordinateurs. Ceux-ci requerraient des centaines de milliers de puces spécialisées, consommeraient autant d’électricité qu’une petite ville et seraient visibles de l’espace.
Bref, il est possible de renforcer les frontières de la recherche sur l’IA et l’on peut, à condition d’exercer une surveillance adéquate, veiller à ce que personne ne crée de superintelligence artificielle en secret.
Nous sommes en train de rassembler la volonté politique pour cela. Il y a moins d’un an et demi, ControlAI a commencé à communiquer ces faits aux décideurs et à leur demander d’agir. Depuis, nous avons réuni plus de 100 appuis publics au sein du Parlement du Royaume-Uni. Aujourd’hui seulement, j’ai rencontré quatre députés canadiens pour les informer des risques de la superintelligence artificielle.
Je fais trois recommandations : premièrement, que le gouvernement canadien reconnaisse publiquement que la superintelligence artificielle constitue une menace à la sécurité nationale et mondiale. Deuxièmement, que le Canada prenne l’initiative de créer une coalition de pays déterminés à prévenir le développement de la superintelligence artificielle au moyen d’une interdiction internationale. Cette interdiction pourrait s’appliquer par le truchement d’un régime de surveillance et de vérification mutuelles. Troisièmement, que le Canada protège ses citoyens chez lui et donne l’exemple dans le monde en interdisant le développement de la superintelligence artificielle sur son territoire.
Merci. Je serai heureux de répondre à vos questions.
La présidente : Merci, monsieur Buteau.
David Scott Krueger, professeur adjoint, Département d’informatique et de recherche opérationnelle, Université de Montréal, à titre personnel : Bonjour. Merci de m’avoir invité. Je m’appelle David Krueger et je suis professeur d’apprentissage automatique à l’Université de Montréal et à Mila.
En 2012, j’ai découvert l’apprentissage profond grâce à des conférences en ligne de Geoff Hinton, et je me suis rendu compte que cette nouvelle approche de l’intelligence artificielle pourrait produire une superintelligence artificielle d’ici quelques décennies. Je suis donc allé étudier sous la direction de Yoshua Bengio, à Montréal. À l’époque, je craignais déjà que la superintelligence artificielle cause l’extinction humaine et je voulais savoir ce qu’en pensaient les experts.
J’espérais apprendre qu’ils avaient de bonnes raisons de ne pas s’inquiéter, mais j’ai plutôt constaté, à l’époque, que personne n’y réfléchissait vraiment. En fait, la plus grande partie du temps, depuis que je suis le domaine, le risque d’extinction humaine par l’intelligence artificielle était considéré comme un sujet tabou, et les chercheurs craignaient pour leur carrière s’ils en parlaient. Malheureusement, cela a retardé de plusieurs années des discussions publiques essentielles sur la façon de gérer ce risque.
J’en parle chaque fois que j’en ai l’occasion depuis plus d’une décennie, et je n’en reviens toujours pas des mauvais arguments que les gens avancent pour éviter de faire face au problème. Par contre, avec le temps, je vois de plus en plus de chercheurs s’inquiéter.
En 2023, nous avons vécu un moment décisif, et j’ai lancé la déclaration suivante :
Atténuer le risque d’extinction lié à l’intelligence artificielle devrait être une priorité mondiale au même titre que d’autres risques à l’échelle de la société, tels que les pandémies et la guerre nucléaire.
Bon nombre des plus grands noms de l’IA, dont Hinton, Bengio et des centaines d’autres chercheurs en intelligence artificielle ont signé cette déclaration. Malheureusement, à la fin de 2022, ChatGPT est sorti, et les entreprises d’intelligence artificielle ont commencé à devenir extrêmement puissantes en 2023.
La chose la plus importante sur laquelle je veux insister aujourd’hui, c’est qu’encore maintenant, le monde ne prend pas les mesures nécessaires pour atténuer le risque que l’intelligence artificielle ne mène à l’extinction de l’humanité. Alors, quel est ce risque, et d’où vient-il?
Les entreprises d’intelligence artificielle essaient explicitement de concevoir des systèmes de superintelligence artificielle. On parle ici de systèmes beaucoup plus intelligents que les gens en général, qui peuvent faire de façon autonome tout ce que les humains peuvent faire — y compris de la robotique — et le faire mieux, à moindre coût, plus vite, etc. L’objectif fondamental est de rendre les humains obsolètes et de leur enlever tous leurs emplois.
Mais nous ne savons pas comment contrôler la superintelligence artificielle. En fait, nous ne comprenons pas comment les systèmes d’intelligence artificielle actuels fonctionnent parce qu’ils se développent eux-mêmes par l’apprentissage profond, plutôt que d’être conçus par l’humain. Malgré les milliers d’études et de recherches publiées au cours de la dernière décennie, cela demeure un mystère de la recherche irrésolu. On ne peut pas s’attendre à ce qu’un quelconque investissement règle ce problème dans un avenir prévisible.
Nous ne savons pas non plus comment bien tester la sécurité de ces systèmes d’intelligence artificielle. Les modèles de tests dont nous disposons peuvent montrer qu’un système d’IA est dangereux, mais pas qu’il est sécuritaire. Nous ne devrions pas non plus nous attendre à ce qu’un quelconque investissement permette de régler le problème dans un avenir prévisible.
Donc, au lieu de garder le contrôle sur les systèmes ou d’utiliser des pratiques de sécurité rigoureuses, les entreprises d’IA et les chercheurs essaient d’insuffler certains objectifs et certaines valeurs aux systèmes d’IA pour qu’ils fassent ce qu’ils veulent. Cependant, nous ne savons le faire que de façon approximative, et même une petite erreur d’approximation pourrait pousser une superintelligence artificielle à réaffecter les ressources dont nous, les humains, avons besoin pour survivre vers ses propres objectifs mal arrimés aux nôtres.
Donc, aucune des approches dont vous entendrez parler — l’interprétabilité, les tests ou l’harmonisation — n’est adéquate. Nous ne savons pas comment construire une superintelligence artificielle en toute sécurité; le plan repose sur un coup de dés.
Enfin, même si les entreprises qui construisent une superintelligence artificielle n’en perdaient pas immédiatement le contrôle, nous devrions tout de même nous attendre à un remplacement massif des êtres humains par l’IA dans l’ensemble de la société. Il ne s’agit pas seulement d’un chômage presque total, mais aussi d’un transfert de pouvoir politique à des systèmes d’intelligence artificielle qui prennent des décisions trop rapidement pour que les humains puissent y participer réellement.
J’aimerais dire une chose au sujet du temps dont nous disposons, parce que je pense que nous sommes en pleine crise. Si nous ne faisons rien, je pense que nous sommes à environ cinq ans de la superintelligence artificielle, alors nous devons rectifier le tir immédiatement et travailler à empêcher son développement. Il doit s’agir d’un effort international, ce qui prendra du temps.
Nous ne pouvons pas nous permettre d’attendre plus de preuves que le risque est imminent; il y a déjà amplement de preuves que le niveau de risque à cet égard est inacceptable.
Dans mon pays d’origine, les États-Unis, le principal argument contre l’arrêt de la course au développement d’une superintelligence artificielle de nos jours, c’est qu’elle est inévitable et que si nous ne la créons pas, c’est la Chine qui le fera.
C’est faux. Une façon simple d’arrêter l’élan serait de nous débarrasser des puces informatiques de pointe nécessaires pour l’IA et des usines qui les fabriquent. Heureusement, la chaîne d’approvisionnement de ces puces est extrêmement concentrée, ce qui rend possible toute intervention visant à régir et à limiter les moyens de produire une superintelligence artificielle.
Il y a peut-être de meilleurs moyens de l’arrêter qui seraient moins coûteux, mais ce coût vaut la peine d’être payé, au besoin, compte tenu du risque qui existe.
Pour conclure, l’intelligence artificielle est une technologie sans précédent, et l’avenir de l’humanité est en péril. Nous sommes en état de crise, et nous avons besoin de mesures immédiates pour ralentir ou suspendre le développement de l’intelligence artificielle dans le monde. Ce devrait être la priorité absolue en matière de politique étrangère dans tous les pays du monde, y compris au Canada.
Merci.
La présidente : Merci, monsieur Krueger. Nous allons maintenant entendre l’exposé de notre prochain intervenant.
Malo Bourgon, chef de la direction, Machine Intelligence Research Institute : Madame la présidente, mesdames et messieurs les membres du comité, ma déclaration ira dans le même sens que celles de mes collègues, qui ont abordé bon nombre des mêmes points que moi. Quoi qu’il en soit, je m’appelle Malo Bourgon. Je suis chef de la direction du Machine Intelligence Research Institute, ou MIRI, un organisme sans but lucratif qui veille à ce que le développement d’une intelligence artificielle puissante se fasse au bénéfice de l’humanité.
J’ai grandi en Ontario et j’ai étudié en génie informatique à l’Université de Guelph. Au cours des 14 dernières années, que j’ai passées au MIRI, j’ai vu notre travail contribuer au lancement d’un nouveau domaine de recherche visant à comprendre comment construire des systèmes d’intelligence artificielle qui se comportent comme prévu, même si ces systèmes deviennent beaucoup plus performants. Les principales entreprises d’intelligence artificielle affirment aujourd’hui que leur objectif est de créer une superintelligence artificielle : des systèmes d’intelligence artificielle qui sont plus intelligents que n’importe quel humain pour chaque tâche cognitive. OpenAI le dit explicitement. Le PDG d’Anthropic, Dario Amodei, parle de bâtir un « pays de génies dans un centre de données ».
Ces entreprises n’ont pas été fondées pour fabriquer des robots conversationnels; pour elles, les robots conversationnels ne sont qu’un premier pas.
Malheureusement, la recherche progresse peu sur la façon de contrôler ces systèmes. L’ancienne scientifique en chef d’OpenAI, Ilya Sutskever, a elle-même déclaré : « [...] nous n’avons pas de solution pour diriger ou contrôler une IA potentiellement superintelligente et l’empêcher de se retourner contre nous. » Par conséquent, les chercheurs du MIRI craignent que si le monde continue de foncer vers la superintelligence au moyen des techniques et des connaissances actuelles, le résultat soit immanquablement que nous en perdrons le contrôle, ce qui pourrait mener à l’extinction humaine.
Pourquoi est-ce si dangereux? Il faut avant tout retenir que l’intelligence artificielle est différente des logiciels qu’on connaît. Les logiciels sont codés ligne par ligne; en principe, un programmeur peut en comprendre tous les éléments. Comme M. Krueger l’a dit, les systèmes d’intelligence artificielle modernes se développent eux-mêmes plutôt que d’être conçus par l’humain, de sorte qu’ils se fondent sur une somme astronomique d’essais et d’erreurs automatisés. Les créateurs de tels systèmes ne savent pas tellement ce qui se passe à l’intérieur et, par conséquent, ces systèmes affichent souvent des comportements que personne n’a demandés ou ne souhaite.
Les modèles d’IA Frontier se sont fait prendre à tricher lors d’évaluations, à adopter un comportement trompeur et manipulateur et même, à pousser les utilisateurs vers un état que les cliniciens appellent la « psychose induite par l’IA », même quand l’IA peut facilement détecter que ses réponses nuisent à l’utilisateur. De plus, des recherches récentes montrent que ces modèles reconnaissent de plus en plus quand ils sont évalués et qu’ils ajustent leur comportement en conséquence, ce qui mine la validité des évaluations de sécurité.
Compte tenu de l’utilisation qu’on fait de l’IA actuellement, ces comportements sont préoccupants, mais pas catastrophiques. Nous devons toutefois nous poser des questions. Que se passera‑t-il lorsqu’on utilisera ces systèmes autant que ces entreprises le souhaitent? Quels seront les objectifs des futurs modèles d’IA? Ces systèmes nous mettent-ils en danger, comme je l’ai dit? Bon nombre de ceux qui étudient ces questions trouvent les réponses très inquiétantes.
Deux des trois pionniers de l’apprentissage profond, les Canadiens Geoffrey Hinton et Yoshua Bengio, nous mettent publiquement en garde contre un danger d’extinction. Les autres témoins de ce groupe, MM. Buteau et Krueger, ont mentionné qu’en 2023, ils se sont joints à d’autres grands scientifiques spécialisés dans l’intelligence artificielle, et même aux PDG d’OpenAI, de Google DeepMind et d’Anthropic, pour faire la déclaration suivante :
Atténuer le risque d’extinction lié à l’intelligence artificielle devrait être une priorité mondiale au même titre que d’autres risques à l’échelle de la société, tels que les pandémies et la guerre nucléaire.
Certains des signataires dirigent les entreprises mêmes qui se précipitent le plus rapidement vers la création d’une superintelligence, et ils affirment de plus en plus qu’ils aimeraient y mettre fin. Le PDG de Google DeepMind a dit qu’il serait favorable à une pause si tout le monde lui emboîtait le pas. Elon Musk a affirmé qu’il fait « beaucoup de cauchemars à cause de l’intelligence artificielle » et qu’il ralentirait s’il le pouvait. Le mois dernier, à Davos, le PDG d’Anthropic a dit qu’il souhaiterait ralentir, mais qu’il ne le peut pas à cause des travaux de ses rivaux géopolitiques. Ces dirigeants disent se sentir piégés dans une course qu’ils savent dangereuse, mais qu’aucune entreprise ne peut arrêter à elle seule.
De leur propre aveu, nous ne pouvons pas compter sur eux pour développer cette technologie en toute sécurité. Pour les freiner dans cette course, il faudra une coordination internationale entre alliés et adversaires, chose que seuls les gouvernements peuvent faire.
La catastrophe n’est pas inévitable. Nous pouvons nous prémunir contre ces dangers. Cette course folle que tant de gens considèrent comme impossible à arrêter se déroule dans un monde où la plupart des gens ne comprennent pas la menace. Mais cela peut changer.
Le Canada est une voix respectée sur la scène mondiale, et il peut contribuer à faire pression en faveur de la coordination et de la coopération internationales nécessaires pour freiner cette course folle. Les décideurs canadiens peuvent dire ce que d’autres ne semblent pas avoir le courage de dire, à savoir que selon les plus grands experts, il est beaucoup trop dangereux de laisser cette course à la superintelligence se poursuivre.
Et c’est faisable. La course à la superintelligence dépend de puces d’IA extrêmement spécialisées, conçues et fabriquées par une poignée d’entreprises à l’aide de machines fabriquées par une seule entreprise néerlandaise; chaque machine peut coûter le prix d’un 747. Ces puces sont hébergées dans d’énormes centres de données qui consomment d’énormes quantités d’électricité. L’infrastructure de développement de l’intelligence artificielle et de la superintelligence est très visible et peut être surveillée et réglementée sans qu’on renonce pour autant aux outils d’intelligence artificielle qui, s’ils sont élaborés et déployés judicieusement, peuvent procurer d’énormes avantages à la société. La seule chose qui doit cesser, c’est la course à la conception d’une superintelligence.
Les scientifiques canadiens ont ouvert la voie à cette technologie et continuent de le faire grâce à leurs efforts pour éviter ces dangers. J’espère que le Canada utilisera sa voix et son autorité morale pour revendiquer un monde où la chance n’est pas notre plan A pour faire face à cette menace existentielle.
Merci.
La présidente : Merci à tous de vos exposés.
Le sénateur K. Wells : Vous avez tous présenté des points de vue qui donnent à réfléchir. Les questions que vous soulevez suscitent beaucoup de grandes réflexions et d’inquiétudes.
Monsieur Krueger, j’ai grandi à l’ère du nucléaire, dans les années 1980, où nous pensions qu’il était minuit moins une pour l’humanité pendant la crise des missiles cubains, puis cette menace existentielle est devenue une menace très réelle qui a dominé une grande partie de la conversation et du paysage ensuite.
D’après ce que vous avez dit, s’il y avait un compte à rebours pour l’IA, à quel point pensez-vous que nous serions près de minuit? Sommes-nous à des jours, à des heures, à des minutes ou à des secondes de ce que vous avez décrit comme l’extinction humaine?
M. Krueger : Je vous remercie de cette question. Je tiens d’abord à souligner que l’avenir reste incertain. Je ne prétends pas savoir exactement quand les choses vont déraper, mais j’ai ma propre petite idée à ce sujet et je peux vous donner une idée de ce que d’autres experts en pensent aussi.
La chose la plus évidente que nous avons mentionnée à maintes reprises qui constituerait une sorte de point de non‑retour, c’est la mise au point de la superintelligence artificielle. J’ai mentionné que je pense que nous pourrions y arriver d’ici environ cinq ans. Beaucoup d’experts, surtout ceux qui travaillent dans les entreprises de développement de l’IA, ont une perspective similaire de l’horizon de développement de la superintelligence artificielle; certains prévoient que ce pourrait être encore plus court.
Je pense qu’il importe de reconnaître que c’est le point à partir duquel il n’y aura pas de retour en arrière possible. Si nous voulons mettre fin à cette course, nous devons le faire bien avant que la superintelligence ne soit possiblement mise au point.
Il devient toujours de plus en plus facile de donner naissance à la superintelligence, à mesure que nous investissons dans l’intelligence artificielle et les progrès algorithmiques. Si nous essayions de faire une pause maintenant, le développement se poursuivrait en partie. Si nous décidions que plus personne ne peut utiliser les puces que nous connaissons pour essayer de créer une superintelligence, il y aurait toujours un nombre considérable de puces en circulation sans que nous ne soyons au courant. Nous ne savons pas où elles se trouvent. Un gouvernement pourrait s’en servir en secret pour poursuivre ce genre de recherche dangereuse.
C’est maintenant qu’il faut agir. Nous aurions déjà dû agir avant. Nous n’aurons pas l’occasion d’agir efficacement, je crois, si ou quand nous verrons des signes plus clairs de danger. Nous observons déjà de nombreux signes de danger, comme M. Bourgon l’a mentionné. Nous voyons à quel rythme les outils d’intelligence artificielle progressent, c’est extrêmement rapide. Des experts nous disaient que c’était un enjeu il y a déjà environ trois ans.
J’espérais qu’en 2023, après la publication de cette déclaration, les gouvernements passeraient à l’action et commenceraient à s’attaquer à ce problème avec le sérieux qu’il mérite. Malheureusement, cela ne s’est pas produit. Nous avons encore la possibilité de le faire, mais je pense que nous ne disposons plus que de quelques années pour commencer non pas à discuter d’une interdiction des travaux visant à mettre une superintelligence au point, mais pour mettre cette interdiction en application. Il est grand temps que les discussions internationales s’enclenchent. C’est mon postulat de base.
Le sénateur K. Wells : Quand on regarde l’histoire, on voit des points tournants pour la société dans le monde. L’impression et la révolution industrielle ont changé fondamentalement la société, et nous sommes maintenant confrontés à la nouvelle révolution de l’intelligence artificielle.
Si vous pouviez faire des recommandations au gouvernement canadien en ce qui concerne la mise en place de mesures de protection pour les Canadiens dès maintenant, quelles seraient vos trois principales recommandations? Nous allons commencer ici, dans cette salle.
M. Buteau : J’ai formulé quelques recommandations dans ma déclaration liminaire. Je crois que le principal levier du Canada réside dans sa capacité à résoudre le problème de coordination de telle sorte que la plupart des gouvernements du monde prennent cette question au sérieux, se rendent compte que la superintelligence artificielle constituerait une menace à la sécurité nationale pour eux — comme pour le reste de la planète — et entament des négociations.
Il suffirait que quelques députés ou sénateurs prennent position à ce sujet pour qu’il devienne beaucoup plus facile pour d’autres membres du gouvernement de leur emboîter le pas en se penchant sur la question. Il va de soi que si le gouvernement du Canada dans son ensemble s’employait à servir cette cause, de nombreux gouvernements alliés trouveraient beaucoup plus facile de s’intéresser à cet enjeu avec tout le sérieux qu’il mérite.
Nous devons nous rendre compte que nous vivons actuellement dans un monde où la grande majorité des décideurs, du moins parmi ceux avec lesquels j’ai pu en discuter, ont à peine entendu parler du problème ou ne savent pas que c’est le genre d’intelligence artificielle que les entreprises cherchent à créer, et ce, sans que quiconque puisse prétendre pouvoir la contrôler.
Nous ne pouvons pas perdre espoir avant d’avoir essayé de sensibiliser les gens à l’ampleur du problème. Je pense qu’une fois que ce sera fait, les solutions deviendront évidentes. C’est la stratégie que je recommanderais d’abord et avant tout pour le Canada.
La sénatrice Arnold : Monsieur Buteau, nous nous sommes rencontrés, et vous m’avez expliqué la différence entre l’intelligence artificielle ordinaire et la superintelligence artificielle. J’aimerais que vous répétiez ces explications aux fins du compte rendu parce que j’estime que bien des gens arrivent difficilement à s’y retrouver.
Il y a du bon dans tout cela. Si vous pouviez nous aider à y voir plus clair, je pense que ce serait utile.
M. Buteau : Comme je l’ai dit dans mes remarques préliminaires, je crois que de nombreuses applications de l’intelligence artificielle sont très bénéfiques. Je pense qu’il y a une distinction à faire entre l’IA spécialisée — ou l’IA utilitaire — et l’IA à usage général. L’intelligence artificielle spécialisée ne peut faire qu’une chose, et elle demeure sous le contrôle des humains. Par exemple, on peut penser à une intelligence artificielle formée uniquement sur des images médicales pour détecter le cancer, ou encore sur des données protéiques pour découvrir comment les protéines se replient. Il s’agit de mécanismes dignes d’intérêt qui ont une application ciblée et prévisible. L’IA demeure alors un outil. Comme pour toute technologie puissante, les outils peuvent avoir des usages bénéfiques et nocifs, mais ils ne représenteraient pas un danger pour ceux qui s’en servent.
Il faut faire la distinction avec l’IA à usage général, le paradigme que les entreprises utilisent actuellement pour construire des robots conversationnels et des assistants de codage automatisés. C’est à partir de cette forme d’IA que l’on cherche à mettre au point la superintelligence artificielle.
La différence entre l’IA à usage général et la superintelligence artificielle n’est qu’une question de degré. Dans quelle mesure est-elle capable de nous remplacer pour une variété de tâches que les humains mettent beaucoup de temps à accomplir et qui exigent de l’autonomie?
L’intelligence artificielle à usage général est très différente en ce sens qu’elle n’est pas formée en fonction d’une seule utilisation. Nous dépensons d’énormes ressources — comme les données de l’ensemble d’Internet et de nombreux autres entrants — et créons des systèmes que, pour l’essentiel, nous ne comprenons pas. Dario Amodei, PDG d’Anthropic, qui est actuellement le chef de file dans ce domaine, a dit récemment que nous ne comprenions peut-être que 3 % du fonctionnement de nos systèmes. Je crois qu’il voulait en quelque sorte montrer à quel point Anthropic est en avance sur la concurrence. Il n’en demeure pas moins que la situation est préoccupante, car nous ne comprenons pas ces systèmes et personne n’a de plan pour les contrôler, alors même qu’ils ont pour l’instant des comportements et des caprices qui sont loin d’être rassurants. Mais la question est la suivante : que se passe-t-il lorsque cette technologie d’intelligence artificielle à usage général dépasse les capacités de tout être humain ou de tout groupe, comme le gouvernement, notamment? Que se passe-t-il alors?
C’est la principale distinction.
La sénatrice Arnold : Monsieur Krueger, vous avez esquissé un portrait assez effrayant de la situation. Je vous ai entendu dire que les puces pourraient être l’élément déterminant. Si nous pouvions contrôler les puces, nous pourrions freiner ou ralentir le processus. Vous dites que le gouvernement a un rôle à jouer à ce chapitre.
Toutes les entreprises qui se sont coalisées pour écrire cette lettre... Je suppose que je ne comprends pas vraiment pourquoi ces entreprises privées ne font pas le nécessaire pour mettre fin à l’expérience si elles sont conscientes de ses éventuelles conséquences indésirables.
M. Krueger : Merci d’avoir posé la question.
Je pense qu’il y a plusieurs facteurs à considérer. Premièrement, beaucoup de gens estiment que c’est inévitable et n’ont pas réfléchi sérieusement à la question de savoir s’il y a moyen de mettre un frein à tout cela. Il n’est pas facile de le faire pour diverses raisons, et notamment parce que cela exige une concertation planétaire. Plusieurs ne croient pas vraiment à la possibilité d’une coopération entre les États-Unis et la Chine à cet égard. J’estime néanmoins que si ces gouvernements sont réellement conscients des enjeux, il est certes dans leur intérêt de trouver un mode de collaboration.
Dans l’éventualité d’une telle entente sur le plan politique, il faut par ailleurs se demander s’il est envisageable que l’on parvienne dans les faits à la mettre en œuvre en exerçant le contrôle voulu. C’est à ce niveau qu’il est primordial de bien saisir l’importance des éléments concrets comme les puces et les caractéristiques structurelles qui sont à la base de ces systèmes.
La chaîne d’approvisionnement pour les puces est très concentrée. ASML aux Pays-Bas et la Taïwan Semiconductor Manufacturing Company, ou TSMC, à Taïwan, sont les deux entreprises incontournables pour la fabrication des puces les plus avancées. À l’heure actuelle, il s’agit de projets d’envergure qui s’appuient sur des milliards de dollars d’investissements.
Il serait très facile de mettre fin aux efforts les plus manifestes en ce sens, mais il faut se demander si les gouvernements ne continueraient pas d’essayer de le faire en secret. C’est dans cette optique qu’il faut sérieusement songer à se débarrasser d’une grande quantité de puces et de la capacité de les fabriquer afin que les gouvernements sachent qu’ils n’ont pas les outils nécessaires pour poursuivre leurs expériences en catimini.
Pour revenir à la raison pour laquelle les gens continueraient de faire cela, il y a aussi la promesse de la grande puissance que procurerait cette technologie. Si vous parvenez à mettre au point cette superintelligence artificielle et à la contrôler — et certains sont beaucoup plus optimistes que moi quant à cette dernière capacité —, alors vous pourrez pour ainsi dire prendre le contrôle du monde et le façonner selon votre bon vouloir. Certains sont motivés par cela. D’autres sont simplement attirés par les énormes profits qu’ils imaginent pouvoir en tirer. Certaines personnes travaillant dans ce domaine et dans ces entreprises sont enthousiastes à la perspective de remplacer l’humanité par une espèce avancée de créatures supérieures issues de l’intelligence artificielle ou de cyborgs. C’est leur vision de l’avenir qu’ils veulent concrétiser.
Il y a donc un certain nombre de raisons pour lesquelles les gens continuent de le faire, mais je pense qu’il faut surtout se préoccuper de l’argumentation allant à l’opposé de la coordination internationale requise, c’est-à-dire la logique suivant laquelle si nous ne le faisons pas, c’est la Chine qui le fera, comme on le fait valoir souvent aux États-Unis, je le répète.
Je pense que c’est la seule justification que la population serait prête à avaliser. On ne voudrait pas se faire dire des choses comme: « Nous voulons ce pouvoir immense » ou « Nous voulons remplacer l’humanité. » Ce ne sont pas des justifications acceptables pour ce genre d’activité.
La seule justification qui me semble plausible, c’est que cela va se produire de toute manière, et que nous pourrions tout aussi bien être ceux qui le feront. C’est pourquoi je pense qu’il est très important de souligner que nous pouvons y mettre fin. C’est un problème politique, et non technique.
La sénatrice Robinson : On a en quelque sorte déjà répondu à mes questions.
Monsieur Buteau, vous répondiez à une question du sénateur Wells sur les mesures à prendre. Il voulait savoir comment nous pourrions, en tant que sénateurs canadiens, contribuer à la résolution de ce problème. Nous avons manqué de temps à ce moment-là, et nous pourrions peut-être maintenant demander à nos témoins en ligne de nous faire part de leurs opinions à ce sujet.
Nous pourrions peut-être commencer par M. Krueger.
M. Krueger : Merci. Je souscris à tout ce que M. Buteau a dit. Je pense que la priorité ici est d’amorcer le processus de négociation d’un accord international pour empêcher que l’on progresse davantage vers la mise au point de cette superintelligence artificielle, ce qui, à mon avis, doit inclure des interventions majeures et la surveillance de la chaîne d’approvisionnement informatique. Nous voulons sans doute simplement mettre fin aux activités des entreprises qui fabriquent les puces et la machinerie de pointe utilisée à cette fin. C’est la solution la plus efficace et la plus simple.
Il y a une chose que je veux ajouter concernant la situation au Canada. Chaque fois qu’une nouvelle capacité d’intelligence artificielle est mise en place, il y a des gens qui commencent immédiatement à l’utiliser pour faire des choses que, je pense, toutes les personnes ici présentes et 99 % des gens considéreraient comme étant extrêmement antisociales. À titre d’exemple, on peut demander à l’intelligence artificielle de détruire l’humanité, comme on l’a fait avec ChaosGPT en 2023, ou l’inviter à tenter de devenir autonome en allant chercher les ressources dont elle a besoin pour survivre et poursuivre ses propres objectifs.
Ce n’est pas le point principal sur lequel il faut insister, mais c’est, à n’en pas douter, le genre de choses que l’on devrait sur‑le-champ déclarer illégal partout dans le monde.
La sénatrice Robinson : Merci.
Monsieur Bourgon?
M. Bourgon : MM. Krueger et Buteau ont assez bien couvert le sujet. Je pourrais peut-être ajouter certains éléments qui ne permettront pas de régler le problème, mais qui pourraient être des pistes de solution à explorer au départ.
J’ai entendu tout à l’heure le représentant du gouvernement parler de l’Institut canadien de la sécurité de l’intelligence artificielle. Il est certain que si le Canada veut relever ce défi et essayer d’être un chef de file en la matière, son institut devrait s’attaquer à ce problème. À moins que quelque chose ait changé très récemment, je crois que la prise en compte des risques catastrophiques liés à l’intelligence artificielle ne relève même pas du mandat de l’Institut canadien de sécurité de l’intelligence artificielle.
J’estime que le Canada serait probablement mieux outillé pour réfléchir à ce problème si cet institut qui tente de l’aider à comprendre ce qui est en jeu avec l’intelligence artificielle et la façon de naviguer en toute sécurité dans la mise au point de ses avancées avait pour mandat de se pencher sur les risques les plus importants et les plus susceptibles de causer des dégâts.
La sénatrice Robinson : Merci.
La sénatrice McCallum : Merci à tous de vos exposés.
Je veux parler des droits de la personne et de la difficulté que nous avons maintenant, en tant qu’êtres humains, à corriger les injustices touchant les populations vulnérables. Nous échouons à ce chapitre depuis de nombreuses générations. L’intelligence artificielle ne fait qu’exacerber mes préoccupations. On dit qu’elle servira l’intérêt public, mais nous devons bien en saisir toutes les répercussions sur les droits de la personne pour pouvoir imposer les restrictions et les interdictions nécessaires.
L’un des témoins a dit que l’intelligence artificielle est entraînée, et donc alimentée de préjugés et d’autres interprétations tendancieuses, ce qui ne va pas manquer d’intensifier les injustices humaines.
Dans quelle mesure l’intelligence artificielle risque-t-elle d’éroder l’éthique, la pensée critique, les compétences interdisciplinaires et les traditions dans un contexte d’apprentissage en profondeur? Dans nos enseignements au sein des Premières Nations, nous apprenons à générer de la sagesse, mais l’intelligence artificielle ne peut pas générer de la sagesse — à moins que vous me disiez qu’elle en est capable pour prendre des décisions éthiques. En quoi l’intelligence artificielle menace-t-elle les droits de la personne? Selon vous, quelle est la solution?
M. Buteau : Je peux commencer. L’un des aspects techniques fondamentaux, c’est que les systèmes d’intelligence artificielle actuels ne sont pas programmés ligne par ligne, et il est donc très difficile — nous n’avons pas maintenant les moyens techniques de le faire — de veiller à ce que l’intelligence artificielle s’assure de respecter les droits de la personne. En concevant un outil qui est beaucoup plus puissant que nous pouvons l’être et qui échappe pour ainsi dire à notre contrôle, nous nous privons de l’option de faire marche arrière si la superintelligence artificielle que nous mettons au point ne respecte pas nos droits de la personne ou notre manière de vivre dans la mesure où nous le souhaiterions.
Je pense qu’il suffit de regarder l’histoire pour constater qu’il est loin d’être idéal de se retrouver à la merci d’une force beaucoup plus puissante que nous. L’histoire humaine n’est pas parfaite, mais la voie que nous suivons pourrait nous amener à penser que nous avons encore les moyens et la volonté de créer un monde meilleur où régnera une plus grande justice. Je pense que la superintelligence artificielle sonnerait le glas de cette humanité qui nous guide.
Si nous nous soucions vraiment des droits de la personne — comme nous aurions raison de le faire —, nous devrions chercher à façonner un avenir où les êtres humains seront encore en mesure de prendre des décisions en ce sens.
La sénatrice McCallum : Y a-t-il d’autres commentaires?
M. Krueger : Bien sûr. Je vais me faire l’écho de ce que M. Buteau vient de dire. Je suis d’accord avec lui.
Vous avez parlé d’injustices historiques et de la situation des populations vulnérables. Dans la mesure où l’intelligence artificielle ne raye pas tout le monde de la carte, je pense qu’elle va donner plus de pouvoir aux gens qui en ont déjà, et ce, dans une mesure hors de proportion, au détriment de ceux qui n’en ont pas. Je pense toutefois qu’en fin de compte, elle privera toute l’humanité de son pouvoir, car elle sera plus intelligente, plus compétente, et plus productive et mieux adaptée sur le plan économique, et nous deviendrons donc tous vulnérables face à l’intelligence artificielle. La question de savoir comment nous avons traité les groupes défavorisés et vulnérables par le passé est donc très pertinente, car ce n’était guère acceptable dans bien des cas.
Beaucoup de gens s’attendent, pour une raison ou une autre, à ce que l’intelligence artificielle, même si elle prend le contrôle de tout, adopte une attitude bienveillante à notre égard. À la lumière de ces analogies et comparaisons historiques, je ne pense tout simplement pas que c’est ce à quoi nous devrions nous attendre.
De plus, il est important de reconnaître que la course au développement de l’intelligence artificielle menace pour ainsi dire l’ensemble de nos structures sociétales et de nos systèmes sociaux, notamment pour ce qui est des droits de la personne et de la capacité des gouvernements de gérer les affaires publiques et de protéger efficacement leurs citoyens. En plus de la perte de contrôle, dont nous avons déjà amplement parlé, il y a la réalité technique liée au fait que nous ne comprenons pas comment fonctionne l’intelligence artificielle. Comme il s’agit d’un outil très puissant, on l’utilisera forcément de multiples manières sans qu’il y ait de responsabilisation nette ni de recours pour les personnes qui en subissent les conséquences.
La présidente : Avant de passer au deuxième tour de questions, j’aimerais obtenir une précision.
L’un d’entre vous a-t-il participé aux consultations menées par le gouvernement en vue de l’élaboration de la stratégie qui sera mise en œuvre au cours du premier trimestre?
M. Buteau : Je crois avoir aidé quelqu’un à rédiger un document à cette fin, mais je ne sais pas si le tout a effectivement été présenté.
M. Bourgon : Non.
M. Krueger : Non.
La présidente : D’accord. Merci. Cela répond à ma question.
Le sénateur K. Wells : J’aimerais ouvrir le débat en revenant à la question des trois principales recommandations auxquelles le gouvernement devrait donner suite dans l’immédiat, s’il y a autre chose que nos témoins en ligne aimeraient nous soumettre à ce propos. Sinon, je peux passer à un autre sujet. Il semble que nous ayons fait le tour de la question.
En ce qui concerne les nouvelles de la semaine dernière, nous avons eu droit à un exemple assez consternant avec OpenAI qui n’a pas communiqué aux forces de l’ordre certains renseignements concernant la tragédie de Tumbler Ridge. J’aimerais bien savoir ce que vous en pensez. Tout indique qu’une jeune personne en difficulté souffrant de problèmes de santé mentale a confié à une plateforme d’intelligence artificielle des informations troublantes qui n’ont pas ensuite été transmises aux gens qui auraient pu lui venir en aide. Sans en avoir la certitude, nous pouvons tout de même penser que cela a peut-être contribué à la tragédie qui s’est produite et que ce drame aurait donc pu être évité.
Estimez-vous que le signalement devrait être obligatoire en pareil cas? Est-ce que l’on pourrait aspirer à mieux contrôler certaines de ces entreprises d’intelligence artificielle en les forçant à divulguer — que ce soit aux forces de l’ordre ou aux représentants du gouvernement — les renseignements troublants qui circulent sur leur plateforme et qui pourraient donner à penser que du tort sera causé à la personne concernée ou à d’autres?
Nous savons, par exemple, que les enseignants et les professionnels du counseling ont tous l’obligation d’enfreindre les règles de confidentialité pour alerter les autorités lorsqu’un jeune est sur le point de se faire du mal à lui-même ou d’en faire à autrui. Dans ces cas particuliers, la confidentialité ne tient plus et la divulgation devient obligatoire parce qu’une vie humaine est en danger.
Je me demande simplement ce que vous pensez des interventions requises et des exigences à imposer pour que ces plateformes ne causent aucun préjudice, comme ceux dont nous avons parlé — ou pas de préjudices additionnels — ou qu’elles en atténuent les répercussions. Dans le cas d’OpenAI, on a appris que la technologie de l’intelligence artificielle n’était pas la seule fautive; une multitude d’êtres humains ont examiné ces données et ont décidé qu’elles ne satisfaisaient pas aux critères établis pour que l’information doive être communiquée. Nous ne savons même pas quels sont ces critères pour l’entreprise en question. C’est un exemple concret qui a mené à une tragédie avec d’innombrables vies perdues et des collectivités canadiennes dévastées. Tout cela aurait peut-être pu être évité avec les bonnes politiques ou les bons outils en place.
M. Bourgon : Je peux me lancer en premier.
Je trouve assez incroyable de constater à quel point nous imposons peu d’exigences aux entreprises d’IA au chapitre de la communication de renseignements.
Certaines des choses que vous avez mentionnées semblent constituer de premières étapes fondamentales. Cependant, lorsque ces entreprises parlent des types de systèmes qu’elles créent et des risques qu’ils présentent, y compris ceux de grande envergure, je pense qu’il incombe aux gouvernements d’exiger, au minimum, qu’elles divulguent les progrès réalisés dans le développement de leurs modèles, ainsi que les règlements de sécurité internes utilisés et ce qu’ils montrent.
Avoir une certaine connaissance de la situation s’avère utile pour comprendre comment la technologie évolue et les principaux gouvernements dans le monde sont peut-être autant dans l’ignorance que moi. J’en sais peut-être plus qu’eux parce que je connais certains employés des entreprises, qui me racontent parfois des choses. Cela me semble insensé.
Si Microsoft avait un programme d’armes nucléaires et qu’elle disait qu’il se pourrait que, de temps en temps, certaines d’entre elles explosent, les gouvernements voudraient peut-être en savoir plus sur ce qui se passe et envisager de mettre le tout en pause. Quelqu’un d’autre a dit quelque chose que j’aime bien, soit qu’il y a plus de règlements sur les sandwicheries que sur les entreprises d’IA. Il semble que c’est incroyable.
Il y a également toute une autre question de responsabilité qui, à mon avis, mérite d’être examinée.
La présidente : Est-ce qu’un autre témoin souhaite intervenir?
M. Krueger : Merci.
Je pense que des drames de ce genre sonnent l’alarme en quelque sorte. Ils révèlent à quel point nous avons échoué dans la réglementation de cette technologie et à quel point il est difficile de la réglementer à mesure qu’elle gagne en puissance — et combien il est nécessaire de ralentir la cadence afin d’avoir le temps de trouver les bons moyens de réglementer ce genre de choses.
À l’heure actuelle, des questions difficiles se posent au sujet de la surveillance. Par exemple, on peut s’inquiéter pour la liberté d’expression ou se demander si le gouvernement ira plus loin dans sa surveillance et comment faire en sorte que le programme ne signale que les types d’activités qu’il est censé signaler. Pour l’instant, ce sont les entreprises elles-mêmes qui répondent à ces questions, en fonction de leur volonté de réaliser des profits et d’accélérer le développement de la technologie.
Il nous manque donc des éléments fondamentaux, comme la transparence. Il nous manque la responsabilité et l’occasion d’avoir des discussions constructives comme celle-ci et le temps qu’il faut pour que la société puisse réellement s’exprimer sur la manière dont nous voulons gérer cela. Tout va beaucoup trop vite.
La sénatrice McCallum : Je veux me pencher sur la discrimination et les inégalités, sur les défaillances systémiques qui compromettent l’intégrité de la société, la démocratie et le respect des droits de la personne pour tous. Il est urgent que nous veillions à ce que la discrimination historique ne soit pas intégrée dans les modèles d’IA.
Le problème avec la discrimination... Est-il même possible de l’atténuer? Je ne pense pas. Nous ne pouvons même pas atténuer ce qui se passe actuellement. Dans le cas de Tumbler Ridge, il est trop tard. Pouvez-vous nous donner votre avis à ce sujet?
M. Krueger : Depuis longtemps, on travaille à tenter de résoudre les problèmes de discrimination, de préjugés et d’équité dans l’IA. Nous ne disposons toujours pas des fondements conceptuels voulus pour déterminer si un système d’IA est discriminatoire. De nombreux travaux ont été menés à ce sujet, tout comme de nombreux travaux ont été consacrés à ce qu’on appelle l’« interprétabilité », c’est-à-dire la compréhension du fonctionnement interne des systèmes. Comme je l’ai indiqué dans ma réponse à la question précédente, il s’agit là de questions importantes auxquelles nous devons consacrer plus de temps.
Je tiens à mentionner que diverses tentatives visant à corriger les préjugés ou la discrimination ont eu des effets contraires à ceux attendus. Nous avons vu des exemples célèbres où le modèle de Google générait des pères fondateurs noirs et des nazis noirs dans le cadre d’un effort malavisé de représentation lorsqu’on lui demandait de générer des images de nazis ou des pères fondateurs des États-Unis. D’autre part, xAI a tenté d’adopter une attitude plutôt « anti-woke » ou pour la liberté d’expression, ce qui a abouti à un modèle qui s’est autodéclaré « MechaHitler ».
Même ces tentatives de prendre une position spécifique sur les questions de discrimination et d’équité ne se déroulent souvent pas du tout comme le souhaitent leurs concepteurs avec les techniques actuelles.
M. Bourgon : Je voudrais renchérir en soulignant que le principal problème ici, c’est que ces systèmes sont essentiellement des boîtes noires. Lorsque nous les entraînons, nous leur donnons essentiellement une série d’exemples et nous leur demandons de les imiter. Ce que nous entraînons réellement, ce sont des trillions de nombres en représentation flottante qui sont simplement multipliés ensemble d’une manière très particulière qui fait qu’un modèle se comporte comme il le fait. Personne n’a la capacité d’examiner ces nombres et de comprendre pourquoi ils font ce qu’ils font.
Ainsi, lorsque nous disons qu’un modèle est discriminatoire d’une manière ou d’une autre, personne ne peut aller à l’intérieur et comprendre pourquoi cette discrimination se produit et corriger le comportement. On peut essayer de lui montrer des exemples qui tenteraient de le faire pencher dans l’autre sens. Ensuite, on peut observer le comportement du modèle et essayer de le soumettre à certaines évaluations et vérifications.
Or, le monde est vaste et, souvent, les systèmes d’IA peuvent interagir de multiples façons. Il est très difficile de le tester de manière exhaustive. C’est donc un défi extrêmement difficile à relever.
Les préjugés et la discrimination sont des risques que nous observons actuellement et ils suscitent la même préoccupation sous-jacente. Nos préoccupations plus générales sont alimentées par le fait que, à mesure que ces systèmes deviennent plus performants et parce que nous ne comprenons pas ce qui les anime et leurs objectifs, les problèmes ne feront que s’aggraver, car ils prendront des initiatives plus importantes dans le monde, avec une plus grande autonomie et une intelligence accrue.
La présidente : Monsieur Buteau, avez-vous des observations à faire à ce sujet?
M. Buteau : Je dirais que même si certaines conséquences de l’IA sont déjà présentes ou très difficiles à éviter, nous devons rejeter l’idée que tout est sans espoir. Certains risques ne se sont pas encore concrétisés et nous sommes encore en mesure d’agir pour nous assurer qu’ils ne se matérialisent pas. Je pense que nous devrions saisir ces occasions pour le faire.
La présidente : Nous arrivons à la fin de la deuxième partie de la réunion. Monsieur Bourgon, votre connexion Internet est un peu instable, mais comme nous arrivons à la fin, je pense que nous avons bien compris tout ce que vous avez dit, donc ne vous en faites pas.
J’ai une dernière question pour conclure et j’espère que ce sera rapide. Pensez-vous que, pour la suite, la solution consisterait en une sorte de contestation judiciaire, peut-être sur les droits de la personne? Monsieur Krueger, je me demande si vous voyez quelque chose du genre aux États-Unis. Nous commencerons par vous.
M. Krueger : Il y a matière à intenter des poursuites judiciaires contre les entreprises d’IA. Des affaires sont en cours concernant leur utilisation de données protégées par le droit d’auteur, ce qui est illégal dans de nombreux cas. Des règlements importants ont été conclus à cet effet.
En ce qui concerne les droits de la personne, je pense qu’il doit y avoir des cas, mais je crois comprendre qu’il est difficile d’intenter de telles poursuites en raison du manque de transparence et d’interprétabilité. Comme M. Bourgon l’a mentionné, il est difficile de savoir si un système est discriminatoire sur le plan de ses « pensées » — la façon dont il traite les données.
Il y a un problème plus fondamental, à savoir que les gens n’ont généralement pas un droit de savoir si un système d’IA est utilisé pour traiter leur demande d’emploi, leur demande de prêt ou leur demande de prestations gouvernementales, mais nous savons que l’on y a recours dans tous ces cas. Pour une personne qui interagit avec un tel système, il est difficile de prétendre avoir été victime de discrimination, même si le système était discriminatoire ou partial, car elle ne sait pas en quoi consiste le système et elle n’y a pas accès.
Cela dit, comme nous l’avons mentionné, la situation est vraiment extrême et sans précédent. Les activités de ces entreprises nous exposent tous à des risques. Il n’est donc certainement pas faux de dire que l’on met délibérément tout le monde en danger. J’aimerais que des entreprises soient poursuivies en justice pour avoir sciemment mis en danger la vie de chaque être humain, ce qu’elles ont admis avoir fait.
La présidente : Merci.
M. Buteau : Le problème relève principalement du manque d’information. Lorsque le problème est que la plupart des gens ou des législateurs n’ont pas une vision complète de la situation, la première étape consiste à en parler ouvertement et à encourager d’autres personnes à se pencher sur la question et à s’assurer que, avant que l’on tente d’intervenir de manière très ciblée, les gens comprennent ce qui se passe. Les chances de succès de toute mesure que nous pourrions prendre pour intervenir s’en trouveraient considérablement accrues.
La présidente : Merci. Monsieur Bourgon, avez-vous quelque chose à ajouter?
M. Bourgon : Comme troisième intervenant, j’ai toujours le luxe de pouvoir affirmer que j’aurais dit en grande partie la même chose, mais que mes éloquents collègues l’ont fait avant moi. Je n’ai pas grand-chose à ajouter, mais je vous remercie de m’avoir invité.
La présidente : Merci à tous d’avoir été présents. Nous vous sommes reconnaissants d’avoir pris le temps de participer à notre étude. Je tiens à vous remercier sincèrement d’avoir comparu devant nous aujourd’hui. Vos témoignages seront très utiles dans nos délibérations. Merci.
Je vais maintenant vous présenter les témoins de notre troisième et dernier groupe. On leur a demandé de faire une déclaration préliminaire de cinq minutes. Les sénateurs leur poseront des questions par la suite. Ils comparaissent par vidéoconférence. Il s’agit de M. Joel Nicolas Blit, professeur adjoint d’économie à l’Université de Waterloo. Je vous souhaite la bienvenue. Nous accueillons aussi Mme Wendy Wong, professeure, chaire de recherche du principal, Université de la Colombie-Britannique Okanagan. J’invite maintenant M. Blit à faire son exposé. Nous entendrons ensuite celui de Mme Wong.
Joel Nicolas Blit, professeur adjoint, Département d’économie, Université de Waterloo, à titre personnel : Merci de m’accueillir. Je suis ravi de témoigner aujourd’hui. Je suis professeur d’économie. Mes travaux portent sur les liens entre l’innovation, la technologie, le marché du travail et les politiques publiques. Le message que je souhaite transmettre aujourd’hui est assez simple : l’IA est une technologie à usage général qui transformera tous les secteurs de l’économie. L’évolution des inégalités au Canada, vers une réduction ou une aggravation, dépendra des choix que nous faisons aujourd’hui, en particulier de notre décision d’investir ou non dans l’éducation à l’IA afin d’outiller tous les Canadiens. C’est là mon point principal.
Commençons par le commencement. Le lancement de ChatGPT a véritablement marqué le début de la révolution de l’IA. Il nous a fait passer de l’ère de l’IA prédictive à celle de l’IA générative. Cependant, ce n’est pas là son effet le plus marquant. En réalité, ChatGPT a démocratisé l’IA, car tout à coup, les Canadiens ordinaires pouvaient se servir de l’IA en utilisant un langage naturel, en anglais ou en français. Soudainement, il n’était plus nécessaire d’être programmeur et tout le monde pouvait interagir avec la technologie. Par conséquent, la technologie n’était plus réservée à nos centres de recherche et aux bureaux administratifs de nos plus grandes entreprises. Elle était désormais à la portée de tous les Canadiens.
On sait très bien comment la révolution de l’IA va se dérouler. Dans certains de mes travaux, j’explique comment des technologies à usage général antérieures, telles que l’électricité et les ordinateurs, ont transformé l’économie et la société et comment elles passent généralement par trois phases différentes. Je les appelle les trois R : remplacer, réinventer et recombiner.
Au cours de la première phase, soit « remplacer », la technologie remplace d’autres technologies dans des processus existants. Ce n’est qu’à la phase subséquente, « réinventer », que l’on assiste à une réinvention radicale de processus, de structures, de modèles d’affaires, voire — parfois — de secteurs entiers sur la base de la nouvelle technologie. C’est la phase de rupture. Finalement, nous en arrivons à la phase « recombiner », où la technologie se combine avec d’autres technologies pour créer des technologies entièrement nouvelles.
Le cadre des trois R est utile à bien des égards, notamment pour déterminer comment le Canada peut tirer parti de l’IA et saisir les occasions qu’elle offre. Il est également utile pour réfléchir à l’incidence que l’IA aura sur les emplois et les compétences. C’est ce dont je vais parler aujourd’hui.
Il n’est pas très difficile de prédire quels emplois seront touchés au cours de la phase initiale qui consiste à remplacer. Il suffit d’examiner les professions dont l’essentiel des tâches peut déjà être accompli par l’IA. En gros, environ un cinquième des emplois au Canada sera très peu touché. Environ trois cinquièmes le seront modérément, ce qui signifie qu’entre 10 et 50 % des tâches accomplies peuvent être réalisées par l’IA. Enfin, environ un travailleur canadien sur cinq subira des répercussions importantes. Il s’agit notamment des écrivains, des traducteurs, des journalistes, des comptables, des avocats, des programmeurs, et cetera.
C’est la phase de remplacement. Il devient ensuite beaucoup plus difficile de prédire quelles seront les répercussions sur les emplois une fois que nous atteignons la phase « réinventer », qui est beaucoup plus perturbatrice. Par exemple, je n’aurais pas pu prédire qu’Internet allait entraîner la perte d’un si grand nombre d’emplois dans le commerce de détail. Or, c’est exactement ce qui s’est produit lorsque Amazon et Shopify ont réinventé le secteur du commerce de détail en s’appuyant sur Internet.
Les nouvelles technologies de rupture ont toujours entraîné à la fois des pertes d’emplois et la création de nouveaux emplois. Il faut bien comprendre que la transition n’est jamais facile. Cependant, la conséquence la plus importante à long terme qu’ont les technologies de rupture est qu’elles ont tendance à créer des gagnants et des perdants, en fonction des types de compétences que possèdent les gens.
Par exemple, les robots industriels augmentent les inégalités en remplaçant des personnes au bas de l’échelle des compétences. Les ordinateurs augmentent les inégalités en remplaçant les personnes situées au milieu de l’échelle des compétences, tout en augmentant la productivité et les salaires des plus qualifiés. Voici la bonne nouvelle pour l’IA : elle va probablement réduire les inégalités de revenus, car elle remplacera les plus qualifiés. Par exemple, avec l’IA, une infirmière sera bientôt capable d’effectuer le travail d’un médecin.
Je tiens toutefois à faire deux remarques importantes à ce sujet. Premièrement, tous les cols blancs ne seront pas touchés de la même manière. L’assistant judiciaire ou le parajuriste pourrait perdre son emploi, mais ce ne sera pas le cas de l’associé. Nous devons nous demander ce qui se passera si la plupart des emplois de premier échelon disparaissent — ce qui se produit peut-être déjà.
Deuxièmement, un nouveau fossé pourrait se creuser, entre ceux qui bénéficieront des avantages de l’IA — voire qui se verront stimulés par l’IA — et ceux qui seront complètement laissés pour compte.
Je voudrais conclure en faisant valoir que si l’IA doit stimuler la productivité canadienne et si nous voulons qu’elle soit une technologie inclusive, nous devons outiller tous les Canadiens, ce qui signifie investir dans la littératie en IA. Le Royaume-Uni lance une campagne nationale sur les compétences en IA qui permettra d’éduquer 1 million d’étudiants et 7,5 millions de travailleurs d’ici 2030. Le mouvement national de Singapour a fait de la littératie et des compétences en IA un élément central.
Le Canada n’a pas de plan. Par conséquent, les Canadiens risquent d’être laissés pour compte, ou du moins, bon nombre d’entre eux. Bref, le Canada doit se lancer dans un projet national structurant conçu pour le XXIe siècle. Nous devons bâtir non seulement une industrie de l’IA, mais aussi une nation de l’IA, un pays où l’utilisation de l’IA devient une compétence civique commune intégrée à l’économie et à la société, permettant à chaque personne et à chaque organisation de prospérer à l’ère de l’intelligence. C’est ainsi que l’IA deviendra un outil puissant et inclusif.
Je vous remercie.
La présidente : Merci, monsieur Blit.
Wendy H. Wong, professeure et chaire de recherche du principal, Université de la Colombie-Britannique Okanagan, à titre personnel : Merci beaucoup de me donner l’occasion de m’adresser à vous aujourd’hui.
Depuis la création du système des Nations unies, les droits de la personne sont au cœur de la gouvernance mondiale et du droit national. L’intelligence artificielle, ou IA, est un ensemble de technologies qui remet en question notre conception des droits de l’homme, non pas parce que ceux-ci ont perdu de leur importance, mais parce que les technologies d’IA défient nos hypothèses les plus fondamentales sur notre mode de vie.
À l’instar de M. Blit, je vais parler de littératie, mais plus particulièrement de littératie numérique, que je considère comme une extension du droit à l’éducation, un droit fondamental sur lequel reposent d’autres droits, comme la liberté de conscience et d’expression, ainsi que le droit au travail.
Depuis le début du siècle, nous sommes devenus de plus en plus dépendants des technologies numériques qui prennent des activités de base comme les déplacements, l’écriture et la parole, la localisation et même nos visages, puis les convertissent en données qui sont traitées par des ordinateurs de plus en plus sophistiqués. Or, ces processus fonctionnent surtout en coulisses, au moyen d’algorithmes qui traitent de plus en plus de données.
Pour comprendre l’incidence de l’IA sur les droits de la personne, nous devons mettre en évidence ce qui a changé depuis que la vie a été transposée en données. Pour respecter les droits de la personne, nous devons désormais assurer et protéger la littératie numérique de tous les Canadiens.
J’ai fait valoir que les données numériques nous collent à la peau comme de la gomme à mâcher sous une semelle. Il est difficile de savoir quand nous produisons des données, et il est très ardu de s’en débarrasser une fois qu’elles ont été créées. Les renseignements permettant d’identifier une personne étaient auparavant des « données personnelles » ou « sensibles ». Ces données, qui nous décrivent, étaient assez rares. Maintenant, elles sont créées partout et en tout temps.
Nos systèmes sont maintenant conçus de telle sorte qu’une chose aussi banale qu’une sonnette ou des renseignements sur Tinder peuvent être combinés avec d’autres données pour trouver nos adresses et nos visages. Les systèmes d’IA peuvent nous suivre jusqu’à notre domicile, et ils sont même présents dans nos foyers.
Le problème est le suivant. Alors que tout ce que nous faisons génère des données, nous commençons à perdre la capacité à jouir des valeurs les plus fondamentales qui sous-tendent les droits de la personne, à savoir la dignité, l’autonomie, l’égalité et la communauté. Que les responsables du recueil des données soient honnêtes ou malveillants, plus ils en savent sur nous, moins nous avons de choix et de liberté.
Le gouvernement fédéral doit prendre des mesures décisives. C’est une chose d’investir dans les emplois liés à l’intelligence artificielle et dans le développement de technologies numériques de pointe. Or, nous devons aussi investir dans les personnes pour lesquelles, et sur lesquelles ces technologies fonctionnent.
Premièrement, le gouvernement fédéral devrait investir dans le développement des compétences en littératie numérique pour respecter le droit à l’éducation. Les interactions numériques ne sont plus facultatives, limitées à certains secteurs ou liées au revenu. Les données font partie de nos vies. À l’heure actuelle, les Canadiens risquent d’être divisés, non seulement par l’accès aux outils numériques comme l’intelligence artificielle, mais aussi par leur maîtrise.
Deuxièmement, le gouvernement fédéral devrait collaborer avec les gouvernements provinciaux à l’élaboration d’une stratégie numérique nationale coordonnée. Grâce à une telle concertation, les Canadiens pourraient faire des choix éclairés, bâtir des systèmes éthiques et de pointe, et exercer leurs droits garantis par la Charte. La coordination fédérale-provinciale évitera que les Canadiens ne soient divisés en fonction de leur accès aux outils numériques ou de leur maîtrise de ceux-ci.
Troisièmement, nous devons nous prévaloir des établissements spécialisés dans le développement de la littératie en dehors du secteur technologique, comme les bibliothèques publiques. Les bibliothèques jouent un rôle essentiel afin de promouvoir ces apprentissages. Par exemple, la bibliothèque publique de Toronto a créé à ce jour plus de 1 200 programmes réussis qui favorisent la littératie en matière d’intelligence artificielle. Ses efforts ont rejoint des dizaines de milliers de citoyens. Des organismes comme HabiloMédias fournissent aux parents et aux enseignants des ressources prêtes à l’emploi sur divers sujets d’éducation aux médias numériques, notamment des jeux, des listes de vérification et des explications.
Enfin, nous pouvons tirer des enseignements d’autres pays respectueux des droits de la personne, qui ont déjà investi dans des stratégies nationales de littératie numérique. La Finlande, l’Australie et le Royaume-Uni ont tous mis en œuvre des stratégies exhaustives en ce sens qui énoncent des objectifs généraux de littératie en ce qui concerne l’accessibilité des technologies numériques et la prise en compte des personnes mal desservies. Nous pouvons adapter ces modèles ici, au Canada.
Les Canadiens sont débrouillards et capables de s’adapter. Une littératie numérique à grande échelle nous aidera à faire respecter les droits de la personne à l’ère de l’intelligence artificielle.
Merci beaucoup.
La présidente : Je vous remercie tous les deux. Nous allons maintenant passer aux questions.
La sénatrice McPhedran : Merci à vous deux d’être avec nous aujourd’hui.
Ma question porte sur le fossé numérique, qui devient maintenant un fossé en matière d’IA, selon moi. Je voudrais associer cette réalité grandissante à une question que je vous adresse à tous les deux. Vous avez tous les deux fait valoir que le Canada accuse un retard à ce stade-ci. Quelles seront les conséquences pour notre pays si nous restons à la traîne?
Pouvez-vous répondre, monsieur Blit?
M. Blit : Bien sûr. Je peux commencer. Il y a deux ou trois éléments de réponse. Premièrement, si nous restons à la traîne dans le domaine de l’IA, que de plus en plus de nos industries misent sur l’IA, et que la productivité est de plus en plus stimulée par l’IA — ce que tout semble indiquer, d’autant plus que nous avons eu la plus faible croissance de productivité de tous les pays du G7 ces 50 dernières années —, cela signifie que, à moins que nous ne changions cette trajectoire, nos enfants n’auront pas les possibilités que nous avons eues.
Par conséquent, le niveau de vie des Canadiens ne sera plus le même. Ainsi, nous ne pourrons peut-être plus nous permettre les choses auxquelles nous tenons le plus en tant que Canadiens, comme nos excellents systèmes publics de soins de santé et d’éducation.
C’est le premier élément. À moins que nous ne nous y attaquions vraiment, la souveraineté canadienne est menacée à bien des égards, car notre piètre trajectoire économique ne montre aucun signe d’amélioration.
Deuxièmement, si nous n’éduquons pas tous les Canadiens, un fossé se creusera. Cette fracture touchera ceux qui sont fortement stimulés par l’IA. Nous avons beaucoup de chercheurs et de personnes de premier plan dans ce domaine, mais l’IA est vraiment une technologie à risque et à usage généralisé. Nous voulons que chaque Canadien puisse en profiter, participer à cette amélioration de la productivité et bénéficier de salaires plus élevés.
Le deuxième argument est celui de l’inclusivité. C’est l’autre raison pour laquelle nous devons agir. Voilà quelles seraient les conséquences.
Mme Wong : En fait, j’y vois plutôt une occasion à saisir pour le Canada. Vous avez dit que nous sommes en retard, madame la sénatrice. Je pense que nous ne sommes pas les premiers à agir, mais il y a toujours un avantage à être le deuxième, puisque nous avons le point de vue des autres pays qui prennent des décisions. Il y a, par exemple, l’interdiction des médias sociaux, comme en Australie, à laquelle de nombreuses personnes s’opposent. Je suis aussi d’avis que cette politique laisse à désirer.
De plus, nous avons l’occasion de vraiment développer les compétences dont nous parlons tous les deux ici, dans un esprit d’innovation. D’une part, prendre de l’avance dans le développement de l’IA pourrait offrir des opportunités économiques. Cependant, cela intensifie le clivage entre les différentes communautés d’un pays. Les populations traditionnellement mal desservies auront bien sûr du mal à suivre le rythme. Il s’agit d’une véritable occasion pour le gouvernement canadien, à plusieurs niveaux, d’élaborer une stratégie cohérente afin que nous, les Canadiens, puissions bénéficier d’une formation en littératie sans égard aux provinces.
L’autre enjeu que nous devons soulever, c’est le pouvoir des grandes entreprises technologiques, qui sont pour la plupart basées en dehors des frontières canadiennes. Je pense que c’est un véritable problème. Nous devons nous y attaquer, mais pas nécessairement par la force brute. Il ne s’agit pas nécessairement d’augmenter nos ressources informatiques ou de simplement investir des ressources dans la recherche sur l’IA, ce qui est important, mais qui doit être fait de manière plus mesurée.
La sénatrice McPhedran : Peut-être que quelqu’un d’autre reprendra le flambeau. Si j’avais eu plus de temps, j’aurais posé une question à chacun d’entre vous, mais en particulier à vous, madame Wong, au sujet de la Charte des droits et libertés et du lien que vous avez fait entre la littératie en matière d’intelligence artificielle et la jouissance ou l’exercice des droits garantis par la Charte.
Mme Wong : Voulez-vous que je réponde rapidement?
La présidente : Merci. Je pose la question pour que vous puissiez y répondre.
Mme Wong : D’accord, je peux certainement répondre. Je pense que le droit à l’éducation est l’un de ces droits fondamentaux que nous tenons pour acquis dans un pays comme le Canada, où l’éducation est largement répandue. Le fait de ne pas savoir, de ne disposer ni des informations de base ni des capacités et des aptitudes conceptuelles fondamentales nous empêche de participer à une société libre. Je pense que le droit à l’éducation sous-tend presque tous les droits garantis par la Charte que nous exerçons.
La liberté d’expression n’est pas possible ou est considérablement freinée si nous n’avons pas les connaissances nécessaires pour fonctionner, poser les bonnes questions et défendre nos convictions. À mes yeux, ces enjeux de littératie ne se limitent pas à l’IA. L’IA est une technologie numérique, et c’est celle dont on parle le plus. Or, le plus grand changement entre nos vies d’il y a 20 ans et celles d’aujourd’hui, c’est qu’elles sont désormais largement formées de données numériques. Ces données sont lisibles par machines, et les ordinateurs s’en servent pour faire des prédictions, déceler des tendances et réaliser tout ce que nous associons désormais à l’IA.
La présidente : Monsieur Blit, vouliez-vous faire un commentaire à ce sujet? Non? D’accord. Merci.
La sénatrice McCallum : Je remercie les deux témoins de leurs exposés. Avez-vous entendu les trois invités précédents? La question que je leur ai posée au sujet des droits de la personne concernait la difficulté que nous avons maintenant, en tant qu’êtres humains, à corriger les injustices touchant les populations vulnérables. Nous échouons à ce chapitre depuis de nombreuses générations. Nous sommes des humains, contrairement à l’IA. L’un des témoins a dit que la technologie est entraînée, et donc alimentée de préjugés. L’IA est entraînée; elle n’a pas été créée.
Dans quelle mesure l’intelligence artificielle risque-t-elle d’éroder l’éthique, la pensée critique et les compétences interdisciplinaires, y compris les traditions? Je pose ma question dans un contexte de l’apprentissage profond que l’IA est censée faire entourant la sagesse des Premières Nations — elle en génère de la sagesse. C’est le but de l’apprentissage profond, mais l’IA ne peut pas générer de la sagesse.
Dans quelle mesure l’intelligence artificielle menace-t-elle la population humaine, y compris les étudiants, qui sont en train de former leurs pensées et leurs compétences essentielles? Ils sont en train de parfaire leur apprentissage éthique, durable et axé sur l’humain. Pouvez-vous nous dire ce que vous en pensez?
Mme Wong : Je peux commencer.
Je pense que vous posez exactement les bonnes questions. C’est un enjeu de littératie, où il faut vraiment comprendre ce qui se passe sur le plan des technologies numériques. L’IA est une technologie fortement tributaire des données avec lesquelles nous alimentons ces systèmes. Vous avez tout à fait raison de dire que des biais sont créés lorsqu’un système est alimenté de données biaisées.
La solution pourrait être de verser dans le système le plus de données possible. Je pense en fait que cela va à l’encontre des droits de la personne. Ce qui me préoccupe, c’est que nous avons converti presque toutes les activités humaines en données. Il est possible de retracer non seulement les choses dont nous sommes explicitement au courant, mais aussi ce que nous faisons, comme nos déplacements ou le fonctionnement de nos corps. Je pense que c’est contraire à nos droits à l’autonomie et à la dignité.
La solution aux injustices ne passe pas par l’automatisation. Je pense que vous parliez de la façon dont les étudiants apprennent. Je dis à mes étudiants que se montrer critique ne consiste pas nécessairement à critiquer; il faut plutôt comprendre d’où viennent les réponses qu’on obtient. Il s’agit en fait d’une question de littératie visant à comprendre l’importance des données pour les systèmes d’intelligence artificielle.
M. Blit : Je pourrais peut-être revenir sur le volet de la question qui porte sur l’apprentissage et les compétences essentielles. Je suis à la faculté des arts. C’est un débat que nous avons constamment. En quoi l’intelligence artificielle et l’utilisation de ChatGPT et d’autres outils ont-ils une incidence sur la capacité d’apprendre de nos étudiants? Bon nombre de mes collègues ont décidé d’interdire cette technologie parce que les étudiants l’utilisent au lieu d’employer leur propre pensée critique pour résoudre des problèmes, notamment. C’est une façon de voir les choses.
Mon approche est différente. Je pense que nous pouvons en fait tirer parti de l’IA et l’utiliser comme un outil permettant d’enseigner aux étudiants mieux que nous ne l’avons jamais fait par le passé. Par exemple, Bloom a publié un article fondamental dans les années 1980, qui montre essentiellement que si tout le monde a accès à un tuteur personnalisé, l’étudiant moyen bénéficiant du tutorat aura deux écarts-types au-dessus du rendement d’une classe ordinaire sans tuteur privé.
Autrement dit, ils vont surpasser 97,5 % des étudiants ordinaires. C’est pour un étudiant moyen. Le problème, c’est que nous n’avons jamais pu nous le permettre parce que notre système d’éducation n’a pas les moyens de payer un tuteur privé à tout le monde. Or, nous avons maintenant des systèmes d’IA qui peuvent le faire.
Comme pour toute technologie perturbatrice semblable, il y a des avantages, mais aussi des inconvénients et des risques. Nous devons apprendre à tirer parti des avantages sans faire l’autruche, et essayer d’atténuer certains des risques et des défis.
La sénatrice Robinson : Merci. Vous avez presque répondu à ma question avec votre dernière intervention.
Nous avons entendu parler du fait que l’IA pourrait menacer des emplois, et je voulais prendre un peu de temps pour parler des effets positifs et de l’augmentation des emplois existants dans certains secteurs. Je m’attarderai à l’agriculture. Je me demande si l’un d’entre vous aimerait s’exprimer à ce sujet. Je vois que vous acquiescez tous les deux, alors je vais commencer par Mme Wong.
Mme Wong : Je ne prétends pas être une experte en agriculture, mais je pense bel et bien que c’est un domaine où l’intelligence artificielle peut être mise à profit. Nous en apprenons de plus en plus grâce à la collecte de données sur des aspects comme l’état du sol et le climat en général, des éléments qui auraient peut-être été très difficiles à mesurer auparavant sans le recours à l’automatisation.
Je crois que l’agriculture est un domaine nous permettant d’améliorer la vie humaine et la productivité. Les emplois dangereux, comme ceux dans le secteur minier, sont un autre domaine où nous pourrions utiliser les technologies de l’intelligence artificielle pour réduire les préjudices causés aux êtres humains, rendre les conditions plus sécuritaires, voire supprimer les humains des aspects les plus dangereux de ces emplois.
En ce qui a trait à l’enseignement supérieur, il est faux de dire que les technologies de l’IA sont universellement mauvaises ou qu’elles menacent tous les emplois. En fait, elles améliorent de nombreux emplois. Je sais que M. Blit a parlé du domaine médical. Nous avons beaucoup appris grâce à l’utilisation de l’IA. Je pense qu’elle comporte certainement des avantages, mais il y a des domaines où nous devons être conscients des répercussions négatives qu’elle peut avoir sur les droits de la personne.
La sénatrice Robinson : Merci. Monsieur Blit?
M. Blit : Je suis désolé, car je ne suis pas non plus un expert en agriculture. Or, je vais reprendre ce que Mme Wong vient de dire. Il y aura probablement beaucoup d’applications différentes dans ce secteur et de nombreux autres, notamment la prédiction des cultures à planter dans différentes conditions de sol avec différents types de climat, le moment de la récolte et les cueilleurs automatiques.
Ma femme est médecin de famille, et rien qu’avec la transcription par IA, sa productivité a augmenté d’environ 20 %. Maintenant, elle a plus de temps pour rencontrer ses patients et les regarder dans les yeux. Elle leur parle au lieu de taper parce qu’un assistant de transcription par IA s’en charge. Ce n’est qu’un exemple. Il y a aussi le dépistage du cancer de la peau par imagerie, une autre technologie que ma femme utilise. Il y a beaucoup d’avantages potentiels, ainsi que bon nombre des risques qui ont également été évoqués.
La sénatrice Robinson : Je peux voir de nombreux parallèles entre la médecine et l’agriculture, dans la mesure où nous assistons à une accélération des recherches grâce à la possibilité de multiplier les essais. Lorsqu’on cherche la source, l’emplacement et la quantité d’engrais adaptés à différents types de sol et à différentes semences, on peut multiplier les essais et collecter une quantité infinie de données. Cela aura une incidence sur notre capacité d’accroître l’efficacité de notre production alimentaire. Je pense que c’est tout aussi passionnant dans le domaine de la production alimentaire, monsieur Blit, que dans celui de la médecine. Je vous remercie de vos commentaires.
Le sénateur K. Wells : J’aimerais revenir sur un sujet pour lequel je sais que vous êtes tous les deux des experts, à savoir l’éducation, car à titre d’ancien professeur, j’ai moi-même l’expérience des salles de classe postsecondaires et je peux observer certaines tendances. Comme on l’a souligné, certaines administrations scolaires reviennent à l’achat de manuels, et de nombreuses commissions scolaires interdisent les téléphones cellulaires dans les salles de classe, où il faut les déposer dans une petite boîte à cet effet. On voit même des professeurs d’université revenir aux examens écrits à la main, sur papier. Heureusement, j’ai commencé de cette façon et je n’ai pas à terminer ma carrière en tentant de déchiffrer l’écriture de mes étudiants, un autre art qui se perd à cause de notre technologie.
Vous avez mentionné l’importance des compétences en littératie numérique. Au Canada, le système de la maternelle à la 12 e année est une responsabilité provinciale et territoriale et ce qui se fait dans une province ne se fait peut-être pas dans une autre. Malgré le cadre national dont nous disposons, il reviendra en grande partie aux provinces de mettre en œuvre ces initiatives en matière de littératie numérique. Je suis certain, comme vous l’avez remarqué, que l’école fréquentée par un élève a une grande incidence sur sa capacité à s’adapter à l’environnement universitaire, où il ne profite pas d’un enseignement spécialisé individuel ou d’activités de perfectionnement des compétences. On s’attend d’eux à ce qu’ils possèdent déjà les compétences nécessaires pour faire preuve d’un esprit critique et d’une capacité d’analyse plus poussés au niveau universitaire.
Ce sont toutes d’excellentes idées, mais en pratique, dans notre système d’éducation très décentralisé, où les professeurs universitaires ont l’autonomie nécessaire pour offrir des programmes d’études et des cours différents, comment pouvons‑nous élaborer une stratégie d’éducation coordonnée si ce sont des compétences du XXIe siècle? Nous sommes au cœur d’une révolution de l’intelligence artificielle, qui ressemble beaucoup à la révolution industrielle, qui a fondamentalement changé la nature et l’organisation de l’éducation. Nous n’avons pas connu une telle avancée depuis le modèle d’éducation de l’ère industrielle que nous utilisons dans notre système d’éducation, et l’intelligence artificielle fait peut-être partie d’un mouvement de non-scolarisation. Nous pouvons maintenant nous demander si les salles de classe ou même les enseignants sont nécessaires. Devrions-nous conserver les niveaux distincts de 1re année, de 2e année, de 3e année et ainsi de suite, qui peuvent en réalité ralentir certains élèves qui pourraient maîtriser les notions enseignées à un âge plus précoce s’ils recevaient un enseignement spécialisé?
C’est peut-être moi qui deviens plus philosophique. L’adoption d’une stratégie est une excellente idée, mais comment pouvons-nous la mettre en œuvre concrètement si le Canada accuse un retard et que nous comptons sur notre système d’éducation pour le rattraper? Comment pouvons-nous agir de manière coordonnée? J’aimerais savoir ce que vous en pensez.
Mme Wong : Ce sont les questions qu’il faut se poser. C’est formidable. De plus, je viens de donner un examen sur papier aujourd’hui. Nous avons donc quelque chose en commun.
Lorsque je parle aux responsables des politiques, je les encourage fortement à réfléchir à la façon dont le gouvernement fédéral peut coordonner ses efforts avec les gouvernements provinciaux dans le domaine de l’éducation et sur la question de la refonte des programmes d’études pour tenir compte de la numérisation dans nos vies. Je pense que vous avez raison lorsque vous dites que ce n’est pas une tâche facile. En fait, selon ce que je comprends de nos politiques, c’est même assez difficile, mais je pense qu’il est impératif d’agir. Il est même urgent d’agir pour les raisons dont nous parlons aujourd’hui. En effet, je pense que notre pays ne peut pas effectuer une transition réussie en ce qui concerne l’intelligence artificielle et d’autres technologies numériques si nous ne repensons pas d’abord la façon dont nous éduquons nos enfants. C’est la première chose à considérer.
Nous devons également nous pencher sur l’éducation des adultes et faire preuve de créativité pour informer les gens, que ce soit par l’entremise des salles de classe, de la bibliothèque ou d’autres efforts communautaires. Je pense que le gouvernement fédéral a un rôle de premier plan à jouer dans la coordination — sans devenir prescriptif — des efforts pour accroître les compétences numériques.
M. Blit : Je suis d’accord avec tout cela. Je pense que vous avez tout à fait raison de demander comment nous pouvons y arriver. Au Canada, nous devons toujours composer avec le système fédéral et les systèmes provinciaux. Je vais vous laisser répondre à cette question, car vous êtes mieux placés pour réfléchir à la façon d’y parvenir. Mon avantage comparatif concerne ce que nous devrions faire.
Comme le disait Mme Wong, je pense que le gouvernement fédéral peut certainement concerter ses efforts. C’est l’un des domaines dans lesquels il peut jouer un rôle important. Il dispose également de nombreuses ressources. Certaines de ces expériences qui doivent être menées, selon moi, nécessiteront des ressources importantes, et elles pourraient être financées par le gouvernement fédéral. Tout comme nous avons un Institut canadien de la sécurité de l’intelligence artificielle, nous pourrions créer un institut d’apprentissage de l’intelligence artificielle ou un organisme semblable qui mènerait des expériences et recueillerait des idées pour ensuite les diffuser.
Je tiens à souligner que nous ne devrions pas seulement penser à former nos étudiants. Lorsque je parle de littératie en matière d’intelligence artificielle, cela englobe tout le monde. Nous ne pouvons pas négliger les adultes qui ont déjà terminé leurs études, car ils évolueront également dans l’économie numérique fondée sur l’intelligence artificielle. Nous devrons leur offrir quelque chose de différent, par exemple un programme d’éducation permanente, des cours en ligne ou autre chose de ce genre.
En terminant, je ne sais pas si vous connaissez les écoles Alpha. Ce sont des écoles où les élèves apprennent sur une tablette deux heures par jour, et ces deux heures leur permettent de surpasser tous les autres élèves qui reçoivent un enseignement traditionnel. Ces leçons ne sont même pas encore adaptatives, c’est-à-dire qu’elles n’intègrent pas encore l’intelligence artificielle qui leur permettrait de s’adapter au mode d’apprentissage de chaque élève. Elles ciblent plutôt la maîtrise des notions. Ainsi, on ne cherche plus à savoir si l’élève a atteint le niveau de 1re année, de 2e année, etc. On vérifie plutôt si l’élève a maîtrisé les notions qu’il devait maîtriser.
Je pense que nous devons repenser radicalement l’enseignement et les objectifs, afin de former la prochaine génération d’étudiants exceptionnels et instruits. C’est nécessaire, mais la résistance est énorme.
La sénatrice Karetak-Lindell : Il y a longtemps que je dis la même chose que vous avez dite dans votre dernière réponse, monsieur Blit, car le système d’éducation au Nunavut n’a pas fonctionné comme prévu. En effet, nous offrons des programmes de la maternelle à la 12e année depuis 70 ou 80 ans, mais cela n’a pas produit le nombre de diplômés que nous avions espéré. Il y a différentes façons d’apprendre, et je n’arrête pas de dire que nous devons trouver différentes façons d’enseigner parce que ce que nous faisons actuellement ne fonctionne pas. J’ai donc trouvé votre réponse très encourageante, mais j’entends ensuite dire qu’il y a une grande résistance face à ces changements. Nous devrons certainement nous pencher sur la question.
Ma question allait plutôt dans le sens de ce que disait la sénatrice McCallum au sujet des partis pris et du fait qu’il semble que l’intelligence artificielle fonctionne différemment selon les données qui l’alimentent. Tous les systèmes d’éducation, les systèmes d’embauche et les systèmes de santé ont un parti pris contre les groupes autochtones. Il semble que tous les systèmes gouvernementaux ont un parti pris d’une manière ou d’une autre parce qu’ils ne tiennent pas compte de notre façon de penser et de faire les choses. Je suis donc inquiète au sujet des données qui alimentent l’intelligence artificielle.
Comment pouvons-nous nous assurer que différentes données alimentent les systèmes, afin qu’ils puissent accommoder différentes façons de penser? Ou est-ce impossible? Existe-t-il un moyen d’intégrer des données qui permet au système de reconnaître qu’il y a différentes façons de faire les choses plutôt qu’une seule façon? Comment entrer les données de manière à ce que les gens ne soient pas victimes de discrimination en fonction de la couleur de leur peau, de leur orientation ou de leur langue? Y a-t-il une façon de réduire les préjugés? Nous entendons sans cesse que ces systèmes sont conçus pour produire une certaine réponse. Les préjugés dans les systèmes d’intelligence artificielle représentent-ils un autre domaine contre lequel nous devrons protéger les gens? L’un ou l’autre témoin peut répondre en premier.
Mme Wong : Encore une fois, c’est une excellente question, en ce sens que vous soulignez exactement, selon moi, le problème qui se pose avec l’intelligence artificielle. Nous avons tendance à penser que les ordinateurs sont plus objectifs que les êtres humains, mais nous savons que les systèmes d’intelligence artificielle sont construits par des êtres humains à des fins précises. Qu’ils excluent les données de ces systèmes à dessein ou par accident, tous les systèmes auront un parti pris, tout comme les êtres humains ont tendance à avoir un parti pris d’une façon ou d’une autre.
Je pense qu’au bout du compte, vos préoccupations nous poussent à nous demander si nous devrions déployer des systèmes d’intelligence artificielle dans tous les cas parce qu’ils pourraient être plus efficaces et être perçus comme tels. À titre de Canadiens, nous devons réfléchir aux questions que vous et d’autres sénateurs avez posées au sujet des espaces où il faudrait éviter de faire entrer l’intelligence artificielle. Je suis probablement moins enthousiaste que M. Blit à ce sujet. Il faut prendre le temps de réfléchir aux occasions où l’automatisation serait souhaitable, aux occasions où l’intelligence artificielle améliorera les systèmes et aux occasions où elle pourrait en réalité renforcer les préjugés systémiques ou créer des préjugés qui n’existaient peut-être pas, mais qui existent maintenant en raison des tendances observées dans les données.
Nous devons prendre notre temps. Comme je l’ai déjà dit, il n’est pas toujours avantageux d’être les premiers. Nous n’avons pas à prendre les devants. Nous pouvons mieux planifier parce que nous avons l’avantage de pouvoir prendre du recul et d’observer où en sont les autres un peu partout au pays.
M. Blit : Je suis très sensible à tous les points que vous avez soulevés. Je suis Latino-Américain. Je suis immigrant. J’ai moi‑même observé ces préjugés dans toutes sortes de milieux différents. Il est également juste de dire, comme vient de le faire Mme Wong, que les humains ont des partis pris — et j’ai vu des partis pris chez les humains — et que les systèmes auront donc aussi des partis pris.
Nous devons nous efforcer de rendre ces systèmes aussi impartiaux que possible. Nous devons faire preuve d’une transparence suffisante pour qu’ils puissent faire l’objet d’un audit qui permettra d’évaluer leur efficacité. C’est un problème très difficile parce qu’au bout du compte, ce sont les humains qui devront faire des choix. Lorsqu’on décide quelles données devraient être incluses et quelles données ne devraient pas l’être, on ne peut pas se contenter d’entrer toutes les données qu’on trouve sur Internet, car nous savons qu’Internet contient des choses terribles. On a mené certaines expériences où on a tenté de laisser tout entrer, et les résultats étaient véritablement toxiques. Les humains devront donc prendre des décisions, et chaque fois qu’un être humain prendra une décision, il y aura un parti pris dans un sens ou dans l’autre. Les choses ne seront pas nécessairement uniformes.
Je pense que le mieux que nous puissions faire, c’est d’essayer de garder les yeux ouverts, de vérifier ces systèmes et d’essayer d’intégrer le plus grand nombre de voix différentes possible.
J’aime penser que l’apprentissage automatique et les systèmes d’intelligence artificielle ne sont rien de plus que des systèmes ou des modèles qui capturent les connaissances tacites des gens. Une fois qu’on a saisi ces connaissances tacites, on peut soit automatiser une tâche qui exige ces connaissances, soit les partager avec d’autres. Il faut donc s’assurer de saisir les connaissances tacites de tout le monde et pas seulement d’un petit groupe de personnes.
La sénatrice Arnold : Je vous remercie tous les deux d’être ici aujourd’hui. La discussion est beaucoup plus réjouissante que lors de notre dernière séance, où nous parlions de superintelligence artificielle. Aujourd’hui, nous parlons plutôt avec vous de l’apprentissage automatique et de la technologie d’usage générale, car ces choses sont là pour rester. Je pense que vous avez tous les deux admis que la collecte de données est en cours et que nous ne pouvons pas faire grand-chose à ce sujet en ce moment.
Madame Wong, vous avez dit que vous n’approuviez pas nécessairement les nouvelles lois australiennes visant les adolescents et l’utilisation des médias sociaux. Pourriez-vous nous expliquer vos réserves à cet égard?
Mme Wong : Oui, certainement. La collecte de données se poursuit, mais certaines mesures stratégiques peuvent être mises en œuvre pour limiter les types de données collectées ou pour protéger certaines catégories de données, ce qui n’a pas été fait de manière suffisante à l’échelon fédéral. Je sais que le Parlement planifie un examen de nos lois sur la protection de la vie privée et des données personnelles.
L’interdiction générale des médias sociaux est un problème parce qu’elle confie la prise de décisions aux entreprises qui produisent les technologies des médias sociaux. Il faut maintenant vérifier l’âge des utilisateurs, mais qui va vérifier ces âges, et quels types de données devra-t-on fournir pour prouver son âge? Je pense que c’est un véritable problème si nous sommes préoccupés par la prolifération des données personnelles numérisées.
Si je fournis mon permis de conduire — qui est pour beaucoup d’entre nous l’incarnation même des données personnelles ou l’un des principes fondamentaux de ce domaine —, je le donne à une entité privée et, une fois en possession de ces données, on peut se demander ce qu’elle en fait. Je ne sais pas au juste. Je ne pense pas que quiconque le sait. À l’heure actuelle, nous n’avons pas vraiment la capacité de surveiller ce processus. Au bout du compte, on ne fait qu’ajouter au problème de la collecte de données, même si on affirme qu’il faut interdire aux jeunes l’utilisation des médias sociaux pour diverses raisons valables.
Puisque mon travail est axé sur les droits de la personne et les données, je suis d’avis qu’il faut toujours faire preuve de prudence lorsqu’on collecte davantage de données sur les humains ou sur les activités humaines.
La sénatrice Arnold : Quel est le plus grand risque à cet égard?
Mme Wong : Nous n’avons pas vraiment de lois qui précisent qui devrait avoir accès à quelles données. À l’heure actuelle, nous ciblons les données identifiées. Si je peux retracer des données directement à Wendy Wong, cela pose problème. Dès qu’il s’agit de données dépersonnalisées — par exemple, il s’agit simplement de données démographiques ou de personnes dans ma catégorie —, elles ne sont pas visées par les mêmes protections et privilèges.
D’une part, les gens pourraient penser que ce n’est pas préoccupant parce que les données ne sont pas liées à eux, mais il existe des moyens de lier les données aux personnes qui n’utilisent pas ce que nous considérons habituellement comme des renseignements d’identification personnelle, par exemple, certains identifiants de marketing qui sont liés à chacun d’entre nous parce que nous utilisons des applications. Si quelqu’un veut vous identifier, il existe de nombreuses façons de savoir où vous êtes, ce que vous faites et où vous êtes allé.
La sénatrice Arnold : C’est intéressant parce que nous avons parlé de la littératie des données et les discussions ont porté principalement sur les jeunes, mais je pense que beaucoup d’adultes n’ont aucune idée des données qu’ils fournissent jour après jour.
Monsieur Blit, avez-vous quelque chose à ajouter? Non. Merci.
La présidente : J’aimerais revenir à la collecte constante des données, que ce soit au moyen de la mise à jour d’une application, ou de mon application Air Canada, qui me demande toujours mes commentaires, ou des modalités de l’entente que l’on doit lire — je ne sais pas combien d’entre nous le font —, qui portent sur la communication de nos données, et qu’on n’a pas d’autre choix que d’accepter. Dans certains cas, il n’y a qu’une seule option. Je ne suis pas certaine, qu’en tant que consommateurs, nous fassions le lien entre cela et la communication de points de données sur nous-mêmes et en général.
Avez-vous participé aux consultations stratégiques menées par le gouvernement? Avez-vous eu l’occasion d’y contribuer? Est‑ce un sujet que vous souhaiteriez voir aborder dans une telle stratégie?
Mme Wong : Vous demandez si la consultation publique est une stratégie...
La présidente : Pour la stratégie du gouvernement fédéral.
Mme Wong : Je pense que cela nous ramène au début de votre question, à savoir la sensibilisation générale du public à l’étendue et à la portée des collectes de données. Je pense qu’une consultation publique significative et utile devrait reposer sur la sensibilisation et une prise de conscience à ce sujet.
Cela dit, dans les sondages que j’ai consultés, les Canadiens sont beaucoup plus sceptiques que les citoyens de pays comparables à l’égard des technologies de l’intelligence artificielle. Ils sont plus réticents à les utiliser que dans d’autres pays. Je pense qu’ils hésitent à le faire, et je me demande si une consultation publique permettrait d’en savoir un peu plus à ce sujet que les sondages généraux.
C’est une stratégie importante. Nous aurions certainement besoin de plus de temps que ce qui a été accordé pour la consultation sur l’intelligence artificielle l’an dernier.
La présidente : Je crois comprendre que la consultation n’a duré qu’un mois. Madame Wong ou monsieur Blit, y avez-vous participé?
Mme Wong : Non, pas officiellement. Il y a eu un sondage ou quelque chose du genre. Il y avait plusieurs façons de participer. J’ai donné mon opinion en ligne, mais je n’ai pas été consultée en personne.
La présidente : Merci. Avez-vous quelque chose à ajouter, monsieur Blit?
M. Blit : J’ai participé à cette consultation de différentes façons, bien sûr. Je suis d’accord pour dire qu’un mois, c’est très court. D’un autre côté, la situation évolue tellement vite qu’on n’a pas beaucoup de temps, alors je vois les deux aspects.
Quant à savoir si les Canadiens comprennent vraiment les risques lorsqu’ils acceptent les conditions, etc., c’est en grande partie la raison pour laquelle j’insiste autant sur ce point. Je l’ai mentionné dans le cadre de la consultation. Il ne s’agit pas seulement de la littératie liée à l’intelligence artificielle, mais aussi de la littératie numérique en général. Les Canadiens doivent comprendre non seulement comment utiliser ces outils, mais aussi comment ils fonctionnent.
Comme Mme Wong vient de le dire, les Canadiens sont parmi les plus pessimistes face à l’intelligence artificielle, et cela m’inquiète. D’un côté, c’est bien qu’on ne se lance pas à l’aveuglette, mais en gardant les yeux bien ouverts. D’un autre côté, on ne l’adopte pas aussi rapidement qu’on le devrait. Il faut dire toutefois que certaines données montrent que les Canadiens, sur le plan personnel, adoptent ces outils rapidement. Ce sont nos entreprises qui ne le font pas. C’est une autre grande partie du problème pour le Canada : nos entreprises ne montent pas à bord du train.
La présidente : Merci. Dans vos recherches, constatez-vous un fossé générationnel?
M. Blit : Je ne me suis pas penché directement sur cette question. Toutefois, je forme beaucoup de cadres, et dans ce cas, j’en constate un, oui. Il est certain que les jeunes l’adoptent beaucoup plus rapidement. Quand je parle des défis liés à l’intelligence artificielle, j’entends des PDG dire que c’est pour cette raison que leur entreprise de l’adoptera pas de sitôt, mais une personne à l’autre bout de la salle — sans doute le directeur du marketing qui est beaucoup plus jeune — dit qu’en fait l’entreprise l’emploie depuis deux ans. Il y a donc un fossé.
Encore une fois, les entreprises au Canada ne l’adoptent pas. Nous sommes très peu enclins à prendre des risques, mais elle s’infiltre parce que les employés dans les entreprises l’utilisent. Ils l’utilisent parfois à la maison, parfois pendant leurs temps libres, etc.
La présidente : Merci. Avez-vous quelque chose à ajouter, madame Wong?
Mme Wong : Oui, merci. Il est important aussi de faire la distinction entre les différents types d’intelligence artificielle. Je pense que les grands modèles de langage qui ont vraiment explosé avec ChatGPT, et maintenant avec Claude et la possibilité de générer du code, c’est un type d’intelligence artificielle différent de celui que beaucoup d’entre nous utilisent depuis longtemps, c’est-à-dire la correction automatique. C’est une forme d’automatisation, d’apprentissage machine. La reconnaissance faciale est une autre forme de technologie qui, à mon avis, a des répercussions très distinctes sur les droits de la personne par rapport à d’autres types d’intelligence artificielle. J’ajouterais cette précision.
La sénatrice McCallum : J’aimerais revenir sur l’utilisation des données personnelles.
Il y a environ deux ans, un groupe de cinq sénateurs, dont moi‑même, s’est rendu à une université où l’on effectuait de la recherche en santé. Elle avait une entente avec un groupe autochtone qui lui faisait parvenir des données personnelles. Le projet portait sur le séquençage de l’ADN.
L’intelligence artificielle est utilisée dans des domaines auxquels on ne peut même pas penser, ce qui témoigne de la vitesse à laquelle les choses évoluent. Je leur ai demandé, lorsque leurs recherches prennent un tournant imprévu, comment ils procèdent pour obtenir le contentement du groupe, car il faut l’obtenir pour différents éléments. La réponse a été : « Il faut se débarrasser du consentement. »
Ce que je veux dire, c’est que l’utilisation des données est tributaire de ceux qui les manipulent. Dans ce cas, le séquençage de l’ADN visait à cibler les prédispositions au diabète, aux problèmes cardiaques, etc. Une personne a dit : « On pourrait faire en sorte que les humains vivent jusqu’à 140 ans. » J’ai répondu : « Qui va prendre soin de ces gens? » Nous n’avons même pas réussi à réduire la pauvreté d’un iota, alors qui profitera de l’intelligence artificielle? C’est l’intelligence artificielle qui les mène, et non le contraire.
C’est à partir de ce moment que l’intelligence artificielle a commencé de plus en plus à m’inquiéter. Quand tout va aussi vite, qu’on ne sait pas où vont les choses, je ne crois pas que la transparence soit possible. Donc, quand vous dites que cela peut avoir de profondes répercussions sur les droits de la personne, croyez-vous que la transparence soit possible? Existe‑t-il des mécanismes qui nous permettraient de surveiller cette transparence?
Mme Wong : La plupart des systèmes d’intelligence artificielle avancés que l’on connaît aujourd’hui sont très difficiles à surveiller. La réponse courte à votre question, c’est que c’est très difficile de le faire. Je ne sais pas si la transparence est le bon outil. Je crois que vous avez mentionné le consentement. Si je me concentre sur cet élément, c’est parce que c’est la pierre d’assise pour exercer notre autonomie. C’est aussi une façon de traiter les gens avec dignité : on leur demande leur consentement pour utiliser leurs renseignements personnels. Ce n’est pas possible aujourd’hui.
Madame la présidente a parlé des modalités; on ne les lit pas. Elles comptent des dizaines de milliers de mots. Une partie du problème tient au fait que, même si on les lit, on se rend compte que le pouvoir d’utiliser ces données réside surtout dans une phrase : « Les données seront communiquées à des tiers. ». C’est là où l’on perd vraiment notre capacité de consentement, parce qu’on ne sait pas qui sont ces tiers ni quelles sont leurs intentions. Je pense même qu’on ne peut pas savoir quelles sont les intentions des entreprises qui nous demandent notre consentement.
Donc, à l’heure actuelle, l’un des plus grands défis liés à la mise en données de la vie humaine est la question du consentement. La question « Pouvons-nous consentir? » est différente de la question « Devrions-nous consentir? » Je pense que nous devons être en mesure d’exercer une certaine forme d’autonomie et être traités avec dignité, même si nous vivons à l’ère de l’intelligence artificielle.
M. Blit : Je peux peut-être rebondir sur ce que vous avez dit, à savoir que nous n’avons pas réussi à réduire la pauvreté d’un iota. Oui, je suis d’accord. Nous devons en faire beaucoup plus. Je vois l’intelligence artificielle de deux façons.
Premièrement, c’est une occasion de vraiment faire croître la tarte économique, et on doit absolument le faire. Dans une certaine mesure, nous n’avons pas d’autre choix de monter à bord du train, car si nous ne le faisons pas, les autres vont le faire et nous resterons à quai. La question n’est donc pas de savoir si nous allons adopter l’intelligence artificielle et saisir les occasions qui se présentent, mais bien comment nous allons le faire.
Deuxièmement, il faut veiller à ce que les gains ne profitent pas seulement au 1 %, au 2 %, peu importe, ou aux propriétaires de la technologie. Il faut s’assurer que ces gains profitent à tout le monde. Encore une fois, je reviens à la littératie en matière d’intelligence artificielle et au fait de veiller à ce que tout le monde ait accès à ces technologies et qu’elles n’appartiennent pas seulement à un petit groupe. Ce sont des préoccupations réelles. Le Bureau de la concurrence, par exemple, réfléchit très sérieusement à ces questions.
La présidente : Merci beaucoup à vous deux. C’est tout le temps que nous avions avec ce groupe de témoins. Au nom du comité, je tiens à vous remercier sincèrement d’avoir pris le temps de comparaître devant nous aujourd’hui. Votre témoignage nous sera très utile dans la poursuite de nos délibérations sur ce sujet.
(La séance est levée.)