LE COMITÉ SÉNATORIAL PERMANENT DES DROITS DE LA PERSONNE
TÉMOIGNAGES
OTTAWA, le lundi 27 avril 2026
Le Comité sénatorial permanent des droits de la personne se réunit aujourd’hui, à 17 heures (HE), avec vidéoconférence, pour examiner, afin d’en faire rapport, l’impact de l’intelligence artificielle sur les droits de la personne et la sécurité économique au Canada, en particulier en ce qui concerne les groupes vulnérables et le droit international de la personne en matière de travail; et, à huis clos, pour l’ébauche de rapport (programme de ses travaux futurs).
La sénatrice Paulette Senior (présidente) occupe le fauteuil.
[Traduction]
La présidente : Bonjour. Je tiens tout d’abord à rappeler que le lieu où nous nous réunissons se trouve sur le territoire traditionnel, ancestral et non cédé de la nation algonquine anishinabe.
Je m’appelle Paulette Senior. Je suis sénatrice de l’Ontario et je préside ce comité.
J’invite maintenant les sénateurs à se présenter.
La sénatrice Robinson : Bonjour. Je m’appelle Mary Robinson, sénatrice représentant l’Île-du-Prince-Édouard.
La sénatrice McCallum : Mary Jane McCallum, du territoire visé par le Traité no 10, au Manitoba.
La sénatrice Karetak-Lindell : Nancy Karetak-Lindell, du Nunavut.
La sénatrice Arnold : Dawn Arnold, du Nouveau-Brunswick.
Le sénateur K. Wells : Kristopher Wells, du territoire visé par le Traité no 6, en Alberta.
La sénatrice Pate : Bienvenue. Je m’appelle Kim Pate. Je vis ici, sur le territoire non cédé et non restitué de la nation algonquine anishinabe.
La présidente : Bienvenue aux sénateurs et à toutes les personnes qui suivent nos délibérations. Aujourd’hui, le comité poursuit son étude sur l’impact de l’intelligence artificielle sur les droits de la personne et la sécurité économique au Canada, en particulier en ce qui concerne les groupes vulnérables et le droit international au travail.
Cet après-midi, nous recevons deux groupes de témoins. Après avoir entendu chacun, les sénateurs présents participeront à une séance de questions-réponses.
Je vais maintenant présenter nos premiers témoins, à qui il a été demandé de faire une déclaration préliminaire de cinq minutes chacun. Nous recevons, en personne, Mohamad Yaghi, vice-président, Centre d’innovation et AgExpert, Financement agricole Canada. Nous recevons aussi, par vidéoconférence, David Nolan, recherchiste d’enquête en chef, Amnesty Tech.
Je vous souhaite la bienvenue à tous deux, et j’invite maintenant M. Yaghi à présenter son exposé, puis ce sera le tour de M. Nolan.
Mohamad Yaghi, vice-président, Financement agricole Canada : Madame la présidente, honorables sénateurs et sénatrices, je vous remercie de cette occasion.
Financement agricole Canada est le plus important prêteur agricole au Canada, au service de plus de 100 000 producteurs, agroentreprises et exploitations agroalimentaires. Nous sommes une société d’État à vocation commerciale dont la mission est de soutenir la viabilité à long terme de l’agriculture canadienne.
L’agriculture canadienne est confrontée à un problème de productivité. Le rapport 2025 de l’OCDE sur le suivi et l’évaluation des politiques agricoles est sans équivoque : la croissance de la productivité totale des facteurs dans le secteur agricole canadien est bien inférieure à la moyenne mondiale. La Banque du Canada a qualifié l’écart de productivité global du Canada de « moment décisif ». L’agriculture n’échappe pas à cette mise en garde.
Le secteur agricole ne peut pas résoudre ses problèmes simplement en recrutant. Les services-conseils se sont réduits, les visites des agronomes se sont espacées et les agriculteurs et agricultrices d’expérience ont pris leur retraite, en emportant des décennies de savoir-faire irremplaçable. On demande aux gestionnaires d’exploitation de prendre des décisions de plus en plus complexes, tout en leur donnant de moins en moins accès à l’expertise nécessaire pour les prendre, dans un contexte où les coûts augmentent et les fluctuations climatiques s’intensifient. C’est ce vide que l’intelligence artificielle est particulièrement bien placée pour combler. Non pas en remplaçant des personnes, mais en comblant une lacune qui existait déjà.
En tirant parti de l’expérience de Financement agricole Canada en matière de financement de l’industrie, de services offerts aux clients et clientes de chaque province, ainsi que d’investissement et de développement dans le domaine des technologies agricoles, je voudrais formuler trois remarques.
Premièrement, la confiance dans l’IA augmente lorsque celle‑ci se fonde sur des données propres au secteur. AgExpert, le logiciel de gestion agricole de Financement agricole Canada, est utilisé par plus de 28 000 exploitations canadiennes qui gèrent 7,6 millions d’acres de terres agricoles. Ces données concernent précisément le Canada et le secteur agricole; elles appartiennent aux agriculteurs et aux agricultrices qui les produisent. Financement agricole Canada ne recueille pas et n’utilise pas de données à ses propres fins financières ou de prêt.
Une étude menée conjointement avec Statistique Canada a révélé une augmentation de 7 % de la productivité agricole grâce à l’utilisation de la plateforme AgExpert. Mais ce qui est encore plus important, c’est ce que ces données permettent de réaliser au-delà du bilan financier. Un agriculteur a consigné chaque activité de champ et chaque décision d’intrants pendant des années. Quand il a pris sa retraite, sa petite-fille est revenue à la ferme et a appris l’histoire des terres familiales grâce à ce récit structuré. Elle prend désormais de meilleures décisions que quiconque ne pourrait le faire seul. Ce n’est pas une question d’automatisation, mais de continuité. C’est précisément ce savoir-faire que l’agriculture canadienne perd à chaque fois qu’un agriculteur ou une agricultrice d’expérience quitte définitivement ses terres.
Deuxièmement, l’application la plus utile de l’IA n’est pas l’automatisation des tâches. C’est la démocratisation de la prise de décision. AgExpert, de Financement agricole Canada, développe une capacité de modélisation numérique au niveau de l’exploitation qui permet de simuler les résultats avant d’engager des capitaux. À l’heure actuelle, ce type d’analyse dépend de la capacité financière d’une exploitation à faire appel à des services de conseil professionnels. L’IA élimine cet obstacle. L’agricultrice qui possède 200 acres dans le Nord de l’Ontario bénéficie d’une réflexion de même qualité que celle d’une entreprise agroalimentaire exploitant 20 000 acres en Saskatchewan. Mais l’avantage économique ne se limite pas à l’efficacité à l’échelle de l’exploitation agricole. L’OCDE montre que l’IA peut faire progresser la croissance de la productivité du travail jusqu’à 1 % par année, et ce gain provient du fait que cette technologie nous permet de prendre de meilleures décisions avant d’engager des capitaux.
Troisièmement, l’accessibilité ne doit pas être une considération secondaire. Seulement 50 % des réserves des Premières Nations disposent d’un accès à large bande qui correspond à la norme nationale, comparativement à 93 % dans le reste du Canada. La connectivité est une condition indispensable. Pour les communautés qui ont toujours eu un accès limité aux services consultatifs agricoles et aux réseaux officiels de connaissances, les outils numériques sont encore plus importants. Là où la connectivité est assurée, l’IA ramène un équilibre en offrant aux communautés autochtones, ainsi qu’à toutes les communautés d’ailleurs, un accès illimité à des connaissances agricoles fiables grâce à des outils d’IA tels que Racine, le grand modèle de langage de Financement agricole Canada.
À propos de la suppression d’emplois : une étude réalisée en 2024 par Statistique Canada a révélé que seulement 6 % des entreprises canadiennes ayant adopté l’IA avaient réduit leurs effectifs en raison de cette technologie. Plus fondamentalement, les postes que l’IA comble dans le secteur agricole ne sont pas des emplois qui existent actuellement. Ce sont des postes qui ont été supprimés il y a des années, discrètement, sans faire la manchette. La conseillère agricole dont le poste a été supprimé. L’agronome qui a cessé de se rendre à la ferme. L’IA ne constitue pas une menace pour le droit au travail dans le secteur agricole. Utilisée correctement, elle en est l’expression même.
En 2024, l’agriculture canadienne a contribué à hauteur de 149 milliards de dollars au PIB, employait 2,3 millions de Canadiens et Canadiennes et a atteint un niveau record d’exportations de 100 milliards de dollars. Ce qui lui a manqué, c’est l’infrastructure nécessaire pour permettre à chaque producteur d’atteindre le meilleur rendement possible. Financement agricole Canada s’engage à établir cette fondation technique, car l’agriculture canadienne dispose de ce dont le monde a besoin, et l’IA permet à chaque exploitation canadienne d’être habilitée à le fournir.
Ce modèle est reproductible : il suffit de partir des données que le secteur génère déjà, d’en tirer une intelligence collective, puis de la diffuser équitablement. Ce ne sont pas des principes agricoles. Ce sont les conditions dans lesquelles l’IA améliore la situation de l’ensemble du secteur.
Je vous remercie, et vos questions sont les bienvenues.
La présidente : Merci, monsieur Yaghi.
David Nolan, recherchiste d’enquête en chef, Amnesty Tech : Honorables sénateurs, merci de m’avoir invité à comparaître aujourd’hui devant le Comité sénatorial permanent des droits de la personne.
Je m’appelle David Nolan. Je suis recherchiste au sein de l’équipe de l’Algorithmic Accountability Lab, chez Amnistie internationale. Notre équipe examine l’adoption des technologies de l’IA par les États partout dans le monde et l’impact de cette adoption sur les droits de la personne.
Nous comprenons que les gouvernements souhaitent exploiter les possibilités offertes par les technologies de l’IA. Cependant, je tiens à commencer par une brève introduction où j’expliquerai que l’examen des avantages ou inconvénients potentiels de l’IA est complexe et multidimensionnel.
Premièrement, nous devons reconnaître que le terme IA est nébuleux. Il s’agit d’une expression générique utilisée pour décrire un éventail de technologies variées, allant de robots conversationnels à des outils d’analyse prédictive.
Deuxièmement, toute discussion sur l’IA doit aller au-delà de la technologie elle-même pour prendre en compte les motivations politiques, sociales, économiques et culturelles, ainsi que les facteurs environnementaux qui sont à l’origine de son développement. Le débat sur les risques et les préjudices en matière de droits de la personne est donc très vaste.
Par conséquent, je présenterai d’abord quelques cas illustrant l’impact de l’IA sur les droits de la personne, puis un bref examen de l’IA en tant qu’industrie et, enfin, je proposerai quelques mesures à prendre.
À l’heure actuelle, Amnistie internationale se penche sur plusieurs questions relatives à l’IA, en mettant surtout l’accent sur le Pacte international relatif aux droits civils et politiques, le PIRDCP, et les cadres relatifs aux droits économiques, sociaux et culturels, les DESC. Nous avons documenté la façon dont les systèmes d’IA restreignent la liberté de manifester pacifiquement, avec le déploiement maintenant courant par les forces de l’ordre de technologies de reconnaissance faciale, et ce, partout dans le monde.
Deuxièmement, les systèmes d’IA renforcent l’exclusion, la discrimination et les préjugés dans toute la société. Les preuves produites au cours de la dernière décennie abondent et montrent comment les outils de prise de décision algorithmiques automatisent des préjugés envers des groupes marginalisés. Ces systèmes ont des répercussions préjudiciables sur bien des aspects de la vie de ces personnes, comme la protection sociale, les soins de santé, l’immigration et la justice pénale.
Troisièmement, les systèmes d’IA portent atteinte au droit à la protection sociale. En Suède, par exemple, un système algorithmique utilisé pour détecter la fraude aux prestations sociales signalait de façon disproportionnée des femmes, des personnes d’origine étrangère et des personnes à faible revenu pour un examen plus approfondi. Ce système a été supprimé l’an dernier après une enquête menée par l’organisme suédois chargé de la protection de la vie privée.
En ce qui concerne les droits des travailleurs, il est logique que le débat porte surtout sur le risque de perturbation du marché de l’emploi et les dangers de l’automatisation des postes de travail. Cependant, les données à ce sujet demeurent contrastées.
Je souhaite parler de trois autres vecteurs. Premièrement, le travail sur plateforme, souvent appelé « économie des petits boulots », est un exemple clé de la façon dont l’irruption de nouvelles technologies telles que les outils de gestion algorithmique sur des marchés du travail existants ou émergents sert souvent à faciliter l’exploitation de travailleurs déjà vulnérables. Deuxièmement, les outils d’IA utilisés dans les processus d’embauche et de recrutement, y compris la vérification des CV, risquent de prendre des décisions discriminatoires, reproduisant ainsi les déséquilibres existants dans les pratiques d’embauche. Troisièmement, les systèmes d’IA reposent souvent sur un travail invisible ou caché, généralement effectué par des travailleurs précaires ou vulnérables, souvent appelés « travailleurs fantômes », dans la chaîne d’approvisionnement. Il s’agit des annotateurs de données qui jouent un rôle clé dans l’entraînement et la mise à jour des systèmes d’IA utilisés par ces entreprises, et qui travaillent souvent pour des sous-traitants dans des pays ou des contextes caractérisés par la faiblesse des cadres juridiques en matière de droit du travail.
De plus, au-delà des applications de l’IA, nous ne pouvons ignorer le pouvoir et les pratiques extractivistes qui sous-tendent l’expansion et le développement de l’IA à l’heure actuelle. Le développement de l’IA soulève de vives inquiétudes environnementales et sociales. Ces systèmes reposent sur la puissance de calcul, ce qui entraîne l’expansion de centres de données nécessitant de grandes quantités d’eau potable pour leur refroidissement, au détriment de collectivités locales, notamment dans les régions exposées à un stress hydrique.
Parallèlement, le pouvoir de marché est de plus en plus concentré entre les mains d’une poignée de grandes entreprises technologiques, ce qui constitue non seulement un problème de concurrence, mais aussi un grave problème en matière de droits de la personne. La domination exercée par de grandes entreprises technologiques porte atteinte à la vie privée, à l’accès à l’information, à la liberté d’opinion, aux droits des travailleurs et à la non-discrimination.
Nous sommes à un tournant décisif. La trajectoire actuelle de l’IA représente une menace fondamentale pour les droits de la personne et la société, avec des préjudices qui touchent souvent les plus marginalisés. Nous devons contester la fausse dichotomie souvent présentée entre réglementation et innovation et nous efforcer d’établir une nouvelle vision de la technologie, y compris des lois et des normes, afin que les nouvelles technologies respectent les droits.
Nous ne réclamons aucun modèle particulier de réglementation de l’IA, mais nous demandons qu’elle repose sur une approche fondée sur les droits de la personne en tenant compte des dommages intersectionnels causés par les technologies. Nous demandons que tout projet de loi donne la priorité à des engagements contraignants et exécutoires, plutôt que volontaires, de la part des entreprises. Nous demandons que les populations touchées soient véritablement associées aux processus d’élaboration de politiques.
En ce qui concerne le lien entre l’IA et l’automatisation, d’une part, et le gouvernement, d’autre part, nous vous demandons d’en faire une analyse critique pour déterminer si l’automatisation et le déploiement de l’IA constituent la bonne approche, et la plus appropriée aussi, pour atteindre les objectifs de politique publique ou d’autres objectifs déclarés. Nous demandons également que des limites claires soient fixées en ce qui a trait au développement et au déploiement de l’IA incompatibles avec les droits de la personne, par exemple en interdisant le développement, la production, la vente et l’utilisation de technologies biométriques et de systèmes d’IA permettant une surveillance de masse.
Merci de votre attention.
La présidente : Merci, chers témoins, de vos déclarations. Nous passons maintenant aux questions.
La sénatrice Robinson : Ma question s’adresse au représentant de Financement agricole Canada, M. Yaghi.
Nous avons entendu des témoignages sur l’IA et la robotique, et j’aimerais avoir une précision au sujet de l’agriculture. Pouvez-vous nous donner votre définition de l’« IA »?
M. Yaghi : Je vous remercie de cette question.
Nous définirions l’« intelligence artificielle » comme étant l’utilisation à grande échelle de la reconnaissance statistique de formes pour aider des personnes à trouver des éléments de réponse, à prendre des décisions et à automatiser des processus. Ces systèmes peuvent utiliser des outils tels que l’apprentissage automatique et les grands modèles de langage pour parvenir à ces conclusions, mais il s’agit, au fond, de mieux utiliser l’information qu’avant et, en réalité, d’utiliser des données de base pour approfondir les connaissances ou pour les autres exemples que j’ai mentionnés.
En ce qui concerne l’agriculture, il existe une distinction importante entre l’automatisation et ce que nous observons actuellement avec l’IA. En matière de robotique, il s’agit plus de tâches de manutention répétitives, par opposition à ce que nous voyons plus, c’est-à-dire le débat sur l’IA axé sur l’augmentation de l’intelligence humaine. C’est ce dont l’agriculture canadienne a plus besoin, et c’est ce que nous mettons en place aujourd’hui.
La sénatrice Robinson : Vous avez mentionné la relève. Au Canada, cela en dit long, car l’âge moyen continue d’augmenter. Cela signifie que nous n’attirons pas assez de jeunes pour empêcher cette moyenne de grimper encore. Je vois là une crise se profiler à l’horizon. Vous savez probablement combien il va être transféré en dollars au cours des 10 prochaines années. Nous savons que les agriculteurs canadiens gèrent environ 1 billion de dollars d’actifs. Quand on regarde comment on attire et retient les jeunes dans l’agriculture, on sait qu’il s’agit d’un secteur très risqué. Il me semble que vous avez mentionné un agriculteur qui avait tout consigné, ce qui a permis à sa petite-fille de reprendre l’exploitation en bénéficiant de toutes ces connaissances. Vous avez parlé d’efficacité et d’améliorations dans la productivité.
Pouvez-vous nous éclairer un peu plus, sous l’angle de la productivité, sur ce que cela signifie concrètement pour une exploitation agricole — j’ai oublié le chiffre que vous avez utilisé — et nous expliquer en quoi l’IA améliore la productivité et notre compétitivité?
M. Yaghi : Je vous remercie de cette question, sénatrice.
En matière de productivité, la définition que j’utiliserai, en particulier dans un contexte agricole, est « le rapport entre la valeur de la production et celle des intrants, du prix des terres et de la main-d’œuvre ». C’est cet équilibre entre les deux. Cela se traduit concrètement par la productivité totale des facteurs, en particulier dans l’agriculture. C’est l’indicateur que nous utilisons pour définir la production agricole au Canada, en particulier dans l’agriculture primaire.
En ce qui concerne la transition des terres qui s’opère actuellement dans le secteur, dans les 10 prochaines années, nous assisterons à l’un des plus importants transferts d’actifs d’une génération à l’autre. En ce moment, l’âge moyen d’un producteur est de 58 ans. Nous allons donc voir de nombreux changements au cours des prochaines années.
Nous évoluons dans un contexte où le secteur agricole, en particulier l’agriculture primaire, est aux prises avec une pénurie chronique de main-d’œuvre. Je crois que le Conseil canadien pour les ressources humaines en agriculture, que vous avez dirigé, estime qu’il y a aujourd’hui plus de 60 000 postes vacants. Ce sont des postes que l’IA et les outils connexes peuvent aider à pourvoir. Elle ne remplacera jamais un rôle humain, car l’IA et les outils connexes fonctionnent mieux lorsqu’ils viennent compléter et accélérer le potentiel humain, par opposition à fonctionner seuls.
À propos des pénuries de main-d’œuvre que nous observons, en 2022, un déficit de plus de 28 000 emplois dans le secteur agricole a contribué à une perte de plus de 3,5 milliards de dollars. L’IA et les outils connexes peuvent, comme je le mentionnais dans ma définition, aider à augmenter et à combler ces pénuries de main-d’œuvre que nous constatons actuellement dans le secteur. Au Canada, elle nous aide à renforcer la compétitivité de l’industrie, à l’échelle nationale et du point de vue économique, car l’agriculture représente aujourd’hui plus de 7 % de notre économie. Elle représente aussi un emploi sur neuf. En comparaison, les États-Unis, par exemple, estiment déjà que l’IA et les outils connexes ne font pas perdre d’emplois; au contraire, ils en créent et font augmenter les salaires. Nous constatons la même tendance, de manière générale, dans toute l’économie. Plus de 83 % des emplois créés au cours des 10 prochaines années exigeront des études postsecondaires. L’IA nous permet simplement d’accéder à des postes mieux rémunérés et nous offre plus de possibilités pour ce qui est de la productivité que l’OCDE estime que nous devrions avoir.
La présidente : Puis-je approfondir un peu au sujet de la main-d’œuvre et des transitions auxquelles vous vous attendez? Par exemple, le Canada compte beaucoup sur les travailleurs agricoles venant de la plupart des pays du Sud. Selon vous, est‑ce que l’introduction de l’IA et les types de tâches qu’elle accomplirait auront des répercussions sur le besoin de travailleurs à long terme venant de régions du Sud?
M. Yaghi : Je vous remercie de cette question.
Encore une fois, en ce qui concerne la productivité du travail et le Programme des travailleurs étrangers temporaires que nous avons actuellement au Canada, la vision de l’IA qui me semble prévaloir aujourd’hui est axée sur l’augmentation de l’intelligence humaine. En ce qui concerne uniquement ces tâches physiques et ce travail manuel, c’est ce que l’on voit davantage en robotique.
C’est cette distinction entre l’IA et la robotique que je tiens à souligner. La robotique se concentrera sur les tâches physiques, alors que l’IA aidera les producteurs à mieux comprendre les données et à avoir une meilleure compréhension analytique de leurs exploitations agricoles.
Il faut bien savoir une chose quand on parle d’agriculture : les agriculteurs prennent parmi les risques les plus importants dans notre économie actuelle. Prenons les sols. Les deux tiers de notre biodiversité se trouvent dans notre sol. On est donc constamment face à un risque immense. Il y aura, bien sûr, des changements dans notre main-d’œuvre au cours des 10 prochaines années, mais selon moi, c’est l’augmentation de l’intelligence humaine que ces outils permettront qui sera le principal vecteur de développement.
Le sénateur K. Wells : Ma question s’adresse à M. Nolan. D’après ce que vous venez de nous dire, avez-vous des préoccupations particulières concernant le Canada à l’heure actuelle?
M. Nolan : Je vous remercie de votre question.
En ce qui concerne le Canada, je crois savoir que l’on accorde actuellement beaucoup d’attention au droit à la protection de la vie privée en matière d’IA. Ce droit et les risques de surveillance créés par les systèmes d’intelligence sont des questions transversales, comme nous venons de le dire, mais avec le terme général ou générique d’IA, la surveillance et le droit à la protection de la vie privée portent sur tous ces aspects.
Il existe toutefois d’autres préoccupations notables, souvent contextuelles. Mon rôle porte principalement sur l’utilisation de systèmes d’IA par des États dans le monde. Cela concerne ce que l’on appelle les systèmes d’IA étroite, utilisés pour la distribution des aides sociales, dans le cadre de la justice pénale et dans d’autres domaines, comme l’immigration, avec, par exemple, des outils de vérification des visas.
En ce qui concerne le Canada, Amnistie internationale aimerait que les risques pour les droits de la personne posés par les technologies adoptées dans ces contextes soient pris en compte. Toute forme d’automatisation gouvernementale, si elle doit être mise en place, devrait l’être avec une transparence réelle et les mécanismes de reddition de comptes nécessaires pour garantir des mesures de contrôle adéquates quand les États cherchent à automatiser des parties de l’administration publique...
Le sénateur K. Wells : Merci de cette précision. Je sais qu’Amnistie internationale publie parfois des fiches d’information ou des rapports particuliers sur des pays et l’IA. S’il en existe sur le Canada précisément, nous serions ravis de les recevoir.
En ce qui concerne la législation nationale, existe-t-il, à votre connaissance, une loi type qui inclut de solides protections des droits de la personne en matière d’IA?
M. Nolan : Je vous remercie de cette question. Pour revenir sur votre dernier point, je dois admettre qu’Amnesty Tech, notre programme sur la technologie et les droits de la personne, ne s’est pas penché en particulier sur le Canada au cours des dernières années.
En matière législative, nous avons mené, au cours des cinq dernières années, une campagne de sensibilisation sur la loi sur l’intelligence artificielle de l’Union européenne, exemple type de loi horizontale. Nous contestons actuellement cette même loi. Cependant, elle fournit un modèle dans un contexte mondial où la réglementation est pour l’instant totalement exclue.
Comme je l’ai mentionné à la fin de mon exposé, nous recherchons certains principes législatifs, plutôt que des modèles précis, car nous sommes conscients qu’il s’agit d’un tout nouvel ensemble de technologies, et il est difficile pour toute une série de raisons de mettre en place des règlements et des lois dans le cadre du déploiement des systèmes d’IA dans différents secteurs et contextes. De toute évidence, les risques et les atteintes aux droits de la personne sont souvent particuliers au contexte.
L’exemple européen offre effectivement un modèle. Évidemment, au vu des récents développements dans l’Union européenne — je ne sais pas si vous suivez de près la récente proposition omnibus —, certaines de ces protections sont édulcorées, notamment en matière de transparence. Cela concerne l’enregistrement des systèmes à haut risque dans le domaine public, et c’est une demande essentielle pour nous en tant que société civile et en tant qu’organisation internationale de défense des droits de la personne. La transparence est une première étape nécessaire, et l’enregistrement des systèmes algorithmiques utilisés par des États dans le monde est absolument crucial à cet égard. Il est donc fondamental que cela figure dans la réglementation.
Il est important aussi que les déployeurs de systèmes d’IA ne soient pas autorisés à décider eux-mêmes si leurs systèmes doivent être considérés comme appartenant à une catégorie à haut risque ou à s’attribuer une note à ce sujet. Merci.
Le sénateur K. Wells : Vous avez mentionné les principes que vous recommandez, plutôt qu’une loi particulière. Si vous pouviez nous envoyer un lien ou une copie de ces principes, cela nous serait très utile.
M. Nolan : Je me ferai un plaisir de vous les fournir après cette réunion.
Le sénateur K. Wells : Merci.
La sénatrice Pate : Merci aux deux témoins.
Pour faire suite aux questions précédentes, les mesures de protection m’intéressent, qu’elles relèvent ou non de régimes réglementaires. Vous avez parlé, monsieur Nolan, d’approches fondées sur des principes. Quels sont, entre autres, les risques du point de vue des droits de la personne, si nous ne parvenons pas à trouver la bonne solution?
Monsieur Yaghi, quels sont les risques en matière de droits de la personne que représente l’absence de protection, non seulement pour le monde agricole, mais aussi pour les travailleurs qui pourraient s’y trouver?
Bien sûr, n’hésitez pas à développer sur tout aspect que vous souhaitez au sujet des avantages et sur la façon dont ceux-ci sont promus dans un cadre réglementaire.
M. Yaghi : Je vous remercie de cette question.
En ce qui concerne notre vision de l’IA et des outils connexes, elle s’inscrit largement dans une perspective de création d’équilibre. Quand nous examinons l’ensemble du tableau, notre mandat en tant que société d’État est d’assurer l’égalité dans tout le secteur, afin d’accroître la productivité. Quand nous regardons différentes initiatives lancées à l’étranger, dans des pays comme les États-Unis ou le Brésil, nous voyons, par exemple, que l’American Journal of Agricultural Economics a constaté une augmentation des salaires et de l’emploi. Notre mission consiste donc à déterminer comment nous pouvons utiliser ces outils et les mettre à la disposition de nos producteurs, afin qu’ils puissent s’en servir pour être compétitifs à l’échelle mondiale.
Quand nous comparons notre position à celle d’autres pays, je pense que nous sommes actuellement à un moment vraiment décisif pour garantir que les producteurs canadiens et l’économie dans son ensemble aient accès à ces outils, afin de tirer parti de la production économique. D’après une étude de Statistique Canada publiée la semaine dernière, l’impact sur la productivité, pour les entreprises qui adoptent des processus d’IA dans leur domaine d’activité, est de 17 %. Si l’on tient compte des coûts, c’est plus de 5 %. Ces outils recèlent un immense potentiel. Bien sûr, comme pour tout outil, il faut des garde-fous, mais je crois que le comité peut trouver un équilibre entre la protection des droits de la personne et des solutions qui permettent à ce secteur de profiter de l’impact de ces outils sur la productivité économique. Et ces solutions peuvent prendre bien des formes.
M. Nolan : Je vous remercie, sénatrice, de cette question. En ce qui concerne certains des principes particuliers dont nous parlons à propos de l’adoption de lois, j’en ai mentionné quelques-uns à la fin de ma déclaration préliminaire. Nous demandons, entre autres, qu’il y ait un processus de consultation et des processus d’élaboration des politiques clairs, faciles d’accès, transparents et responsables qui permettent une participation véritable et égale d’un large éventail de titulaires de droits. Nous demandons, entre autres, la participation des populations touchées, celles qui sont les premières concernées par ces systèmes. En ce qui concerne les outils de gestion algorithmique mis en place dans les lieux de travail, nous avons demandé que les travailleurs et les syndicats soient consultés. Il est tout à fait essentiel d’axer les discussions stratégiques sur les besoins et les priorités de ces populations, et de permettre une participation égale des représentants, des défenseurs et des organisations.
En ce qui concerne d’autres principes particuliers, nous demandons que des limites claires soient fixées pour le développement et le déploiement de l’IA qui sont fondamentalement incompatibles avec les lois sur les droits de la personne. Nous demandons l’interdiction du développement, de la production, de la vente de technologies biométriques qui permettent une surveillance de masse et une surveillance ciblée discriminatoire, ainsi que de leur utilisation par tous les acteurs publics et privés. Nous demandons également l’interdiction du développement, de la production, de la vente et de l’utilisation de systèmes d’IA qui créent et développent des bases de données de reconnaissance faciale par une collecte non ciblée d’images faciales sur Internet et à partir d’enregistrements de vidéosurveillance. Nous demandons aussi l’interdiction des systèmes automatisés d’évaluation des risques et de profilage dans le contexte de l’immigration, ainsi que l’interdiction de l’utilisation par les forces de l’ordre de systèmes d’IA dans le cadre de ce que l’on appelle le maintien de l’ordre prédictif. Il s’agit de la prédiction de crimes qui seraient commis par des personnes particulières, dans des espaces donnés et à des moments donnés. Je tiens à mentionner un autre point crucial : nous demandons que l’on évite, dans toute réglementation du développement et du déploiement des technologies de l’IA, des lacunes et des exemptions générales relatives à l’application de la loi, à la sécurité nationale ou à la défense militaire. Merci.
La sénatrice Pate : Merci. Il y a près de 20 ans, on m’a demandé de participer, à Stanford, en Californie, à une conférence d’iRobot, où l’un des projets présentés visait à n’utiliser potentiellement que la surveillance électronique des détenus.
On m’a demandé de venir, probablement en raison de certains travaux que j’avais réalisés et parce qu’un certain nombre de personnes générant de l’IA et de chercheurs s’inquiétaient de l’impact éventuel sur les droits de la personne. Pour revenir à la question du sénateur Wells, avez-vous d’autres exemples? Vous en avez donné au sujet des aides sociales et d’autres domaines. Avez-vous d’autres exemples où ce type de technologies est utilisé pour cibler de façon disproportionnée certains groupes?
M. Nolan : Je vous remercie de la question. Oui, la plupart des exemples que j’ai donnés précédemment concernaient la distribution d’aides sociales dans le cadre de régimes de protection sociale. C’est sur ce domaine que porte une grande partie de notre travail de ces trois ou quatre dernières années, en particulier dans l’Union européenne. Il existe de nombreux exemples — premièrement dans le système de justice pénale — de systèmes utilisés pour prévoir le taux de récidive et, par conséquent, pour prendre des décisions en matière de justice pénale. ProPublica a réalisé en 2016 une enquête digne de mention sur un outil appelé COMPAS au sujet duquel je serais ravi d’en dire plus, mais qui était discriminatoire envers les personnes appartenant à des communautés de couleur.
Il existe d’autres exemples.
La présidente : Je suis désolée de vous interrompre. Nous éprouvons apparemment des difficultés avec les interprètes. Je pense qu’il y a, peut-être, un problème de qualité sonore, ce qui cause des difficultés pour l’interprétation. Je crois bien que d’autres sénateurs aimeraient vous poser des questions. Pouvons‑nous adopter une méthode où chacun pose ses questions, après quoi, monsieur Nolan, vous pourriez y répondre par écrit?
M. Nolan : Oui, avec plaisir.
La présidente : Vous pouvez cependant rester pour la discussion.
M. Nolan : Oui. Absolument.
La présidente : Merci.
La sénatrice Arnold : J’ai deux questions sans rapport l’une avec l’autre. Monsieur Nolan, vous m’avez beaucoup inquiétée en disant que l’Union européenne assouplit certains de ses règlements en matière de transparence. Tout au long de nos audiences, tous les témoins ont déclaré que la transparence est très importante. Souvent, ils ont également déclaré que l’Union européenne fait bien les choses. Quelles sont, précisément, les mesures prises par l’Union européenne qui vous préoccupent? Et j’ai une question tout à fait différente pour M. Yaghi, au sujet de l’éducation. Des témoins nous ont dit que les Canadiens ne mettent pas beaucoup d’enthousiasme à adopter l’IA. Avez-vous de bons exemples de situations où les gens se sont familiarisés avec et l’ont adoptée?
M. Yaghi : Je vous remercie de cette question. Un exemple qui me vient à l’esprit en regardant le pays est celui de la revitalisation rurale, qui est partout un enjeu récurrent sans le secteur agricole. Il ne s’agit pas nécessairement d’étudier l’IA. En fait, il faut se demander, en tant qu’agronome, comptable ou avocat, comment tirer parti de ces outils pour faciliter son travail.
Sur fond d’évolution démographique du pays, en particulier dans nos collectivités rurales, nous voyons apparaître des outils qui utilisent l’IA, comme les grands modèles de langage et même l’analyse prédictive. Ce qui est formidable, c’est que n’importe qui, de n’importe quel milieu, peut se familiariser avec ces outils et les utiliser immédiatement. C’est ce dont je parle : leur effet démocratisant. Parmi les plus beaux exemples que j’ai observés dans le pays, je citerai celui d’un comptable capable d’aider plus de producteurs dans leur comptabilité parce qu’ils peuvent utiliser ces outils à présent. Ce même comptable peut utiliser notre plateforme AgExpert pour aider les producteurs à comprendre leur situation financière, mais aussi à prévoir l’avenir de leur exploitation. En ce qui concerne l’agriculture, une chose que j’aimerais vraiment faire comprendre au comité, c’est qu’il y a tellement de risques auxquels les producteurs et les exploitants de tout le pays doivent faire face. Ce n’est pas comme dans une usine, où l’on peut maîtriser l’environnement. On est constamment en train de composer avec la nature, et dans cette optique, les outils qu’ils utilisent leur permettent de gérer ce risque. Je parle d’expérience.
En ce qui concerne l’aspect éducatif, beaucoup de personnes qui se lancent dans le secteur agricole doivent utiliser ces outils maintenant, non seulement parce qu’ils peuvent apporter une aide supplémentaire, mais aussi pour une question de concurrence et de productivité à l’échelle nationale, sur le plan économique. Il ne s’agit pas de personnes qui n’utilisent pas ces outils, puis qui essaient de fonctionner dans cet environnement. C’est plutôt que, si vous n’utilisez pas ces outils, vous serez dépassé. Il s’agit donc de savoir comment les adopter dans votre travail.
J’ai mentionné précédemment que les outils d’IA sont plus efficaces quand ils renforcent les atouts et les avantages que les gens ont déjà. Donc, si vous êtes un producteur qui réfléchit aux rendements, comment pouvez-vous utiliser vos données structurées pour mieux comprendre votre exploitation agricole? Si vous êtes comptable, comment pouvez-vous utiliser l’IA dans votre comptabilité pour aider encore plus de clients et automatiser également vos processus? Il ne s’agit pas de remplacer la main-d’œuvre, mais de démontrer et de préciser vos compétences auprès d’une plus large population et d’augmenter aussi votre part de marché.
La sénatrice Arnold : Merci.
La présidente : Monsieur Nolan, je ne suis pas certaine que votre problème audio soit résolu. Nous accepterons donc une réponse écrite, comme nous l’avons demandé.
M. Nolan : Oui. Tout à fait.
La sénatrice McCallum : Dans le rapport des Nations unies intitulé Governing AI for Humanity, les experts se montrent très préoccupés par les préjudices liés aux conséquences sociétales de l’IA : 78 % concernant l’atteinte à l’intégrité de l’information; 74 %, les inégalités, comme la concentration de la richesse et du pouvoir entre quelques mains; et 67 %, la discrimination et la privation de droits, notamment dans les populations marginalisées. Quant à l’utilisation intentionnelle de l’IA qui nuit à autrui, 75 % des experts s’inquiètent de son utilisation par des acteurs étatiques dans les conflits armés; 72 % s’inquiètent de son utilisation malveillante par des acteurs non étatiques; et 65 % s’inquiètent de son utilisation par des acteurs étatiques pour nuire à des individus.
Ces experts déclarent :
La gestion des risques nécessite toutefois d’aller au-delà de leur simple énumération ou hiérarchisation. Définir les risques en fonction des vulnérabilités peut recentrer l’attention des programmes stratégiques qui passera du « quoi » de chaque risque (par exemple, « risque pour la sécurité ») à « qui » est en danger et « où », ainsi qu’à qui devrait être responsable dans chaque cas.
Pouvez-vous tous les deux commenter cela?
M. Yaghi : Je peux commenter dans une certaine mesure. Encore une fois, en tant que société d’État, il s’agit vraiment pour nous de nous concentrer sur la façon dont nous pouvons assurer un même accès à différents outils numériques dans le secteur agricole tout au long de la chaîne d’approvisionnement. En ce qui concerne les outils que nous proposons actuellement sur le marché, AgExpert, par exemple, ou IA Racine — qui est un grand modèle de langage utilisant des sources de données fiables et structurées pour fournir aux producteurs dans tout le pays un service de vulgarisation des connaissances —, nous aidons à combler une lacune. Elle doit être comblée, car, d’après ce que nous disent nos producteurs — encore une fois, les outils numériques peuvent aider. Cependant, d’après ce que nous avons constaté, les services de conseil ont plus d’impact. Comment pouvons-nous tirer parti de ces services de conseil pour mettre en valeur les connaissances que nous possédons collectivement en tant que pays et les partager plus librement avec les producteurs? Cela inclut les producteurs qui n’ont peut-être pas d’antécédents dans le secteur. Quand je dis qu’ils n’ont peut-être pas d’expérience, c’est pour diverses raisons.
Encore une fois, il s’agit d’uniformiser les règles du jeu pour tout le monde et de partager les meilleures connaissances avec nos producteurs dans tout le pays.
De nouveau, avec le coût des intrants qui est en hausse, les questions que l’on nous pose partout au pays font encore ressortir le problème, qui est : comment faire pour continuer d’augmenter la productivité et de nourrir le Canada et le reste du monde? Ces outils peuvent nous aider à répondre à ces questions.
Encore une fois, il y aura toujours des nuances. L’IA n’est pas la panacée. Ce n’est pas la solution magique à tous nos problèmes, mais elle nous aidera certainement en matière de productivité et pour ce qui est de nous concentrer sur ces enjeux.
La sénatrice McCallum : Merci. Y a-t-il d’autres informations dont vous souhaitez nous faire part et dont il n’a pas encore été question?
M. Yaghi : Tout à fait, et je vous remercie de le demander. À propos de notre travail dans le domaine de l’agriculture autochtone, il y a bien sûr les séquelles de notre histoire en tant que nation. Cependant, en ce qui concerne la façon dont nous cherchons à uniformiser les règles du jeu, en particulier pour les Premières Nations et les communautés autochtones dans tout le pays, à l’heure actuelle, le revenu médian d’un agriculteur non autochtone avoisine les 140 000 $ par an. Celui d’un agriculteur d’une Première Nation ou autochtone est d’environ 69 400 $. L’écart, de 75 000 $, en gros, est énorme.
Les outils que nous mettons sur le marché peuvent aider. Là encore, ce ne sera pas la solution miracle, mais ils aideront à réduire l’écart. D’après nos propres recherches à Financement agricole Canada, contribuer à combler cet écart représente une possibilité de 1,5 milliard de dollars. Tirer parti de ces outils pour aider toutes les collectivités dans tout le Canada peut absolument aider notre écosystème, mais aussi notre économie.
En ce qui concerne les travailleurs défavorisés et membres de minorités, la question est de savoir comment nous pouvons faciliter l’accès aux connaissances et à l’information. D’après l’OCDE, la baisse de la productivité totale des facteurs dans l’agriculture canadienne s’explique par le fait que l’on a cessé d’investir dans l’innovation et le savoir, le savoir incluant les services de conseil. Nous essayons d’aider à combler ce vide. Pour revenir à ma déclaration préliminaire, l’IA nous aide à remédier à cette lacune que nous voyons actuellement sur le marché.
La sénatrice Robinson : Je tiens à parler des ressources humaines. Vous avez mentionné le Conseil canadien pour les ressources humaines en agriculture. En 2022, ses recherches ont révélé qu’il y avait 28 000 postes vacants dans l’agriculture. Nous savons que cela a coûté aux producteurs primaires 3,5 milliards de dollars en pertes de ventes. Je veux que les gens y réfléchissent davantage, qu’ils pensent à quel point il est risqué pour un producteur de s’engager dans un investissement agricole sans être certain d’avoir la main-d’œuvre, car cela signifie qu’il n’a pas la possibilité de générer les revenus nécessaires pour rembourser son investissement. Et nous savons que la plupart des postes vacants sont pourvus par des travailleurs étrangers, malgré des efforts soutenus pour embaucher des Canadiens. De toute évidence, la main-d’œuvre est un risque dans l’agriculture.
Je dois sans cesse me rappeler la différence entre la robotique et l’IA. Dans votre déclaration préliminaire, il me semble que vous avez dit que l’IA ne supprimait pas d’emplois, mais qu’elle se chargeait plutôt de tâches dans l’agriculture qui ont cessé d’exister depuis longtemps. Pouvez-vous en dire plus à ce sujet?
M. Yaghi : Merci beaucoup pour cette question. Pour revenir à cette étude qui a mis en évidence une perte de productivité de 3,5 milliards de dollars due à notre incapacité à pourvoir ces postes vacants, en ce qui concerne les emplois perdus, nous assistons à de nombreux changements dans le secteur. Ces dernières années, les coûts des intrants ont augmenté. Quand je parle d’« intrants », je fais référence aux engrais, au carburant et à la main-d’œuvre. Cela inclut le fait que nos collectivités rurales sont en pleine mutation. Des emplois ont disparu en raison du déclin démographique.
Comment pouvons-nous continuer à fournir des services partout au pays tout en comblant le vide qui s’est créé? Encore une fois, ces outils peuvent nous aider. Ils ne constitueront pas la solution ultime, mais ils permettent de combler les lacunes en matière de connaissances et de services-conseils.
Pour revenir aux quelques études que j’ai mentionnées, l’OCDE s’est penchée sur le facteur de la productivité totale — le facteur utilisé pour étudier la productivité au Canada — et a constaté que les performances du secteur sont inférieures à la moyenne par rapport au reste du monde. Cela s’explique par un déclin de l’innovation et des services de connaissances accessibles aux producteurs partout au pays.
Pour illustrer le potentiel de ce secteur, il suffit de fournir ces outils, qu’il s’agisse d’outils d’apprentissage automatisé, d’analyses prédictives, de mise en place de réseaux neuronaux — voire du classement des récoltes par qualité, simplement à partir d’images. Ces outils permettent de détecter la qualité des céréales, des pommes de terre, etc., à partir de différentes images. En analysant fréquemment toutes ces images, nous gagnons du temps. Le potentiel de ces technologies permettra à l’agriculture canadienne de combler le vide laissé par de nombreux changements et par des défis croissants.
De plus, lorsque nous parlons de la volatilité climatique de nos jours, l’utilisation de ces données permettra aux exploitants partout au pays de gérer leurs risques bien plus efficacement. Comme je l’ai mentionné il y a quelques instants, les deux tiers de la biodiversité mondiale se trouvent uniquement dans notre sol. Comment gérer ce risque sans avoir toutes les données sous la main?
Encore une fois, je ne cherche pas à présenter un tableau idyllique. Je cherche à brosser un tableau réaliste, où ces données nous permettront de bien mieux gérer les risques. Bien sûr, en fin de compte, il faudra mettre en place des garde-fous, mais pour combler le vide que nous avons constaté en raison du manque de productivité et de ces pénuries de main-d’œuvre, cela nous aidera dans une certaine mesure à combler ce fossé.
Je suis vraiment confiant pour les prochaines années qui s’annoncent : nous allons définir ensemble un cadre qui nous permettra non seulement de généraliser l’utilisation de ces outils dans l’ensemble du secteur, mais aussi d’aider nos producteurs à accroître leur productivité en leur offrant davantage de certitude quant à la manière dont ils peuvent contrôler et gérer leur main‑d’œuvre.
La sénatrice Robinson : Nous savons que l’IA peut faire peur, mais nous découvrons aussi qu’elle va apporter des avantages. Je pense toutefois que nous avons tous été marqués par le choc et la stupéfaction suscités par certaines histoires liées à l’IA, je suis donc heureuse d’entendre des histoires positives.
M. Yaghi : Je suis ravi de vous en faire part.
Si je peux vous dire une chose : je crois que le terme « IA » a été un peu galvaudé. Je veux dire par là qu’il englobe beaucoup de processus et d’outils différents. En ce qui concerne les différentes innovations que j’observe à travers le Canada et les différents investissements que Financement agricole Canada réalise dans les technologies agricoles, nous constatons un énorme regain de promesses au sein de l’industrie, mais aussi pour l’économie nationale. Je vous remercie donc pour cette question.
La présidente : J’aimerais poser une question qui pourrait également s’adresser à vous, monsieur Nolan, mais certainement à M. Yaghi. Monsieur Nolan, si vous avez des commentaires à faire, je vous en serais également reconnaissante.
Monsieur Yaghi, vous avez mentionné la connectivité, et je n’ai pas bien saisi le contexte dans lequel vous en avez parlé, car je pense aux collectivités rurales, isolées et même nordiques. Je pense également aux collectivités autochtones. J’aimerais comprendre la connectivité dans le contexte de l’agriculture.
Vous avez également dit que l’IA contribue à démocratiser les décisions. J’aimerais savoir comment cela fonctionne.
Vous avez ensuite évoqué le rôle de l’IA qui sert d’égaliseur, mais vous avez aussi évoqué cet écart entre les revenus des Autochtones et ceux des non-Autochtones. Je suis curieuse de savoir comment l’IA pourrait réduire cet écart. Nous avons entendu dans des témoignages précédents que l’IA peut aussi réellement renforcer la discrimination et les préjugés. J’aimerais comprendre comment l’IA pourrait le faire dans le contexte que vous nous avez présenté.
M. Yaghi : J’adore cette question. Je vais essayer d’être aussi bref que possible et de ne pas prendre une heure pour y répondre.
Commençons par la connectivité : pour utiliser des outils en ligne, il faut avoir accès à Internet. Malheureusement, dans certaines collectivités du pays, le taux de couverture haut débit avoisine les 50 %. C’est regrettable, car l’accès à ces outils leur permet vraiment de comprendre ces services et d’en bénéficier en toute simplicité. Cependant, lorsque nous réfléchissons à l’accessibilité, nous concevons nos produits en conséquence. Par exemple, avec AgExpert, nous proposons une version pour ordinateur de bureau, ce qui leur permet d’accéder à la technologie sans connexion permanente. Nous adoptons une approche axée sur la conception lorsque nous réfléchissons à la connectivité, à la compréhension du contexte et à la manière d’attirer de nouveaux acteurs dans le secteur. De plus, pour les personnes qui ne disposent pas de cette connectivité, nous sommes en mesure de leur fournir ce service, qu’elles aient ou non une connexion Internet.
En ce qui concerne la démocratisation, c’est un point important, car dans la façon dont nous appréhendons l’information dont nous disposons aujourd’hui, la confidentialité des données est bien sûr primordiale. Nous devons nous assurer qu’aucune donnée n’est utilisée à l’encontre de nos utilisateurs. En même temps, si nous collectons des données partout au pays, notre philosophie est la suivante : comment pouvons-nous faire en sorte que cela aide d’autres producteurs? Par exemple, lorsqu’il s’agit d’adopter de nouvelles pratiques — je vais entrer un peu dans les détails techniques — si je voulais adopter des cultures de couverture dans le sud-ouest de l’Ontario, l’investissement serait viable pour moi. Cependant, cela nécessite des capitaux, mais aussi quelques années avant de constater une augmentation des rendements de ma ferme. Si vous vouliez adopter des cultures de couverture en Saskatchewan, c’est une tout autre histoire. Vous ne pouvez pas le faire.
Cependant, lorsque nous observons la mise en place de ces pratiques à travers le pays, il existe actuellement des silos d’information. Les données dont nous disposons, au sein d’AgExpert par exemple, ainsi que sur d’autres plateformes, nous permettent d’éliminer ces silos — pour reprendre une référence agricole. Nous sommes en mesure d’échanger ces données et ces connaissances partout au pays, de sorte que des pratiques qui peuvent être bénéfiques en Nouvelle-Écosse pourraient potentiellement être adoptées en Colombie-Britannique dans certains écosystèmes. Nous sommes en mesure de diffuser ces connaissances partout au pays.
En ce qui concerne le rôle d’égaliseur, il s’agit d’utiliser cette base de données pour construire les modèles. Bien sûr, il faudra toujours se soucier des préjugés. Nous avons instauré des processus afin de les réduire le plus possible, mais ils seront parfois présents, surtout ceux qui sont involontaires. Parfois, certaines données peuvent être davantage concentrées sur une zone particulière. Nous devons nous soucier de la répartition géographique des données dont nous disposons.
Cependant, en fin de compte, nous sommes en mesure de diffuser ces connaissances au sein de la plateforme avec quiconque souhaite y accéder. Par exemple, au cours des prochaines semaines et des prochains mois, nous verrons apparaître davantage d’outils, y compris du côté de Financement agricole Canada avec AgExpert. Ainsi, les producteurs pourront se connecter à la plateforme et poser une question à l’outil pour savoir s’ils devraient réaliser un investissement en capital au cours des six prochains mois. Il fournira une série d’indicateurs pour évaluer la viabilité d’une telle décision.
Un statisticien célèbre a dit : « […] les modèles sont toujours faux, mais certains sont utiles. » C’est exactement la philosophie que nous adoptons. Il s’agit de leur transmettre les connaissances sur ce qui a déjà fait ses preuves...
La présidente : Merci.
M. Yaghi : Je suis désolé. J’ai essayé d’être bref.
La présidente : Nous vous en sommes reconnaissants. Monsieur Nolan, si vous avez des éléments à apporter à ce sujet, d’autant plus que vous vous concentrez sur l’Europe, nous serions heureux de recevoir votre réponse. J’imagine que certaines de ces questions se posent également là-bas.
La sénatrice Pate : J’aimerais revenir sur ce point et m’entretenir avec vous deux, monsieur Nolan par écrit et monsieur Yaghi ici même, sur les interactions entre l’IA et la prise de décision qui ont un impact sur les institutions démocratiques, les entreprises capitalistes et les moyens de se prémunir contre les grandes mesures monopolistiques. Je pense à Monsanto. Je regarde les sénatrices McCallum et Karetak-Lindell, car lorsqu’on pense aux collectivités autochtones et nordiques, un travail considérable a été accompli pour proposer des approches respectueuses du climat et de la terre en matière d’agriculture, de durabilité et d’élevage.
Je ne sais pas si vous vous êtes penchés sur ces domaines. Quelles sont les meilleures approches que vous ayez observées? Quelles sont les approches les plus égalitaires que vous ayez observées? Où se situent les menaces pour la démocratie auxquelles nous devrions prêter attention?
M. Yaghi : Merci beaucoup pour cette question. De notre côté, lorsque nous examinons l’application de ces outils, notre mandat comme société d’État est d’agir comme catalyseur pour le secteur, afin de garantir que les producteurs de toutes tailles aient accès à la technologie appropriée, mais aussi aux capacités adéquates.
En ce qui concerne l’information que nous sommes en mesure de communiquer, je reviendrai sur l’observation que j’ai faite au sujet de la péréquation, à savoir la possibilité de rendre ces données largement accessibles partout au pays, en particulier aux collectivités nordiques. Imaginons qu’un nouvel entrant arrive dans le secteur, mais qu’il ne sache pas dans quoi investir son temps, notamment en matière de pratiques agricoles ou de rotation des cultures. Ce n’est pas fondamentalement équitable pour lui, car il ne dispose pas de ces années d’expérience. Comment acquérir ces connaissances?
Encore une fois, il y a des nuances. Il n’y a jamais de solution miracle, mais nous avons beaucoup travaillé en coulisses pour élaborer ces modèles afin que, lorsqu’il s’agit de ces connaissances et de leur diffusion la plus large possible, elles soient accessibles à n’importe qui dans le pays, qu’il s’agisse d’une exploitation de 20 000 acres ou d’une exploitation de 200 acres dans le Nord de l’Ontario.
Le fait de leur donner les moyens de mieux comprendre où investir leur temps et leur argent réduit considérablement les risques. Je reviens aux exemples que j’ai cités concernant les facteurs de risque qu’une exploitation agricole doit prendre en compte. Je dirais que les agriculteurs canadiens ont la plus grande tolérance au risque, car chaque saison est une saison risquée, surtout avec la volatilité climatique actuelle.
Comment pouvons-nous leur fournir ces données? C’est notre rôle comme société d’État : fournir ces outils.
La présidente : Monsieur Nolan, nous attendons également votre réponse avec impatience.
La sénatrice McCallum : Je veux me pencher sur la gestion responsable de l’environnement. Comment la mettez-vous en pratique face aux impacts de l’agriculture? Je pense notamment aux engrais, aux herbicides et à la prolifération des algues bleu‑vert. De plus, l’IA utilise beaucoup d’eau pour refroidir ses machines. Si je comprends bien, cette eau doit être propre et non traitée. Pouvez-vous nous en dire plus à ce sujet?
M. Yaghi : Merci beaucoup pour cette question. Il y a quelques distinctions importantes à faire ici.
Je vais en fait retourner la question, car lorsqu’il s’agit d’utiliser des intrants comme les engrais, les agriculteurs ne veulent pas dépenser plus d’argent en engrais. Ils veulent dépenser le moins possible. Nous leur proposons des solutions grâce à notre programme, qui consiste essentiellement à leur montrer comment épandre les engrais en quantité adéquate, de la bonne manière et au bon moment. Nous leur fournissons ces renseignements afin qu’ils n’aient pas à utiliser de grandes quantités d’engrais.
Si l’on considère uniquement les sols du Canada, ceux-ci stockent plus de 25 ans d’émissions d’origine humaine.
Le carbone est un composant fondamental du sol — avec l’azote, l’acide phosphorique, la potasse — et le carbone organique est essentiel à toute vie végétale. Cette vie végétale est indispensable au bétail.
Nous constatons une baisse des émissions dans le secteur, ce qui est encourageant, mais l’utilisation de ces outils permettra en fait aux producteurs et aux exploitants partout au pays de prendre les meilleures décisions. En fin de compte, en matière d’épandage d’engrais, ils ne veulent pas dépenser plus; ils veulent dépenser moins. En ce qui concerne la promotion du carbone organique dans leur sol, cela permet en fait de capter le carbone de l’air et de le séquestrer dans le sol, et je suis sûr que le sénateur Black a de nombreuses discussions à ce sujet en ce moment.
En ce qui concerne la composante environnementale, il se passe beaucoup de choses. Notre capacité à utiliser cette technologie aura en fait un impact net positif sur notre inventaire climatique national global.
La sénatrice McCallum : Qu’en est-il de la consommation d’eau?
M. Yaghi : Je ne sais pas grand-chose sur la consommation d’eau de ces centres de données. Je n’y ai jamais accès, je ne peux donc pas faire d’observations pour le moment. Je me ferai un plaisir de me renseigner pour vous.
La présidente : Je crois que M. Nolan en a parlé, donc une réponse à ce sujet serait utile.
Il semble que nous soyons arrivés à la fin de nos questions pour notre premier groupe. Merci à vous deux pour vos exposés et vos réponses réfléchis.
Je vais maintenant présenter notre deuxième groupe. Nos témoins ont été invités à faire chacun une déclaration liminaire de cinq minutes. Suivront les questions des sénateurs.
Nous accueillons sur place Jahanzaib Ansari, directeur général de Knockri et, par vidéoconférence, tout droit de Taïwan, Audrey Tang, cyberambassadeur.e de Taïwan. Merci à vous deux d’être ici. J’invite maintenant M. Ansari à faire son exposé.
Jahanzaib Ansari, directeur général, Knockri : Merci de m’accueillir. Madame la présidente, honorables sénateurs et sénatrices, je vous suis très reconnaissant de m’offrir cette occasion.
Tout d’abord, je tiens à vous rendre hommage et à vous remercier pour votre engagement au service de la nation. C’est en effet un honneur pour moi d’être ici. Je vous remercie de m’offrir l’occasion de discuter avec vous de l’importance de l’intelligence artificielle pour les droits de la personne et la sécurité économique au Canada, surtout en ce qui concerne les groupes vulnérables et le droit international au travail.
Je m’appelle Jahanzaib Ansari. Je suis le fondateur et PDG de Knockri, une organisation canadienne active depuis une dizaine d’années. Notre mission est très simple : veiller à ce que chaque Canadien jouisse de chances équitables et égales, et à ce que nul ne soit privé des possibilités auxquelles il a légitimement droit par des « gardiens » injustes.
Notre plateforme est utilisée par de grandes organisations complexes des secteurs privé et public pour faciliter le recrutement, les promotions et la formation. Notre solution est basée sur l’intelligence artificielle, comme je le disais, et nous l’avons lancée il y a environ 10 ans. Collectivement, les organisations qui utilisent notre solution représentent une main-d’œuvre d’environ 3 millions de personnes, du Canada au Tadjikistan en passant par la Thaïlande. Nous couvrons une main-d’œuvre assez vaste depuis maintenant 10 ans. La façon dont j’ai lancé cette entreprise est extrêmement intéressante.
Il y a environ 12 ans, je postulais à des emplois et je ne recevais tout simplement aucune réponse de la part de nombreux employeurs. J’ai un long prénom à consonance étrangère, « Jahanzaib », et je ne recevais aucune réponse. C’était une grande source de frustration. J’ai donc anglicisé mon nom. Je suis passé de Jason à Jordan, puis à Jacob, et littéralement, en six semaines, j’ai trouvé un emploi.
Je ne suis pas ici pour susciter la compassion, mais j’ai le sentiment qu’il y a tant de Canadiens qualifiés qui sont probablement ignorés, et qu’il doit exister une meilleure solution pour lutter contre les préjugés et rendre les processus de recrutement, de promotion et de formation plus efficaces. J’ai donc fait équipe avec un spécialiste en apprentissage automatique et un psychologue du travail pour créer Knockri.
Nous avons ainsi créé une solution qui aide les organisations à réduire les préjugés lors du recrutement, à accroître la diversité sur la base du mérite, à augmenter l’efficacité et à offrir une excellente expérience aux candidats. Et, contrairement à certains autres projets d’intelligence artificielle très médiatisés en ce moment, nous avons monté notre entreprise à partir de zéro en prévoyant de nombreux garde-fous et en veillant vraiment à ce que chaque décision puisse être retracée jusqu’à la manière dont elle a été prise.
Nous avons donc essentiellement créé une « boîte de verre » algorithmique transparente et vérifiable qui inspire une grande confiance. Mon cofondateur est Faisal Ahmed, un spécialiste en apprentissage automatique de l’Université de Toronto; et notre directeur scientifique est David Mayers, un spécialiste de la sélection et de l’évaluation.
Chers sénateurs, aujourd’hui, bien sûr, l’intelligence artificielle a le potentiel, soit de renforcer les inégalités, soit de contribuer à les réduire. D’après les observations que j’ai faites au cours d’une décennie de collaboration avec nos clients des secteurs privé et public, j’aimerais simplement soulever quatre points succincts, après quoi nous pourrons répondre à vos questions.
Je dois admettre que l’intelligence artificielle est de plus en plus liée au droit international de la personne en matière de travail, et c’est bien sûr ce que nous observons sur le marché, de pair avec certains défis qui en découlent. Par contre, lorsque l’intelligence artificielle est formée de manière responsable, elle peut effectivement contribuer à faire respecter de nombreux droits fondamentaux, y compris le droit international de la personne en matière de travail.
Au vu de l’expérience de bon nombre de nos clients, qu’il s’agisse des secteurs privé et public ou des forces armées, nous estimons que la transparence est essentielle et que la responsabilisation n’est pas négociable. Il est donc extrêmement important de mettre en place des solutions vérifiables, que l’on peut réellement examiner pour comprendre comment une décision est prise.
Enfin, tout cela est étroitement lié à la sécurité économique et à notre compétitivité nationale. Il existe bien sûr un risque de préjugés dans les algorithmes; cependant, nous devons également veiller à ce que la réglementation ne nous freine pas au point de compromettre l’adoption de ces technologies et de nous faire prendre du retard.
En conclusion, il est vrai que l’intelligence artificielle évolue à un rythme vertigineux, mais nous avons déjà connu des transitions similaires. Si elle est guidée de manière responsable, l’intelligence artificielle peut élargir les possibilités, réduire les préjugés, renforcer la sécurité économique et, bien sûr, défendre les droits fondamentaux.
Je vous remercie encore de m’avoir offert l’occasion d’être ici, et j’attends vos questions avec impatience.
La présidente : Merci, monsieur Ansari.
Audrey Tang, cyberambassadeur.e de Taïwan, à titre personnel : Madame la présidente, madame la vice-présidente, honorables sénateurs et sénatrices, merci de m’avoir invitée à comparaître devant vous à titre personnel. Je m’appelle Audrey Tang, et le point de vue que je vais vous présenter s’appuie sur mon travail comme cyberambassadrice de Taïwan, mon poste de chercheuse à l’Oxford Institute for Ethics in IA et mon expérience comme première ministre des Affaires numériques de Taïwan.
Au cours de mon mandat au sein du gouvernement, notre mission ne consistait pas seulement à amener les gens à faire confiance à la technologie; il s’agissait de rendre les institutions numériques dignes de la confiance des citoyens.
Dans votre étude, vous vous interrogez sur l’impact de l’intelligence artificielle sur les droits de la personne, la sécurité économique, les groupes vulnérables et le droit international de la personne en matière de travail. Je voudrais proposer un cadre de réflexion : l’intelligence artificielle est plus qu’une simple automatisation. Elle redistribue l’attention, l’autorité et le pouvoir de négociation, et dans une démocratie, cette redistribution doit être visible, contestable et cogérée.
Le succès de Taïwan dans la lutte contre les publicités frauduleuses générées par l’intelligence artificielle a montré que les démocraties n’ont pas à choisir entre un contrôle technocratique et l’inaction des plateformes. Les citoyens ont délibéré sur l’équilibre entre la prévention de la fraude et la liberté d’expression, et le même principe s’applique au travail. Les personnes concernées devraient contribuer à définir les règles avant que les systèmes ne se figent en infrastructures.
Le droit en matière de travail à l’ère de l’intelligence artificielle doit inclure trois droits concrets : le droit d’apprendre, le droit de savoir et le droit de contester.
Le droit d’apprendre signifie une formation avant le remplacement, et non après. Le travail est plus qu’un simple revenu : c’est un apprentissage et un sentiment d’appartenance, d’attention et de dignité.
Le droit de savoir signifie que lorsque l’intelligence artificielle influe sur le recrutement, les horaires, les promotions, les avantages sociaux, l’éducation ou les services publics, les personnes concernées doivent savoir qu’elle est utilisée, qui en est responsable et quelles données déterminent la décision. Une décision prise en « boîte noire » ne devrait pas être considérée comme une procédure régulière.
Le droit de contester signifie que les personnes concernées peuvent contester les résultats sans avoir besoin d’un diplôme en informatique. Les recours doivent déboucher sur des mesures correctives, notamment des rectifications, des indemnités, des changements de politique ou le retrait pur et simple du système.
C’est particulièrement important pour les personnes vulnérabilisées par les systèmes existants. Je pense aux collectivités autochtones, aux travailleurs migrants, aux personnes handicapées, aux enfants, aux personnes âgées, aux communautés racisées et à celles sous-représentées dans les données sur l’emploi et les compétences. L’intelligence artificielle ne doit pas devenir un nouveau moyen d’extraire des connaissances sans consentement, d’évaluer les personnes hors contexte ou de rendre l’exclusion plus efficace.
À Oxford, mes travaux sur l’intelligence artificielle civique traduisent l’éthique de la bienveillance en six questions de gouvernance : écoutons-nous ceux qui sont les plus exposés au préjudice? Y a-t-il une personne désignée et responsable? Le système fonctionne-t-il en tenant compte du contexte? Les personnes concernées ont-elles des recours? Favorise-t-il la solidarité au lieu de la dépendance vis-à-vis d’un fournisseur? Et sait-il quand s’arrêter?
Pour une intelligence artificielle à fort impact, les démocraties devraient exiger la traçabilité des décisions, des audits indépendants, des voies de recours accessibles, la publication des rapports d’incidents, la cogouvernance des travailleurs et des communautés, des clauses de caducité et des règles de passation de marchés qui évitent la dépendance vis-à-vis d’un fournisseur.
Un système démocratique doit pouvoir être interrompu, mis en pause, contourné ou retiré sans perturber les services essentiels dont les citoyens dépendent.
La prospérité inclusive est aussi synonyme de sécurité démocratique. Le Canada et Taïwan sont tous deux des sociétés libres et ouvertes, et nous savons que nos adversaires mettent à l’épreuve les fondements de notre confiance, mais la souveraineté n’est pas synonyme d’isolement. C’est le moyen de protéger les gens et de coopérer sans renoncer au jugement public.
À l’agenda familier consistant à protéger, autonomiser et construire, j’aimerais ajouter un verbe : cogouverner.
Protéger les gens du danger, leur donner les moyens d’agir grâce à des compétences et des connaissances, construire des infrastructures publiques fiables et cogouverner l’IA avec les travailleurs, les familles, les communautés et les générations futures qui vivront avec ces conséquences.
Un ancêtre suffisamment avisé ne se demande pas si les machines sont prêtes à remplacer les humains; un ancêtre suffisamment avisé se demande comment les machines peuvent aider les humains à prendre soin les uns des autres, à délibérer ensemble et à rester fidèles à ceux qui ne sont pas encore nés.
Personne ne devrait être privé de son libre arbitre par l’automatisation. Les connaissances, la langue ou le travail d’aucune communauté ne devraient être traités comme de la matière première sans consentement. Aucun travailleur ne devrait avoir à négocier seul avec une boîte noire.
Je vous remercie de votre attention. Je suis prête à répondre à vos questions.
La présidente : Merci beaucoup à vous deux pour vos présentations très captivantes. Je suis sûre qu’on vous posera beaucoup de questions.
La sénatrice Arnold : Merci à vous deux d’être ici. C’était vraiment intéressant.
Madame Tang, je vous ai écoutée dans le balado « Wild » et je pense que la tâche la plus difficile qui vous attend aujourd’hui est de synthétiser tout ce que vous avez accompli, car vous avez fait beaucoup de choses.
Tout d’abord, avez-vous écrit un livre?
Audrey Tang : Oui. Le livre appartient au domaine public et est disponible gratuitement en ligne sur Plurality.net.
La sénatrice Arnold : Génial, merci.
Vous incarnez vraiment le modèle de cogouvernance. J’aimerais que vous nous donniez un exemple concret de ce que vous avez mis en place à Taïwan pour assurer une véritable cogouvernance de l’intelligence artificielle.
Audrey Tang : Bien sûr.
Comme je l’ai mentionné, en 2024, nous avons convoqué ce que l’on appelle une « assemblée d’alignement » afin de lutter contre les méfaits de l’intelligence artificielle générative causés par les escrocs et les publicités frauduleuses en ligne. Comme chacun le sait, les « hypertrucages » étaient très répandus en 2024 dans toutes les démocraties, mais Taïwan étant le pays le plus libre d’Asie, pour ce qui concerne la liberté sur Internet, il ne peut tout simplement pas imposer une censure venue d’en haut. Nous avons donc envoyé des SMS à 200 000 numéros aléatoires à travers Taïwan pour demander ce que nous devrions faire ensemble. Les gens ont proposé leurs idées, et nous avons sélectionné 447 personnes pour former un mini-public statistiquement représentatif de l’ensemble de la population, réparties en tables de 10. Elles ont délibéré. La seule règle simple était que l’intelligence artificielle ne servait que de facilitateur, et qu’elles devaient convaincre les neuf autres personnes de leur table avant que leur idée ne soit retenue.
Pour résumer, nous avons mis en œuvre un ensemble d’idées approuvées par plus de 85 % des participants du mini-public et acceptables pour les 15 % restants. Ces idées comprennent la responsabilité solidaire, l’obligation de « connaître son client » et le ralentissement des connexions pour les plateformes étrangères qui ne respectent pas nos règles de responsabilité. Tout au long de l’année 2025, les publicités par usurpation d’identité, ou « hypertrucage », ont diminué de plus de 90 %. Je pense que cela a démontré de manière concluante que lorsque les gens sont prêts à participer à la discussion, l’idée n’est pas d’exercer un contrôle descendant, mais d’agrandir la table.
Je vous remercie.
La sénatrice Arnold : Merci. Ça prend juste beaucoup plus de temps, n’est-ce pas?
Audrey Tang : Ça prend tout un après-midi. C’est ce qu’on appelle un sondage délibératif. Il prend autant de temps qu’un sondage rigoureux, c’est-à-dire une journée ou quelques jours en général.
La sénatrice Arnold : Deuxièmement, j’ai trouvé que vous aviez très bien expliqué les différences entre l’intelligence artificielle générale et certaines formes d’intelligence artificielle — je ne sais pas quels sont les termes exacts, peut‑être « intelligence artificielle à usage général », puis des formes particulières. Du point de vue de la consommation d’énergie, pourriez-vous nous les décrire, s’il vous plaît? C’est une question qui revient sans cesse.
Audrey Tang : Bien sûr.
À l’heure actuelle, dans l’entraînement de l’IA, ce qu’on appelle un grand modèle à usage général doit anticiper pratiquement toutes les utilisations, du repliement de nos chaînes de protéine au pliage de notre linge, dans le même modèle. Ce faisant, son entraînement est incroyablement inefficace sur le plan énergétique. Toutefois, lorsque nous savons ce que nous voulons qu’un modèle fasse, par exemple, plier des protéines ou plier du linge, nous pouvons alors l’entraîner à devenir un modèle propre à un domaine ou un modèle local qui intègre les contributions de la communauté locale tout en protégeant ses données contre l’extraction par des entreprises technologiques étrangères.
L’idée que je voudrais partager avec vous est qu’en ce qui concerne la partie extractive — celle qui consomme le plus d’énergie —, on peut considérer ces données comme du pétrole. Ce type d’extraction est acheminé vers une grande raffinerie quelque part, mais, pour l’entraînement local des petits modèles, nous pouvons considérer les données comme de la terre. La communauté locale s’en occupe collectivement, le raffine et l’entraîne en continu de sorte qu’une correction est instantanée dès qu’une erreur ou un biais est détecté. Cela évite de devoir attendre le cycle d’exécution énergivore de six mois.
La sénatrice Arnold : Merci.
La sénatrice Robinson : Mme Tang a peut-être répondu à certaines de mes questions, mais je voulais en poser une à M. Ansari.
Vous avez mentionné quatre points. Vous avez indiqué que lorsque l’IA est entraînée de manière responsable, elle peut respecter les normes, je crois. Vous avez également souligné que la transparence et la responsabilisation sont essentielles.
Je me demande si vous pouvez développer ces points et nous expliquer comment ces deux éléments s’appliquent au sein de votre entreprise. Comment vous assurez-vous que l’IA est entraînée de manière responsable? Comment garantissez-vous la transparence et la responsabilisation?
M. Ansari : Tout d’abord, merci beaucoup pour cette question.
Je vais vous donner une vue d’ensemble, car je ne suis pas très technique; cependant, je vais vous en dire assez pour que vous compreniez la solution.
Au sein de notre organisation, nous n’utilisons pas de grands modèles de langage, ce qui nous laisse une grande autonomie quant à la manière de former les données. Lorsque nous avons lancé l’entreprise, nous avons examiné objectivement une compétence. Que signifie « mentalité de croissance », de manière très objective? Que signifie « collaboration »? Que signifie « agilité »? À partir de ces définitions précises, nous avons cartographié le monde du travail en établissant une corrélation avec la réussite au sein du personnel.
Ainsi, lorsque je passe par ce processus, l’entraînement ne se fait pas à partir de données historiques et biaisées. Beaucoup de fournisseurs sur le marché se contentent d’une vision très générale — ce qui arrive assez souvent dans le secteur — et ils ont entraîné leurs modèles à partir de données historiques. S’il existe des biais dans ces données, ils se répercuteront dans l’algorithme, ce qui générera de nouvelles données.
Nous n’avons pas examiné les données historiques. Par exemple, si les membres d’un sous-groupe au sein d’une organisation — disons les hommes d’origine sud-asiatique — sont les plus performants dans ces emplois technologiques et que nous avons entraîné l’algorithme uniquement sur cette base, cela posera de nombreux défis lors de l’évaluation des femmes blanches ou de tout autre groupe.
Nous avons compris très tôt que nous ne pouvions pas procéder ainsi. C’est le premier point.
Le deuxième point est que nous disposons également d’un groupe diversifié d’évaluateurs, issus d’un certain nombre d’horizons différents et possédant des domaines de connaissances variés, qui ont également noté ces candidats, simplement pour vérifier la cohérence entre les deux évaluations.
Nous avons dû mener de nombreuses études avec des universités et diverses organisations, car c’est un domaine très litigieux lorsqu’il s’agit de justifier des décisions de ce genre. Ensuite, en ce qui concerne le secteur public fédéral, le processus passe par le crible de l’évaluation de l’impact algorithmique et de l’évaluation de l’impact sur la vie privée, et examine en détail comment ces décisions sont conçues.
Passer par un processus plus long avec l’équipe d’Innovation, Sciences et Développement économique, ou ISDE, puis celle du Bureau du Conseil privé, ou BCP, puis celle de la Commission de la fonction publique, ou CFP — cela a pris des années simplement pour s’assurer que le processus est vérifiable. C’est le premier point. Il est très transparent. Deuxièmement, la formation est également dispensée de manière très objective. J’espère que cela vous aide.
La sénatrice Pate : Cette question s’adresse aux deux témoins. Pourriez-vous nous parler de la manière dont vous mettez l’accent sur la transparence et la participation démocratique tout en restant conscients de la nécessité de partager et de protéger les informations relatives aux droits de la personne, en particulier dans une fédération comme la nôtre qui compte 13 ou 14 compétences? Je pense que cela diffère de la situation à Taïwan, mais je me laisserai corriger volontiers.
M. Ansari : Ma connaissance de certaines de ces compétences n’est pas très approfondie. Cependant, si je devais vous donner un exemple, nous avons eu le cas d’une femme issue de la communauté noire. Elle avait été négligée pendant très longtemps. Elle était en lice pour une promotion. Elle était bloquée à ce poste depuis environ cinq ans. On a fait appel à nous dans le cadre d’un processus et, après cinq ans, elle a finalement obtenu sa promotion. Elle a gravi les échelons, et cela nous a montré que, lorsqu’on met en place une solution qui uniformise les règles du jeu et effectue l’évaluation des personnes sur la base du mérite, cela respecte de nombreux droits de la personne fondamentaux, comme celui de bénéficier d’occasions justes et égales et de progresser dans sa carrière avec dignité.
De plus, sénatrice, nous ne conservons aucune information. Nous supprimons toutes les données, car elles ne nous sont de toute façon d’aucune utilité. Notre rôle est de nous demander comment aider ces particuliers à bénéficier d’une chance équitable et d’une égalité des chances, tout en leur donnant les moyens de ne pas être liés à une organisation qui stockerait leurs données.
Audrey Tang : Si vous me le permettez, j’aimerais faire la distinction entre les coalitions de données, c’est-à-dire des personnes qui mettent en commun des données d’une manière utile à tous les membres, et l’agrégation de données. Il est possible pour plusieurs acteurs, parties prenantes ou communautés de se joindre à une coalition de données sans partager de données brutes. Une technologie appelée « technologie à connaissance nulle » permet aux gens de prouver qu’ils sont capables de faire quelque chose, qu’ils possèdent certaines connaissances, ou que cette communauté peut répondre à un certain type de requête, et ce, sans révéler aucune des informations personnelles identifiables sous-jacentes.
Pendant la pandémie, à Taïwan, nous avons utilisé une méthode de traçage des contacts préservant la vie privée. Concrètement, un établissement imprime un nombre aléatoire sur le code QR affiché à l’entrée; une personne le numérise et l’envoie à un numéro bien connu, le 1922, mais l’entreprise de télécommunications ignore tout de la signification de ce nombre aléatoire, et l’établissement n’apprend rien — pas même le numéro de téléphone du visiteur — et l’État n’apprend absolument rien. Cependant, en cas d’infection, nous pouvons effectuer un traçage des contacts et recourir à la notification récursive, là encore sans compromettre la vie privée des personnes qui ne se trouvent pas dans la zone touchée.
J’espère que cet exemple donne une petite idée de la manière dont un système de partage de données à connaissances nulles peut réellement fonctionner.
La sénatrice McCallum : Je remercie les intervenants pour leur travail. Dans le rapport de 2024 des Nations unies intitulé Gouverner l’IA au bénéfice de l’humanité, il est indiqué ce qui suit :
Il existe aujourd’hui un manque de gouvernance mondiale en matière d’IA. Malgré de nombreux débats sur l’éthique et les principes, la mosaïque de normes et d’organismes est encore peu développée et présente de grandes lacunes. Le principe de responsabilité brille souvent par son absence, notamment lorsqu’il s’agit de déployer des systèmes d’IA incompréhensibles qui ont des effets sur autrui. [...]
On peut lire, en outre :
La mise au point, le déploiement et l’utilisation de la technologie ne peuvent être laissés aux aléas des marchés. Les gouvernements nationaux et les organisations régionales auront un rôle crucial à jouer, mais le caractère transfrontière de la structure et de l’application de la technologie appelle une approche globale. [...]
Il y est dit, au sujet des principes directeurs :
Ces principes tiennent compte du fait que la gouvernance de l’IA n’opère pas en vase clos et que le droit international, en particulier le droit international des droits de l’homme, s’applique à l’IA.
Pouvez-vous tous deux vous exprimer à ce sujet?
M. Ansari : Je peux bien sûr commencer à partir de mon expérience, puis je laisserai la parole à mon estimé collègue.
Sénatrice McCallum, en ce qui concerne une approche normalisée de la réglementation internationale en matière de droits de la personne, nous avons constaté jusqu’à présent que de nombreuses grandes organisations ont en réalité des comités d’éthique. Dans ces comités, chaque solution est analysée et évaluée en profondeur. S’il existe le moindre risque que cela ait un impact négatif sur un sous-groupe, la solution n’est pas retenue.
De mon côté, je n’ai pas encore vu de mesure adoptée à l’échelle mondiale, bien sûr, mais un certain nombre d’organisations ont des mandats très précis et concrets. Comme je le disais, c’est un sujet très litigieux. De nombreuses entreprises ont déjà été poursuivies en justice parce que ces algorithmes ont créé des biais. C’est le premier point.
Le deuxième point est que, en ce qui concerne le Canada, dans le cadre du mandat fédéral, nous, en tant que fournisseurs ou autres acteurs utilisant des algorithmes, devons nous soumettre à ces évaluations d’impact algorithmique. Elles reposent sur des critères de risque liés à l’importance de notre solution dans la prise de décision.
Si elle est utilisée par l’armée de l’air et que vous visez un bâtiment, par exemple, le risque est extrêmement élevé. Ce processus décisionnel doit être parfaitement compris, car il peut poser de nombreux défis. Notre solution présente un risque très faible, car nous ne faisons qu’apporter un soutien à la décision; en fin de compte, c’est toujours un être humain qui effectue l’examen du résultat.
D’après ce que j’ai pu observer à l’échelle internationale, il n’existe pas de lignes directrices établies pour le moment. L’Union européenne dispose d’une loi. Certains États américains ont adopté des lois; cependant, Trump a tenté de les supprimer, nous verrons donc comment cela évoluera.
Je dirais qu’à l’heure actuelle, le meilleur plan d’action, du moins au Canada, consiste à travailler avec des personnes comme Mark Schaan chez ISDE pour comprendre certaines des réglementations qu’ils mettent en place afin de s’assurer que chaque fournisseur est bien légitime.
Audrey Tang : Si je peux me permettre, je pense que le diagnostic du rapport est juste, qu’un ensemble disparate de principes sans obligations exécutoires ne permette pas de régir l’IA, qui est intrinsèquement un phénomène technologique mondial. Je pense que les démocraties, y compris les puissances intermédiaires, devraient mettre en place une gouvernance interopérable. Celle-ci ne devrait pas s’appliquer de la même manière partout dans le monde, mais, plutôt se composer de normes d’audit; de normes de signalement instantané; de traçabilité pour les médias synthétiques, comme nous venons de le mentionner; et d’exigences en matière d’approvisionnement qui évitent toute forme de dépendance envers un fournisseur. Tous ces éléments constituent des piliers qui peuvent fonctionner dans toutes les administrations sans qu’il soit nécessaire d’harmoniser toutes les règles nationales. Je pense que Taïwan et le Canada, en tant que sociétés libres et ouvertes, peuvent être des partenaires à part entière dans ce travail.
Le déficit de gouvernance mondiale, je crois, ne sera pas comblé par un autre principe universel, mais peut l’être par des obligations exécutoires qui rendent les principes contestables dans chaque domaine.
La sénatrice McCallum : Merci.
La présidente : Je suis ici complètement époustouflée par vos réponses respectives aux questions. Je ne crois pas que nous ayons entendu de telles réponses par le passé. Merci beaucoup.
Ma question à votre intention, monsieur Ansari, est la suivante. À la lumière des solutions pour des décisions exemptes de biais sur lesquelles Knockri travaille, je me demande : dans quelle mesure vos travaux ou des avantages que vous offrez sont-ils adoptés? Nous n’avons pas besoin de leurs noms, mais à quoi ressemblerait un client type dans le cadre du travail que vous effectuez?
M. Ansari : En ce qui concerne notre solution, je dirais les ministères du gouvernement fédéral, l’armée de l’air et une grande partie des forces armées. Ensuite, dans le secteur privé, ce sont de grandes organisations, telles que les entreprises de haute technologie, les sociétés d’experts-conseils, les banques, des entreprises du secteur des assurances, du secteur de l’éducation, etc.
La valeur ajoutée varie bien sûr d’une organisation à l’autre. Certaines organisations ont pour mandat d’accroître la diversité de genre et d’origine ethnique dans leurs listes de candidats. Là, l’accent est mis sur la manière dont nous pouvons examiner, tout d’abord, le bassin de talents et comprendre véritablement pourquoi certaines personnes ne sont pas retenues. Car, ce que nous avons constaté, à l’instar de mon expérience, c’est que, même si l’intelligence humaine est formidable, elle comporte également des défis. Nous ne sommes pas des êtres parfaits.
Je dirais donc que notre solution sert à accroître la diversité de genre et d’origine ethnique parmi les candidats présélectionnés. De nombreuses organisations l’utilisent désormais pour gagner en efficacité. Lorsque l’on postule à un emploi, on peut attendre très longtemps avant de recevoir une réponse. Cela permet à de nombreux recruteurs et équipes de ressources humaines de se concentrer sur le travail plus rentable que sont les entretiens en face-à-face, idéalement, et de laisser le travail fastidieux, où des biais peuvent s’immiscer, être géré par l’automatisation à ce stade.
C’est ce que nous avons constaté chez bon nombre de nos clients. Ils ont pu ainsi réaliser des économies de temps et d’argent considérables.
Récemment, madame la présidente, je dirais que cette solution est utilisée par l’armée de l’air pour augmenter l’efficacité de la formation.
Comme je le disais, cela est directement lié à la sécurité économique et à la compétitivité nationale. Nous constatons que le Canada fait face à de nombreux défis en matière de productivité et d’efficacité, ce que nous savons tous.
De plus, si je peux me permettre cette observation, de nombreux jeunes Canadiens quittent le pays, ce qui n’est pas bon signe. À titre d’exemple, un de mes amis d’enfance est parti en Floride. Des personnes hautement qualifiées quittent le pays, mais nous avons également des personnes très qualifiées ici même qui n’occupent pas les emplois qui leur conviennent.
On voit donc maintenant que cette solution est utilisée pour améliorer la compétence. Les universités l’utilisent pour rehausser la compétence des étudiants et s’assurer qu’ils possèdent les compétences recherchées par les organisations. Leur parcours vers l’emploi peut donc être beaucoup plus rapide également.
Elle touche à une grande variété de domaines. Bien sûr, en ce qui concerne l’adoption, ChatGPT l’a considérablement accélérée. Au début, cette technologie suscitait beaucoup de craintes, puis la formation a permis de surmonter certains défis et préjugés. J’ai l’impression que l’adoption est désormais bel et bien enclenchée.
La présidente : Merci beaucoup.
Madame Tang, il ne me reste plus beaucoup de temps, mais je suis vraiment intriguée par le modèle de gouvernance dont vous avez parlé. Vous dites, par exemple, qu’il est important que les personnes concernées contribuent à définir les règles. Vous mentionnez également qu’il est possible d’utiliser l’IA non pas par substitution, mais pour nous aider à interagir les uns avec les autres et à nous entraider. Pourriez-vous nous en dire un peu plus à ce sujet? Je m’intéresse également à l’adoption de l’approche que vous utilisez, que ce soit à Taïwan ou dans d’autres pays.
Audrey Tang : Merci. Je voudrais tout d’abord faire une distinction concernant l’IA qui automatise l’intelligence — parfois appelée « intelligence autoritaire » — et qui prend des décisions à la place des gens. Par exemple, il y a 10 ans, sur les réseaux sociaux, beaucoup de gens avaient le sentiment qu’on leur avait retiré le libre arbitre, car, auparavant, lorsque nous suivions les mêmes personnes, nous voyions le même fil d’actualité. Mais il y a 10 ans, cela a été remplacé par une IA très moralisatrice qui personnalisait notre fil d’actualité et encourageait l’« engagement par la provocation ». C’est très autoritaire.
À Taïwan, nous appelons cela l’« intelligence assistive », une autre sorte d’IA qui facilite le dialogue entre des personnes qui, autrement, ne seraient pas d’accord. Plutôt qu’un feu de forêt qui consume l’oxygène entre les gens, imaginez plutôt un feu de camp autour duquel les gens s’asseyent : il illumine les visages de personnes différentes de vous. Cependant, chaque feu de camp est entretenu par un groupe restreint de personnes, par exemple 10 personnes, ou 100 personnes, et ainsi de suite pour un feu de joie plus grand.
À Taïwan, nous avons conçu ce genre de média prosocial, comme Polis, une technologie ouverte utilisée, je crois, par plus d’une douzaine de pays, dont le Canada. L’idée est que, plutôt que de rendre l’indignation virale, Polis rend le recoupement viral. Pour devenir viral sur ce média prosocial, il ne met en avant que les idées sur lesquelles conviennent des personnes qui, autrement, ne seraient jamais d’accord. Ainsi, seuls ceux qui jettent des ponts deviennent viraux. Ils apaisent alors la polarisation des gens.
Notre démonstration a été suffisamment réussie pour que même les réseaux sociaux traditionnels, comme x.com — anciennement Twitter —, aient désormais adopté un algorithme semblable, appelé Community Notes, qui permet aux personnes faisant le pont entre différentes idéologies d’y écrire pour ajouter du contexte à toute fausse information virale, à toute désinformation ou simplement à toute information controversée.
Nous avons établi des partenariats avec les principales plateformes de réseaux sociaux pour mettre en œuvre les fonctionnalités de Community Notes, ainsi que les « notes collaboratives », qui sont des notes générées par l’IA, puis instantanément corrigées par des humains. L’objectif est que l’IA puisse apprendre ce qui peut être transposé d’une communauté à l’autre — par exemple, entre la communauté de la justice climatique d’un côté et celle de la protection de la création biblique de l’autre — et ainsi créer leurs vocabulaires respectifs. J’espère que cela illustre un peu le potentiel de rapprochement de ces technologies de modèles linguistiques.
La présidente : Merci. C’est très intéressant.
La sénatrice Robinson : Merci de vous joindre à nous, madame Tang. Pouvez-vous nous dire si le ministre des Affaires numériques de Taïwan a collaboré avec le ministre de l’Agriculture pour mener la transformation numérique dans l’agriculture? Lors du panel précédent, nous avons entendu Financement agricole Canada parler du contexte canadien de l’intégration de l’IA dans l’agriculture. Pouvez-vous nous donner un aperçu, d’après votre expérience en tant que ministre des Affaires numériques, des interactions entre les deux ministères à Taïwan?
Audrey Tang : Absolument. Nous avons effectivement collaboré avec le nouveau ministère de l’Agriculture pendant mon mandat. Les deux ministères ont été créés, plus ou moins, en l’espace d’un an. À Taïwan, bien sûr, nous aussi faisons face au problème de la pénurie de jeunes dans le secteur agricole, et le savoir-faire professionnel dont ils disposent dans un domaine particulier ne se transpose pas facilement à un autre domaine.
Nous avons principalement collaboré avec le ministère de l’Agriculture pour veiller à ce que la surveillance environnementale ne se limite pas à une seule installation de production, afin de garantir une vision à long terme sur les cultures à planter, les méthodes d’irrigation, la gestion de la relation client ainsi que la gestion des relations en ligne, etc. Nous avons mis en place un programme appelé TCloud, grâce auquel les petites et moyennes entreprises, dont certaines œuvrent dans le secteur agricole, peuvent toutes choisir parmi des milliers de fournisseurs.
L’idée ici est que nous mettons en œuvre la même transparence, la même portabilité des données et la même liberté de passer d’un fournisseur à l’autre, afin que les données restent la propriété des opérateurs agricoles. Ainsi, si un modèle de prévision ou un fournisseur ne correspond plus à leur situation donnée, ils sont libres de se tourner vers un autre fournisseur.
Pour inciter les fournisseurs à adopter le programme, nous avons à un moment donné proposé aux fournisseurs une subvention pouvant aller jusqu’à 80 % de la part du gouvernement, afin de les aider à démarrer, en particulier les petites et moyennes entreprises en démarrage qui mettent au point des logiciels pour le secteur agricole, et de les faire entrer sur ce marché. La subvention de l’État ne vise donc pas ici un champion national ou régional, mais plutôt la notion d’interopérabilité, de souveraineté et de propriété des données dans le secteur agricole, afin qu’ils puissent entraîner en collaboration leurs modèles propres au secteur.
Maintenant, d’autres secteurs adoptent également l’idée des coalitions de données. Par exemple, le secteur financier vient d’annoncer que les banques et les compagnies d’assurances utilisent désormais ce même principe pour entraîner leurs propres modèles sans sacrifier leur souveraineté et la propriété de leurs données.
La sénatrice Robinson : C’est fantastique.
Vous avez mentionné qu’à Taïwan, vous faites face au vieillissement des producteurs et des agriculteurs. C’est une situation à laquelle nous sommes aussi confrontés ici, au Canada, et nous assistons à une consolidation des exploitations agricoles motivée par la nécessité de réaliser des économies d’échelle pour rester en activité, être rentable et pouvoir survivre.
Quels sont les obstacles à Taïwan qui empêchent les jeunes de se lancer dans l’agriculture? Comment pensez-vous que l’IA pourrait mieux les aider ou les attirer? Les représentants de Financement agricole Canada nous ont parlé de la réduction des risques grâce à une meilleure prévisibilité. Pouvez-vous nous en dire davantage sur le sujet?
Audrey Tang : Absolument. Je dirais que la meilleure prévisibilité en est une composante majeure. Dans tout type de travail, y compris l’agriculture, nous devons prendre en compte les éléments fondamentaux que je viens de mentionner : l’apprentissage, l’appartenance, l’idée que nous pouvons prendre soin de nos communautés, ainsi que la dignité. Ces éléments sont tout aussi importants.
Comme nous venons de le mentionner, les systèmes d’IA qui favorisent la solidarité intergénérationnelle, la capacité de transmettre le savoir-faire d’un contexte à un autre sans sacrifier la sagesse locale, sans les réduire à de simples raffineries de pétrole ou à de la terre — je pense que c’est également très important.
De même, l’accès au capital et aux terres, la difficulté de transmettre les connaissances tacites d’une génération à l’autre, la dépendance traditionnelle par rapport à un certain nombre d’intermédiaires pour accéder au marché, etc., sont toutes des questions qui ne se résolvent pas par une consolidation encore plus poussée. Leur résolution passe par le fait que de petits opérateurs atteignent une échelle coopérative grâce à une infrastructure numérique partagée. Par exemple, notre plateforme de services agricoles par drone réunit 90 petits opérateurs qui partagent du matériel et certifient les pilotes et les dossiers de conformité. Aucun d’entre eux ne pourrait individuellement se permettre l’équipement ou assumer le fardeau réglementaire, mais, ensemble, ils atteignent cette échelle horizontale qui, auparavant, n’était accessible qu’aux grandes entreprises agroalimentaires. Je dirais que le rôle de l’État n’est pas de choisir des champions nationaux, mais de subventionner la liberté de choix. Merci.
La sénatrice McCallum : Vous pouvez répondre à cette question par écrit si vous le souhaitez, madame Tang. Comment le gouvernement fédéral peut-il soutenir au mieux la souveraineté des données autochtones?
Audrey Tang : Oui. Taïwan compte 16 nations autochtones et plus de 42 variantes linguistiques. Nous considérons donc que la souveraineté culturelle, mais aussi transculturelle — la capacité de traduire d’une culture à l’autre — est très importante. Lorsque nous parlons d’« IA souveraine » à Taïwan, nous ne parlons pas seulement d’un modèle développé localement et capable de s’exprimer en mandarin, en taigi, en hakka et dans d’autres langues autochtones. Il s’agit d’un processus reproductible permettant aux communautés linguistiques de s’approprier la composition socioculturelle de leurs données linguistiques, ainsi que les ensembles d’harmonisation, des moyens permettant aux gens de définir des limites quant à la manière dont l’IA doit entrer dans leur communauté, un peu comme un code de conduite pour les agents de l’IA.
Ensemble, ces deux éléments permettent à chaque communauté de sentir qu’elle est maître de sa propre détermination socioculturelle en matière d’entraînement des modèles linguistiques. Ils intègrent également la capacité de traduction transculturelle, de sorte que lorsqu’une langue ou une culture acquiert une certaine capacité, on peut facilement l’intégrer dans la communauté si celle-ci le souhaite. Cependant, l’autonomie et la souveraineté restent entre les mains de la communauté autochtone, et non d’une commission nationale imposée d’en haut. J’espère que je me fais bien comprendre. Je me ferai un plaisir d’apporter des précisions par écrit, mais c’est l’idée générale.
La sénatrice McCallum : Par écrit, ce serait parfait. Merci beaucoup.
La présidente : Souhaitez-vous ajouter quelque chose, monsieur Ansari?
M. Ansari : Il y a un dernier point que j’aimerais ajouter, car j’ai l’impression que la question de la transparence a été quelque peu négligée. Je voudrais m’étendre davantage sur ce sujet.
Nous avons constaté que les personnes, en particulier celles issues de groupes vulnérables, sont vraiment heureuses qu’on leur explique pourquoi on utilise une solution d’IA, car celle-ci suscite généralement beaucoup de craintes. Nous avons vu que, dès que nous commençons à présenter cela, nous contribuons à garantir que chaque personne ait une chance égale et équitable, et cela change complètement la dynamique de la conversation.
Donc, si vous deviez mettre en œuvre des solutions d’IA, je pense que cela ne devrait pas se limiter à un simple logiciel. Vous devez maîtriser cette compréhension comportementale et humaine pour leur expliquer pourquoi cela est fait et quels en sont les avantages. Sinon, ils en auront très peur et se méfieront beaucoup du secteur public.
La présidente : Merci beaucoup. Merci pour ce dernier point.
Je me sens optimiste après vous avoir écouté tous les deux. Vos réponses étaient incroyables. J’étais ravie d’entendre que la souveraineté n’est pas synonyme d’isolement, de parler de prospérité inclusive et de la manière d’utiliser l’IA pour réduire concrètement les barrières et les préjugés. Pour ma part, c’est ce que j’espérais entendre. Merci beaucoup.
Cela nous amène à la fin de notre panel. Merci à vous deux d’avoir contribué à notre travail. Cela nous a été très utile.
(La séance se poursuit à huis clos.)