PÉRIODE DES QUESTIONS — L'immigration, les réfugiés et la citoyenneté
Les demandes d'immigration
30 octobre 2024
Sénateur Gold, depuis 2014, Immigration, Réfugiés et Citoyenneté Canada s’appuie de plus en plus sur les algorithmes d’intelligence artificielle dans le traitement des demandes d’immigration pour accroître son efficacité. Les sénateurs du Comité sénatorial permanent des affaires sociales, des sciences et de la technologie ont soulevé des préoccupations au sujet de la transparence, de la sécurité des données et des préjugés discriminatoires innés dans l’utilisation de l’intelligence artificielle. De nombreux Canadiens partagent nos préoccupations au sujet des évaluations asymétriques discriminatoires fondées sur des motifs tels que le pays d’origine, le sexe ou le statut socioéconomique. Au Royaume-Uni, un processus semblable de délivrance de visas par intelligence artificielle a été abandonné lorsque la partialité a été prouvée.
Sénateur Gold, les demandes légitimes au Canada, y compris les permis d’études pour les femmes et les filles afghanes, sont-elles menacées par l’apartheid basé sur le genre et refusées par des robots ou par des humains?
Je vous remercie de votre question et d’avoir soulevé un problème de plus en plus évident. Tout système qui utilise un ordinateur sera, dans une certaine mesure, également assujetti aux algorithmes qui y sont intégrés ou qui sont créés pour ce système.
Je ne sais pas ce qu’il en est pour ce qui est de votre question en particulier, mais la question de savoir dans quelle mesure nos systèmes, quelle que soit la façon dont ils sont gérés — y compris les systèmes utilisés par des personnes chargées d’évaluer des dossiers — contiennent des données biaisées, qu’elles soient intégrées ou non aux systèmes, est une question sérieuse, et je vais certainement porter cela à l’attention du ministre.
Merci, sénateur Gold.
Je pense que nous pouvons convenir qu’un processus décisionnel opaque fait en sorte qu’il est difficile, voire impossible, de contester des décisions discriminatoires.
Compte tenu de l’engagement du Canada à l’égard d’un système d’immigration équitable, comment le gouvernement du Canada assure-t-il la surveillance et la transparence afin qu’Immigration, Réfugiés et Citoyenneté Canada n’agisse pas de façon discriminatoire?
Il est toujours difficile d’éradiquer les biais qui font partie d’un système ou de sa structure et qui peuvent entraîner de la discrimination dans la prise de décisions. Je ne dirai pas que c’est plus difficile à faire, en cette ère d’intelligence artificielle et d’algorithmes, que ce ne l’était auparavant, mais ce n’est certainement pas plus facile à faire.
Encore une fois, je vais porter cette question à l’attention du ministre. Merci.
