PÉRIODE DES QUESTIONS — Le ministère de la Sécurité publique
Les répercussions de l'intelligence artificielle
19 septembre 2024
Je vous souhaite la bienvenue, monsieur le ministre. J’aimerais vous poser une question sur l’intelligence artificielle et la sécurité publique.
Comme vous le savez, l’intelligence artificielle s’appuie sur des données pour guider ses algorithmes, et les systèmes d’intelligence artificielle sont vulnérables aux biais, surtout s’ils utilisent des données de source ouverte. Selon le registre canadien de suivi de la gouvernance automatisée, le gouvernement utilise environ 303 outils automatisés. Plusieurs d’entre eux sont utilisés à l’Agence des services frontaliers du Canada, ou ASFC, et d’autres à la Gendarmerie royale du Canada, ou GRC.
Les préoccupations au sujet des biais sont réelles. Si ces outils utilisés par les organismes de sécurité publique se basent sur des données biaisées, cela pourrait nuire considérablement à certaines personnes qui pourraient avoir à vivre toute leur vie avec les conséquences des décisions orientées par ces outils.
Le gouvernement utilise-t-il des données de source ouverte pour orienter les algorithmes des systèmes d’intelligence artificielle automatisés que vous employez, et quelles formations ou mesures de protection supplémentaires sont en place pour lutter contre ces biais potentiels?
Sénatrice, votre question est très pertinente. Il va sans dire que je partage votre préoccupation concernant le recours à l’intelligence artificielle ou concernant ces algorithmes qui pourraient, en fait, donner lieu à des biais. Nous travaillons tous sans relâche pour éliminer les préjugés systémiques au gouvernement et dans les institutions publiques. Nous ne voulons en aucun cas utiliser des technologies qui, paradoxalement, propageraient ou encourageraient ces préjugés.
Votre question est d’ordre technique. Je ne sais pas quels algorithmes en particulier sont utilisés ni si l’ASFC ou la GRC utilisent ces outils, mais je me ferai un plaisir de prendre note de cette question et de faire en sorte que Sécurité publique Canada, la GRC, l’ASFC et d’autres organismes chargés de l’application de la loi vous fournissent ces informations. C’est une très bonne question, et je ne me permettrais pas d’improviser une réponse à une question d’une telle importance.
