Rapport ETHI sur la technologie de reconnaissance faciale publié

Le Canada manque d’un cadre juridique approprié pour réglementer la technologie de reconnaissance faciale, et sans elle, le risque de préjudice individuel et social est si élevé que nous avons besoin d’un moratoire sur son utilisation. La CCLA a avancé cet argument dans des soumissions à la récente étude sur la technologie de reconnaissance faciale (FRT) menée par le Comité permanent sur l’accès à l’information, la vie privée et l’éthique (ETHI). Nous sommes tout à fait d’accord avec les conclusions du Comité dans leur rapport publié le 4 octobre 2022 :

L’étude du Comité a confirmé que le cadre législatif actuel du Canada ne réglemente pas adéquatement la TRF et l’IA. Sans un cadre approprié, le FRT et d’autres outils d’IA pourraient causer des dommages irréparables à certaines personnes.

Le Comité estime donc que, lorsque la RFT ou d’autres technologies d’IA sont utilisées, elles doivent être utilisées de manière responsable, dans un cadre législatif solide qui protège les droits à la vie privée et les libertés civiles des Canadiens. Puisqu’un tel cadre législatif n’existait pas à l’époque, une pause nationale devrait être imposée à l’utilisation de la TVR, particulièrement en ce qui concerne les services policiers.

Le Comité formule 19 recommandations généralement solides. Les points saillants incluent des recommandations interdisant l’obtention d’informations personnelles obtenues illégalement et l’obligation de faire un rapport public lorsque la RFT ou d’autres outils algorithmiques, y compris des essais gratuits, sont acquis par des institutions gouvernementales. Ces recommandations aideraient à prévenir un futur scandale comme celui créé lorsque la GRC a secrètement utilisé le logiciel d’IA Clearview, une enquête conjointe des commissaires à la protection de la vie privée jugée illégale selon la loi canadienne.

D’autres recommandations clés visent la reddition de comptes et la transparence incluent la création d’un registre public d’IA des outils utilisés par les entités opérant au Canada, l’augmentation de l’engagement des parties prenantes de la société civile dans les processus existants d’évaluation de l’impact de l’IA, et l’établissement de « mesures politiques robustes au sein du secteur public pour l’utilisation de la technologie de reconnaissance faciale qui pourraient » [nous dirions devraient] « inclure un avis public immédiat et anticipé ainsi que des commentaires publics, la consultation avec des groupes marginalisés et des mécanismes de surveillance indépendants. »

Pour s’attaquer aux risques bien connus de biais et d’impacts discriminatoires des systèmes FRT, des recommandations demandent au gouvernement d’investir dans l’étude de l’impact de l’intelligence artificielle sur différents groupes, et d’assurer « une divulgation complète et transparente des biais raciaux, d’âge ou inconscients qui pourraient exister dans la technologie de reconnaissance faciale utilisée par le gouvernement, dès que le biais est détecté dans le contexte de scénarios de test ou d’applications réelles de la technologie, sous réserve de préoccupations de sécurité nationale. » Bien sûr, l’exclusion de la sécurité nationale pose problème, étant donné que les risques de discrimination sont particulièrement élevés dans des contextes comme la sécurité des frontières.

Il existe une série de recommandations concernant la nécessité de légiférer des protections, notamment :

• Définir les usages acceptables de la technologie de reconnaissance faciale ou d’autres technologies algorithmiques et interdire d’autres usages, y compris la surveillance de masse;
• Exiger, avant d’adopter ou d’utiliser la TVR, que les agences consultent le commissaire à la protection de la vie privée et déposent des évaluations d’impact sur la vie privée;
• Mise à jour de la Loi canadienne sur les droits de la personne afin de s’assurer qu’elle s’applique à la discrimination causée par l’utilisation de la technologie de reconnaissance faciale et d’autres technologies d’intelligence artificielle
• La mise en place d’un droit à l’effacement des renseignements personnels, y compris les images;
• La mise en place d’une exigence d’adhésion exclusive pour la collecte d’informations biométriques par les entités du secteur privé et l’interdiction de ces entités d’exiger une biométrie comme condition de service;
• Renforcer la capacité du commissaire à la protection de la vie privée à imposer des sanctions significatives en cas de violation de la loi.
• Élaboration d’un cadre réglementaire concernant les usages, interdictions, surveillance et confidentialité des technologies de reconnaissance faciale, incluant des mesures de surveillance proactives.

Enfin, l’une des recommandations les plus importantes concerne la nécessité de protéger les photos de personnes, qu’elles soient en ligne ou prises dans des espaces publics, contre la collecte non consentie pour une utilisation dans les systèmes d’IA. La recommandation 17 stipule : Que le gouvernement du Canada modifie la Loi sur la protection de la vie privée et la loi personnelle Loi sur la protection de l’information et les documents électroniques interdisant la pratique de capturer des images de Canadiens provenant d’Internet ou d’espaces publics pour le Objectif de peupler la technologie de reconnaissance faciale, les bases de données ou les logiciels artificiels algorithmes d’intelligence.

Le Comité ETHI a fait un bon travail pour synthétiser et refléter les préoccupations des témoins qui ont comparu devant lui et a proposé des recommandations qui contribueraient grandement à protéger les populations à travers le Canada contre les usages portant atteinte aux droits de la TRV et d’autres technologies alimentées par l’IA. C’est maintenant au gouvernement de prendre en compte les recommandations. Le rapport arrive à l’opportunité, avec le nouveau projet de loi sur la vie privée C-27 qui avance vers le comité. Des amendements à ce projet de loi pourraient et devraient être apportés en réponse à certaines de ces recommandations, et les réformes de la Loi sur la protection de la vie privée sont également indiquées. En attendant cette législation, le moratoire sur les services policiers fédéraux et l’utilisation du FRT par les industries canadiennes, recommandé par l’ETHI et appuyé par un large éventail de témoins, y compris la CCLA, devrait être convoqué immédiatement. Comme le souligne le Comité, les préjudices sont imminents sans action rapide.