Advocates demand proper consideration for AI regulation

Canadians deserve to be protected from AI overreach, but Bill C-27’s Artificial Intelligence and Data Act is not up to the task.

SEPTEMBER 25 2023 — Today 45 leading civil society organisations, experts and academics released an open letter to Industry, Science, and Economic Development (ISED) Minister François-Philippe Champagne outlining key concerns with the current draft of the Artificial Intelligence and Data Act (AIDA), currently wrapped into the government’s proposed privacy bill, Bill C-27. The House of Commons Industry and Technology Committee will begin its study of the legislation tomorrow, Tuesday, Sept. 26. 

The signatories are gravely concerned that shoehorning AI regulation into Privacy Bill C-27 will not allow for adequate consideration of AIDA, and will take necessary committee time and attention away from improving the privacy provisions of the bill. While advocating for separating AIDA into its own process, the signatories also provided Minister Champagne with bare minimum bottom-line recommendations for changes to AIDA. 

Key recommendations of the letter include: 

1. Recognizing privacy as a fundamental human right; 
2. Removing AI regulation from ISED’s sole jurisdiction, given ISED’s mandate to bolster the AI industry conflicts with the public interest in regulating the potential dangers of AI;
3. Addressing poorly defined language in AIDA that create loopholes and a lack of enforceable rules; 
4. Committing to far more active consultation with stakeholders beyond industry insiders; to ensure AIDA and subsequent AI rules are well balanced and rights-protecting; and 
5. Expanding AI regulation to apply to both the public and private sector, including government security agencies.

We know people in Canada are concerned: in the past two years, more than 10,000 signatures and letters were sent to government officials calling for strong action to address the impacts of AI and facial recognition. Since November 2021, more than 29,500 signatures have been collected by OpenMedia petitions calling for new privacy laws in Canada, and more than 17,800 messages have been sent to the government calling for enhanced personal privacy protections. 

Quotes

“By combining consideration of C-27’s privacy regulation with AI regulation, Minister Champagne is doing a disservice to both. Today we join our peers in calling on the government to take the time and space needed to ensure Canada’s AI rules comprehensively respect our human rights.”

- Matt Hatfield, Campaigns Director at OpenMedia

“Excluding private sector AI tech developed for government intelligence, defence and national security purposes from any form of regulation means a free pass for some of the most potentially harmful AI tools. If the government is serious about protecting the rights of people in Canada, AIDA isn’t up to task.”

- Tim McSorley, National Coordinator at the International Civil Liberties Monitoring Group

“The Artificial Intelligence and Data Act (AIDA) fails to capture the complexity of the harms and risks that AI can bring to bear on individuals, communities, and their fundamental rights. These rights and freedoms should be protected in our quick-shifting technological landscape, and AIDA is not fit to do so—AIDA is at risk of lagging behind the times before it can meet the present.”

• Daniel Konikoff, Interim Director of the Privacy, Technology & Surveillance program at the Canadian Civil Liberties Association

“AI regulation under AIDA lacks independent oversight, relies heavily on industry discretion and self-regulation, and fails to meaningfully consider systemic harms and human rights. In its current form, AIDA is far too underdeveloped to be a serious piece of AI legislation worthy of committee study.”

• Yuka Sai, Staff Lawyer at the Public Interest Advocacy Centre

“Canadians deserve AI legislation that prioritises human rights over economic development. AIDA fails to meet this standard. The power that AI technology has to enable mass surveillance, and the risk of mass rights violations created by unregulated government use of these tools, is too great to be brushed aside and left for later consideration.” 

• Aislin Jackson, Policy Staff Counsel at the British Columbia Civil Liberties Association

The Artificial Intelligence and Data Act (AIDA) is ill-considered and un-democratic. It has been driven by AI industry interests and not the public interest. Canadians deserve a genuine consultative process before such legislation can be passed.

• Andrew Clement, Professor Emeritus, University of Toronto (affiliation only)

 

Contact

Alex Nanoff, CCLA, [email protected]

Andrew Clement, Professor Emeritus, University of Toronto (affiliation only), 1 (250) 536-3029, [email protected]

Tim McSorley, National Coordinator, ICLMG, 613-241-5298

 

---

25 septembre 2023 – Aujourd’hui, 45 organisations de la société civile, experts et universitaires de premier plan ont publié une lettre ouverte adressée à François-Philippe Champagne, le ministre de Ministre de l’Innovation, des Sciences et de l’Industrie, exposant les principales préoccupations que suscite la version actuelle de la Loi sur l’intelligence artificielle et les données (LIAD), actuellement intégrée au projet de loi sur la protection de la vie privée proposé par le gouvernement, le projet de loi C-27. Le Comité de l’industrie et de la technologie de la Chambre des communes commencera son étude de ce projet demain, le mardi 26 septembre.

Les signataires s’inquiètent vivement du fait que mettre dans le même panier une réglementation sur l’IA et le projet de loi C-27 sur la protection de la vie privée ne permettra pas l’examen adéquat de la LIAD et privera le comité du temps et de l’attention nécessaires à l’amélioration des dispositions du projet de loi relatives à la protection de la vie privée. Tout en plaidant en faveur de la séparation de la LIAD en un processus distinct, les signataires ont également soumis au ministre Champagne des recommandations minimales sur les changements à apporter à la LIAD.

Les principales recommandations de la lettre sont les suivantes :

1. Reconnaître la vie privée comme un droit de la personne fondamental;
2. Soustraire la réglementation de l’IA à la compétence exclusive de l’ISDE, étant donné que le mandat de l’ISDE de soutenir l’industrie de l’IA entre en conflit avec l’intérêt public de réglementer les dangers potentiels de l’IA;
3. Remédier à la formulation mal définie de la LIAD qui crée des échappatoires et un manque de règles applicables;
4. S’engager à consulter beaucoup plus activement les intervenants, au-delà des initiés de l’industrie; veiller à ce que la LIAD et les règles d’IA qui en découlent soient bien équilibrées et protègent les droits;
5. Étendre la réglementation de l’IA aux secteurs public et privé, y compris aux agences de sécurité gouvernementales.

Nous savons que la population canadienne est inquiète : au cours des deux dernières années, plus de 10 000 signatures et lettres ont été envoyées à des responsables gouvernementaux pour leur demander de prendre des mesures énergiques afin de lutter contre les effets de l’IA et de la reconnaissance faciale. Depuis novembre 2021, plus de 29 500 signatures ont été recueillies par des pétitions d’OpenMedia réclamant l’adoption de nouvelles lois sur la protection de la vie privée au Canada, et plus de 17 800 messages ont été envoyés au gouvernement réclamant une meilleure protection de la vie privée.

Citations

« En combinant l’examen de la réglementation sur la protection de la vie privée du projet de loi C-27 avec celui de la réglementation sur l’IA, le ministre Champagne néglige ces deux aspects. Aujourd’hui, nous nous joignons à nos pairs pour demander au gouvernement de prendre le temps et l’espace nécessaires pour s’assurer que les règles canadiennes en matière d’intelligence artificielle respectent pleinement les droits de la personne. »

– Matt Hatfield, directeur de campagne à OpenMedia

« Exclure de toute forme de réglementation les technologies d’IA du secteur privé développées à des fins de renseignement gouvernemental, de défense et de sécurité nationale signifie que certains des outils d’IA les plus potentiellement dangereux bénéficient d’un passe-droit. Si le gouvernement veut vraiment protéger les droits des personnes au Canada, la LIAD n’est pas à la hauteur. »

– Tim McSorley, coordonnateur national de la Coalition pour la surveillance internationale des libertés civiles

« La loi sur l’intelligence artificielle et les données (LIAD) ne parvient pas à refléter la complexité des préjudices et des risques que l’IA peut faire peser sur les individus, les communautés et leurs droits fondamentaux. Ces droits et libertés doivent être protégés dans notre paysage technologique en évolution rapide, et la LIAD n’est pas apte à le faire – la LIAD risque d’être en retard sur son époque avant de pouvoir répondre aux exigences du présent. »

– Daniel Konikoff, directeur intérimaire du programme « Vie privée, technologie et surveillance » à l’Association canadienne des libertés civiles

« La réglementation de l’IA dans le cadre de la LIAD manque de surveillance indépendante, repose largement sur le pouvoir discrétionnaire de l’industrie et l’autoréglementation, et ne tient pas suffisamment compte des préjudices systémiques et des droits de la personne. Dans sa forme actuelle, la LIAD est bien trop peu développée pour constituer un texte législatif sérieux sur l’IA qui mériterait d’être étudié en comité. »

–  Yuka Sai, avocate salariée au Centre pour la défense de l’intérêt public

« La population canadienne mérite une législation sur l’IA qui accorde la priorité aux droits de la personne plutôt qu’au développement économique. La LIAD ne satisfait pas à cette exigence. Le pouvoir qu’a la technologie de l’IA de permettre la surveillance de masse, et le risque de violations massives des droits créé par l’utilisation non réglementée de ces outils par les gouvernements, sont trop importants pour être balayés du revers de la main et leur examen remis à plus tard. »

–  Aislin Jackson, conseillère politique à l’Association des libertés civiles de la Colombie-Britannique

La Loi sur l’intelligence artificielle et les données (LIAD) est malavisée et antidémocratique. Elle est guidée par les intérêts de l’industrie de l’IA et non par l’intérêt public. La population canadienne a droit à un véritable processus de consultation avant qu’une telle législation ne soit adoptée.
– Andrew Clement, professeur émérite, Université de Toronto (affiliation uniquement)

Personnes-ressources

Alex Nanoff, ACLC, [email protected]

Andrew Clement, Professeur émérite, Université de Toronto (affiliation uniquement), 1-250-536-3029, [email protected]

Tim McSorley, Coordonnateur national, CSILC, 613-241-5298