Key stakeholders call for withdrawal of controversial AI legislation

Parliament can’t fix the Minister’s rushed, confused and flawed Bill; full public consultation needed now..

APRIL 24, 2024 - Today, nearly 60 leading civil society organizations, corporations, experts and academics released an open letter to Innovation, Science and Industry Minister François-Philippe Champagne, calling for the Artificial Intelligence and Data Act (AIDA) to be withdrawn and given a full public consultation. AIDA is currently bundled into the government's proposed privacy legislation, Bill C-27 , resulting in what the letter describes as a “hasty, confusing, and rushed” study by the House of Commons Industry and Technology Committee, and a “fundamentally flawed bill which lacks democratic legitimacy.” 

The open letter sharply criticizes the government's introduction of AIDA without the open public consultation process warranted for such highly impactful legislation. Stakeholders were not given any opportunity to hear what the government had in mind and to lay out their concerns and hopes for AI legislation before it was introduced. Furthermore, the government promised a major rewrite of much of AIDA on the first day of committee consideration, catching off guard both stakeholders who were attempting to participate, and committee MPs themselves. Some stakeholders were forced to rework and resubmit their input in response to the revised proposal, while others denied a formal feedback window raised fundamental unanswered questions about AIDA's current design and objectives.

The letter follows on September and December communications to the Minister raising serious concerns, but significantly increases the signatory count of past letters. The signatories, who reflect a diverse range of civil society groups, think tanks, and businesses, ask the government to:

• Withdraw AIDA from Bill C-27 and initiate a thorough and inclusive public consultation with ample time for submissions from various stakeholders and incorporation of their feedback;

• Reintroduce a revised and improved AIDA that addresses the concerns raised from the start.

Some signatories of today's letter have also endorsed a March 2024 package of bare minimum recommended changes to AIDA, in the event that the government insists on pushing forward with the current bill.

Today's letter follows on the government's budget announcement of a $5.1 million fund for the AI ​​and Data Commissioner proposed in AIDA, just 1/8th of what the Office of the Privacy Commissioner receives. This amount also pales in comparison to the government's $2 billion budgeted investment for stimulating the AI ​​industry, reflecting the government's unbalanced priorities for AI. 

In the past two years, more than 20,000 signatures and letters were sent to government officials calling for effective legislation to address the impacts of AI and facial recognition . Since November 2021, more than 34,000 signatures have been collected by OpenMedia petitions calling for new privacy laws in Canada, and more than 17,800 messages have been sent to the government calling for enhanced personal privacy protections. 

The Joint Letter has been signed by:-

Organizations:

• Amnesty International Canadian Section (English-speaking)
• BC Civil Liberties Association
• Canadian Arab Federation
• Canadian Civil Liberties Association
• Canadian Muslim Public Affairs Council
• Center for Digital Rights
• Center for Free Expression
• Communications Program, Glendon College, York University
• Digital Public
• National Federation of Teachers of Quebec (FNEEQ-CSN)
• Firearms Institute for Rational Education
• International Civil Liberties Monitoring Group
• InterPares
• Just Peace Advocates/Mouvement Pour Une Paix Just
• League of Rights and Freedoms
• Macdonald-Laurier Institute
• Mines Action Canada
• National Union of Public and General Employees (NUPGE)
• NSTP Consulting Corp.
• OpenMedia
• Privacy and Access Council of Canada
• Public Interest Advocacy Center (PIAC)
• Response Marketing Association
• Rideau Institute on International Affairs
• Tech Reset Canada

Individuals:

• Alessandra Renzi, Associate Professor, Concordia University
• Alexandra Flynn, Associate Professor, UBC
• Andrew Clement, Professor emeritus, University of Toronto
• Azeezah Kanji, legal academic and journalist
• Bianca Wylie, writer and public technology advocate
• Dr. Blayne Haggart, Associate Professor, Department of Political Science, Brock University
• Dr. Brenda McPhail, Public Policy Program, McMaster University 
• Christelle Tessono, Technology Policy Researcher University of Toronto
• Dr. Colin Bennett, University of Victoria
• Daniel Konikoff, University of Toronto
• Evan Light, Associate Professor, York University
• Fenwick McKelvey, Associate Professor, Concordia University
• Jane Bailey, Professor, University of Ottawa Faculty of Law
• Joanna Redden, Associate Professor, Western University
• Jonathan Obar, Associate Professor, York University
• Jonathan Roberge, full professor, INRS
• Dr. Kate Milberry
• Dr. Kate Tillecczek, York University
• Dr. Kristen Thomasen, Assistant Professor, UBC
• Leslie Shade, Faculty of Information, University of Toronto 
• Luke Stark, Assistant Professor, Western University
• Mariette Pilon, lawyer, member of the Quebec Bar
• Dr. Mary Ott, Assistant Professor, York University
• Matt Malone, Assistant Professor, Thompson Rivers University
• Natasha Tusikov, Associate Professor, Department of Social Science, York University
• Nicole St-Pierre, President, NSTP Consulting Corp.
• Nkechi E. Agugoesi, Internationally Trained Lawyer
• Ori Freiman, Digital Society Lab at McMaster University
• Sara M. Grimes, Professor, University of Toronto
• Dr. Sava Saheli Singh, York University
• Sharon Polsky, President of the Privacy and Access Council of Canada
• Spencer Izen, Researcher, BC Freedom of Information and Privacy Association
• Sun-ha Hong, Assistant Professor, Simon Fraser University
• Tamir Israel, Technology & Human Rights Lawyer

 

Selected Quotes:

“Ensuring that artificial intelligence tools, especially those that have the potential to impact crucial and sensitive areas of people's lives, are properly regulated is essential. This is especially true for those used by law enforcement and national security agencies. The government's lack of public consultation on this bill means these risks are not being properly addressed. AIDA is not up to task, and needs to be withdrawn." – Tim McSorley , National Coordinator at the International Civil Liberties Monitoring Group

“Artificial intelligence may be one of the most impactful developments of our times– but that makes it crucial that our government regulates it right, not first. Through AIDA's time in parliament we've seen the government bill largely rewritten by the own amendments, and critical stakeholders across civil society and corporate space report their feedback was hurriedly solicited after AIDA was designed, if at all. We believe Canadians deserve a better, more considered process than this, with all feedback fully and publicly accounted for.”- Matt Hatfield , Executive Director, OpenMedia

"AIDA is a disaster for privacy and human rights. The Parliamentary process is a disaster for democracy and Reconciliation." — Noa Mendelsohn Aviv, Executive Director, Canadian Civil Liberties Association

“The Industry Minister introduced AIDA in the absence of any public consultations, either with independent experts or Canadians more generally, resulting in deeply problematic legislation with widespread negative implications. The Minister's recently proposed amendments appear informed mainly by meetings with industry insiders but not a single organization representing those most likely to be affected by AI application. It is hardly surprising then that the re-written Bill fails to correct its fundamental flaws. AIDA needs a reset with a proper democratic process.” — Andrew Clement , Professor emeritus, University of Toronto

 “AI legislation should treat privacy as a fundamental right and guiding principle. AIDA treats it as an afterthought. Canadians deserve a better law, one that could only result from a better process.”— Aislin Jackson , Policy Staff Counsel, BC Civil Liberties Association

“Further consultations are necessary, not only because it is the right thing to do, but particularly at such a pivotal point in time, when citizens are questioning democratic practices more and more.” — Nicole St-Pierre , President, NSTP Consulting Corp.

“This open letter is a collective call to separate AIDA from Bill C-27 and redraft it. It is not only about improving procedural integrity but also ensuring legislation is crafted to follow the wisdom of the Canadian Mosaic. Additional consultation is necessary. With AI, it is better to get the Act right than get it fast.” — Ori Freiman , Digital Society Lab at McMaster University

-30-

 

Media Contacts

Matt Hatfield

Executive Director, OpenMedia

1 (888) 441-2640 ext. 0

[email protected] 

 

Tim McSorley

National Coordinator, International Civil Liberties Monitoring Group

1 (613) 241-5298

 

Aislin Jackson

BC Civil Liberties Association

1 (604) 687-2919, ext. 116

[email protected]

 

John Lawford

Executive Director, the Public Interest Advocacy Center

1 (613) 562-4002

[email protected]

 

Andrew Clement

Professor Emeritus, University of Toronto

1 (250) 526-3029

[email protected]
 

---

Des acteurs de premier plan réclament le retrait de la loi controversée sur l’intelligence artificielle

Le Parlement ne peut pas corriger le projet de loi précipité, confus et vicié que le ministre a présenté; une consultation publique en bonne et due forme est requise sans tarder.

Le 24 avril 2024 — Aujourd’hui, une soixantaine d’organisations de la société civile, d’entreprises, de spécialistes et d’universitaires de premier plan ont adressé une lettre ouverte au ministre de l’Innovation, des Sciences et de l’Industrie, l’honorable François-Philippe Champagne, dans laquelle ils réclament le retrait de la Loi sur l’intelligence artificielle et les données (LIAD) et la tenue d’une consultation publique en bonne et due forme. La LIAD est actuellement intégrée au projet de loi C-27 sur la protection de la vie privée émanant du gouvernement, ce qui a donné lieu à ce que les signataires décrivent dans leur lettre comme un examen« effectué à la hâte et de façon précipitée dans un climat de confusion » par le Comité permanent de l’industrie et de la technologie de la Chambre des communes, se soldant par « un projet de loi gravement et fondamentalement vicié, dépourvu de légitimité démocratique ».

La lettre ouverte critique vivement le fait que le gouvernement ait introduit la LIAD sans entreprendre le processus de consultation publique ouvert qui s’impose pour une loi aussi lourde de conséquences. Les parties prenantes n’ont pas eu l’occasion d’entendre le gouvernement s’expliquer sur ses intentions ni d’exprimer leurs préoccupations et leurs attentes relatives aux mesures législatives en matière d’intelligence artificielle, avant qu’elles ne soient introduites. De plus, le premier jour de l’examen en comité, le gouvernement a promis d’apporter des modifications substantielles à une grande partie de la LIAD, prenant au dépourvu à la fois les parties prenantes qui tentaient d’y participer et les députés qui siègent au comité. Certaines parties prenantes ont été contraintes de remanier et de soumettre à nouveau leurs observations en réponse à la nouvelle proposition, tandis que d’autres, privées de la possibilité de livrer officiellement leurs commentaires, ont soulevé des questions de fond sur la formulation et les objectifs actuels de la LIAD, qui restent sans réponse.

La lettre ouverte fait suite aux communications adressées au ministre en septembre et en décembre dans lesquelles de sérieuses réserves étaient soulevées. Le nombre de signataires a augmenté substantiellement en comparaison des lettres précédentes. Représentant un large éventail de groupes de la société civile, de groupes de réflexion et d’entreprises, ces signataires demandent au gouvernement :

• de retirer la LIAD du projet de loi C-27 et de lancer une consultation publique approfondie et inclusive qui prévoit suffisamment de temps pour que les arguments de toutes les parties prenantes soient entendus et pris en considération;
• de présenter une version révisée et améliorée de la LIAD qui répond aux préoccupations soulevées dès le départ.

Certains signataires de la lettre adressée aujourd’hui se sont également prononcés en faveur de l’ensemble des recommandations prioritaires publiées en mars 2024 qui correspondent au strict minimum nécessaire pour la modification de la LIAD dans le cas où le gouvernement s’obstinerait à faire adopter rapidement le projet de loi dans son état actuel.

La lettre ouverte publiée aujourd’hui donne suite à l’annonce d’un financement de 5,1 millions de dollarsaccordé au commissariat à l’intelligence artificielle et aux données que propose la LIAD, ce qui représente le huitième seulement de celui alloué au Commissariat à la protection de la vie privée du Canada. Ce montant paraît également dérisoire si on le compare à l’investissement de 2 milliards de dollars prévu dans le budget du gouvernement pour stimuler l’industrie de l’intelligence artificielle, une démonstration évidente de la discordance des priorités du gouvernement en la matière.

Au cours des deux dernières années, plus de 20 000 signatures et lettres ont été transmises à de hauts responsables du gouvernement pour réclamer des mesures législatives efficaces permettant d’aborder les répercussions de l’intelligence artificielle et de la reconnaissance faciale. Depuis novembre 2021, plus de 34 000 signatures ont été recueillies sur des pétitions lancées par OpenMedia pour réclamer de nouvelles lois sur la protection de la vie privée au Canada, et plus de 17 800 messages ont été envoyés au gouvernement pour réclamer l’amélioration des mécanismes de protection de la vie privée.

La lettre commune a été signée par :

Organisations :

• Action Mines Canada
• Amnesty International Section canadienne (anglophone)
• Association canadienne des libertés civiles
• Association des libertés civiles de la Colombie-Britannique
• Centre pour la liberté d'expression
• Centre pour les droits numériques
• Coalition pour la surveillance internationale des libertés civiles
• Conseil canadien de la protection de la vie privée et de l'accès à l'information
• Conseil canadien des affaires publiques musulmanes
• Digital Public
• Fédération canado-arabe
• Fédération nationale des enseignantes et enseignants du Québec (FNEEQ-CSN)
• Institut des armes à feu pour l'éducation rationnelle
• Institut Macdonald-Laurier
• Institut Rideau des affaires internationales
• Inter Pares
• Just Peace Advocates/Mouvement pour une paix juste
• Ligue des droits et libertés
• NSTP Consulting Corp.
• OpenMedia
• Programme de communication, Collège Glendon, Université de York
• Response Marketing Association
• Syndicat national des employés généraux et du secteur public (SNEGSP)
• Tech Reset Canada

Personnes :

• Alessandra Renzi, professeure agrégée, Université Concordia
• Alexandra Flynn, professeure agrégée, Université de la Colombie-Britannique
• Andrew Clement, professeur émérite, University de Toronto
• Azeezah Kanji, professeur de droit et journaliste
• Bianca Wylie, rédactrice et promotrice des technologies publiques
• Blayne Haggart, professeur agrégé, Département de sciences politiques, Université Brock
• Brenda McPhail, Programme de politique publique, Université McMaster
• Christelle Tessono, chercheuse en politique technologique, Université de Toronto
• Colin Bennett, Université de Victoria
• Daniel Konikoff, Université de Toronto
• Evan Light, professeur agrégé, Université York
• Fenwick McKelvey, professeur agrégé, Université Concordia
• Jane Bailey, professeure, Université d’Ottawa, Faculté de droit
• Joanna Redden, professeure agrégée, Université Western
• Jonathan Obar, professeur agrégé, Université York
• Jonathan Roberge, professeure titulaire, INRS
• Kate Milberry
• Kate Tillecczek, Université York
• Kristen Thomasen, professeure adjointe, Université de la Colombie-Britannique
• Leslie Shade, Faculté d’information, Université de Toronto
• Luke Stark, professeur adjoint, Université Western
• Mariette Pilon, avocate, membre du Barreau du Québec
• Mary Ott, professeure adjointe, Université York
• Matt Malone, professeur adjoint, Université Thompson Rivers
• Natasha Tusikov, professeure agrégée, Département des sciences sociales, Université York
• Nicole St-Pierre, présidente, NSTP Consulting Corp.
• Nkechi E. Agugoesi, avocat ayant une formation en droit international
• ​​Ori Freiman, Digital Society Lab, Université McMaster
• Sara M. Grimes, professeure, Université de Toronto
• Sava Saheli Singh, Université York
• Sharon Polsky, présidente, Conseil du Canada de l’accès et la vie privée
• Spencer Izen, chercheur, B.C. Freedom of Information and Privacy Association
• Sun-ha Hong, professeur adjoint, Université Simon Fraser
• Tamir Israel, avocat spécialisé en technologie et droits de la personne

 

Citations :

« Il est essentiel de veiller à ce que les outils pour l’intelligence artificielle, en particulier ceux qui sont susceptibles de comporter des conséquences importantes sur des domaines cruciaux et sensibles de la vie des gens, soient correctement encadrés par la loi. Cela s’applique particulièrement à ceux qui sont utilisés par les forces de l’ordre et les agences de sécurité nationale. L’absence de consultations publiques par le gouvernement sur ce projet de loi dénote que ces conséquences ne sont pas prises en considération d’une manière adéquate. La LIAD n’est pas à la hauteur et doit être retirée. » — Tim McSorley, coordonnateur national de la Coalition pour la surveillance internationale des libertés civiles

« L’intelligence artificielle est peut-être l’un des développements les plus importants de l’époque où nous vivons. Il est capital par conséquent que notre gouvernement instaure une réglementation efficace, plutôt que d’être le premier à le faire. Depuis son dépôt au Parlement, le projet de loi a été largement remanié par les amendements mêmes du gouvernement. Des parties prenantes majeures de la société civile et du milieu des affaires nous apprennent qu’après l’élaboration de la LIAD, leurs observations ont été sollicitées à la hâte, pour ne pas dire jamais. Nous pensons que la population canadienne mérite un processus plus rigoureux et réfléchi qui rend compte publiquement et pleinement des observations présentées. » — Matt Hatfield, directeur général, OpenMedia

« La LIAD est un désastre pour la vie privée et les droits de la personne. Le processus parlementaire est un désastre pour la démocratie et la réconciliation. » — Noa Mendelsohn Aviv, directeur général, Association canadienne des libertés civiles

« Le ministre de l’Industrie a introduit la LIAD en l’absence de toute consultation publique, que ce soit avec des spécialistes indépendants ou avec la population canadienne de façon plus générale, ce qui a donné lieu à une loi hautement discutable qui comporte des conséquences négatives considérables. Les amendements proposés récemment par le ministre semblent reposer principalement sur les résultats de rencontres avec des initiés de l’industrie; pas une seule rencontre n’a eu lieu avec des organisations qui représentent les intérêts des personnes les plus susceptibles d’être affectées par les applications de l’intelligence artificielle. On ne s’étonnera donc pas que le projet de loi remanié n’en corrige pas les lacunes fondamentales. Il est indispensable de remettre les compteurs à zéro dans le cadre d’un processus démocratique crédible. » — Andrew Clement, professeur émérite, Université de Toronto

« Les mesures législatives en matière d’intelligence artificielle doivent traiter le respect de la vie privée comme un droit fondamental et l’énoncer comme principe directeur. Dans la LIAD, il a été pris en compte après coup. La population canadienne mérite mieux, c’est-à-dire une loi plus rigoureuse sur laquelle seul un processus rigoureux peut déboucher. — Aislin Jackson, avocate-conseil, BC Civil Liberties Association

« Il faut tenir de nouvelles consultations, d’abord parce que c’est la chose à faire, mais surtout parce que nous vivons un moment charnière où les citoyens remettent de plus en plus en question les pratiques démocratiques. » — Nicole St-Pierre, présidente, NSTP Consulting Corp.

« Cette lettre ouverte est un appel collectif pour que la LIAD soit retirée du projet de loi C-27 et reformulée. Il ne s’agit pas seulement d’améliorer l’intégrité de la procédure, mais aussi de veiller à ce que la loi soit élaborée de manière à incarner la sagesse de la mosaïque canadienne. Des consultations supplémentaires s’imposent. Lorsqu’il est question d’intelligence artificielle, il vaut mieux une loi sage qu’une loi irréfléchie adoptée avec précipitation. » — Ori Freiman, Digital Society Lab, Université McMaster

 

-30-

 

Relations avec les médias

Matt Hatfield

Directeur général, OpenMedia

1-888-441-2640, poste 0

[email protected]

 

Tim McSorley

Coordonnateur national, Coalition pour la surveillance internationale des libertés civiles

1-613-241-5298

 

Aislin Jackson

BC Civil Liberties Association

1-604-687-2919, poste 116

[email protected]

 

John Lawford

Directeur général, Le Centre pour la défense de l’intérêt public

1-613-562-4002

[email protected]

 

Andrew Clement

Professeur émérite, Université de Toronto

1-250-526-3029

[email protected]