Introduction

The laissez-faire era of technology regulation is now well and truly over. Governments around the world are racing to regulate technology companies large and small, as well as the impacts of the companies’ products, services, and business models on the societies they govern.

Canada is no stranger to these global trends. There are currently three significant bills before the Canadian Parliament that seek to regulate the technology sector and its impacts (C-11, C-18, and C-27), with more legislation under development. As this policy brief will show, however, there are significant tensions emerging between key elements of Canada’s domestic regulatory framework for the technology sector, and Canada’s stated foreign policy objectives in the digital sphere.

This brief will begin by exploring some of Canada’s key foreign policy objectives in the digital sphere, before describing how they are in tension with how key provisions of Bills C-11 and C-18 have been drafted. I will conclude with some thoughts on how Canada can and should achieve greater coherence between the domestic and foreign aspects of digital policymaking.

Canada’s Digital Foreign Policy, Summarized

Canada has long been seen on the world stage as a powerful advocate for human rights. While some observers have questioned whether Canada currently has a coherent foreign policy in place, Canada does have a long track record of international advocacy in support of a global, free, open, interoperable, secure, and reliable Internet. The strength of Canada’s commitment can be seen in the leadership role Canada has played in the Freedom Online Coalition (FOC)—a multilateral coalition of 36 like-minded governments that work together to advance Internet freedom worldwide. As the chair of the FOC in 2022, Canada led the drafting of the “Ottawa Agenda,” which sets forth 11 key principles for FOC member-states to pursue both at home and abroad. Three of the principles are especially relevant here:

1.      A commitment to “inclusive and open multi-stakeholder governance of digital technologies, including the Internet, and to sustained dialogue with external stakeholders to share knowledge and expertise…” (Principle B)

2.      A pledge to “advocate for a global, free, open, interoperable, secure and reliable Internet, to resist Internet fragmentation and promote accountable, inclusive, and responsive democratic societies…” (Principle D); and

3.      An undertaking to “[l]ead by example in upholding our commitments as members of the Coalition to respect our human rights obligations, as well as the principles of the rule of law, legitimate purpose, non-arbitrariness, [and] effective oversight, while calling for greater transparency and accountability within the private sector…” (Principle K).

Unfortunately, some provisions of Canada’s Bills C-11 and C-18 are difficult to reconcile with the key tenets of the FOC’s Ottawa Agenda.

Bill C-11 and the Regulation of Online Audiovisual Content

A first area of tension relates to Bill C-11’s treatment of online audiovisual content, especially user-generated content.

Bill C-11 is an act intended to reform and modernize Canada’s Broadcasting Act, which was last overhauled in the 1990s. Free expression scholars and courts around the world have long viewed the regulation of broadcasting as an exceptional area of law, where significant government interference with the right to free expression is justified on two grounds. The first is the scarcity of electromagnetic spectrum for conventional, over-the-air broadcasting, and the second is the “invasive” nature of broadcasting signals, which are “pushed” to radio and TV receivers located in the privacy of one’s home. Correspondingly, free expression law has long permitted greater restrictions on broadcasting than on other media of expression—such as print, film, or the online sphere.

Even so, following the government’s recent rejection of amendments adopted by the Senate, clauses 4.1 and 4.2 of Bill C-11 vest Canada’s broadcasting regulator—the CRTC—with the power to enact regulations that would apply to any audiovisual content hosted by a social media service that “directly or indirectly generates revenues.” The effect of these provisions is to empower the CRTC to regulate all audiovisual content hosted on social media platforms pursuant to its statutory authority. This is so because all content hosted by social media platforms indirectly generate revenues by increasing user engagement with their services, which is the foundation upon which their business models are built.

Regardless of the rationale for rejecting the Senate amendments, legislation that empowers a government body to enact regulations based on broadcasting law that could apply to all audiovisual content hosted by social media platforms is problematic from a free expression perspective. Under applicable international human rights law, legal restrictions on the right to free expression are valid only if they are intended to advance one of a small number of enumerated purposes, and then only if they are necessary and proportionate to achieving those purposes. Correspondingly, a broad grant of power to a regulator that encompasses all online audiovisual content is not consistent with Canada’s “human rights obligations, as well as the principles of the rule of law, legitimate purpose, [and] non-arbitrariness” emphasized in the FOC’s Ottawa Agenda.

Bill C-18 and the Future of the Internet

The text of Canada’s proposed Bill C-18 and recent developments in the House of Commons committee responsible for this proposed legislation exhibit further tensions between Canada’s digital foreign policy vision and its current approach to domestic legislation. While Bill C-18’s policy objective of ensuring the financial viability of Canadian journalistic organizations is laudable, the means being used do not align well with Canada’s foreign policy vision for an open and interoperable internet.

Bill C-18, which is also known as the Online News Act, seeks to require online intermediaries—such as those that operate search engines and social media platforms— to financially compensate Canadian news organizations for (1) facilitating access to news content “by any means”—including indexing, aggregating, and ranking news content and (2) reproducing “any portion” of any news content on their services.

There are many problems with the proposed legislation that have been the subject of extensive analysis and commentary by a range of actors. For present purposes, what is most problematic about the legislation is its premise that the facilitation of access to Canadian news content by search engines and social media platforms should result in such platforms paying financial compensation to news publishers. This notion fundamentally challenges the possibility of a free, open, and interoperable internet, especially since facilitation of access is a vague and amorphous concept that sweeps in hyperlinks. Should facilitation of access to internet content “by any means” become conditional on payment to copyright holders, significant tears may begin to appear in the fabric of the World Wide Web—which is ultimately nothing more than a collection of hyperlinked hypertext webpages.

These problems are amplified by Bill C-18 making key limitations and exceptions to copyright—including fair dealing—unavailable to online intermediaries for the purposes of the legislation. In Canada, fair dealing furnishes the legal basis that search engines rely upon to index and rank content and make search results intelligible to their users. Fair dealing is also key to ensuring that the restrictions on free expression that are inherent in the protection of copyright are compatible with the Charter. Restricting the ability of online platforms that are subject to Bill C-18 to rely upon copyright exceptions such as fair dealing in reproducing or facilitating access to news content is therefore problematic from a free expression perspective, and these measures further amplify the challenge the bill poses to an open and interoperable internet.

Conclusion

This policy brief highlights some of the emerging tensions between Canada’s powerful international advocacy for online freedom and its domestic approach to digital policymaking. Explaining these tensions and inconsistencies is beyond the scope of this brief, although it is notable that Canada could achieve policy coherence simply by using more precisely drafted legislation to achieve its domestic policy achieves. Regardless, it behooves Canada to pursue domestic technology policy initiatives that are consistent with its foreign policy vision for the internet if our government is to be taken seriously on the world stage on these issues.

la version française

Une politique numérique nationale et étrangère cohérente pour le Canada?

Introduction

L’ère de la non-intervention en matière de réglementation de la sphère technologique est bel et bien révolue. Les gouvernements du monde entier s’empressent de réglementer les entreprises du secteur des technologies, grandes et petites, ainsi que les effets des produits, services et modèles d’affaires de ces entreprises sur les sociétés qu’ils gouvernent.

Le Canada ne fait pas exception à ces tendances mondiales. Il y a actuellement trois projets de loi importants devant le Parlement canadien qui visent à réglementer le secteur des technologies et ses répercussions : les projets de loi C-11, C-18 et C-27. Par ailleurs, d’autres projets de loi sont en cours d’élaboration. Toutefois, comme nous tenterons de le démontrer dans le présent exposé, il existe d’importantes tensions entre les éléments clés du cadre réglementaire du Canada pour le secteur de la technologie et les objectifs en matière de politique extérieure énoncés par le pays dans la sphère numérique.

Tout d’abord, il sera question de certains des principaux objectifs de la politique étrangère du Canada dans le domaine numérique. Nous décrirons ensuite les tensions entre ces objectifs et le libellé de dispositions clés des projets de loi C-11 et C-18. Nous conclurons par quelques réflexions sur la manière dont le Canada peut et doit parvenir à une plus grande cohérence entre les aspects nationaux et extérieurs de l’élaboration de politiques dans la sphère numérique.

Résumé de la politique étrangère du Canada en matière de numérique

À l’international, le Canada est depuis longtemps considéré comme un ardent défenseur des droits de la personne. Même si certain·e·s observateur·rice·s remettent en question la cohérence de la politique étrangère au pays, le Canada jouit d’une réputation de longue date à l’international en matière de revendications en faveur d’un Internet mondial, libre, ouvert, interopérable, sûr et fiable. La force de l’engagement du Canada se manifeste dans le rôle de chef de file qu’il a joué au sein de la Freedom Online Coalition (FOC, littéralement « Coalition pour la liberté en ligne »), une coalition multilatérale de 36 gouvernements aux vues similaires qui travaillent ensemble pour faire progresser la liberté au sein d’Internet dans le monde entier. À titre de président de la FOC en 2022, le Canada a dirigé la rédaction du Programme d’Ottawa, un document qui énonce 11 principes clés que les États membres de la FOC devraient appliquer en matière de politique nationale et extérieure. Trois des principes sont particulièrement pertinents en ce qui nous concerne :

1.      Un engagement en faveur d’une « gouvernance inclusive, ouverte et multipartite des technologies numériques, y compris Internet, et d’un dialogue continu avec les parties prenantes externes en ce qui a trait à la communication des connaissances et de l’expertise… » (Principe B);

2.      Un engagement à « plaider en faveur d’un Internet mondial, libre, ouvert, interopérable, sécurisé et fiable, à résister à la fragmentation d’Internet et à œuvrer en faveur de sociétés démocratiques responsables, inclusives et réactives… » (Principe D);

3.      Un engagement à « mener par l’exemple en défendant nos engagements en tant que membres de la Coalition et à respecter nos obligations en matière de droits de la personne, ainsi que les principes de la primauté du droit, du but légitime, du non arbitraire et d’une surveillance efficace, tout en appelant au renforcement de la transparence et de la responsabilité au sein du secteur privé… » (Principe K).

Malheureusement, certaines dispositions des projets de loi C-11 et C-18 du Canada sont difficiles à concilier avec les principes clés du Programme d’Ottawa de la FOC.

Projet de loi C-11 et réglementation du contenu audiovisuel en ligne

Un premier domaine de tension concerne le traitement du contenu audiovisuel en ligne dans le cadre du projet de loi C-11, en particulier le contenu généré par les utilisateur·rice·s.

Le projet de loi C-11 vise à réformer et à moderniser la Loi sur la radiodiffusion du Canada, qui a été révisée pour la dernière fois dans les années 1990. Les universitaires et les tribunaux du monde entier spécialisé·e·s dans le domaine de la liberté d’expression considèrent depuis longtemps la réglementation de la radiodiffusion comme un champ juridique exceptionnel, dans lequel une interférence considérable des pouvoirs publics avec les droits à la liberté d’expression ne peut être justifiée que pour deux raisons. La première est la rareté du spectre électromagnétique pour la radiodiffusion conventionnelle en direct, et la deuxième est la nature « invasive » des signaux de radiodiffusion, qui sont « poussés » vers les récepteurs de radio et de télévision situés des résidences privées des citoyen·ne·s. Par conséquent, la législation en matière de liberté d’expression autorise depuis longtemps des restrictions plus importantes sur la radiodiffusion que sur d’autres médias d’expression, comme la presse écrite, le cinéma ou Internet.

Malgré tout, à la suite du récent rejet par le gouvernement des amendements du Sénat, les articles 4.1 et 4.2 du projet de loi C-11 conféraient à l’organisme de réglementation de la radiodiffusion du Canada, le Conseil de la radiodiffusion et des télécommunications canadiennes (CRTC), le pouvoir d’adopter des règlements qui s’appliqueraient à tout contenu audiovisuel hébergé par un service de réseau social qui « génère des revenus de façon directe ou indirecte ». Ces dispositions ont pour effet de donner au CRTC le pouvoir de réglementer tout le contenu audiovisuel hébergé sur les plateformes de réseaux sociaux conformément à son autorité statutaire. En effet, l’ensemble du contenu hébergé par les plateformes de réseaux sociaux génère indirectement des revenus par l’augmentation de la participation des utilisateur·trice·s, ce qui est la base sur laquelle repose leur modèle d’affaires.

Quelle que soit la justification du rejet des amendements du Sénat, une législation qui autorise un organisme gouvernemental à adopter des règlements en vertu d’une loi sur la radiodiffusion qui pourrait s’appliquer à l’ensemble du contenu audiovisuel hébergé par les plateformes de réseaux sociaux est problématique du point de vue de la liberté d’expression. En vertu du droit international applicable en matière de droits de la personne, les restrictions juridiques au droit à la liberté d’expression ne sont valables que si celles-ci sont destinées à faire progresser un nombre restreint de buts précis. De plus, ces restrictions doivent être nécessaires et proportionnées à l’accomplissement de ces objectifs. De même, l’octroi à un organisme de réglementation de vastes pouvoirs qui englobent l’ensemble du contenu audiovisuel en ligne n’est pas conforme aux « obligations en matière de droits de la personne », ainsi qu’aux « principes de la primauté du droit, du but légitime [et] du non arbitraire » soulignés dans le Programme d’Ottawa de la FOC.

Le projet de loi C-18 et l’avenir d’Internet

Le texte du projet de loi C-18 proposé par le Canada et les évènements récents au sein du comité de la Chambre des communes responsable de ce projet de loi sont le signe que les tensions montent entre la vision du numérique qu’expose le Canada dans sa politique étrangère et son approche actuelle vis-à-vis de sa législation intérieure. L’objectif stratégique du projet de loi C-18 consistant à assurer la viabilité financière des organisations journalistiques canadiennes est louable, mais les moyens employés présentent certaines contradictions avec la vision du Canada en matière de politique étrangère soutenant l’ouverture et l’interopérabilité d’Internet.

Le projet de loi C-18, également connu sous le nom de Loi sur les nouvelles en ligne, vise à exiger des intermédiaires Web, comme les entreprises exploitant des moteurs de recherche ou des plateformes de réseaux sociaux, d’octroyer une compensation financière aux organisations journalistiques du Canada dans les situations suivantes : (1) la facilitation de l’accès aux nouvelles « par tout moyen », y compris un répertoire, une agrégation ou un classement du contenu journalistique; (2) la reproduction « en tout ou en partie » de contenu d’actualité sur leurs services.

La législation proposée pose de nombreux problèmes qui ont fait l’objet d’analyses et de commentaires approfondis de la part d’une série d’acteur·rice·s. En l’état actuel des choses, ce qui est le plus problématique dans cette législation, c’est qu’elle part du principe que la facilitation de l’accès au contenu de nouvelles canadiennes par les moteurs de recherche et les plateformes de réseaux sociaux devrait entraîner le versement d’une compensation financière par ces entreprises numériques aux organisations d’édition de nouvelles. Cette notion constitue une remise en question fondamentale de la possibilité d’accès à un Internet libre, ouvert et interopérable, en particulier parce que le concept de facilitation de l’accès est vague et difficile à délimiter, englobant même les hyperliens. Si la facilitation de l’accès au contenu Web « par tout moyen » devient conditionnelle à l’octroi d’un paiement aux détenteur·rice·s de droits d’auteur, cela pourrait provoquer d’importantes fissures dans le tissu du Web, qui n’est en fin de compte rien de plus qu’un ensemble de pages Web hypertextes hyperliées.

Ces problèmes sont amplifiés par le fait que le projet de loi C-18 rend les principales limitations et exceptions au droit d’auteur, y compris l’utilisation équitable, inaccessible aux intermédiaires Web aux fins de la législation. Au Canada, l’utilisation équitable fournit la base juridique sur laquelle les moteurs de recherche s’appuient pour indexer et classer le contenu et rendre les résultats de recherche intelligibles pour leurs utilisateur·rice·s. Elle est également essentielle pour garantir que les restrictions à la liberté d’expression qui sont inhérentes à la protection du droit d’auteur sont compatibles avec la Charte canadienne des droits et libertés. La restriction de la capacité des plateformes en ligne visées par le projet de loi C-18 à invoquer les exceptions au droit d’auteur, comme l’utilisation équitable, pour reproduire ou faciliter l’accès à du contenu de nouvelles est donc problématique du point de vue de la liberté d’expression, et ces mesures ne font qu’amplifier les difficultés posées par le projet de loi à l’ouverture et à l’interopérabilité de l’Internet.

Conclusion

Dans le présent exposé de politique, j’ai mis en lumière certaines tensions émergentes entre la puissante défense de la liberté sur Internet par le Canada à l’international et son approche intérieure dans le cadre de l’élaboration de politiques relatives au domaine numérique. L’explication de ces tensions et de ces incohérences dépasse le cadre du présent exposé, même s’il est à noter que le Canada pourrait parvenir à une cohérence stratégique simplement au moyen d’une législation rédigée avec plus de précision en vue de la réalisation de ses objectifs de politique intérieure. Néanmoins, si notre gouvernement veut être pris au sérieux sur la scène internationale par rapport à ces enjeux, il incombe au Canada de poursuivre des initiatives nationales en matière de politiques liées aux technologies qui soient cohérentes avec la vision de l’Internet qu’il énonce dans sa politique extérieure.

One of the most common and forceful criticisms of the Government of Canada’s planned online harms legislation, including early iterations and opinions on more recent versions, is that such regulations will have a profound chilling effect on people’s rights and freedoms, particularly online speech, sharing, and engagement.

These criticisms are not surprising. Such concerns have often been raised to criticize, oppose, or challenge laws and regulations aimed at addressing online hate, cyberharassment, disinformation, and other online harms. Not only that, social media platforms have been highly successful in weaponizing such claims to advance an anti-regulatory agenda by framing law and regulation as a threat to users and innovation.

To be clear, chilling effects are real. I’ve documented and explored them in my own work, including the corrosive chill of mass surveillance, automated legal enforcement, or online personal threats. But in the regulatory context, the evidence is far less clear. In fact, findings in recent empirical studies, including my own, demonstrate the contrary: regulations enacted to address online harms, like the forthcoming federal legislation, can actually have an empowering effect. They can encourage more speech and engagement online, especially by women and minorities. Any chill, by comparison, is negligible.

Chilling Effects and Our Permissive Legal Infrastructure

Concerns about chilling effects—that certain laws or regulations may “chill” or deter people from exercising their rights and freedoms—have long been central to debates about online content regulation and moderation.  Often corporate service providers and platforms have employed them, with great success, to curtail regulatory efforts and promote a broadly permissive legal and regulatory environment.

Perhaps the best example is Section 230 of the United States’ Communications Decency Act. This provides internet and social media platforms with near blanket legal immunity, shielding them from liability for user generated content and from lawsuits relating to how they moderate content. Section 230 is treated as a “sacred cow” by the U.S. technology industry. But it has been controversial as its broad legal protections now shelter powerful corporate platforms like Facebook, Google, and Twitter from legal accountability, while providing little incentive to address online abuse and other harms.

Chilling effect claims are a central reason for Section 230’s broad scope. The U.S. Fourth Circuit Court of Appeal’s famous 1997 decision in Zeran v America Online, which provided Section 230 with its broad interpretation, was premised on concerns about chilling effects. AOL had argued that without blanket immunity, online service providers (OSPs) would chill and suppress online speech to avoid liability. The court bought that anti-regulatory framing entirely, despite the fact that Section 230’s text, history, and original statutory intent did not justify Zeran’s blanket immunity interpretation.

Despite this, courts since have been largely unwilling to disturb Zeran’s broad Section 230 reading. Lawmakers have likewise failed to enact Section 230 reforms, despite years of advocacy by critics, fostering a deeply permissive legal and regulatory infrastructure for platforms.

Given that most of the powerful and popular social media platforms today are American, the country’s permissive regulatory approach, underpinned by Section 230, has impacted Canada. We have no general intermediary liability statute to police platforms. Both courts and governments have been very reticent to change that. When they have taken steps to do so, as the Trudeau government has experienced,  concerns, claims, and critiques about chilling effects resurface.

Despite their prevalence, there is little systematic study of such claims. Empirical research suggests that laws do not have the chilling effects that critics suggest. Furthermore, these criticisms also neglect other chilling effects—those caused online harm and abuse itself. Leading privacy and online abuse scholars like Danielle Citron have extensively documented how online harassment, bullying, and abuse have a profound chilling effect—a “totalizing and devastating impact”—that chills victims into silence, with disproportionate impact on women and minorities.

How Regulation Can Empower Speech

In one article published in 2019, Citron and I have explored how a cyber harassment law might impact what participants would be willing to say or do online. Using a study of nearly 1300 US-based adult internet users, we found that the cyber harassment law we tested would have a negligible chilling effect. Most participants indicated that the law would either have no impact or actually make them somewhat or much more likely to speak, share, and engage online. Not only that, we found the law would have an empowering effect—actually encouraging these activities, particularly for women.

We explained the findings using expressive law theory—a growing body of behavioural research that focuses on the expressive function of law—how it can shape behavioural norms by changing the social meaning of behaviour. When a law is passed, it provides a powerful symbolic or “informational” signal as to societal consensus or wider popular attitudes about social behavior, meaning how people should act and what behaviour is approved and disapproved. The law also provides information about the relative “risk” of certain behaviour. New online regulations raise the risk of abusing and reduce the risk of speaking and sharing online, especially for those most often victimized by online abuse. Over time, people internalize the attitudes and norms expressed by the law, altering broader behavioural norms.

Given that women are disproportionately targeted by online harassment and abuse, our findings made sense in terms of expressive law theory. A cyberharassment law designed to deter online harassment and abuse suffered by women had a positive expressive effect on women’s speech, sharing, and engagement online.

Our more forthcoming recent experimental research explored the impact of legal and platform measures aimed at protecting intimate privacy from abuse and invasion. We similarly found negligible evidence of any chilling effects. We did find that these privacy protective measures promoted trust, which is critical to fostering greater intimate sharing and expression, both online and off, especially among women and minority groups more likely to be victims of intimate privacy threats and similar abuse.

Our findings are consistent with other recent studies like computational social scientist Nathan Matias, who found that rules concerning online abuse in online communities helped curb online harassment and encouraged wider group participation.

Implications for Online Harms Law and Beyond

So, the critics are wrong. There is little evidence to support claims that online harms regulations—like Canada’s planned online harms laws—would chill speech and engagement online.

Our findings showed the very opposite: online harms legislation, if carefully tailored and communicated effectively, can support and encourage a wider diversity of speech and engagement, especially for those most often silenced due to being targeted for abuse—women and minorities. This is the empowering effect of online law and regulation.

la version française

La réglementation sur les préjudices en ligne soutient la prise de parole et la participation

L’une des critiques les plus fréquentes et avancées avec le plus de vigueur à l’égard des projets de loi du gouvernement du Canada en matière de préjudices en ligne, notamment en ce qui a trait aux premières itérations et aux opinions sur les versions plus récentes, c’est qu’une telle réglementation pourrait profondément dissuader la population d’exercer ses droits et les libertés, en particulier sur la prise de parole, la transmission de contenu et la participation sur le Web.

Ces critiques ne sont pas surprenantes. Ces préoccupations ont été fréquemment soulevées pour exprimer une critique, une opposition ou une contestation des lois et des règlements visant à lutter contre le discours haineux sur le Web, la cyberintimidation, la désinformation et d’autres préjudices en ligne. De plus, les plateformes de médias sociaux ont très bien réussi à instrumentaliser ces affirmations pour mettre de l’avant un programme d’opposition à ce type de réglementation, en présentant la législation et la réglementation en matière de préjudices sur le Web comme une menace pour les utilisateur·trice·s et l’innovation.

Pour être clair, on observe effectivement des effets dissuasifs. Je les ai documentés et explorés dans mon propre travail, y compris la profonde inhibition occasionnée par la surveillance de masse, les systèmes automatisés d’application de la loi, ou les menaces personnelles en ligne. Toutefois, pour ce qui est des effets du contexte réglementaire, les données sont beaucoup moins probantes. Effectivement, les résultats de récentes études empiriques, y compris la mienne, démontrent que le contraire est vrai : les règlements adoptés pour lutter contre les préjudices en ligne, comme la législation fédérale à venir, peuvent en fait produire un effet favorable à l’expression. Ils peuvent encourager la prise de parole et la participation en ligne, en particulier par les femmes et les personnes issues d’une minorité. En comparaison, les effets dissuasifs sont négligeables.

Les effets dissuasifs et notre infrastructure juridique permissive

Les préoccupations concernant les effets dissuasifs, c’est-à-dire l’idée que certaines lois ou certains règlements peuvent « dissuader » ou décourager les gens d’exercer leurs droits et libertés, ont longtemps été au centre des débats sur la réglementation et la modération du contenu en ligne.  Bien des grandes entreprises, comme les fournisseurs de services et les plateformes, ont manié ces arguments avec beaucoup de succès. Elles ont ainsi pu limiter les efforts de réglementation et promouvoir un environnement juridique et réglementaire généralement permissif.

Un des meilleurs exemples de ces efforts de la part des grandes entreprises est sans doute l’article 230 de la Communications Decency Act aux États-Unis. Cette disposition fournit aux plateformes Web et aux médias sociaux une immunité juridique quasi totale en ce qui a trait à leur responsabilité envers le contenu généré par les utilisateur·trice·s et les poursuites judiciaires liées à leurs pratiques de modération de contenu. L’article 230 est considéré comme une « vache sacrée » par le secteur américain des technologies. Cette disposition est toutefois controversée, car les protections juridiques à large portée qu’elle fournit permettent actuellement à de grandes entreprises de plateformes comme Facebook, Google et Twitter d’éviter leurs responsabilités juridiques. De plus, elle fournit très peu d’incitatifs à lutter contre les abus en ligne et d’autres types de préjudices.

Ces déclarations sur l’effet dissuasif de la réglementation en matière de préjudices sur le Web ont été centrales à la vaste portée accordée à l’article 230. La célèbre décision de la cour d’appel des États-Unis pour le quatrième circuit, rendue en 1997 dans l’affaire Zeran v America Online, qui a fourni à l’article 230 son interprétation élargie, était fondée sur des préoccupations à propos des effets dissuasifs. L’entreprise AOL avait soutenu que sans immunité totale, les fournisseurs de services en ligne devraient restreindre et décourager la prise de parole sur le Web pour éviter toute responsabilité. Le tribunal a entièrement adhéré à cette conception anti-réglementation, malgré le fait que ni le texte de l’article 230, ni son histoire et ni son intention législative originale ne justifient cette interprétation qui accorde, à l’issue de l’affaire Zeran, l’immunité totale.

Malgré cela, l’interprétation a perduré car la plupart des tribunaux ont été réticents à revoir la portée de l’article 230 découlant de l’affaire Zeran. De plus, les législateur·trice·s n’ont pas adopté de réformes se rapportant à l’article 230, malgré une opposition des critiques durant plusieurs années, favorisant ainsi une infrastructure juridique et réglementaire profondément permissive pour les plateformes.

Étant donné qu’aujourd’hui, la plupart des plateformes de médias sociaux puissantes et populaires sont des entreprises américaines, l’approche réglementaire permissive des États-Unis, appuyée par l’article 230, a eu des répercussions au Canada. Nous n’avons pas de loi générale sur la responsabilité des intermédiaires permettant le contrôle des plateformes. Tant les tribunaux que les gouvernements ont été très réticents à changer cette situation. Dans les cas où l’on a pris des mesures en ce sens, les préoccupations, les affirmations et les critiques au sujet des effets dissuasifs refont surface. C’est ce qu’a vécu le gouvernement Trudeau.

Malgré leur prépondérance dans le débat, ces affirmations ont fait l’objet de peu d’études systématiques. Selon certaines études empiriques, ces lois n’ont pas les effets dissuasifs que les critiques leurs prêtent. En outre, les critiques à l’endroit de la législation sur le Web font fi des effets dissuasifs d’une autre nature, c’est-à-dire l’inhibition causée par les préjudices et les abus sur le Web en tant que tels. Des spécialistes renommé·e·s en matière de protection de la vie privée et d’abus en ligne comme Danielle Citron ont largement documenté la manière dont le harcèlement, l’intimidation et les comportements abusifs sur Internet engendrent un effet dissuasif profond : une « incidence totale et dévastatrice » qui réduit les victimes au silence, dont l’effet touche les femmes et les personnes issues de minorités de manière disproportionnée.

Comment la réglementation peut soutenir la prise de parole

Dans un article publié en 2019, Citron et moi-même avons exploré l’effet potentiel d’une loi en matière de cyberintimidation sur le genre de prise de parole ou d’action qu’un groupe de participant·e·s aurait sur internet. Une étude menée auprès de près de 1 300 utilisateur·trice·s d’Internet en âge adulte aux États-Unis a révélé que la loi en matière de cyberintimidation que nous avons mise à l’essai aurait un effet dissuasif négligeable. La plupart des participant·e·s ont indiqué qu’une telle loi n’aurait aucune incidence ou que celle-ci les inciterait un peu ou beaucoup plus à s’exprimer, à partager du contenu et à participer à des échanges sur le Web. De surcroît, nous avons constaté que la loi aurait un effet positif sur l’expression : en fait, elle encouragerait ces activités, en particulier pour les femmes.

Nous avons expliqué les résultats de l’étude à l’aide de la théorie du « droit expressif », un corpus de recherches comportementales en expansion dont l’objet principal est la fonction expressive du droit, c’est-à-dire la capacité du droit à façonner les normes comportementales en modifiant la signification sociale de certains comportements. L’adoption d’une loi génère un puissant signal symbolique ou « informatif » quant au consensus sociétal ou aux attitudes populaires au sens large en matière de comportement social, c’est-à-dire la manière dont les gens doivent agir et les comportements qui sont approuvés et désapprouvés. Les lois nous informent également du « risque » relatif associé à certains comportements. L’adoption de règlements en matière de discours sur Internet augmenterait le risque associé aux comportements abusifs et réduirait le risque associé à la prise de parole et à la diffusion de contenu sur le Web, en particulier pour les personnes qui sont le plus souvent victimes de comportements abusifs sur Internet. Au fil du temps, les gens intérioriseraient les attitudes et les normes exprimées par la loi, modifiant ainsi plus largement les normes comportementales.

Étant donné que les femmes sont ciblées de manière disproportionnée par le harcèlement et les comportements abusifs en ligne, nos conclusions sont logiques du point de vue de la théorie du droit expressif. On observe qu’une loi en matière de cyberintimidation dont l’objet est de décourager le harcèlement et les comportements abusifs subis par les femmes sur Internet produit un effet expressif positif sur leur prise de parole, leur diffusion de contenu et leur participation.

Dans le cadre de notre recherche expérimentale plus récente, nous avons exploré l’effet des mesures juridiques et celles adoptées par les plateformes visant à protéger les utilisateur·trice·s contre les abus et invasions de la vie privée. De même, nous avons observé qu’il y avait peu de données probantes quant à l’existence des effets dissuasifs de telles mesures. Nous avons toutefois constaté que ces mesures soutenant la protection de la vie privée favorisaient la confiance, ce qui est essentiel pour favoriser la prise de parole et la diffusion de contenu personnel en ligne, ainsi que l’expression hors ligne, en particulier pour les femmes et les groupes minoritaires, plus susceptibles d’être victimes de menaces portant atteinte à la vie privée et d’abus similaires.

Nos résultats vont dans le même sens que ceux d’autres études récentes, comme celle du chercheur en sciences sociales informatiques Nathan Matias, qui a constaté que les règlements en matière de comportements abusifs dans les communautés Web ont aidé à réduire le harcèlement et ont encouragé la participation d’un plus grand groupe de personnes.

Implications pour le droit en matière de préjudices sur le Web et perspectives

Les critiques ont donc tort. Il existe peu de données appuyant les affirmations selon lesquelles la législation en matière de préjudices en ligne, comme le projet de loi canadien, entraverait la liberté d’expression et la participation sur Internet.

Selon les résultats de nos recherches, le contraire serait vrai : la législation sur les préjudices en ligne, si elle est soigneusement ajustée et communiquée de manière efficace, pourrait soutenir et encourager une plus grande diversité d’expression et de participation, en particulier pour les personnes les plus souvent réduites au silence parce qu’elles sont la cible de comportements abusifs, à savoir les femmes et les personnes issues de minorités. Voilà comment la législation et la réglementation en matière de discours en ligne peuvent favoriser l’expression des internautes.