Avons-nous vécu un moment historique pour l’avenir des réseaux sociaux ?

Un procès, passé relativement inaperçu, pourrait changer la donne.

Un jury californien a déclaré Meta et YouTube (Google) coupable de négligence, et a estimé que la conception de leurs applications causait du tort aux enfants. Les deux entreprises devront verser 3 millions de dollars de dommages et intérêts compensatoires et 3 millions de dommages et intérêts punitifs à la plaignante, Kaley G.M. Celle-ci est une jeune femme de 20 ans qui a accusé ces plates-formes d’avoir contribué à sa sévère addiction et à une dégradation de sa santé mentale.

Le caractère potentiellement historique de ce procès tient à la brillante stratégie des avocats de la plaignante. En effet, ils n’ont pas attaqué, comme leurs devanciers, les deux groupes au sujet des contenus diffusés sur leurs plates-formes respectives. Cela les aurait immanquablement amenés à se heurter à la Section 230 de la loi sur les communications de 1996, qui protège les services numériques contre les conséquences juridiques des messages mis en ligne par leurs utilisateurs.

Ils ont argué que la conception de ces services était intrinsèquement défectueuse et que leurs concepteurs n’avaient pas suffisamment mis en garde les internautes dans ce domaine. En ciblant la conception des produits, non seulement contournent-ils les effets de la Section 230 en remontant plus en amont dans la chaîne de valeur, mais aussi s’en prennent-ils à la racine du problème posé par les médias sociaux. Celle-ci ne tient pas tant au fait que les êtres humains déblatèrent parfois à tort et à travers, ce qui a toujours été le cas. Elle procède du fait que les médias sociaux (i) les encouragent dans leurs dérives et (ii) mettent celles-ci en exergue davantage que les propos raisonnables. J’avais résumé ainsi ce phénomène dans Prêt-à-penser et post-vérité, le livre que j’ai consacré au danger que le numérique fait peser sur la démocratie : pour engager les internautes, il suffit de les enrager.

Or ce processus d’enragement est bien conçu et codé lors de la conception du produit. C’est lui qui fait toute la différence, fameusement énoncée par l’activiste Tristan Harris, entre la liberté d’expression, qui permet à tout un chacun de dire des horreurs sur le web, et la liberté d’expansion, qui repose sur la stratégie délibérée des médias sociaux de faire prospérer ces expressions nauséabondes pour maximiser l’engagement de leurs membres et, partant, leur monétisation.

La stratégie juridique des avocats de Kaley G.M. est donc d’autant plus lumineuse qu’elle porte le fer au cœur de la logique malsaine et anticivique de médias en réalité asociaux : exploiter les plus bas instincts humains pour engranger des revenus record. Je l’avais mise en évidence dans le livre cité plus haut : les médias sociaux, tels qu’ils ont été conçus depuis leur émergence au milieu des années 2000, sont consubstantiellement dangereux. Ce n’est pas un dysfonctionnement de ces produits ; c’est leur raison d’être.

Les dirigeants des entreprises qui les opèrent veulent nous faire croire que ce sont les internautes qui sont nuisibles, ce qu’admet, peu ou prou, la Section 230, en préservant préventivement les médias sociaux des dérives de leurs membres, mais sans protéger ces derniers contre les dérives des plates-formes. Le procès de Los Angeles remet les choses en ordre : sans promotion incessante du pire, celui-ci reste marginal. Déguisés en hébergeurs neutres par la Section 230, les médias sociaux sont mis à nu en opérateurs de produits délétères par ce jugement. Ils ne sont pas seulement des diffuseurs de contenus ; ils font des choix éditoriaux. Ce qui est évident techniquement commence enfin à être reconnu juridiquement.

C’est pourquoi ce procès est plus important, à mes yeux, que celui perdu par Meta quelques jours auparavant, cette fois au Nouveau-Mexique. Un autre jury populaire y a conclu que le groupe de Mark Zuckerberg n’avait pas protégé les enfants contre l’exploitation sexuelle sur ses plates-formes. Les jurés ont affirmé que l’Entreprise avait sciemment exposé des mineurs à des contenus sexuellement explicites et s’était livrée à des pratiques trompeuses. Même si c’est le premier verdict aussi clair à cet égard et qu’il confirme explicitement que Meta privilégie sa croissance sur la protection de ses membres mineurs, et ce alors qu’il était au courant des risques encourus par ces derniers, je ne crois pas qu’il porte le potentiel, en matière de théorie juridique, du verdict rendu par les jurés de Los Angeles.

Il est certes trop tôt pour savoir dans quelle mesure celui-ci fera jurisprudence et quelles conséquences il aura sur les choix de conception produit des entreprises concernées. Ce qui est clair, en revanche, est que plus de 3 000 poursuites similaires contre Meta, Snapchat, TikTok et YouTube sont en attente devant les seuls tribunaux californiens, et plus de 2 000 autres devant les tribunaux fédéraux américains. L’enjeu est donc de taille et il remontera certainement, un jour ou l’autre, jusqu’à la Cour suprême des Etats-Unis.

Avons-nous vécu les prémices d’une révolution réglementaire digne de celles subies par l’industrie du tabac et le secteur des opioïdes ? On ne peut, à ce stade, que l’espérer. Mais elle serait d’autant plus symbolique qu’elle émanerait de jurés populaires qui auraient accompli, pour défendre leurs enfants, ce que leurs responsables politiques ont été incapables de faire depuis une vingtaine d’années.

Il s’agirait en quelque sorte d’une régulation par le bas d’entreprises qui se croient au-dessus de tout.