Meta ou l’innovation par infraction

Chez Meta, la culture dominante est celle du risque… assumé par autrui.

Ainsi que j’en ai rendu compte | dans la Newsletter Superception, ces dernières semaines ont apporté trois nouveaux exemples – de gravité variable – de la tendance du Groupe à ne se comporter de manière éthique que sous la contrainte :

• Le gouvernement indien lui a ordonné, à la suite d’une investigation de la BBC, de retirer immédiatement des publicités sur Instagram faisant la promotion de contenus dépeignant des abus sexuels sur des enfants. Pour être honnête, on a le sentiment que la protection des enfants n’est pas la priorité de Meta, comme le démontre concomitamment la pression qu’il exerce sur les législateurs de Californie afin qu’ils le préservent contre un projet de loi qui augmenterait les sanctions juridiques dans les affaires de préjudice causé aux mineurs.
• Le Groupe a fermé son outil destiné à surveiller comment ses collaborateurs interagissent avec leurs ordinateurs afin d’aider à entraîner ses modèles d’intelligence artificielle après qu’une importante faille de sécurité interne eut rendu accessibles à l’ensemble du personnel des données sensibles collectées par ledit outil et donné raison aux craintes exprimées par beaucoup desdits collaborateurs.
• Il a suspendu la disposition qui permettait par défaut à sa nouvelle intelligence, Muse Image, de générer des visuels à partir des comptes publics des utilisateurs d’Instagram, ceux-ci devant se désinscrire s’ils voulaient sécuriser leurs contenus. Les réactions d’innombrables internautes et, peut-être surtout, du plus grand syndicat d’acteurs d’Hollywood l’ont ramené à la raison sur le respect de la vie privée de ses membres.

Cette gouvernance par rattrapage crée les conditions d’une croissance par transgression. Or cette stratégie est tout sauf nouvelle. Elle est même consubstantielle à la culture du Groupe, lequel fut guidé à ses origines par le principe “Move fast, break things”. Le problème est que, si cette agilité a par exemple permis aux équipes de Mark Zuckerberg de transformer Facebook pour des usages mobiles avec une remarquable efficacité, elle a aussi donné lieu à énormément de destructions.

La sociologue américaine Diane Vaughan a décrit les mécanismes par lesquels une organisation normalise progressivement des comportements déviants. De même, le professeur de management américain David Welsh et ses coauteurs ont-ils montré que les individus sont plus susceptibles de commettre de grandes transgressions lorsque celles-ci sont précédées par une succession de petites entorses, plutôt que lorsqu’une faute majeure leur est proposée abruptement. Cette progression facilite le désengagement moral : les intéressés trouvent progressivement des justifications à ce qu’ils n’auraient pas accepté initialement. Les dérives organisationnelles prennent donc rarement la forme d’un grand saut dans l’illégalité : elles progressent graduellement, chaque transgression étant rendue acceptable par celle qui l’a précédée.

Ces travaux conduisent à une conclusion bien plus exigeante qu’on ne pourrait le croire à la première lecture : une culture n’est jamais un accident. Elle est le produit de ce que ses dirigeants acceptent, encouragent ou refusent de corriger. Comme le disait fameusement le grand coach de football américain universitaire Mike Leach, “soit vous l’encadrez, soit vous le laissez se produire”. Dans son cas, Mark Zuckerberg ne s’est pas contenté de tolérer des déviances par manque d’information ou d’implication. A chaque reprise, il en a été alerté et les a laissées se poursuivre.

Les exemples sont trop nombreux pour que je prétende à l’exhaustivité dans ce domaine et je me limiterai donc à évoquer les plus emblématiques :

• Facebook n’a réellement renforcé les contrôles sur les données personnelles de ses membres qu’après le scandale mondial autour des agissements de Cambridge Analytica.
• Meta n’a amplifié ses actions pour tenter de contrôler la désinformation sur ses plates-formes qu’après que ses risques eurent été portés à la connaissance du monde entier lors de plusieurs crises (élections américaines de 2016, Brexit, Covid, tentative de coup d’Etat du 6 janvier 2021 à Washington DC). Incidemment, il est largement revenu en arrière à cet égard après la deuxième élection de Donald Trump à la Maison-Blanche afin de lui complaire.
• Meta n’a dévoilé de nouvelles fonctionnalités de sécurité visant à limiter les contenus nuisibles présentés aux adolescents sur Facebook, Instagram et Messenger qu’après avoir perdu deux procédures juridiques dans ce domaine.
• Surtout, Meta est à ma connaissance la seule entreprise dans l’Histoire à avoir été mise en cause pour son rôle dans deux génocides/atrocités de masse successifs. En 2018, la mission internationale indépendante de l’ONU sur la Birmanie a souligné la part déterminante de Facebook dans la diffusion de la haine contre les Rohingya. De même, une enquête d’Amnesty International a-t-elle conclu que le système de recommandation de Facebook avait “proactivement amplifié” les contenus hostiles aux Rohingya et que le Groupe avait reçu des alertes dès 2012 dont il n’avait pas tenu compte. Pourtant, le même processus mortifère se reproduisit quelques années plus tard en Ethopie. Amnesty International indique que les algorithmes de Facebook augmentèrent fortement la diffusion de contenus haineux visant cette fois les Tigréens pendant la guerre civile de 2020-2022, et ce alors que le Groupe avait de nouveau été averti avant même le début du conflit.

Au sein de Meta, comme cette liste parcellaire le signale, l’éthique semble donc trop régulièrement être la variable d’ajustement de l’expansion du Groupe : le risque y est souvent internalisé dans les bénéfices et externalisé dans les conséquences. Il ne s’agit pas, avec Meta, d’une succession d’erreurs, mais d’une culture qui repousse les limites jusqu’à ce que la contrainte – externe ou parfois interne – impose un retour en arrière.

Vous n’êtes d’ailleurs pas obligés de me croire. Celui qui parle le mieux de cette stratégie est l’un des plus proches lieutenants de Mark Zuckerberg, Andrew Bosworth qui, dans un mémo interne de 2016, expliquait littéralement qu’il n’était pas grave que des innocents mourussent tant que Facebook poursuivait sa croissance.

Il faut au moins rendre cette justice au Groupe d’être cohérent sur la durée dans ses paroles et ses actes.