Au cours de la décennie écoulée, une évolution a été notée dans les normes de régulation applicables au secteur technologique. En parallèle, on constate un nombre croissant de cas de violation des droits de l’homme impliquant ces entreprises. La croissance rapide des firmes technologiques a souvent pris le pas sur l’élaboration de lois pour les contrôler, ce qui a résulté en une dépendance dangereuse envers l’autorégulation, les tribunaux et les mesures prises a posteriori tandis que les gouvernements s’efforcent de tenir la cadence imposée par l’industrie et de faire face aux préjudices inhérents en elle.

Par conséquent, le paysage de l’industrie technologique d’aujourd’hui est caractérisé par un manque de responsabilité systématique. Les entreprises technologiques qui opèrent à l’échelle mondiale se soustraient souvent aux lois et réglements nationaux. Lorsqu’elles assurent le contrôle par elles-mêmes, le profit semble fréquemment éclipser les implications relatives aux droits, ce qui entraîne de nombreux scandales impliquant de présumées violations de la vie privée, la censure, les pratiques discriminatoires, et un large éventail d’atteintes additionnels aux droits de l’homme.

Les tribunaux et organismes d’application de la loi prennent de plus en plus conscience de l’incapacité des entreprises à lutter contre la désinformation, la surveillance, l’exploitation par le travail, et les atteintes à la vie privée   – ainsi que des dommages qui en découlent pour la société.

Nous en avons pour preuve le procès intenté par le nouveau Procureur Général du Nouveau-Mexique contre le PDG de Meta Mark Zuckerberg, pour faire face à l’exploitation d’enfants sur les plateformes de l’entreprise. L’affaire résulte d’une enquête sous couverture du bureau du Procureur Général, qui a révélé des pratiques alarmantes sur les plateformes de Meta qui aurait exposé des usagers mineurs à des contenus à caractère sexuel, et permis à des adultes de solliciter ces mineurs, recommandé des enfants à rejoindre des groupes non modérés liés au sexe commercial, et même permis la vente de pornographie infantile. Les entreprises déclarent qu’elles déploient des outils de modération de contenu et autres mesures pour freiner ces abus de leur plein gré. Cependant, du contenu préjudiciable apparaît fréquemment. Ceci met en exergue les graves conséquences de l’autorégulation par les entreprises technologiques, en particulier les plateformes des médias sociaux et les grandes entreprises de technologie.

Un autre exemple perturbant est Booking.com, qui aurait tiré profit d’annonces de résidences locatives dans des colonies israéliennes, en dépit du fait que ces colonies soient reconnues comme illégales en vertu du droit international. Cette pratique reflète un mépris des normes internationales relatives aux droits de l’homme et des obligations juridiques. Dans une récente plainte pénale déposée aux Pays-Bas, un certain nombre d’organisations de la société civile soutient qu’en tirant profit de violations graves du droit international humanitaire, l’entreprise introduit des recettes générées par des activités criminelles dans le système financier néerlandais, s'adonnant de manière effective au blanchiment de capitaux et violant l’Article 1(4) de la loi néerlandaise sur les crimes internationaux. Ceci révèle aussi le fait que l’absence d’un système de régulation solide et le contrôle par les entreprises technologiques rend ces profits possibles au détriment des droits.

Certaines entreprises technologiques tentent de lutter contre l’absence de régulation en mettant en place leurs propres organes de contrôle. Ces initiatives constituent un pas en avant pour une plus grande responsabilité. Cependant, elles ne peuvent pas remplacer les mesures prescrites par l'État. Ces organes manquent souvent d’indépendance et de pouvoir coercitif, et ils sont fréquemment critiqués comme étant réactives, en ne traitant les problèmes qu’une fois qu’ils aient dégénéré en scandales publics, comme c’est le cas avec Meta qui ne tient pas compte de la recommandation de son organe de contrôle de suspendre le compte Facebook de l’ancien Premier Ministre du Cambodge Hun Sen, lorsqu’il fut accusé de menacer ses opposants avec violence, pour des motifs de procédure. Ce fait est survenu en dépit de la portée réelle de ces contenus. Ceci met en lumière les limites des organes d’autorégulation pour tenir des entreprises puissantes responsables.

Un contrôle règlementaire insuffisant peut aussi alimenter les conflits, comme le révèle l’affaire Cognyte Software Ltd, une entreprise israélienne accusée de vendre un logiciel espion aux militaires de Myanmar avant le coup d’État de 2021. En dépit de la position officielle d'Israël visant à stopper les transferts de technologie au Myanmar, Cognyte a continué, en facilitant une surveillance à grande échelle des défenseurs des droits de l‘homme et en contribuant à la répression de toute contestation.

Ces préjudices sont de plus en plus mis en évidence devant les tribunaux du monde et une prise de conscience croissante se fait jour à l’échelle mondiale quant au rôle de la régulation pour les atténuer et les prévenir. L’Union Européenne (UE) joue un rôle prépondérant, en adoptant le réglement général sur la protection des données (DPGA), le réglement sur les services numériques (DSA), le règlement sur les marchés numériques (DMA), et le règlement sur l’Intelligence Artificielle (AIA). Ces réglements visent à mettre en place des mécanismes et responsabilités basées sur les principes relatifs aux entreprises et aux droits de l’homme pour tenir les entreprises technologiques responsables. Au Brésil, des réglements similaires sont adoptés et les autorités les appliquent avec fermeté pour lutter contre les abus favorisés ou causés par les entreprises technologiques. 

Même si ces mesures ne sont pas exemptes d’imperfections, elles constituent néanmoins des avancées majeures dans la bonne direction.

Mais, il faut redoubler d’efforts et une feuille de route est élaborée dans ce sens. La législation du travail, les lois antitrust et celles relatives aux consommateurs de même que la jurisprudence ont joué un rôle crucial dans la régulation d’autres secteurs pour protéger la vie privée, assurer de bonnes conditions de travail et sauvegarder d’autres droits fondamentaux. Il est impensable de permettre à d’autres secteurs, comme celui minier, financier et de la santé de ne dépendre que de l’autorégulation. Le secteur de la technologie devrait aussi être soumis à des cadres de régulation concrets qui exigent la conformité sur des questions allant de la protection des consommateurs aux pratiques éthiques d’entreprise.

Le monde pourrait bénéficier d’un contrôle adéquat de l’industrie technologique, avec une régulation fondée principalement sur les principes relatifs aux entreprises et aux droits de l’homme. En d’autres termes, il faut une diligence raisonnable environnementale et relative aux droits de l’homme obligatoire.  Lorsqu’une industrie évolue aussi rapidement que celle du secteur technologique, la responsabilité incombe aux entreprises elles-mêmes d’identifier et d’atténuer les principaux risques causés par leurs produits sur les droits de l’homme - et elles doivent être tenues pour responsables en cas de défaillance. Plutôt que de voir le gouvernement s’efforcer d’être à la hauteur par une régulation ex post facto, les initiatives de diligence raisonnable comme la Directive sur la diligence raisonnable en matière de durabilité des entreprises de l’UE (CSDDD), combinées à d’autres lois plus spécifiques aux entreprises technologiques, constituent une belle promesse d’une industrie mieux régulée.

À mesure que la technologie continue de jouer un rôle de plus en plus prépondérant dans la société et dans les conflits, les risques sur les droits de l’homme augmentent aussi. Des lois et politiques claires, applicables et qui tiennent les entreprises technologiques responsables de leurs actions, en partie en exigeant qu’elles identifient les risques inhérents à leurs produits et services pour l’humanité, sont nécessaires pour protéger les droits de l’homme et s’assurer que les entreprises technologiques opèrent d’une manière qui soit en harmonie avec l’intérêt du public au sens large, plutôt que de privilégier simplement leurs résultats financiers.