L’arrestation de Pavel Durov marque-t-elle un tournant dans les pratiques de modération de Telegram ? Tour d’horizon du cadre juridique applicable

L’arrestation

Sous mandat d’arrêt depuis mars dernier, Pavel Durov a été arrêté le 24 août 2024 à l’aéroport du Bourget, à Paris. Le Parquet du tribunal judiciaire de Paris l’accuse de complicité dans plusieurs infractions commises par les utilisateurs de Telegram, notamment de transactions illicites en bande organisée et de diffusion d’images à caractère pédopornographiques. Durov est également accusé de constamment refuser de communiquer, sur demande des autorités françaises, les informations nécessaires pour lutter contre certaines infractions présumément commises par les utilisateurs de Telegram (Communiqués de presse du 26 et du 28 août 2024). L’entrepreneur franco-russe a été libéré sous caution mais est toujours sous le coup d’une interdiction de quitter le territoire français pendant l’enquête dont il fait l’objet.

Sur son compte X, Durov s’est montré surpris d’être tenu pour responsable des activités illégales de ses utilisateurs. Selon lui, le fait de tenir pour responsable le CEO d’une entreprise pour les agissements de tiers est une « approche simpliste et dangereuse », qui risque de freiner l’innovation. L’arrestation de Pavel Durov constitue un message fort de la part des autorités pénales françaises aux opérateurs de plateformes numériques, en leur rappelant qu’ils doivent, au risque d’engager leur responsabilité pénale, collaborer à lutter contre la diffusion de contenus illicites en modérant les contenus de leurs utilisateurs et en coopérant activement avec les autorités étatiques. Cette affaire montre qu’Internet n’est pas une zone de non-droit où les libertés individuelles devraient prévaloir sur les intérêts sécuritaires nationaux.

Depuis des années, de nombreuses autorités nationales se sont montrées indignées par le manque de coopération de Telegram dans la lutte contre les contenus illicites et par son refus constant de coopérer (voir par exemple au Brésil et en Espagne). L’entreprise est imprégnée par l’idéologie libertarienne de son fondateur qui s’oppose à toute forme d’intervention et de surveillance des communications privées, tant par les acteurs étatiques que privés. Suivant cette idéologie, l’entreprise s’est constamment opposée à dévoiler les données de ses utilisateurs aux autorités nationales. Cette approche du « laissez-faire » est également suivie en matière de modération des contenus : l’entreprise intervient très peu dans les contenus de ses utilisateurs.

L’architecture de la plateforme est conçue pour empêcher les interventions sur les contenus et les informations échangés entre les utilisateurs. Telegram est une application hybride combinant à la fois les fonctionnalités d’une messagerie et d’un réseau social. Elle propose des options de messageries privées (entre deux utilisateurs) et des groupes et canaux de discussion (regroupant plusieurs utilisateurs). Tandis que les groupes peuvent être publics ou privés, les canaux sont pour leur part toujours accessibles publiquement (FAQ Telegram, Quelle est la différence entre les groupes et les canaux ?). Contrairement à une idée répandue, les messages privés entre utilisateurs ne sont pas chiffrés de bout-en-bout par défaut. Pour activer ce type de chiffrement (cryptage), les utilisateurs doivent opter pour la fonctionnalité « chats secrets », selon laquelle seuls l’émetteur et le destinataire du message possèdent les clés permettant de déchiffrer le message (voir la FAQ de Telegram, En quoi les échanges secrets sont-ils différents ?).

Le cadre juridique de l’arrestation

Selon les communiqués du Parquet parisien, l’arrestation de Pavel Durov repose sur des accusations de complicité à diverses infractions. En France, la loi pour la confiance dans l’économie numérique (LCEN), en vigueur depuis 2004 et récemment modifiée et adaptée au Règlement UE 2022/2065 sur les services numériques (RSN), prévoit une obligation pour « les personnes dont l’activité consiste à fournir des services d’hébergement » de concourir à la lutte contre des infractions spécifiques (art. 6-IV-A LCEN), notamment en modérant les contenus de leurs utilisateurs. Les personnes qui fournissent des services d’hébergement ont l’obligation d’informer rapidement les autorités compétentes des infractions qui leur sont signalées par leurs utilisateurs. Tout manquement à cette obligation d’information est passible d’un an d’emprisonnement et de 250’000 euros d’amende (art. 6-IV-A LCEN).

Par ailleurs, les personnes dont l’activité consiste à fournir des services d’accès à Internet ou des services d’hébergement doivent conserver les données permettant l’identification de leurs utilisateurs par les autorités, sous peine de sanctions (art. 6-V LCEN). L’obligation d’identification entre évidemment en contradiction totale avec la politique de Telegram et ses fonctionnalités de messagerie chiffrée de bout-en-bout.

L’arrestation de Pavel Durov reposerait principalement sur l’art. 323-3-2 du Code pénal français (Haas Avocat, Telegram et contenus illicites : jusqu’où s’étend la responsabilité du dirigeant ?, 10.09.2024). Selon cet article, une personne dont l’activité consiste à proposer un service de plateforme en ligne utilisant des techniques d’anonymisation ou ne respectant pas son obligation d’identification (cf. art. 6-V LCEN), et qui permet la cession, l’offre, l’acquisition ou à la détention de produits, de contenus ou de services manifestement illicites risque une peine de cinq ans d’emprisonnement et une amende de 150’000 euros.

Les notions de services d’accès à Internet, de services d’hébergement et de plateformes en ligne sont définies par le RSN, auquel la LCEN renvoie (art. 6-I LCEN cum art. 3 let. g point iii) et let. i du Règlement) :

• Un service d’accès à Internet est un service de simple transport qui permet soit la transmission, sur un réseau de communication, d’informations fournies par un utilisateur, soit l’accès à un réseau de communication (art. 6-I-1 LCEN cum 3 let. g point i) RSN). Les intermédiaires fournissant ce type de services se limitent à la transmission d’informations ou à fournir l’accès à un réseau, sans stocker ou intervenir d’une quelconque manière sur les contenus.
• Un service d’hébergement est défini comme un service permettant de stocker des informations fournies par un utilisateur, à sa demande (art. 6-I-2 LCEN cum 3 let. g RSN).
• Une plateforme en ligne est un service d’hébergement qui permet, en sus du stockage d’informations, de diffuser celles-ci au public, c’est-à-dire à un nombre potentiellement illimité de personnes (art. 6-I-4 LCEN cum 3 let. i et k RSN).
• Une très grande plateforme en ligne est une plateforme en ligne qui compte plus de 45 millions d’utilisateurs actifs annuels dans l’Union européenne (art. 33 RSN). Les fournisseurs de très grandes plateformes en ligne doivent contribuer à lutter contre les risques dits systémiques, en particulier des contenus qui créent des risques pour le discours civique et politique tels que la désinformation (cf. art. 34 par. 1 al. 2 RSN). Ces fournisseurs doivent notamment évaluer comment leurs systèmes de modération des contenus influencent les risques systémiques et, le cas échéant, adapter leurs systèmes afin d’atténuer ces risques.

La qualification juridique des services proposés par Telegram est complexe mais essentielle à l’analyse de la responsabilité de l’entreprise et de son fondateur. Dans son communiqué de presse du 26 août 2024, le Parquet du tribunal judiciaire de Paris qualifie Telegram de « messagerie instantanée et de plateforme », soulignant ainsi son caractère hybride.

En fonction des services proposés, Telegram entre dans différentes catégories de services. Les groupes publics et les canaux de discussion permettent une diffusion d’informations « à un nombre potentiellement illimité de personnes » ; ces fonctionnalités publiques constituent des services de plateforme en ligne au sens du RSN. En revanche, les services de messagerie privée sont de simples services d’hébergement, car Telegram se limite à stocker ces informations pour ses utilisateurs, sans les diffuser au public. Dans le cas où les utilisateurs communiquent en activant l’option « chiffré de bout-en-bout », ce service pourrait à notre avis être qualifié de service de simple transport, car l’entreprise se limite à transmettre des informations via un réseau de communication, sans héberger celles-ci (voir art. 3 let. g point i) DSA).

La Commission européenne est chargée de dresser une liste des fournisseurs de très grandes plateformes en ligne, liste sur laquelle Telegram ne figure pas. Bien que Telegram compte plus de 900 millions d’utilisateurs à travers le monde, son service de plateforme en ligne compterait moins de 45 millions d’utilisateurs actifs dans l’Union européenne, empêchant ainsi une qualification en tant que très grande plateforme en ligne (Kroet Cynthia, Euronews, 21.08.2024).

Même si Telegram n’est pas un service de très grande plateforme en ligne, l’entreprise fournit néanmoins des services d’hébergement et des services de plateforme en ligne et doit respecter une série d’obligations de diligence imposées à ce type de fournisseurs. Telegram doit mettre en place des systèmes de signalement (art. 16 RSN) et de traitement des plaintes (art. 20 RSN) efficaces, permettant à toute personne de signaler la présence de contenus illicites, respectivement de contester les décisions de modération prises par l’entreprise (p.ex., une suppression de contenu). Les décisions de modération doivent être motivées (art. 17 RSN) et lorsque l’entreprise utilise des outils automatisés pour modérer les contenus, elle doit en informer les utilisateurs et leur permettre de soumettre la décision automatisée à un examen par un être humain (art. 17 par. 3 let. c et art. 20 par. 6 RSN). La violation de ces obligations peut conduire à engager la responsabilité de l’entreprise.

Les droits fondamentaux en jeu dans l’affaire

L’arrestation de Pavel Durov marque la tension entre deux visions diamétralement opposées en matière de liberté d’expression et de modération des contenus. D’un côté, Telegram applique une politique libertaire consistant à protéger coûte que coûte la vie privée et la liberté d’expression de ses utilisateurs en garantissant un certain anonymat et en intervenant le moins possible dans les communications sur la plateforme. De l’autre côté, les pouvoirs étatiques appliquent une politique de plus en plus interventionniste qui consiste à imposer une modération plus (pro)active des contenus et une coopération renforcée, afin de préserver les intérêts publics et privés prépondérants, en particulier ceux de victimes d’infractions.

Le « juste » équilibre entre ces intérêts cherchera à préserver au mieux la liberté d’expression et l’anonymat en ligne – afin d’éviter la censure – tout en permettant aux autorités étatiques d’exercer leurs prérogatives souveraines en luttant contre les activités illégales commises en ligne. Telegram devra nécessairement améliorer ses politiques de modération et sa coopération avec les autorités nationales, ce qui a d’ailleurs été annoncé par Durov sur son canal personnel Telegram le 23 septembre dernier :

“Over the last few weeks, a dedicated team of moderators, leveraging AI, has made Telegram Search much safer. All the problematic content we identified in Search is no longer accessible. If you still manage to find something unsafe or illegal in Telegram Search, please report it to us (…). We’ve made it clear that the IP addresses and phone numbers of those who violate our rules can be disclosed to relevant authorities in response to valid legal requests”.

L’Etat doit, quant à lui, prendre les mesures nécessaires à la protection des droits fondamentaux de ses justiciables. L’obligation qu’a l’Etat de protéger ces derniers est accentuée lorsque les droits d’un grand nombre de personnes sont menacés par des entreprises socialement et économiquement puissantes comme Telegram.

Cependant, la transmission d’informations personnelles relatives aux utilisateurs dans le cadre d’enquêtes pénales, de même que l’intervention dans les politiques de modération de Telegram, représentent des restrictions aux droits fondamentaux des utilisateurs (liberté d’expression et droit à la vie privée). De telles restrictions doivent nécessairement reposer sur une base légale, poursuivre un objectif légitime et respecter le principe de proportionnalité. Une mesure étatique qui aurait pour conséquence une interdiction des messageries chiffrées serait à notre avis disproportionnée, dans la mesure où ces fonctionnalités sont nécessaires dans une société démocratique.

Conclusion : la Suisse dans tout ça ?

L’arrestation de Pavel Durov pourrait créer un précédent important pour la gouvernance des services numériques et leurs pratiques de modération (Klonick Kate, Verfassungsblog, 14.09.2024). L’approche du laissez-faire adoptée par certaines plateformes devient intenable face à l’océan de contenus et d’activités illicites transitant par ces services. Dans un communiqué de presse publié en avril 2023, le Conseil fédéral suisse a annoncé son intention de « renforcer les droits des utilisateurs suisses dans leurs relations avec les plateformes numériques, sans restreindre les effets positifs de celles-ci sur la liberté d’expression ».

Un projet de consultation, initialement prévu pour mars 2024, sera en principe publié par le DETEC d’ici la fin de l’année. Toutes les parties intéressées auront alors l’occasion de s’exprimer lors de la procédure de consultation, avant que le Conseil fédéral ne décide de l’adoption éventuelle de nouvelles dispositions légales. Dans le cas où une loi serait adoptée, le législateur suisse devra veiller à bien équilibrer les multiples intérêts fondamentaux en jeu dans la gouvernance des plateformes numériques, notamment ceux liés à la modération des contenus et à la responsabilité des intermédiaires d’Internet.