Précédentes recommandations du CNNum

CONTENUS ILLICITES

Précédentes recommandations du CNNum

Vous retrouverez dans cette page une synthèse de recommandations du CNNum issues de précédents avis, que nous reproduisons ici à toutes fins utiles.

De ses avis sur les propositions de lois relatives à des blocages de sites et de contenus illégaux depuis 2013 à son récent avis Prédiction, chiffrement et libertés de septembre 2017, le Conseil national du numérique s’est exprimé à plusieurs reprises sur les contenus litigieux. Voici un tour d’horizon des principales propositions du CNNum sur les questions de la régulation de contenus illicites ou non conformes aux conditions générales d’utilisation (CGU) à l’intérieur des plateformes.

Sommaire des précédentes recommandations du CNNum :

  • Conforter la place du juge judiciaire, garant des libertés individuelles
  • Soumettre les plateformes au principe de loyauté
  • Ne pas remettre en cause le régime de responsabilité limité des hébergeurs, applicable aux plateformes
  • Faire en sorte que les plateformes ne soient pas en situation de juger seules le caractère manifestement illicite d’un contenu signalé
  • Renforcer les dispositifs de signalement sur les plateformes
  • Introduire le principe du contradictoire pour les retraits de contenus illégaux  et aussi les contenus non conformes aux CGU
  • Assurer une intervention humaine effective dans les dispositifs de  surveillance automatique des contenus
  • Donner aux associations la capacité d’agir en justice au titre de la défense des intérêts des internautes en matière de liberté d’expression
  • Impliquer les utilisateurs dans les dispositifs de régulation intra-plateformes et repenser les sanctions à l’intérieur des plateformes

Proposition n°1 : Conforter la place du juge judiciaire, garant des libertés individuelles

Depuis 2013, le Conseil national du numérique a plusieurs fois réaffirmé son attachement au principe d’une intervention judiciaire dès lors qu’est mis en place un dispositif de surveillance, de filtrage, de retraits de contenus ou de blocage sites illicites sur Internet - et ce malgré l’urgence et la complexité technique inhérentes aux affaires antiterroristes. Bien que le passage par le juge judiciaire ne constitue pas une garantie absolue, le Conseil considère qu’il s’agit d’une garantie nécessaire notamment car le juge judiciaire est indépendant (contrairement à l’administration ou aux services de sécurité). Par ailleurs, le juge judiciaire s’assure, avant que la mesure ne soit mise en œuvre, que celle-ci n’est pas arbitraire, qu’elle est nécessaire et proportionnée à l’objectif poursuivi et qu’elle respecte les droits de la personne.

Le Conseil a aussi proposé d’adapter l'appareil répressif au service d’une réponse judiciaire efficace dans l’environnement numérique. La réaffirmation du rôle du juge ne peut se faire sans un renforcement en profondeur de ses moyens d’action visant à obtenir des décisions en temps court, adaptées aux réalités auxquelles elle doit faire face. Pour spécialiser la chaîne pénale en matière de blocage DNS judiciaire des sites et de retrait de contenus, il serait ainsi nécessaire d’initier une filière de formation ad hoc des juges au numérique, voire de créer un parquet spécialisé sur les contenus illicites en ligne. En parallèle, le CNNum propose de réinvestir et de capitaliser sur les procédures existantes - en particulier les procédures d’urgence et le référé LCEN - qui restent trop souvent écartées.

Enfin, il a été recommandé de renforcer la coopération internationale par les canaux diplomatiques notamment en réformant le Mutual Legal Assistance Treaty (MLAT) qui permet à l’autorité française d'accéder à des informations stockées dans les plateformes hébergées aux États-Unis. Le MLAT fait actuellement l’objet d’une proposition de loi aux États-Unis afin de le rendre plus accessible et transparent et dans le sens d’une responsabilisation des acteurs. Cette recommandation s’appuie également sur la nécessité de faire ratifier par les États hébergeant des sites diffusants des discours de haines le protocole additionnel n° 189 à la Convention cybercriminalité du Conseil de l’Europe spécifiquement dédié au racisme et à l'antisémitisme.

Pour plus de détails :


Proposition n°2 : Soumettre les plateformes au principe de loyauté

Pour le Conseil national du numérique, le principe de loyauté des plateformes se décline dans des obligations générales de transparence, d’information et de non-discrimination vis-à-vis de leurs clients et utilisateurs, particuliers comme professionnels. En tant que principe transverse, la loyauté vise à pallier certaines difficultés du droit à s’appliquer dans un environnement numérique extrêmement mouvant. Le CNNum a indiqué que le principe de loyauté des plateformes devrait également s’appliquer au filtrage des formes d’expressions et de contenus partagés des individus. Cela implique pour les plateformes de faire figurer des critères de retrait de contenus non discriminatoires et explicites dans les conditions générales d’utilisation.

Pour plus de détails : recommandations n° 6 et 7 du rapport Ambition numérique (juin 2015) - p. 59 et 62


Proposition n°3 : Ne pas remettre en cause le régime de responsabilité limité des hébergeurs, applicable aux plateformes

Souvent considérées comme des hébergeurs au sens de la loi pour la confiance dans l’économie numérique (LCEN) de 2004, les plateformes bénéficient d’un régime de responsabilité limitée. Le CNNum invite à conserver ce régime afin de préserver la liberté de communication, dans la mesure où une responsabilité trop lourde pourrait les pousser à une censure préventive des contenus présents sur leurs sites, par crainte de voir leur responsabilité engagée.

Pour plus de détails : recommandation n° 6 du rapport Ambition numérique (juin 2015) - p. 59


Proposition n°4 : Faire en sorte que les plateformes ne soient pas en situation de juger seules le caractère manifestement illicite d’un contenu signalé

En ce sens, le CNNum a proposé de repenser la procédure de signalement en 5 étapes afin de disposer d'informations fiables et transparentes sur l'étendue et la nature des retraits effectués suite à des signalements par des tiers ou par l'autorité administrative. Pour ce faire, le Conseil propose d’instaurer un système de signalement informant simultanément la plateforme ainsi que PHAROS (autorité en charge des signalements de contenus illicites).

Après information de l'auteur, le contenu litigieux peut être retiré de manière temporaire en attendant la confirmation formelle de PHAROS sur son caractère manifestement illicite ou non et éventuelle transmission du dossier au parquet. À défaut de confirmation, le contenu peut être réintégré sur la plateforme. Il a aussi été conseillé que Pharos recense les informations sur  les contenus retirés et les mettre à disposition publiquement, pour permettre avec cet effort de transparence, une évaluation plus collective de l’effectivité ou non des mesures de blocage.

Pour plus de détails : recommandation n° 12 du rapport Ambition numérique (juin 2015) - pp. 85-86


Proposition n°5 : Renforcer les dispositifs de signalement sur les plateformes

Le Conseil est d’avis d’obtenir des plateformes qu’elles standardisent l’ergonomie des outils qu’elles utilisent et qu’elles s’engagent à traiter les signalements reçus selon des critères transparents et dans un délai de temps raisonnable. Les plateformes pourraient également étendre les dispositifs de fast track dont bénéficient déjà certaines associations de lutte contre les discriminations.

Pour plus de détails  : recommandation n° 12 du rapport Ambition numérique (juin 2015) - p. 87


Proposition n°6 : Introduire le principe du contradictoire pour les retraits de contenus illégaux et aussi les contenus non conformes aux CGU

Le principe du contradictoire signifie que chacune des parties à un litige est en mesure de discuter et contester l'énoncé des faits et des arguments que lui oppose son adversaire. Le CNNum estime nécessaire de l’introduire dans les procédures de retrait des contenus signalés du fait de leur caractère illicite mais aussi les retraits dus à une non-conformité aux politiques contractuelles internes de la plateforme (CGU). Les plateformes pourraient ainsi informer systématiquement l’auteur d’un contenu faisant l’objet d’un signalement et lui donner la possibilité de faire valoir ses observations dans un délai raisonnable.

Pour plus de détails : recommandation n° 12 du rapport Ambition numérique (juin 2015) p. 87


Proposition n°7 : Assurer une intervention humaine effective dans les dispositifs de surveillance automatique des contenus

Le Conseil recommande clarifier les contours de “l’obligation d’intervention humaine” dans le cadre des procédures de retrait des contenus illicites. Si la détection de contenus est souvent automatisée au regard de la masse des contenus à traiter, la décision de retrait doit être prise in fine par un humain. Le dispositif de surveillance automatique des contenus doit quant à lui faire l’objet d’une supervision humaine réelle (et non seulement formelle) selon des critères d'appréciation transparents.

Pour plus de détails : recommandation n° 12 du rapport Ambition numérique (juin 2015) - p. 87

Voir les recommandations dédiées à la surveillance sur la page des propositions du CNNum “Pouvoirs publics et plateformes”


Proposition n°8 : Donner aux associations la capacité d’agir en justice au titre de la défense des intérêts des internautes en matière de liberté d’expression

Dans son rapport Ambition numérique, le Conseil recommande d’instaurer une habilitation législative à agir en justice pour les associations de défense des droits sur Internet, en particulier dans les cas où les personnes visées par une mesure restrictive de liberté ne peuvent être représentées à l'audience (par exemple parce qu'elles ont préféré rester anonymes).

Pour plus de détails : recommandation n° 12 du rapport Ambition numérique (juin 2015) - p. 87


Proposition n°9 : Impliquer les utilisateurs dans les dispositifs de régulation intra-plateformes et repenser les sanctions à l’intérieur des plateformes

Dans une visée plus prospective et pour responsabiliser les acteurs, le CNNum a estimé qu’il serait intéressant d’impliquer davantage les utilisateurs dans les dispositifs de régulation et de déontologie des plateformes notamment dans l’élaboration des politiques éditoriales comme des community standards, les règles de vie de la communauté des utilisateurs ou d’une charte de déontologie.

Pour plus de détails : recommandation n° 12 du rapport Ambition numérique (juin 2015) - pp. 87- 88