Portrait de Dominique Cardon

Historique

Membre depuis
2 années 4 mois
Inscrit à la liste Suivez l'actualité de la concertation nationale sur le numérique

Aucun voteUne propositionAucun argument

Propositions

Dominique Cardon a publié une solution dans la consultation Données, traces et algorithmes
#2560, le 07/01/2015 - 23:48

Pour un observatoire de la diversité et de la loyauté des plateformes

S’il n’est pas de possible « neutralité » des algorithmes, il est en revanche nécessaire de demander aux plateformes du web de respecter leurs utilisateurs en faisant réellement faire à leurs calculateurs ce qu’elles disent et prétendent leur faire faire. La notion de « loyauté » retenue dans les rapports du CNNum et du Conseil d’État donne une visée claire à cet enjeu : « Les plateformes devraient être soumises à une obligation de loyauté envers leurs utilisateurs, tant les utilisateurs non professionnels dans le cadre du droit de la consommation que les utilisateurs professionnels dans le cadre du droit de la concurrence » (rapport du CE, p. 21). Inquiétudes, plaintes et polémiques sont venues interroger la qualité des classements, de l’ordonnancement ou de la mise en visibilité des informations par les plateformes au regard des principes qu’elles prétendent mettre en oeuvre pour leurs utilisateurs. L’obligation de loyauté interroge donc, non pas une vaine neutralité, objectivité ou vérité de la représentation des informations, mais l’alignement, ou le désalignement, entre le service que la plateforme prétend rendre et la réalité de ce qu’elle offre. Que Google privilégie ses propres services dans son classement (alors que ceux-ci ont moins d’« autorité » que d’autres), que Facebook donne une forte visibilité à certains contenus (alors que l’utilisateur n’a pas un fort « engagement » avec eux), qu’Amazon ajoute des livres à promouvoir dans ses recommandations (alors qu’ils ne correspondent pas à des utilisateurs ayant un profil d’achat similaire), que Twitter ne fassent pas apparaître certains hashtags parmis les trending topics (alors qu’ils sont très utilisés sur une brève période temporelle), etc., et le service rendu par les algorithmes apparaîtra « déloyal ». Les algorithmes hiérarchisent les informations et c’est pour cela qu’ils sont essentiels et utiles. Mais il est indispensable que les services puissent expliquer à l’utilisateur les priorités qui président aux décisions de leurs algorithmes ; et que puissent être vérifié, en toute indépendance, que des intérêts cachés, des déformations clandestines ou des favoritismes cachés n’altèrent pas le service rendu. Une politique publique devrait donc (1) contraindre les plateformes à expliciter clairement, et le plus simplement possible, les principes qu’elles valorisent dans leurs classements (ce qui ne veut pas dire « livrer le secret » de l’algorithme) ; et (2) se donner des moyens techniques, scientifiques et indépendants afin de vérifier solidement qu’ils sont honorés.

 

Face à la nouveauté de cet enjeu et à la fragilité des points d’appui normatif sur lesquels « l’obligation de loyauté » pourrait s’appuyer, cette proposition voudrait suggérer la mise en place d’un (proto-)observatoire de la diversité des traitements informationnels mis en œuvre par les plateformes. Aujourd’hui, la plupart des critiques adressées aux plateformes s’appuient sur des cas isolés, des témoignages mal assurés, des plaignants soupçonnables et des copies d’écran ! Aussi serait-il nécessaire d’équiper le contrôle de la loyauté des plateformes d’outils et de méthodes d’enquête beaucoup plus solide. Cette proposition voudrait suggérer la mise en place d’un projet de recherche interdisciplinaire réunissant informaticiens, sociologues et juristes pour :

 

  1. Établir conceptuellement les différentes acceptions de la notion de diversité informationnelle (diversité horizontale vs. verticale, impartialité, etc.) et concevoir des méthodologies et des métriques permettant d’objectiver ces principes.
  2. Réaliser une rétro-ingénierie systématique et quantitativement représentative mettant à l’épreuve le fonctionnement des plateformes ;
  3. Produire des avis équipés et documentés en y associant étroitement une réflexion juridique ;
  4. Travailler aux côtés des instances de régulation (CNIL, CSA, ARCEP) et de réflexion (CNNum...) afin de se donner des moyens d’accès à certaines données des plateformes et constituer un socle probatoire aux revendications émises à l’endroit des plateformes

 

Cette proposition mériterait d’être beaucoup plus précise et documentée, mais elle voudrait initier un débat pour qu’une alliance entre chercheurs, institutions et société civile travaillent à se donner des armes critiques beaucoup plus solides pour équiper la surveillance des plateformes du web et s’assurer de leur « loyauté ».

 

Sources

Arguments