PLATEFORMES, DESIGN & AUTRES

ACTIONS SUR LES COMPORTEMENTS

En bref

Les plateformes sont des interfaces techniques qui jouent le rôle d’intermédiaires dans un nombre croissant de marchés : recherche et sélection d’informations, de contenus culturels, de produits, de services, etc. et parfois coordination de systèmes de production collective. Au-delà de l’acte de mise en relation, être une plateforme nécessite d’orienter voire de contrôler les comportements des différentes parties mises en relation, afin de maximiser ceux qui lui permettent de générer davantage de valeur. Les plateformes recourent à cette fin à l’édiction de certaines règles d'utilisation, mais elles conçoivent également leurs interfaces techniques comme un véhicule de ces diverses incitations ou restrictions. Ce rôle de coordination d’acteurs détenu par les plateformes soulève ainsi des interrogations quant aux déséquilibres de pouvoir qui peuvent exister, entre les populations mises en relation, ou entre la plateforme et ces dernières. 

Voici un aperçu sans prétention exhaustive des controverses principales qui ont trait à ces relations.


Plateformes, design et autres leviers d'action sur les comportement_illustration_JHerzogCC0

Controverse #1 - Design et contrôle des populations d’usagers

Lorsque nous utilisons les services des plateformes, un certain nombre de dispositifs agissent sur la manière dont nous le faisons, sans que nous ne nous en rendions nécessairement compte et certains sont inscrits directement dans l’architecture technique de la plateforme : options figurant ou ne figurant pas dans un menu, cases à cocher ou à décocher, répartition des espaces, etc. La possibilité d’agir sur cet environnement technique diffère d’un service à l’autre, d’une politique commerciale à l’autre. Ainsi ces dispositifs visent fréquemment à orienter notre perception du service ou nos comportements dans une certaine direction. Par exemple, le fait qu’une vidéo se déclenche automatiquement à la suite d’une autre sur Youtube ou le petit marqueur « lu » à la fin d’un message sur Facebook, constituent autant d’exemples de ces dispositifs qui peuvent isolément passer inaperçus mais qui, cumulativement, produisent des effets.

Quels effets ? Dans ces deux cas spécifiques, celui de prolonger le temps passé par l’utilisateur sur la plateforme, notamment en l’incitant à la réactivité. Mais cela peut servir des objectifs plus larges, comme faire en sorte que les personnes qu’une plateforme met en relation pour un objectif précis (faire du covoiturage, par exemple), se comportent de manière correcte et assurent la pérennité du service. C’est un des objectifs, semble-t-il, des mécanismes de notation qui se sont développés sur une grande partie des plateformes. D’autres mécanismes, tels que l’affichage public du nombre d’amis sur Facebook, de contacts Linkedin, ou de followers sur Twitter, visent à créer une adéquation entre les objectifs de la plateforme - faire en sorte que les interactions se renforcent et que l’utilisation du service croisse - et les aspirations des utilisateurs. 

Certains considèrent que les efforts d’influence des plateformes sur les comportements des utilisateurs peuvent même aller jusqu’à une forme de pouvoir. C’est le cas lorsqu’aux caractéristiques techniques visant à influer les comportements s’ajoutent des incitations psychologiques conçues dans l’objectif d’exercer un contrôle sur une population. Ainsi la relation de la plateforme Uber avec ses chauffeurs est particulièrement révélatrice de ce type de dispositifs. Par exemple, des badges sont attribuées aux chauffeurs lorsqu’un certain nombre d’objectifs sont atteints, des messages sont envoyés régulièrement pour signifier la proximité d’un gain pour éviter que le chauffeur ne se déconnecte. Ces mécanismes relèvent de ce qu’on appelle le « nudge », une manière d’exploiter les tendances à un certain nombre de biais non rationnels qui influent sur le comportement : l’effet de pair, par exemple, qui fait que nous avons tendance à reproduire le comportement des autres personnes autour de nous. Ainsi, indiquer le nombre de chauffeurs ayant franchi telle ou telle étape (nombre d’heures passées sur la plateforme par exemple) peut avoir un effet direct sur le comportement d’un chauffeur. 

Pour aller plus loin : 

  • Christophe Benavent - Christophe Benavent. Plateformes. Sites collaboratifs, marketplaces, réseaux sociaux… Comment ils influencent nos choix - 2016. Également : Les caractéristiques d'un modèle de plateforme (video), La déferlante des algorithmes : les avantages et les risques (video). 
  • Cass Sunstein, Richard Thaler, Nudge : la méthode douce pour inspirer la bonne décision - 2008
  • Libération - Les nudges, force de persuasion (lien)

 

#2 - Data marketing, économie de l’attention et libre arbitre

Le développement des plateformes s’inscrit dans le cadre global d’une l’économie où l’attention est une ressource rare, qu’il s’agit de capter. Les plateformes qui agrègent des contenus et des informations sont devenus les acteurs incontournables de cette économie et  elles sont amenées à développer des dispositifs sophistiqués pour capter et retenir notre attention. Nous les avons tous expérimentés, sans toujours parvenir à en prendre véritablement conscience. Ils peuvent jouer sur notre peur de manquer une information importante ou stimuler notre besoin de reconnaissance. Ces techniques sont fréquemment dénoncées, y compris par ceux qui ont contribué à les populariser et qui considèrent maintenant que notre temps d’attention doit être mieux défendu ; au sens où ces techniques affecteraient potentiellement les aspirations humaines à se réaliser en induisant une perte de temps, un détournement des objectifs poursuivis, etc. Mais ces outils réduisent-ils réellement nos capacités à choisir librement la manière dont on alloue notre temps ? Et en quoi se distinguent-ils des stratégies de marketing classiques utilisées par les entreprises ?

La donnée et le recours aux algorithmes sont les éléments clés des stratégies de marketing mises en place par les plateformes pour mettre en relation les besoins des consommateurs avec des offres de produits ou de services. Mais contrairement aux stratégies statistiques traditionnelles employées par la publicité, qui se fondaient principalement sur des segmentations sociodémographiques ou « tranches » définies à priori par des sondages et des études d’impact (âge, genre, CSP…), le data marketing repose principalement sur l’analyse des comportements, qui correspond à l’analyse de l’historique des consommateurs. Elle permet alors d’établir, à partir des traces laissées par les internautes, des profils individuels et évolutifs, en rupture avec les groupes de consommateurs plus rigides utilisés traditionnellement par la publicité. Les algorithmes prédictifs qui fournissent cette analyse doivent donc permettre à l’annonceur de s’ajuster précisément et ponctuellement aux envies et aux besoins des consommateurs. Une étude parue en 2013 a ainsi révélée que Facebook a manipulé les fils d’actualités de 689,000 utilisateurs afin de déterminer les facteurs qui influencent nos humeurs. Cette étude a permis de déterminer la façon dont nos humeurs dépendent entre autres du flux de bonnes ou mauvaises nouvelles auxquelles nous sommes exposés, et ainsi d’ajuster le placement des contenus financés par les annonceurs.

Le développement de ces algorithmes prédictifs inquiète d’une part à cause de leur participation à la reproduction d’inégalités sociales et sociétales. Si les données de ces algorithmes sont issues du passé des utilisateurs, elles s’appuient également sur la comparaison constante avec les comportements d’utilisateurs aux profils similaires. Ensuite, les algorithmes prédictifs ont été régulièrement accusés de créer des « îlots comportementaux » qui enfermeraient les utilisateurs en les coupant d’un accès à une diversité d’options, de représentations, ou encore d’opinions politiques. Dans son livre A quoi rêvent les algorithmes, Dominique Cardon fait ainsi référence à l’exemple d’une personne qui déciderait d’arrêter de fumer mais qui continuerait à recevoir des publicités pour le tabac. L’individu est ainsi constamment renvoyé à ce qu’il est probablement, plutôt qu’à ce qu’il pourrait - ou voudrait être. La profilisation mis en place par les algorithmes prédictifs est dès lors accusée de nier la liberté des individus car elle se fonde uniquement sur les actions passées des utilisateurs au détriment de leurs volontés. Pour certains auteurs tels qu’Antoinette Rouvroy, cette tendance serait le signe de l’apparition d’une « gouvernementalité algorithmique ». 

Pour aller plus loin : 

  • Franklin Foer - The Guardian - Facebook’s war on free will (lien

  • How Technology Hijacks People’s Minds — from a Magician and Google’s Design Ethicist - Tristan Harris (lien) ou en français : Rue 89 - Des millions d’heures sont juste volées à la vie des gens (lien

  • Ryan Calo - Digital market manipulation - 2014 (lien

  • James Williams - The Clickbait Candidate - 2016  (lien)

  • Dominique Cardon - À quoi rêvent les algorithmes. Nos vies à l'heure des big data, Paris, Seuil, La République des idées, 2015.

  • Rouvroy, Antoinette et Thomas Berns - Gouvernementalité algorithmique et perspectives d'émancipation. Le disparate comme condition d'individuation par la relation ?, Réseaux, vol. 177, no. 1, 2013, pp. 163-196. 

 

#3 - Comment le droit doit-il considérer ces formes de pouvoir des plateformes ?

Le fait de mettre en oeuvre des stratégies d’incitation ou des contraintes sur certains comportements par le design des services et des espaces où ils sont fournis n’est pas l’apanage des plateformes, de l’époque numérique ou même des entreprises. Les individus eux même mettent en oeuvre des stratégies pour orienter la perception de leurs semblables ou leurs interactions avec eux. Dans quelle mesure alors, faudrait il intervenir dans ces relations ? 

Le droit s’interpose dans les relations entre les civils en intervenant pour l’essentiel sur les actions qui affectent la sécurité et les libertés des autres. Dans les relations entre les consommateurs et les entreprises, on considère communément que les premiers sont en situation d’asymétrie d’expertise et de pouvoir économique, c’est pourquoi une attention particulière est généralement portée dans le droit à ce qu’ils soient suffisamment informés et puissent faire leurs choix en connaissance de cause. Ainsi, le fait d’omettre des informations essentielles ou de présenter de manière trompeuse sur le contenu d’un produit, du service, ou sa disponibilité est interdit et sanctionné. Cependant, d’aucuns témoignent fréquemment de difficultés quand à l’effectivité de ces règles au sens où l’on peut sur Internet constater des pratiques qui pourraient s’analyser comme illégales, mais dont la portée est trop résiduelle pour estimer nécessaire de consacrer du temps à en reporter systématiquement aux autorités. Ce peut être le cas par exemple, lorsqu’une plateforme de réservation hôtelière semble dire qu’il ne reste que quelques chambres disponibles dans un hotel alors que c’est faux. Si, cumulativement, ce type de pratiques peut avoir un effet important sur les comportements d’achats, il peut sembler dérisoire de s’y attarder à l’échelle individuelle. 

De leur côté, les autorités dont les ressources ne sont pas infinies doivent effectuer des choix et prioriser leurs actions. Tantôt en sanctionnant des cas emblématiques, parfois en adoptant des règles interdisant spécifiquement l’emploi de telle case pré-cochée pour souscrire à une assurance annulation, tel abonnement à une newsletter, etc. Mais ces actions ponctuelles ne peuvent résolument couvrir l’intégralité des marchés. Et ces règles spécifiques portent nécessairement sur des objets destinés à évoluer, a fortiori dans un environnement numérique évoluant en permanence. S’instaure dès lors un effet de course contre la montre pour mettre en lumière les dernières pratiques et les déclarer indésirables. Comment dès lors faciliter la possibilité de signaler les pratiques contestables par les usagers ? 

Dans d’autre cas il est plus difficile d’évaluer seul si ce qui est fait est illégal : une publicité, un contenu ou un prix curieusement ciblé, des CGU indigestes, des politiques éditoriales qui semblent s’appliquer différemment en fonction des acteurs concernés, etc. : les causes ne sont pas toujours limpides. Comment le savoir ? Parfois les pratiques peuvent simplement être discutables sur le plan moral, et il est du loisir des usagers d’opérer leurs choix en conséquence. Cependant on entend aussi régulièrement l’idée selon laquelle il serait impossible d’agir seul contre les pratiques de plateformes importantes pour lesquelles il n’existe pas vraiment d’offre alternative. Est-on dès lors si impuissant ? Comment les citoyens-utilisateurs peuvent ils peser sur le comportements des plateformes les plus puissantes ?  

Enfin, la nature des relations entre les plateformes et leurs utilisateurs professionnels est aussi de plus en plus mise en question. Ainsi depuis plusieurs années a-t-on assisté à une multiplication des controverses relatives au statut des entrepreneurs qui travaillent par le biais de plateformes de services à la demande telles que Deliveroo, Uber ou Amazon Turks. Certains estiment que le degré de contrôle et de pouvoir exercé par les opérateurs de plateformes sur les chauffeurs, livreurs, etc. est tel qu’il s’agirait d’une relation de subordination plutôt que de prestations de services dans l’indépendance. Ceci justifiant dès lors demander plus de protections à la faveur de la partie économiquement dépendante. C’est en ce sens que plusieurs affaires ont conduit à des requalifications en contrat de travail par les autorités. D’autres considèrent qu’au-delà des requalifications individuelles, il faudrait procéder à une revue du statut de ces travailleurs, afin de leur permettre de bénéficier d’un certain nombre de protections sociales que le régime salarié offre aujourd’hui. 

Cependant, il est parfois aussi objecté que le type de relations de dépendance économique qui relient des individus auto-entrepreneurs aux plateformes s’observaient déjà avant leur essor, dans le cas d’agents immobiliers payés à l’apport d’affaire ou d’architectes freelance par exemple. Ce à quoi d’autres peuvent rétorquer que, derrière la figure des « GAFA », les plateformes seraient avant tout la manifestation d’une mutation bien plus profonde des structures d’organisation de la production, de coordination des acteurs, et par la même, de leur travail. Faudrait-il dès lors reconsidérer les critères juridiques de démarcation entre le cadre des affaires et celui du travail ?

Lorsque via ces mécanismes, la plateforme parvient à une forme de contrôle sur une population, se pose la question de la capacité de contestation et de la détermination collective des normes.

Pour aller plus loin : 

  • Direction Générale de la Concurrence, de la Consommation et de la Répression des Fraudes (DGCCRF) - Les pratiques commerciales  trompeuses - (lien)