Les nouveaux champions de l’industrie culturelle – les « ASNS » – ont fait des algorithmes prédictifs leur fond de commerce, de la production à la consommation en ligne. Mais le risque est de ghettoïser et de communautariser les individus, avec la conséquence pour chacun d’exclure le monde de l’Autre.

Par Fabrice Lorvo*, avocat associé, cabinet FTPA

La révolution numérique n’a pas fini de nous surprendre et nous n’en sommes probablement qu’aux préliminaires. Aux côtés des GAFA, géants du Net, voilà les ASNS (Amazon pour la librairie, Spotify pour la musique, Netflix pour la vidéo et Steam pour les jeux vidéo) qui sont les nouveaux champions de l’industrie culturelle. Ces champions ont recours aux algorithmes prédictifs tant au niveau de la production que de la consommation de contenus culturels.

Prédiction et contenus culturels
D’un point de vue général, les algorithmes sont déjà présents partout dans nos vies. Ils nous aident (par exemple le GPS) et ils nous surveillent aussi, en analysant les traces ou les signaux que nous laissons (1). Ils sont le reflet de notre vision de la société. Ils ne sont donc pas sans faiblesses. Les algorithmes ne font que reproduire les inégalités sociales car ils se contentent d’analyser et de reproduire la réalité. Ils n’aiment pas la nouveauté car ils analysent des activités passées. Ils ne comprennent pas tout (notamment pas le discours implicite) et ils n’ont pas de cœur (ils n’intègrent pas l’émotion ou le sentiment humain). Pour le moment, les algorithmes ne peuvent déceler ni la donnée erronée, ni la donnée manipulée, ce qui a pu entraîner des catastrophes, notamment dans le monde de la Bourse. Les algorithmes peuvent aussi travestir la réalité comme l’illustre le scandale du moteur diesel de Volkswagen (2). C’est pourquoi nous devons nous demander si ces algorithmes représentent aussi un danger dans le domaine culturel.
L’utilisation des algorithmes est revendiquée pour la création de contenu tant par les ASNS que par l’industrie historique du cinéma. Les algorithmes sont utilisés par Netflix pour produire de nouvelles séries. Cependant, ces algorithmes ne servent qu’à déterminer les sujets qui seront de nature à rencontrer l’adhésion d’un large public.
De l’aveu même des dirigeants de Netflix, les choix éditoriaux résultent de 70 % de données (data) et de 30 % de jugement (une « intuition informée ») (3). De plus,
une fois les thèmes retenus, la plateforme de SVOD laisse une grande latitude aux réalisateurs acteurs scénaristes pour s’exprimer dans la création de la série. Les algorithmes sont aussi utilisés dans l’industrie du cinéma aux Etats-Unis. La société britannique Epagogix (4) prétend apporter une analyse prédictive de la valeur d’un script, au box-office, en identifiant et en quantifiant comment et où améliorer leur valeur commerciale, et ce par rapport aux films passés. L’analyse s’opère donc soit par rapport aux données relatives aux goûts des abonnés, soit par rapport aux données relatives au contenu des films ayant eu un grand succès. Outre la question de savoir
si le succès d’une oeuvre doit être le seul référant (quid de son contenu ?), il faut un peu de recul pour évaluer la fiabilité de tels algorithmes.
N’avons-nous pas tendance à surestimer les capacités de ces algorithmes pour la production ? Les causes du succès sont souvent impénétrables. Certes, les algorithmes permettent d’avoir une vision plus fine des éléments caractéristiques d’une réussite mais rien n’indique que celle-ci résultera nécessairement de la réunion de ces éléments. Le succès a ses raisons que les data ne connaissent pas ! De plus, le succès réside aussi dans la nouveauté de la présentation. Reste à savoir quel sera le degré de lassitude du public et pendant combien de temps il sera réceptif au contenu composé des mêmes recettes.
Si « House of Cards » – la première série diffusée en exclusivité sur Netflix à partir de 2013 – a été un succès indéniable, la série « Marseille » produite dans les mêmes conditions par Netflix a connu en France, sur TF1, un début modeste avec une perte de 1 million de téléspectateurs entre le premier et le second épisode (5). Enfin, le numéro un mondial de la SVOD ne semble pas miser uniquement sur ce type d’algorithme pour constituer son catalogue. Il a annoncé avoir acheté les droits pour trois « petits » films français présentés lors de l’édition 2016 du Festival de Cannes (6).

Algorithmes face à la pluralité de l’offre
Les ASNS ont pour point commun d’aider leurs clients à faire un choix par l’utilisation d’un algorithme. L’objectif affiché est d’améliorer l’expérience utilisateur des clients
en proposant des contenus adaptés aux goûts et aux habitudes de chacun. Ce type d’algorithme prédictif est un outil indispensable mais qui a des effets pervers. Les ASNS répondent particulièrement aux nouvelles exigences de consommation permises par le numérique (« Je consomme ce que je veux et quand je veux ») qui supposent une offre conséquente de produits culturels, ce qui rend paradoxalement le choix très difficile (trop de choix tue le choix). Si l’utilisateur doit passer des heures à consulter
les catalogues pour choisir un produit culturel, il est peu probable qu’il utilisera régulièrement ce service.

La nouveauté peu recommandable
Pour Netflix, présent dans 190 pays avec plus de 75 millions d‘utilisateurs, l’objectif est de présenter le catalogue le plus important possible puis de le réduire à 50 titres à partir desquels il sera procédé à une sélection efficace. Son algorithme – qui est dorénavant mondial et non plus adapté à chaque pays – utilise les données relatives à son abonné, lesquelles sont comparées avec les données des autres abonnés. Les données analysées sont le profil de l’abonné (ses notations et ses recherches) mais aussi les données passives de connexion (combien de personne ont regardé telle série, à quel rythme, sur combien d’épisodes pour chaque programme, combien l’ont regardée en entier, avec ou sans pause, à quelle heure, etc.).
Pour Spotify, la recommandation utilise trois types d’éléments : l’environnement de l’utilisateur, les comportements de l’utilisateur et des autres abonnés, ainsi que la compréhension des sentiments de l’utilisateur. En partant du postulat que les plateformes en cause sont neutres et qu’elles ne détournent pas les algorithmes prédictifs pour proposer leurs produits, le premier effet pervers est structurel (c’est le
« départ à froid »). Si la recommandation suppose la popularité, une oeuvre nouvelle n’aura pas d’évaluation et ne sera donc pas recommandée. De plus, l’algorithme est
de nature à ghettoïser, à communautariser les individus et à les renforcer dans leurs propres visions des choses. L’algorithme de Netflix utilise une classification du catalogue en plus de 76.000 catégories. Elle tient compte notamment de la couleur de peau ou de l’orientation sexuelle de l’abonné. Cela le conforte dans son monde, ce qui a souvent pour conséquence d’exclure le monde de l’Autre.

Le renforcement de ses propres goûts se fait au détriment de la découverte. Il crée chez l’individu un avatar statique qui annihile sa singularité (7). Il réduit aussi les occasions de confrontation à l’Autre, qui n’est pas toujours celui que l’on veut voir. L’algorithme ne fait que réduire l’horizon culturel de l’abonné et peut le confiner dans une tour d’ivoire virtuelle.
En conséquence, limiter sa consommation culturelle aux suggestions d’un algorithme cantonnera l’abonné aux mêmes styles, qu’il a certes appréciés dans le passé mais qui l’empêchera de découvrir d’autres produits en dehors de ceux qu’il a déjà consommés. En d’autres termes, et sous l’angle culinaire, si un algorithme analyse vos antécédents d’achats de nourriture et note que vous achetez souvent des pommes de terre, il vous proposera de la purée, des chips, des frites, etc. La suggestion sera cohérente par rapport à ce que vous aimez mais ce manque de diversité ne sera pas forcement du meilleur effet sur votre santé !
En conclusion : l’algorithme prédictif est un outil indispensable. Cependant, en fonction de sa programmation, il peut tout à la fois « favoriser la découverte et la diversité qu’enfermer les individus dans des goûts stéréotypés ou des horizon très limités » (8). Si l’algorithme devient indispensable, et que son efficacité suppose une coopération pleine et entière de l’abonné, encore faut-il que l’algorithme soit transparent et que la relation avec l’abonné soit basée sur la loyauté, la confiance et l’éthique. Cette relation est à construire. En 2014, le Conseil d’Etat invitait déjà à « définir un droit des algorithmes prédictifs » (9).
Dans tous les cas, il ne faut pas que les algorithmes prédictifs culturels nous dispensent de faire l’effort d’aller vers l’inconnu et, par là même, qu’ils nous privent de la joie de nous laisser séduire ou surprendre. L’écrivain André Dhôtel nous a appris que ce qui distingue l’homme des robots, « ce serait que les robots ne se promènent jamais » (10). La culture est un domaine qui permet, plus qu’aucun autre, de faire des promenades. Ne nous en privons pas volontairement. On doit aussi se demander si le risque, pour
la culture ne se situe pas autre part. Elle joue un rôle fondamental, tant au niveau individuel que collectif, qui justifie des dérogations au fonctionnement des règles naturelles du marché (notamment par des quotas de production ou de diffusion de 60 % d’œuvres européennes dont 40 % françaises) pour assurer une diversité culturelle.

Des quotas dans les algorithmes ?
Dans ces conditions, les ASNS ne devraient-elles pas s’engager volontairement à soutenir cette diversité culturelle en intégrant dans leurs algorithmes les quotas imposés pour protéger la création européenne et française et, ainsi, éviter ou retarder une américanisation de la culture ou sa globalisation/mondialisation/uniformisation ? @

* Auteur du livre « Numérique :
de la révolution au nauvrage ? » , paru chez Fauves Editions