Archives par mot-clé : CNNum

Et si les réseaux sociaux étaient régulés par l’intelligence collective de la seule société civile

Publié le par

« Nous sommes les réseaux sociaux » est un essai de Serge Abiteboul, un des sept membres du collège de l’Arcep, et de Jean Cattan, secrétaire général du Conseil national du numérique (CNNum). Ils prônent « une véritable régulation-supervision » des réseaux sociaux « opérée par la société ».

Paru le 7 septembre 2022 aux éditions Odile Jacob, le livre de Serge Abiteboul (photo de gauche) et de Jean Cattan (photo de droite) – intitulé « Nous sommes les réseaux sociaux » – propose un nouveau modèle de régulation des Facebook, Twitter et autres TikTok. « Entre la censure excessive et le laisser-faire, une autre voie est possible, plus démocratique, plus participative », assurent-ils. Au bout de 250 pages (1), ils lancent un appel : « Une véritable régulation supervision opérée par la société nous paraît souhaitable. Une telle initiative permettrait d’animer un débat citoyen pour choisir la modération que nous souhaitons ».

Les risques d’un Etat « modérateur »
« Oui à une régulation fondée sur un débat citoyen, une régulation par la société », prônent Serge Abiteboul et Jean Cattan, respectivement membre du collège de l’Arcep et secrétaire général du Conseil national du numérique (CNNum). Cette régulation-supervision par la société gagnerait ainsi «sa légitimité à imposer aux réseaux sociaux une modération raisonnable qui donnerait à tous les moyens de s’exprimer dans le respect de chacun ». Et de prendre en exemple Wikipedia : l’encyclopédie en ligne montre qu’« il est possible d’exercer collectivement une forme d’intelligence de modération qui fonctionne », en tirant parti des « dynamiques collectives vertueuses ». Jimmy Wales, le fondateur de Wikipedia (2), a d’ailleurs lancé en 2019 un réseau social qu’il décrit comme « non-toxique » : WT.Social (3). L’intelligence collective des internautes en guise de régulation des réseaux sociaux serait elle la solution ? L’autorégulation par les plateformes elles-mêmes montre ses limites ; la censure stricte des contenus porte atteinte à la liberté d’expression et à la liberté d’informer ; la modération rigoriste freine l’émergence de nouvelles idées. Par conséquent, une régulation-supervision par la société semble la bonne voie : « Nous sommes les réseaux sociaux », titrent justement les auteurs de cet essai.
Mais cette régulation-supervision doit-elle se faire par l’intelligence collective de la société civile elle-même et, donc, sans l’intervention d’une autorité de régulation relevant d’un Etat, ou bien faudrait-il que cette régulation-supervision soit encadrée par les pouvoirs publics (gouvernement, régulateur, législateur, justice, …) ? Serge Abiteboul et Jean Cattan rejettent d’emblée – et c’est heureux – la voie d’une régulation tout-étatique : « Une régulation-supervision qui consacrerait un tête-à-tête entre l’Etat et le réseau social ne serait pas (…) à l’abris d’un rejet de la société ». Ils prônent donc « une véritable contribution (…) de la société à la modération [qui] serait non seulement gage d’une plus grande acceptabilité mais surtout d’une plus grande qualité ». Pour autant, les deux auteurs écartent implicitement la voie – pourtant possible – d’une régulation-supervision par la seule société civile, à la manière de Wikipedia dont ils parlent – et où ce sont les 103,9 millions d’individus contributeurs et les 3.762 administrateurs, au 20 septembre 2022 (4), qui ont voix au chapitre et non les régulateurs ni les gouvernements.
Au lieu de cela, le membre de l’Arcep et le secrétaire général du CNNum retiennent plutôt une approche à la manière de la « Mission Facebook ». A savoir : « Que les réseaux sociaux entrent dans un dialogue politique informé avec toutes les parties prenantes [gouvernement, législateur, justice, entreprises, société civile, …], collectivement ». Cette idée d’une « corégulation entre les plateformes et les autorités publiques » avait été évoquée par Mark Zuckerberg, PDG cofondateur de Facebook, et Emmanuel Macron, le président de la France, lors de leur rencontre en 2018 (5). Le rapport de la « Mission Facebook », remis par Macron à Zuckerberg le 17 mai 2019 à l’Elysée (6), a inspiré l’Europe sur certains points du DSA (Digital Services Act) : comme la « supervision » des moyens mis en œuvre par les plus grandes plateformes numériques – celles présentant un « risque systémique » – pour modérer les contenus nocifs. Mais le DSA, lui, n’associe pas directement la société civile et les internautes.

Europe : l’acte manqué du DSA
La « régulation-supervision » reste entre les mains de la Commission européenne (sur les très grandes plateformes), le nouveau Comité européen des services numériques (sur les services intermédiaires) et les régulateurs nationaux (en fonction du pays d’origine). La société civile, elle, reste absente de cette régulation-supervision des réseaux sociaux. « Un tel cadre [associant la société civile] pourrait enrichir le DSA [et] s’appliquer aussi au DMA [Digital Markets Act, ndlr], permettant ainsi à toute la société de participer à l’élaboration des objectifs de régulations », concluent les auteurs. En France, le Conseil d’Etat vient de recommander d’« armer la puissance publique dans son rôle de régulateur » (7) des réseaux sociaux… @

Charles de Laubier

A quoi sert le Conseil national du numérique (CNNum) et surtout est-il vraiment indépendant du pouvoir ?

Publié le par

Douter de l’indépendance du CNNum peut paraître incongru, sept ans après
que cette « commission administrative à caractère consultatif » ait été créée, mais la question mérite d’être posée tant sa proximité avec le chef de l’Etat
et le « ministre chargé de l’économie numérique » est avérée, jusque dans son fonctionnement et son financement.

Nouvelle présidente, nouveaux membres, nouveaux locaux, nouvelles ambitions, nouvelles missions, … Le Conseil national du numérique (CNNum), dont l’idée fut formulée il y aura dix l’an prochain avant d’être concrétisée en 2011 par Nicolas Sarkozy (alors président de la République), fait une nouvelle fois peau neuve. Contrairement à ses prédécesseurs – Gilles Babinet (2011- 2012), Benoît Thieulin (2013- 2015) et Mounir Mahjoubi (2016-janvier 2017) – qui furent nommés « par décret du président de la République », Marie Ekeland (photo de gauche) l’a cette fois été « par arrêté du Premier ministre ».
Il en va de même des vingt-neuf autres membres qui composent cette « commission administrative à caractère consultatif » (1). Cette manière de changer son fusil d’épaule n’est-il pas pour éviter que l’ombre du chef de l’Etat Emmanuel Macron (photo de droite), précédemment ministre de l’Economie, de l’Industrie et du Numérique (août 2014-août 2016), ne plane de trop au-dessus du nouveau CNNum ? C’est en tout cas ce qu’a demandé Edition Multimédi@ à Mounir Mahjoubi, secrétaire d’Etat auprès du Premier ministre en charge du Numérique, lors de la présentation du nouveau CNNum, le 11 décembre dernier. « Vous allez trop loin… », nous a aimablement répondu celui qui fut le prédécesseur de Marie Ekeland à la présidence de cette commission.

Trente membres nommés par le Premier ministre
Dans cette « transformation dans la continuité », les trente membres – dont fait partie
la présidente – restent nommés « sur proposition du ministre chargé de l’économie numérique », en l’occurrence aujourd’hui Mounir Mahjoubi. Ce dernier a tenu à préciser que ce n’était plus dorénavant le président de la République qui les nommait :
« Historiquement, les membres du CNNum étaient nommés par le président de la République car on pensait que le gouvernement ne pouvait pas s’occuper du sujet [le numérique, ndlr] tout seul. Or, dans les compétences constitutionnelles, ce n’est pas dans le rôle du chef de l’Etat. C’est au gouvernement d’anticiper le numérique et au plus haut niveau possible, d’où maintenant le Premier ministre qui nomme les membres du CNNum. Et comme ce n’est plus le président de la République qui les nomme, cela évite de faire un décret en conseil des ministres ».

La double tutelle d’un CNNum bien encadré
Autant, avant fin 2012, le CNNum élisait « en son sein » son président parmi les dix-huit membres qui le composaient à l’époque, autant cette prérogative est ensuite revenue au chef de l’Etat et maintenant au Premier ministre. Et pour nommer ses trente nouveaux membres, Marie Ekeland a révélé qu’ils l’avaient été sur sa proposition en tant que présidente du CNNum. « Ce qui n’avait jamais été le cas auparavant. La création d’un collectif à laquelle le président (du CNNum) a été associé est une première », a-t-elle assuré. Quoi qu’il en soit, le grand ordonnateur du CNNum est bel et bien l’Etat et le gouvernement français. Cette commission administrative à caractère consultatif – qui n’est donc pas une autorité administrative indépendante (AAI) comme peuvent l’être le CSA, l’Arcep, l’Hadopi, la Cnil, l’Anfr ou encore l’Arjel – revendique tout de même son « indépendance de pensée » comme l’a assuré sa nouvelle présidente : « Le CNNum a montré par le passé qu’il a un rôle de vigie et de lanceur d’alertes lorsqu’il n’était pas d’accord avec le gouvernement. Le CNNum a été le premier à alerter sur le fichier des titres électroniques sécurisés (TES) (2). C’est le CNNum
aussi qui a critiqué la loi de programmation militaire (LPM) (3). Ce sont les meilleures preuves de l’indépendance de pensée du CNNum et vous le verrez dans nos prochaines actions ». Et le secrétaire d’Etat au Numérique a abondé dans ce sens :
« Le CNNum a un rôle particulier ; il est proche du gouvernement qui peut lui poser toute question sur le numérique. Il est indépendant puisqu’il s’est toujours auto-saisie sur des sujets qui grattent. (…) Il doit pouvoir dire au gouvernement qu’il a fait une “connerie” ».
Selon le nouveau décret d’organisation daté du 8 décembre 2017 (paru le 10 décembre dernier), le Conseil national du numérique voit son champ d’intervention encore plus étendu qu’il ne l’avait été lors du décret précédent décret du 13 décembre 2012 qui élargissait déjà ses missions « à l’ensemble des questions posées par le développement du numérique ». Cette fois, le CNNum a le bras encore plus long en étant « chargé d’étudier les questions relatives au numérique, en particulier les enjeux et les perspectives de la transition numérique de la société, de l’économie, des organisations, de l’action publique et des territoires ». Le numérique n’est plus un objectif en soi. Auparavant, les trente membres étaient « choisis en raison de leurs compétences dans le domaine du numérique ». Désormais, ce sont des personnes
« désignées en raison de leurs compétences et de leur expérience dans le domaine de la transition numérique » (4). Pour Marie Ekeland, cofondatrice de la socitété de capital risque Daphni, « il faut sortir le numérique du numérique, car ce sont des questions sociétales sur lesquelles il faut arrêter d’avoir ces discussions entre-soi et intégrer les différents mondes à la réflexion ».
Comme dans le décret d’organisation de 2012, celui de 2017 précise à nouveau que
le CNNum a pour mission de « formuler de manière indépendante et de rendre publics des avis et des recommandations ». A noter qu’il n’y avait aucune référence à l’indépendance dans le premier décret du 29 avril 2011 portant création du CNNum.
Si les deux premiers décrets (création et élargissement) prévoient que « le Conseil national du numérique dispose d’un secrétariat mis à sa disposition par le ministre chargé de l’économie numérique », le dernier en date (transformation) va plus loin : « Il [le CNNum] est placé auprès du ministre chargé du numérique », à savoir le secrétaire d’Etat au Numérique placé auprès du Premier ministre, tandis que son secrétariat « est assuré par la direction générale des entreprises [la DGE]qui prend en charge ses frais de fonctionnement » et dont dispose la présidente du CNNum.
Comme cette DGE est placée sous l’autorité du ministre de l’Economie et des Finances, autant dire que le CNNum est placé sous la tutelle à la fois du Premier ministre Edouard Philippe et celle du ministre de l’Economie et des Finances Bruno
Le Maire. Dans ces conditions, difficile de ne pas se demander si le gouvernent
« Macron » ne tire pas toutes les ficelles de ce conseil pourtant censé être véritablement indépendant. D’autant plus que le CNNum n’a pas du tout d’autonomie financière comme peuvent l’avoir les AAI et encore moins d’indépendance budgétaire. C’est tout juste s’il est gratifié d’une « dotation globale de fonctionnement » qui s’élève en 2017 à… 83.953 euros. Elle est même en baisse de 4,3 % par rapport à l’année précédente (5).

Salaires et locaux réglés par le gouvernement
Il faut dire que, au-delà des trente membres tous bénévoles et en activité professionnelle par ailleurs au risque de provoquer des conflits d’interêts, les onze permanents du CNNum sont payés par le secrétariat d’Etat au Numérique. « Le budget du CNNum est dynamique, a expliqué Mounir Mahjoubi. Les effectifs ont toujours été croissants. Le budget de fonctionnement ne comprend pas les salaires ni la location des locaux [nouveaux rue Louise Weiss dans Paris 13e, ndlr] également pris en charge par le secrétaire d’Etat au Numérique. Nous allons voir avec la feuille de route si l’on manque de moyens (financiers) pour avancer. Les moyens mis à disposition doivent pouvoir accompagner les missions du CNNum ». Cette feuille de route du nouveau CNNum sera établie à partir de janvier 2018. @

Charles de Laubier

Europe : mais que font les « Digital Champion » ?

Publié le par

En fait. Le 28 novembre, Gerard de Graaf, directeur du marché unique numérique à la DG Connect de la Commission européenne, a indiqué à EM@ que la prochaine réunion des « Digital Champion » au lieu le 6 décembre. Il nous répond, alors que Gilles Babinet a été nommé par la France il y a plus de
5 ans maintenant.

En clair. Selon nos informations, les vingt « Digital Champion » de l’Union européenne actuellement en fonction vont se réunir à Bruxelles le 6 décembre (1). Et ce, pour la 15e fois depuis que ce poste d’« ambassadeur pour le “Digital Single Market” » a été lancé il y a six ans maintenant par Neelie Kroes, alors commissaire européenne au Numérique (2). Edition Multimédi@ a contacté Gerard de Graaf, directeur du marché unique numérique à la DG Connect de la Commission européenne, pour savoir au juste pourquoi n’y avait-il jamais eu de rapport d’activité des « Digital Champion » mis à part des « Minutes » (3) mis en ligne en guise de brefs comptes-rendus ?
« Les domaines d’activité principales des “Digital Champion” se concentrent sur leurs propres pays et c’est la raison pour laquelle la Commission européenne – jusqu’à maintenant – n’a pas préparé un rapport d’activité, et nos discussions avec eux se concentrent plutôt aux échanges de bonnes pratiques nationales », nous répond-t-il. Nous avons voulu aussi connaître le statut et la rémunération de ces ambassadeurs du numérique chargés d’« aider chaque Européen à devenir numérique ». « La nomination des “Digital Champion”, la durée de leurs mandats et leurs rémunérations éventuelles sont la prérogative des Etats membres, et quelques-uns d’entre eux ont décidé de
ne pas nommer de Digital Champion ou de ne pas le remplacer à la suite d’une démission », nous explique Gerard de Graaf. Le Royaume-Uni devança l’appel de Neelie Kroes en désignant dès 2009 Martha Lane Fox comme sa « championne du numérique ». Mais la cofondatrice de Lastminute.com a démissionné en novembre 2013.
Ils furent jusqu’à vingt-sept « champions du numérique », l’Estonie – pourtant le pays européen le plus digital et président de l’UE jusqu’à fin 2017 – n’ayant pas jugé bon de désigner de « Digital Champion ». Aujourd’hui, ils ne sont plus que vingt (4). La France, elle, a désigné Gilles Babinet « Digital Champion » il y a un peu plus de cinq ans maintenant, sans l’acter dans le Journal Officiel. Là non plus, il n’y a jamais eu de rapport d’activité. Contacté par EM@, le serial-entrepreneur et ancien président du Conseil national du numérique (CNNum) nous a répondu que sa fonction est bénévole – « à part quelques missions rémunérées » – et que son mandat doit se terminer fin 2019 en même temps que la Commission Juncker. Il n’exclut pas d’être reconduit. @

Le Numérique placé auprès du Premier ministre

Publié le par

En fait. Le 17 mai, Mounir Mahjoubi a été nommé – auprès du Premier ministre Edouard Philippe – secrétaire d’État chargé du Numérique. Le 18 mai, s’est déroulée la passation des pouvoirs de Christophe Sirugue, lequel avait succédé le 27 février à Axelle Lemaire – successeure en 2014 de Fleur Pellerin.

En clair. Le quinquennat de François Hollande aura connu trois secrétaires d’Etat chargé du numérique. Celui de Emmanuel Macron commence avec Mounir Mahjoubi
à ce poste. Mais si ce dernier échoue aux législatives, où il est investi en tant que candidat dans le 19e arrondissement de Paris pour les élections législatives sous l’étiquette « La République en marche », il a déjà prévenu : « Je partirais » (conformément aux directives du nouveau chef de l’Etat). Contrairement à ses prédécesseurs, le secrétaire d’Etat chargé du numérique n’est pas rattaché au ministère de l’Economie mais relève des services du Premier ministre.
C’est-à-dire que Mounir Mahjoubi, qui fut nommé en février 2016 président du Conseil national du numérique (CNNum) par le précédent président de la République, avant de
rejoindre Emmanuel Macron dont il a été responsable de la campagne numérique
d’« En Marche » (1), va être au plus près de ce dernier. Or comme celui qui est devenu le huitième président de la Ve République, depuis son investiture le 14 mai 2017, a été auparavant ministre de l’Economie, de l’Industrie et du Numérique (août 2014-août 2016), les enjeux numériques de la France ont des chances d’être traités au plus haut niveau de l’Etat. C’est sans précédent (lire les promesses « numériques » d’Emmanuel Macron dans EM@167). Ce Franco-Marocain de 33 ans est le benjamin du gouvernement Philippe. Parmi ses toutes premières déclarations en tant que secrétaire d’Etat en charge du Numérique, Mounir Mahjoubi s’est exprimé lors de sa visite le 18 mai dernier dans les locaux de BPIfrance pour évoquer la promesse de Emmanuel Macron de taxer le chiffre d’affaires des acteurs du Net réalisé en Europe : « C’est créer plus d’égalité ; être capable de faire que ces grandes plateformes de l’Internet internationales payent en Europe un impôt juste et équilibré, qui les mettent au même équilibre que les autres. Maintenant, nous sommes au gouvernement. Donc il nous appartient de dire quelle forme elle doit prendre. Les peuples d’Europe sont prêts parce qu’ils en ont marre de voir des entreprises qui ne travaillent pas dans les mêmes conditions fiscales et les mêmes conditions économiques que les acteurs locaux. C’est une vision qu’on doit nécessairement avoir au niveau européen, et la France doit être un leader sur ce sujet-là » (2). @

Les algorithmes sont partout mais leur régulation est nulle part : une zone de non droit numérique ?

Publié le par

Ils sont soupçonnés de formater automatiquement le monde numérique à des fins commerciales, à l’insu des utilisateurs qui leur ont cédé sans le savoir une partie de leur pouvoir de décision et de leur libre-arbitre. La question du contrôle de la « loyauté des algorithmes » et de leur régulation se pose.

La Commission nationale de l’informatique et des libertés
(Cnil) s’est donnée jusqu’à l’automne prochain pour publier la synthèse des échanges et contributions qui découleront du débat sur les algorithmes qu’elle a lancé le 23 janvier dernier.
« Des pistes ou propositions pour accompagner le développement des algorithmes dans un cadre éthique pourraient faire par la suite l’objet d’arbitrages par les pouvoirs publics »,
a prévenu Isabelle Falque-Pierrotin (photo), présidente de la Cnil, à l’occasion d’une table ronde « éthique et numérique » consacrée aux algorithmes.

Réglementation ou auto-régulation ?
La loi « République numérique » du 7 octobre 2016 a en effet confié à la Cnil la mission de conduire « une réflexion sur les problèmes éthiques et les questions de société soulevés par l’évolution des technologies numériques ». De son côté, le Conseil supérieur de l’audiovisuel (CSA) a publié le 20 janvier dernier un rapport – le premier de son CSA Lab, groupe de réflexion prospective sur l’audiovisuel lancé en juin 2016 – sur « le rôle des données et des algorithmes dans l’accès aux contenus » (1). Les auteurs terminent leur rapport en estimant que « toute tentative de réguler les algorithmes serait probablement vouée à l’échec en raison de l’évolutivité de la technologie et du caractère confidentiel et concurrentiel des développements ».
Mais alors, comment s’assurer que les algorithmes utilisés préservent bien la diversité culturelle, maintiennent une qualité d’accès aux contenus, respectent les consommateurs et leur vie privée, protègent les données personnelles, garantissent une certaine loyauté, ou encore développent la confiance en la société numérique ?
A défaut de réglementer les algorithmes, le rapport du CSA Lab suggère que « le régulateur pourrait éventuellement contribuer à la transparence du marché en publiant des indices mesurant différents aspects qualitatifs des algorithmes ». Ces indices pourraient par exemple « mesurer le niveau de contribution des algorithmes aux différents objectifs de la politique audiovisuelle, tels que la diversité ». Au sein du CSA Lab, ce sont Yann Bonnet (secrétaire général du Conseil national du numérique), Nicolas Curien (membre du CSA) et Francesca Musiani (chargée de recherche CNRS et chercheuse associée à Mines ParisTech) qui se préoccupent du rôle des données
et des algorithmes dans l’accès aux contenus (2). « Premières manifestations de l’intelligence artificielle, dont la généralisation constitue aujourd’hui un temps fort de
la transition numérique, les algorithmes sont des agents intelligents, des robots, dont
il convient évidemment de s’assurer qu’ils opèrent au service d’un intérêt général convenablement et clairement défini, et non pas d’intérêts particuliers et opportu-
nistes », préviennent-ils.
Quant au Conseil général de l’économie, de l’industrie, de l’énergie et des technologies (CGE), qui dépend de Bercy, il a présenté le 15 décembre dernier son rapport sur les
« modalités de régulation des algorithmes de traitement des contenus » (3). D’emblée, les deux auteurs – Jacques Serris et Ilarion Pavel – se veulent prudents : « Ce rapport ne propose pas une nouvelle régulation sectorielle qui s’appliquerait aux algorithmes. En revanche, il souligne qu’il faut développer la capacité à tester et contrôler les algorithmes eux-mêmes ». Il s’agit de détecter l’existence de discriminations illicites
et de vérifier la conformité aux lois et règlements. Encore faut-il pouvoir contrôler les algorithmes en question et, en cas d’infraction présumée, de porter l’affaire en justice. Aussi, le CGE recommande au gouvernement de mettre en oeuvre des moyens techniques et humains supplémentaires pour analyser les flux d’échanges de données et le fonctionnement des algorithmes de traitement des contenus.

Cnil, AMF, Arjel, DGCCRF
« Pour les services de contrôle, la démonstration de la déloyauté de l’information ou
de la pratique commerciale trompeuse passe par le décryptage de l’algorithme, la connaissance de ses critères de fonctionnement et leur pondération », dit le CGE. Et de poursuivre : « L’utilisation d’une méthode statistique ad hoc n’est pas suffisante et est sujette à forte contestation. Cela pose la question des moyens techniques et humains nécessaires pour pouvoir mener à bien les contrôles ». En France, la Cnil, l’Autorité des marchés financiers (AMF) et l’Autorité de régulation des jeux en ligne (Arjel) disposent d’ores et déjà d’équipes et de moyens de contrôle et d’investigation leur permettant de tester le fonctionnement d’algorithmes. De son côté, la Direction générale de la concurrence, de la consommation et de la répression des fraudes (DGCCRF) dispose d’un service spécialisé de contrôle du commerce électronique qui pourrait être mis à contribution.

Bercy veut un « bureau de contrôle »
Aussi, le rapport du CGE propose d’aller plus loin en créant un « bureau des technologies de contrôle de l’économie numérique » qui « pourrait être localisé au sein de la DGCCRF » justement. Le rôle de ce bureau spécialisé : contrôler non seulement la loyauté des algorithmes, mais aussi les voitures connectées, la maison intelligente, les nouvelles méthodes de paiement, le Big Data ou encore l’Internet des objets. Il pourrait être saisi par la Cnil, l’AMF et l’Arjel, mais aussi par l’Autorité de la concurrence, l’Arcep, le CSA, ainsi que par l’Acam (4), l’ACPR (5) ou encore l’ANSM (6). Le CGE préconise en outre la mise en place d’une « plateforme scientifique collaborative » destinée à favoriser notamment le développement d’outils logiciels
et de méthodes de tests d’algorithmes « responsables, éthiques et transparents ».
L’Institut national de recherche en informatique et en automatique (Inria) a proposé de porter une telle plateforme, dénommée TransAlgo, qui sera développée en coopération avec le Conseil national du numérique (CNNum), la DGCCRF et la Direction générale des entreprises (DGE) du ministère de l’Economie et des Finances. « Le premier objectif est d’encourager la conception d’algorithmes de traitement de données “responsables et transparents par construction” (on parle de responsible-by-design).
Un algorithme est dit “responsable” s’il respecte les lois (la confidentialité de certaines données, la non-discrimination par ses critères, …), et s’il se conforme à certaines règles éthiques (la neutralité) », explique l’Inria.
Les algorithmes défraient la chronique et soulèvent des questions de fond. On leur reproche d’uniformiser les résultats de recherche et les informations, au point d’enfermer les individus dans leur « bulle » en fonction de leurs centres d’intérêt, leurs connaissances, leurs amis, leurs goûts, leurs médias, leur religion ou encore leurs idées politiques. Les algorithmes confortent chacun d’entre nous dans ses convictions, sa culture et sa façon de percevoir le monde, sans nous inviter à aller à la découverte de l’autre et de la différence. C’est l’entre-soi automatisé. Ils sont prédictifs, en anticipant les comportement des internautes et des mobinautes qui ont laissé derrière leurs navigations et transactions des traces exploitables. Publicités ciblées, voire
« personnalisées », suggestions d’« amis », produits et services « vivement » recommandés, vidéos suggérées, recommandation en tous genres, … La navigation sur le Web ou dans les applications mobiles relève du « parcours du combattant »
pris pour cible par les marchands, publicitaires et autres prestataires. Une armée d’algorithmes collectent les données et les analysent afin de « filtrer » les contenus,
« ordonner » les réponses, « recommander » tous azimuts, « calculer » un score ou encore « prédire » un événement ou un risque.
Qu’est-ce qu’un algorithme ? Le terme vient latin médiéval algorithmus, latinisation du nom d’un mathématicien de langue arabe Al-Khwarizmi, et du grec arithmos qui veut dire nombre. Un algorithme est un ensemble de règles opératoires, dont l’application permet de résoudre un problème énoncé au moyen d’un nombre fini d’opérations. Voilà pour la définition. L’informatique et Internet – Google et Facebook en tête – ont popularisé les algorithmes, pour le meilleur et pour le pire, sans parfois distinguer le
vrai du faux. Les algorithmes sont des programmes autonomes qui s’enrichissent au fur et à mesure des informations qui l’alimentent. Ils apprennent des masses de données qui leur parviennent en direct. Le Big Data est leur fond de commerce. Le calcul de probabilités leur raison d’être. « Un algorithme est une suite finie d’opérations ou d’instructions, déterminée de manière non ambiguë et permettant de résoudre un problème ou d’obtenir un résultat. L’algorithme reçoit des données en entrée (…) et
il produit en sortie d’autres données », définit le CSA dans son rapport.
Mais l’impact économique des algorithmes reste à mesurer, de même que les enjeux sociétaux. Quels sont les effets sur les comportements des usagers isolés dans des
« bulles de filtres », expression employée par Eli Pariser dans « The Filter Bubble »
en 2012 pour désigner le fait que la personnalisation d’Internet – en fonction des algorithmes et des cookies ainsi que de l’analyse systématique de la data – enferme l’internaute dans sa propre vision du monde ?

Risque de discriminations tous azimuts
Outre un risque de « repli sur soi », les algorithmes présentent en outre des risques de discrimination dans l’accès à la santé, à l’emploi, au logement, au crédit ou encore à l’éducation. « Les enjeux juridiques sont essentiellement liés à la capacité d’analyse des pouvoirs publics, pour la vérification de la conformité aux règles de droit », explique le CGE. Alors, réguler ou ne pas réguler ? La question n’est pas tranchée. @

Charles de Laubier