Explicabilité des algorithmes : à quel niveau faut-il mettre le curseur de la régulation ?

Le néologisme « explicabilité » prend de l’ampleur à l’heure des algorithmes
et de l’intelligence artificielle. En Europe, France comprise, la loi exige déjà qu’ils doivent être explicables dans un souci de transparence et de responsabilisation. La question est de savoir s’il faut encore plus réguler.

Par Winston Maxwell* et David Bounie**, Telecom Paris, Institut polytechnique de Paris

lL’« explicabilité » est devenue un principe incontournable de la future bonne régulation des algorithmes. L’explicabilité figure dans les recommandations que l’OCDE (1) a adoptées le 22 mai (2)
sur l’intelligence artificielle (IA), dans
la communication de la Commission européenne du 8 avril (3), dans le rapport du groupe d’experts correspondant (4),
et dans le rapport Villani (5). Garante de plus de transparence, l’explicabilité des algorithmes n’est pas un concept nouveau.

Culture : la Convention de 2005 apprivoise Internet

En fait. Du 5 au 7 juin, au siège de l’Unesco à Paris, s’est tenue une nouvelle conférence autour de la Convention de 2005 sur « la protection et la promotion
de la diversité des expressions culturelles ». Il s’agit notamment d’adapter à l’ère numérique ce texte ratifié par 45 pays et l’Union européenne.

En clair. « Promouvoir la diversité des expressions culturelles à l’ère numérique ». L’Unesco, organisation des Nations unies pour l’éducation, la science et la culture, poursuit depuis plus de six ans maintenant (1)) l’objectif d’étendre la Convention de 2005 à Internet. Cela passe par une feuille de route (2) et des directives dites opérationnelles (3) à mettre en oeuvre en 2020 et 2021. Il s’agit d’adapter les politiques publiques culturelles aux domaines du digital, au moment où des questions se posent sur la réforme de la régulation des médias, la concentration des contenus et des plateformes numériques, l’impact des algorithmes dans l’accès aux contenus culturels, ou encore sur l’intelligence artificielle pour la créativité.
« L’un des principaux défis consiste à renforcer la production nationale afin de parvenir à un équilibre entre les contenus locaux, régionaux et internationaux », pointe l’Unesco, actuellement dirigée par la Française Audrey Azoulay (4). Autrement dit, comment éviter que les GAFAN ne remportent la bataille des contenus dans le monde et n’uniformise la culture. D’autant que les Etats-Unis, patrie des géants du Net, ne sont pas signataires de la Convention de 2005 ! Par ailleurs, les Américains exigent d’inclure les services audiovisuels et culturels dans les accords de libre-échange qu’ils signent, alors que des pays comme la France au sein de l’Union européenne le refusent catégoriquement pour préserver une certaine « exception culturelle » (5). La Convention de l’Unesco doit en outre réaffirmer le principe de neutralité technologique et le droit souverain des Etats de formuler, d’adopter et de mettre en oeuvre « des politiques et mesures en matière de protection et de promotion de la diversité des expressions culturelles dans l’environnement numérique ». En creux, il faut éviter, d’après l’Unesco, que les pouvoirs publics ne perdent justement le pouvoir de financement et d’influence dont ils jouissent dans le monde créatif au profit de grands acteurs privés et globaux. Quant au Fonds international pour la diversité culturelle (FIDC), institué par la Convention de 2005, il finance des projets dans plus de 54 pays en développement – notamment dans le cinéma, l’audiovisuel et l’art numérique – mais son budget (7,5 millions de dollars investis depuis 2010), est très limité : seuls 2% des projets soumis sont financés. @

Le marché mondial du cloud est en plein boom, au risque d’échapper aux régulateurs nationaux

Les services de cloud dans le monde devraient franchir cette année la barre des 200 milliards de dollars. Les « as a service » (activité, infrastructure, application, logiciel, …) et les mégadonnées du Big Data font les affaires des prestataires du cloud computing, où les GAFAM s’en donnent à coeur joie.

« Les services en nuage bouleversent vraiment l’industrie.
Les prestataires bénéficient de plus en plus de stratégies cloud-first d’entreprises. Ce que nous voyons maintenant
n’est que le début. D’ici 2022, la croissance de l’industrie
des services infonuagiques sera près de trois fois celle de l’ensemble des services numériques », prévient Sid Nag (photo), vice-président analyste chez Gartner.

Les priorités 2019 du nouveau président du CSPLA

En fait. Le 21 janvier prochain se réunira le prochain « trilogue » de négociation sur le projet de directive européenne « Droit d’auteur dans le marché unique numérique ». Pendant ce temps-là, le nouveau président du CSPLA, Olivier Japiot, a fixé les priorités de son mandat de trois ans.

En clair. Edition Multimédi@ a demandé ses priorités pour l’année 2019 à Olivier Japiot, conseiller d’Etat nommé le 28 novembre dernier – par arrêté de la ministre de
la Justice et du ministre de la Culture (publié au JO du 4 décembre) – président du Conseil supérieur de la propriété littéraire et artistique (CSPLA). « En principe, devraient être présentés à la réunion plénière du printemps prochain les trois rapports suivants : “Ventes passives” [c’est-à-dire les ventes non sollicitées par le vendeur de contenus audiovisuels à l’échelle transfrontière au sein du marché unique numérique, ndlr], “Preuve de l’originalité” [d’une oeuvre pour justifier de sa protection légale, y compris sur Internet, ndlr], “Intelligence artificielle” [dans les secteurs de la création culturelle, notamment lorsque l’IA se substitue à l’humain, ndlr] », nous at- il répondu. Quant à la mission que son prédécesseur, Pierre- François Racine, lui avait confiée
il y a tout juste un an sur l’impression 3D, elle devrait déboucher au cours de ce 1er semestre 2019 sur l’adoption d’« une charte de bonnes pratiques dans le domaine de l’art ». Cette mission-là a déjà le rapport qu’Olivier Japiot lui-même avait rendu au CSPLA en juin 2016 et intitulé « L’impression 3D et le droit d’auteur : des menaces à prévenir, des opportunités à saisir ». Il y préconisait justement d’« établir une charte des bonnes pratiques afin notamment de les inciter à afficher systématiquement un appel pédagogique au respect de la propriété intellectuelle » pour prévenir du piratage,
« principalement sur les oeuvres d’art plastique » (1). La charte « Impression 3D », établie avec Vincent Ploquin-Duchefdelaville, a pris du retard car elle devait être proposée le 31 juillet dernier (2). Concernant l’IA, le rapport d’Alexandra Bensamoun
et de Joëlle Farchy lui sera remis fin avril. Le rapport sur la preuve de l’originalité, par Josée-Anne Bénazeraf et Valérie Berthez, est attendu pour fin mars. Celui sur les ventes passives devait être remis à l’automne dernier. Le CSPLA a déjà publié de nombreux rapports (blockchain, licences libres, données et contenus numériques, etc.). « Nous proposerons des coopérations sur des sujets d’intérêt commun, notamment en matière d’études et de manifestations, à des partenaires (…) tels que l’Hadopi, le CNAC (3), le Conseil national du numérique et l’INPI (4) », a aussi écrit Olivier Japiot dans un courrier (5) adressé aux membres du CSPLA le 14 décembre. @

L’éthique, mode alternatif de régulation de l’IA et vecteur de confiance dans l’innovation

Les intelligences artificielles (IA) fascinent et semblent faciliter nos vies. Pourtant, elles nourrissent aussi des craintes et de véritables questionnements quant à leur impact sur la société, voire l’humanité. L’éthique peut constituer l’un des piliers de la confiance nécessaire au développement de l’IA.

Par Mahasti Razavi, associé gérant, et Laura Ziegler, avocat senior, August Debouzy

Il existe une distinction entre des IA dites « faibles » et des IA dites « fortes ». L’IA faible permet de reproduire, le plus fidèlement possible, à l’aide d’un programme informatique, le résultat d’un comportement spécifique prévu à l’avance, dans la majorité des cas de façon bien plus efficace et rapide que l’homme, mais sans aucune forme d’improvisation. Si elle peut simuler le raisonnement, inclure une dimension apprenante et résoudre des problèmes, ce type d’intelligence artificielle ne permet en aucun cas de reproduire les fonctions cognitives de l’intelligence humaine.