Deepfake : les vidéos truquées à l’intelligence artificielle sous l’œil du Parlement européen

Le création « deepfake » – consistant à manipuler des contenus vidéo, des images et/ou de l’audio – permet d’obtenir des résultats ultra-réalistes grâce à l’intelligence artificielle. Parodies ou désinformations, ces « hypertruquages » seront encadrés par le futur règlement européen AIA.

Le futur « Artificial Intelligence Act » que le Parlement européen examine actuellement en commissions aura un droit de regard sur les vidéos truquées et les contenus manipulés relevant de la pratique très en vogue du « deepfake » (1) – nom composé à partir de deep learning et de fake news. La commission « marché intérieur et protection des consommateurs » (Imco), tête de file dans le processus législatif de ce projet de règlement européen (2), a comme rapporteur l’eurodéputé italien Brando Benifei (photo). Selon nos informations, « un échange de vues avec les représentants de la Commission européenne » a eu lieu avec lui le 27 octobre dernier.

Article 1er du Artificial Intelligence Act
Prochaines réunions de la commission Imco : les 1er et 9 décembre prochains. Le projet de règlement Artificial Intelligence Act (AIA) sera à nouveau à l’ordre du jour et vient en complément des deux autres projets législatifs du numérique, les Digital Services Act (DSA) et Digital Markets Act (DMA), eux aussi en cours d’examen (lire p. 6 et 7). Il y sera aussi question de deepfake car dès l’article 1er du projet de législation sur l’intelligence artificielle, il est fait explicitement mention des « systèmes d’IA utilisés pour générer ou manipuler des images ou des contenus audio ou vidéo » qui devront être soumis à « des règles harmonisées en matière de transparence ».
Celles-ci sont précisées ensuite à l’article 52 du projet AIA : « Les utilisateurs d’un système d’IA – qui génère ou manipule des images ou des contenus audio ou vidéo présentant une ressemblance avec des personnes, des objets, des lieux ou d’autres entités ou événements existants et pouvant être perçus à tort comme authentiques ou véridiques (“hypertrucage”) – précisent que les contenus ont été générés ou manipulés artificiellement ». Si les deepfakes ne sont pas les seuls systèmes d’IA qui seront soumis à des obligations « en raison des risques spécifiques de manipulation qu’ils présentent » – les chatbots/robots conversationnels et les détecteurs biométriques automatisés d’émotions ou de catégorie sociale sont eux aussi dans le collimateur –, les « hypertrucages » audiovisuels occupent une place importante tant leur pratique se répand comme une traînée de poudre sur Internet, réseaux sociaux en tête. « Si un système d’IA est utilisé pour générer ou manipuler des images ou des contenus audio ou vidéo afin de produire un résultat qui ressemble sensiblement à un contenu authentique, il devrait être obligatoire de déclarer que le contenu est généré par des moyens automatisés, sauf pour certaines finalités légitimes faisant l’objet d’exceptions (domaine répressif, liberté d’expression) », précise le projet de règlement AIA dans ses motifs (3). La difficulté du Parlement européen va être d’encadrer la pratique de ces trucages vidéo ultra-réalistes sans pour autant porter atteinte à la liberté d’expression et à la liberté créative. Leurs auteurs de ces « photomontages » nouvelle génération dopés à l’IA ne seront théoriquement pas soumis à la censure ni victimes de chasse aux fausses informations, même si le projet de règlement n’évoque pas le droit à la critique, à la citation, à la caricature, à la parodie et au pastiche (relevant des exceptions au droit d’auteur). Pour autant, « [si] la ressemblance avec des personnes, des lieux ou des événements existants pourrait porter à croire qu’il s’agit de documents authentiques », les créateurs de deepfakes devront les déclarer. « Les deepfakes peuvent soulever des questions de droit d’auteur », indique à Edition Mulimédi@ Olivier Japiot, président du CSPLA (4).
Mais avant que le règlement AIA n’entre en vigueur en Europe, probablement en même temps les règlements DSA et DMA dont les adoptions par les eurodéputés sont attendues au printemps prochain durant la présidence française de l’Union européenne, les deepfakes n’en font qu’à leur tête. Le dernier Web Summit, grand-messe annuelle du numérique qui s’est déroulée début novembre à Lisbonne au Portugal, les a évoqués comme « un danger » mais aussi comme une révolution des médias et du divertissement. Des applications à portée de grand public (gratuites ou payantes) ont fait parler d’elles : Reface, Face Swap Live Lite, FaceApp, Mug Life ou encore Motionleap.

Deepfakes, effets spéciaux et copyright
Les truquages hyperréalistes sont aussi de mise sur TikTok ou Snapchat. Le studio hollywoodien cinquantenaire Lucasfilm, filiale de Disney, a même recruté en juillet dernier un YouTuber spécialiste du genre, un « deepfaker » déchaîné surnommé Shamook (5). Il commettra ses détournements vidéo au sein de la division Industrial Light and Magic (ILM) créée en 1975 pour les effets spéciaux par George Lucas, lequel aujourd’hui injecte dans ses films et séries de l’IA et du machine learning. La révolution « deepfake » n’a pas fini de singer l’audiovisuel et le droit d’auteur. @

Charles de Laubier

Pinterest a 10 ans : entre fake news et la Bourse

En fait. Le 25 février, un porte-parole de Pinterest a confirmé à l’AFP que le réseau social de partage de photos bloquait les recherches d’informations
sur les vaccins relevant de la désinformation « antivaccins ». Pours ses dix ans, Pinterest fait parler de lui – avant son entrée en Bourse prévue fin juin.

En clair. Facebook est né en 2004, Twitter en 2006, Instagram en 2010 (racheté deux après par le premier), et Pinterest en 2010 également – après avoir été créé en 2009 par Paul Sciarra et Ben Silbermann qui avait conçu en 2008 Tote, un catalogue de produits développé par la société Cold Brew Labs (devenue Pinterest), aussitôt abandonné au profit de l’application partage de photos et d’images. Pour ses dix ans,
la société Pinterest, basée à Palo Alto (Californie), est plus que jamais entrée dans la cour des grands réseaux sociaux en étant appelés par le Congrès des Etats-Unis à combattre les fake news en général et les désinformations sur les vaccins en particulier – sur fond de recrudescence de la rougeole outre- Atlantique ! C’est dans ce contexte de suspicion sur les contenus véhiculés par les Google, YouTube, Facebook et autres Twitter que la fièvre monte autour de Pinterest… La « licorne » – appelée ainsi car jusqu’à maintenant non cotée en Bourse mais à la valorisation dépassant 1 milliard de dollars – a déposé « secrètement » auprès du gendarme boursier américain (la SEC) un dossier d’introduction en Bourse justement (1). C’est ce qu’a révélé le 21 février dernier le Wall Street Journal, qui valorise Pinterest de 12 milliards de dollars minimum depuis une levée de 150 millions d’euros en 2017. La cotation est envisagée pour fin juin – et non pour le mois d’avril comme initialement avancé par le journal économique. Il faut dire qu’en dix ans, le petit réseautage de photos est devenu grand et revendique plus de 250 millions d’utilisateurs – dont plus de 50 % hors des Etats-Unis – après avoir franchi la barre des 200 millions en septembre 2017.
Les personnes inscrites peuvent « épingler » – to pin en anglais – sur des tableaux virtuels d’images et de photos en fonction de leurs centres d’intérêt (décoration, voyages, mode, cuisine, …). De nombreuses marques utilisent aussi les tableaux collaboratifs de Pinterest pour y montrer leurs produits et, depuis 2015, les vendre à l’aide d’un bouton « acheter ».  Et depuis février 2018, il est possible de cliquer sur un objet dans une photo (vêtement, meuble, produit, …) pour se le voir proposer à l’achat (2). La montée en charge de Pinterest a de quoi inquiéter Facebook qui tente de donner la réplique avec Instagram, sa filiale depuis 2012. La bataille des photos et images partagées ne fait que commencer. @

Le décret de taxe « Google Images » a été rejeté par le Conseil d’Etat puis retiré par le gouvernement

La loi « Création », promulguée il y a plus de deux ans, prévoyait un décret « Google Images » pour taxer les moteurs de recherche sur les photos mises en ligne. Notifié il y a un an à la Commission européenne, il a été retiré par le gouvernement à la suite de l’avis négatif du Conseil d’Etat.

Selon nos informations, le gouvernement a décidé de ne pas publier ce décret « Google Images » à la suite d’un avis négatif que le Conseil d’Etat a émis en février 2017 sans le rendre public. Contactées par Edition Multimédi@, la haute juridiction administrative et la Cada (1) ont refusé de nous communiquer cet avis.
En revanche, le motif du rejet de la taxe « Google Images » nous a été précisé : ce projet de décret n’était conforme « ni aux exigences constitutionnelles garantissant la protection du droit de propriété, ni à celles du droit de l’Union européenne garantissant le droit exclusif de l’auteur d’autoriser la reproduction et la représentation de son oeuvre » (2).

Un décret pourtant prévu par la loi « Création »
Face au risque juridique, le gouvernement l’a discrètement enterré, tout en estimant, nous dit-on, que « les parties prenantes devraient pouvoir souscrire volontairement des engagements en ce sens ». Cela fait un peu plus de deux ans que le ministère de la Culture – via son chef du service des Affaires juridiques et internationales, Alban de Nervaux (photo) – avait notifié à la Commission européenne, le 5 septembre 2016 précisément, le projet de décret « pris pour l’application des articles L. 136-3 et L. 136-4 du code de la propriété intellectuelle » (3). En clair, il s’agissait de mettre en place une taxe collectée auprès des moteurs de recherche – Google, Bing, Qwant, Wikipedia, Duckduckgo, … – par une société de perception et de répartition des droits (SPRD) pour le compte des photographes.
Ce décret d’application devait créer cette taxe « Google Images » prévue par la loi
« Création » datée du 7 juillet 2016 et promulguée le lendemain (5). Son article 30 est en effet consacré aux « services automatisés de référencement d’images » (« œuvres d’art plastiques, graphiques ou photographiques »). Il organise – via une société de type SPRD, seule agréée à signer des conventions limitées à cinq ans avec les
« Google Images » – une gestion collective des droits d’auteur par la perception des rémunérations correspondantes en fonction des oeuvres exploitées en ligne et la répartition des sommes perçues aux auteurs ou à leurs ayants droit. La Société des auteurs dans les arts graphiques et plastiques (ADAGP) et la Société des auteurs des arts visuels et de l’image fixe (SAIF) sont d’ores et déjà candidates pour assurer cette gestion collective. Cette taxe devait être « assise sur les recettes de l’exploitation ou,
à défaut, évaluée forfaitairement ». La loi « Création » donnait – à la SPRD et aux services automatisés de référencement d’images – « six mois suivant la publication du décret en Conseil d’Etat » pour aboutir à un accord. A défaut de quoi, « le barème de
la rémunération et ses modalités de versement [seraient] arrêtés par une commission présidée par un représentant de l’Etat et composée, en nombre égal, d’une part, de représentants des [SPRD] et, d’autre part, des représentants des [Gafa, Google en tête, ndlr] ». Le problème est que ce décret est donc mort-né ! Le Parlement français avait même prévu que cet article 30 devait s’appliquer à compter de la publication du décret en question « et, au plus tard, six mois après la promulgation de la présente loi
[« Création »] ». Il devait en être ainsi au 8 janvier… 2017.
L’abandon de ce décret par la France tombe bien pour le Parlement européen et le projet de directive sur « le droit d’auteur dans le marché unique numérique ». Ce texte
« Copyright » (6) européen – susceptible d’être adopté définitivement d’ici mai 2019 si le trilogue (7) trouve un compromis d’ici là (8) – contient justement un article 13 ter intitulé : « Utilisation de contenus protégés par des services de la société de l’information fournissant des services automatisés de référencement d’images ». Non prévu par le projet initial présenté par la Commission européenne en 2016, il stipule que les Etats membres veillent à ce que les plateformes numériques ou les moteurs
de recherche – reproduisant ou référençant automatiquement « un nombre important d’œuvres visuelles protégées par le droit d’auteur » – concluent des « contrats de licence justes et équilibrés avec les titulaires de droits qui le demandent afin de leur garantir une juste rémunération ».
Et la future directive d’ajouter : « Cette rémunération peut être gérée par l’organisme de gestion collective des titulaires de droits concernés ».

Google-photographes : premier accord
Les photographes, eux, pressent Google et les agrégateurs d’images. « Photographes, ne baissons pas les bras » (9), lançait par exemple dans Libération daté du 6 juillet 2017 Thierry Secretan, président de l’association Photographes, auteurs, journalistes (PAJ). Quant à Google, il a annoncé le 28 septembre un premier accord – avec le CEPIC et l’IPTC – sur une meilleure visibilité des « crédits photos » en accédant aux métadonnées (10). En vue de préparer le terrain à une négociation sur une rémunération des auteurs ? @

Charles de Laubier