Archives par mot-clé : Fake news

Hypertrucages vidéo au réalisme confondant générés par l’IA, les deepfakes se banalisent

Publié le par

Rien ne les arrêtera. Les hypertrucages vidéo et audio déferlent sur le Web et les applications mobiles, comme jamais. Fléau pour les uns, divertissement pour les autres, le phénomène pousse la créativité à son paroxysme. C’est aussi un marché mondial prometteur de plusieurs milliards d’euros.

(Le 23 février 2026, soit une semaine après la publication de cet article, 61 « Cnil » du monde entier ont cosigné une déclaration pour s’inquiéter des deepfakes)

Les deepfakes, que l’intelligence artificielle rend de plus en plus spectaculaires et incroyables, se propagent à la vitesse grand-V sur les réseaux sociaux, les applications mobiles ou encore par e-mail. Ces hypertrucages vidéo plus vrais que nature – mais aussi ceux uniquement audio (1) – en mettent plein la vue. Or, au-delà des abus, polémiques, désinformations et autres cyberattaques qu’ils peuvent provoquer, les deepfakes constituent un marché mondial protéiforme en pleine croissance de plusieurs milliards d’euros.

La barre des 10 milliards de $ en 2026
« Le marché mondial des technologies deepfake était évalué à 9,19 milliards de dollars en 2025, et devrait passer de 11,18 milliards en 2026 à 51,42 milliards d’ici 2034, affichant un taux de croissance annuel moyen de 21 % durant cette période », avance le cabinet d’études indien Fortune Business Insights dans ses prévisions mises à jour en janvier 2026. Cette évaluation porte uniquement sur les logiciels et services que peuvent acheter des clients de plus en plus nombreux, tels que sociétés de médias et de divertissement, publicitaires, organisations gouvernementales, partis politiques, cybercommerçants, etc. « Le segment “logiciel” détenait la plus grande part de marché des technologies deepfake, avec (suite) une part de 68,7 %, tandis que le segment “création” de deepfakes représente 37,92 % de part de marché », estime l’étude (2).
L’un des segments de ce marché mondial en plein boom réside dans les outils de détection des deepfakes, afin de prévenir l’utilisation abusive de ces images générées par IA. « La période électorale actuelle a entraîné une augmentation du contenu deepfake à travers le monde. La demande de solutions pour détecter ce “média synthétique” devrait augmenter et influencer positivement le marché de la technologie deepfake. De plus, comme le marché dépend fortement de la technologie IA, les avancées du marché de l’IA générative devraient favoriser la croissance du marché mondial des deepfakes », prédit la société Fortune Business Insights, fondée et dirigée par Rahul Bhandari (photo). Et encore, cette barre des 10 milliards de dollars susceptible d’être franchie durant cette année 2026 ne prend pas encore en compte tous les revenus induits par les deepfakes tels que ceux de la publicité en ligne, du marketing d’influence, des sociétés de conseil de la production audiovisuelle et cinématographique, ni de la fraude et cybercriminalité. Techniquement, le deepfake repose sur des algorithmes avancés d’apprentissage automatique (machine learning), principalement par des réseaux antagonistes génératifs (GAN, pour Generative Adversarial Network) utilisant deux réseaux de neurones, afin de générer des images et des vidéos réalistes. Grâce à un entraînement itérative, ces réseaux neuronaux apprennent à produire des résultats de plus en plus réalistes, ce qui fait que les deepfakes sont pratiquement indifférenciables des vidéos ou audios authentiques. L’utilisation de ces hypertrucages de synthèse améliore en outre les expériences de réalité augmentée (AR) et de réalité virtuelle (VR), où mondes numériques et mondes réels se mêlent dans des environnements digitaux immersifs, comme dans le jeu vidéo, la formation et même la thérapie.
La croissance annuelle à deux chiffres des deepfakes pourrait même augmenter sur ce marché mondial à la fois tiré par les usages créatifs et par la lutte contre les abus, d’autant que la régulation – visant à imposer la transparence sur ces créations IA par la « preuve d’authenticité » (watermarking, signatures numérique, labels IA, …) – va y contribuer. Dans une étude intitulée « Connected Consumer » et publiée en novembre 2024, le cabinet d’audit et de conseil américain Deloitte avait estimé que « le marché mondial de la détection des deepfakes – tel qu’il est mis en œuvre par les géants de la technologie, des médias et des réseaux sociaux – croîtra de 42 % par an, passant de 5,5 milliards de dollars en 2023 à 15,7 milliards de dollars en 2026 ». Toujours selon Deloitte il y a un peu plus d’un an, « le marché de la détection de deepfake pourrait suivre une trajectoire similaire à celle de la cybersécurité » (3).

CP2A à Washington et Code à Bruxelles
Deloitte a rejoint la Coalition pour la provenance et l’authenticité du contenu (C2PA, Coalition for Content Provenance and Authenticity), laquelle, depuis sa création en 2021 à Washington par Adobe, ARM, BBC, Intel, Microsoft et Truepic (rejoints au comité directeur par Google, Meta, OpenAI et Publicis), a vocation a lutter contre les deepfakes trompeurs grâce à des « normes techniques ouvertes et mondiale pour certifier la source et l’histoire (ou la provenance) du contenu numérique » (4). A Bruxelles, cette fois, la Commission européenne espère publier en mai ou juin 2026 un « Code de pratique sur le marquage et l’étiquetage des contenus générés par IA » (5). Mais le projet divise. @

Charles de Laubier

La nouvelle super-régulation d’Internet se met en place en Europe, avec l’Arcom en soutien pour la France

Publié le par

Le Digital Services Act (DSA) entre entièrement en application le 17 février 2024 dans les Vingt-sept. L’Arcom devient pour la France le « Coordinateur pour les services numériques » (DSC) et l’un des vingt-sept membres du « Comité européen des services numériques » (EBDS) présidé par la Commission européenne.

Il n’y aura pas de super-régulateur européen d’Internet, mais c’est tout comme. Avec le règlement sur les services numériques, le DSA (Digital Services Act), qui entre pleinement en application le 17 février (1), l’Union européenne (UE) devient la première région du monde à mettre en place une vaste « régulation systémique » de l’Internet. Elle va s’articuler autour du Comité européen des services numériques (EBDS), présidé par la Commission européenne et assisté – pour chacun des vingt-sept Etats membres – d’un Coordinateur pour les services numériques (DSC).
Pour la France, c’est l’Autorité de régulation de la communication audiovisuelle et numérique (Arcom) qui est désignée DSC par la loi « Sécuriser et réguler l’espace numérique » (SREN) dont le vote définitif est attendu en mars (2). « Pour moi, europhile, je crois qu’on a la chance d’être sur un continent pionnier dans la régulation des grands acteurs du numérique. On peut espérer que ce règlement aura un effet de jurisprudence : ce que les plateformes feront sur le continent européen pour se conformer aux obligations du DSA, elles pourront le faire dans d’autres pays », a déclaré le 1er février Roch-Olivier Maistre (photo), président de l’Arcom. « Je suis heureux d’être sur un continent qui tente quelque chose, sans être ni le modèle chinois ni le modèle américain. C’est une tierce-voix qui est conforme à la protection de la liberté et du public », a-t-il ajouté devant l’Association des journalistes médias (AJM), dont il était l’invité.

Un Comité européen et 27 Coordinateurs nationaux
Pour assurer cette nouvelle « super-régulation » du Net dans les Vingt-sept, la Commission européenne et les régulateurs nationaux vont travailler main dans la main. Le Comité européen des services numériques (EBDS (3)), créé à cet effet, est chapeauté par la Commission européenne elle-même et composé de « hauts fonctionnaires » représentant, chacun, le Coordinateur national pour les services numériques (DSC (4)) d’un Etat membre – à savoir l’Arcom pour la France, en liaison avec la Cnil et l’Autorité de la concurrence. « Pour les très grandes plateformes, qui comptent chacune au moins 45 millions d’utilisateurs par mois en moyenne dans l’UE et pour lesquelles le DSA est entré en vigueur le 25 août 2023, c’est la Commission européenne qui jouera un rôle central. Comme elle l’a fait en ouvrant, le 18 décembre 2023, une enquête formelle à l’encontre de X (ex-Twitter) soupçonné d’avoir enfreint le DSA », a expliqué Roch-Olivier Maistre, dont le mandat à la tête de l’Arcom se termine fin janvier 2025.

Les géants d’Internet risquent gros
La Commission européenne – par les voix de Margrethe Vestager (photo ci-contre) et de Thierry Breton – reproche à X, le réseau social racheté en octobre 2022 par Elon Musk et totalisant 112 millions d’utilisateurs actifs par mois dans l’UE, de contrevenir au DSA (5). X risque une amende pouvant atteindre 6 % de son chiffre d’affaires mondial annuel. La Commission européenne régule ces très grandes plateformes, en liaison avec les autorités nationales désignées « Coordinator » (DSC). « Il y aura donc un dialogue qui s’instaure avec la Commission européenne, le processus se mettant déjà en œuvre », a précisé le président de l’Arcom, DSC pour la France. L’an dernier, la Commission européenne a identifié 22 très grandes plateformes, dont 19 premières (6) le 25 avril 2023 (Alibaba/AliExpress, Amazon Store, Apple/AppStore, Booking, Facebook, Google Play, Google Maps, Google Shopping, Instagram, LinkedIn, Pinterest, Snapchat, TikTok, Twitter, Wikipedia, YouTube, Zalando, Bing et Google Search) et 3 autres (7) le 28 décembre 2023 : les plateformes pornographiques Pornhub, Stripchat et XVideos. « Mais contrairement à l’audiovisuel, a précisé Roch-Olivier Maistre (« ROM »), on ne pourra pas saisir ni la Commission européenne ni l’Arcom pour un contenu (comme un tweet) qui nous heurte ou qui nous choque. Car il s’agit là d’une régulation systémique : ce qui est jugé porte sur la plateforme afin de savoir si elle est en défaut global par ses systèmes de modération, au regard des obligations de lutte contre les contenus illicites ».
Quant aux autres plateformes – exceptées, est-il précisé dans le DSA, les « microentreprises » et les « petites entreprises » –, l’entrée en vigueur de ce règlement va intervenir le 17 février 2024 et relèvera de la compétence du régulateur du pays d’implantation de l’acteur du Net : l’Arcom lorsqu’il est en France. « Nous rendrons publique une liste de ces acteurs “plus petits” du numérique », a indiqué son président. Tout en insistant sur le fait que « le sujet central de la mise en œuvre du DSA aujourd’hui, chacun le sait bien, c’est X (ex-Twitter), TikTok et Meta (Facebook) ; cela ne veut pas dire qu’il n’y en a pas d’autres, le texte étant suffisamment large et concernant aussi les places de marché ». Ce sont donc sur vingt très grandes plateformes, dites VLOP (8), et sur deux très grands moteurs de recherche en ligne, Google (Alphabet) et Bing (Microsoft) dits VLOSE (9), que se concentre la nouvelle super-régulation européenne. « Le DSA impose à ces grands acteurs de l’Internet une obligation de lutter contre les contenus illicites et de déployer les ressources nécessaires pour y parvenir : outils d’intelligence artificielle, outils de modération humaine », a expliqué « ROM ». Et de poursuivre : « Le DSA leur impose aussi : de faire une évaluation annuelle des risques auxquels la plateforme expose ses utilisateurs, de faire un audit annuel extérieur de cette évaluation, de permettre aux chercheurs d’avoir accès aux données de ces plateformes pour mener leurs travaux académiques, d’associer la société civile par les “signaleurs de confiance” dont les signalements doivent être traiter rapidement, de façon prioritaire ». Pour lutter contre les « contenus illicites » sur Internet et les « risques systémiques » des plateformes, des « signaleurs de confiance » – Trusted Flaggers – vont ainsi être dans les Vingt-sept désignés par chaque DSC. Une fois que l’Arcom sera habilité par la loi SREN à le faire en tant que « Coordinateur », « ROM » a par exemple indiqué qu’il y avait « de fortes chances » pour que l’Arcom désigne l’association e-Enfance comme un signaleur de confiance. Une fois désignés, ces signaleurs de confiance communiqueront à l’Arcom leurs signalements de « contenus problématiques » qu’ils auront effectués auprès des différentes plateformes. « En cas de manquements, nous pourrions alors considérer qu’il y a “dysfonctionnement systémique” de la plateforme en question et éventuellement la sanctionner », prévient le président de l’Arcom. Pour les contenus de pédo-criminalité ou de terrorisme, « l’Arcom supervise Pharos [plateforme du ministère de l’Intérieur, ndlr], qui nous transmet toutes les semaines les sites qu’ils bloquent – 150.000 en 2023 – et nous nous assurons que tous les blocages opérés par Pharos sont pertinents au regard notamment des libertés publiques ».
Au-delà du DSA, dont le pendant « antitrust » est le Digital Markets Act (DMA) qui entrera en vigueur le 6 mars prochain (10), et au-delà de la directive européenne de 2010 sur les services de médias audiovisuels (SMA), l’Arcom verra encore ses pouvoirs s’étendre avec l’EMFA (11). Ce règlement européen sur « la liberté des médias » a été approuvé le 19 janvier dernier (12) et doit être formellement adopté d’ici le mois d’avril.

Comité européen pour les services de médias
L’EMFA vise à protéger les fournisseurs de services de médias contre les ingérences politiques. Il protègera aussi les journalistes et leurs sources, tout en garantissant le droit d’accès des citoyens à des informations libres et pluralistes (13). Pour ce faire, le réseau des régulateurs européens – l’Erga (14), dont fait partie l’Arcom – est transformé en « Comité européen pour les services de médias » (EBMS (15)). Sur le front des fake news, l’Arcom est déjà dotée de pouvoirs depuis la loi française de 2018 « contre la manipulation de l’information » (16). Elle publiera fin février une délibération à ce sujet. Avec les élections des eurodéputés en juin sur fond de guerre entre la Russie et l’Ukraine, l’Arcom – associée à Viginum (rattaché au Premier ministre) – pourrait ordonner le blocage de chaînes étrangères ou de sites web. @

Charles de Laubier

E-réputation, intelligence média, veille sociale, … : réseaux sociaux et sites web sous surveillance

Publié le par

Internet est sous surveillance non seulement pour lutter contre le piratage, les fake news ou la cybercriminalité, mais aussi pour traquer tout ce que les internautes disent sur les marques et leurs entreprises. Ce « monitoring » généralisé est méconnu du grand public qui se retrouve ainsi pisté.

Le groupe Meltwater, qui se présente comme la « première société de veille des médias en ligne au monde » (1), ou tout du moins comme « l’un des leaders mondiaux de l’intelligence médiatique et de l’analyse sociale », a publié le 9 décembre son rapport sur « l’état des médias sociaux ». Ils sont désormais incontournables pour les entreprises, les organisations et, en général, « les marques ». Meltwater a été fondé il y a vingt ans par le Norvégien d’origine sud-coréenne Jørn Lyseggen (photo), qui en est le président exécutif auprès du directeur général John Box et qui détient 46.2 % du capital (2).

Droits voisins et presse : l’accord Google-AFP sur 5 ans est un bon début de (re)partage de la valeur

Publié le par

Résultat de plusieurs mois de négociations, l’accord d’une durée de cinq ans annoncé le 17 novembre 2021 entre Google et l’Agence France-Presse (AFP), sur les droits voisins de cette dernière, est un précédent qui devrait inspirer les éditeurs en France et dans le reste de l’Europe.

Par Fabrice Lorvo*, avocat associé, FTPA.

Frances Haugen rend responsable Mark Zuckerberg

Publié le par

En fait. Le 10 novembre, Frances Haugen, l’ancienne salariée de Facebook, sera auditionnée à l’Assemblée nationale par – conjointement – la commission des affaires économiques et celle des lois. Le 8 novembre, l’ingénieure lanceuse d’alerte qui accuse Facebook aura été entendue au Parlement européen.

En clair. Mark Zuckerberg et Frances Haugen ont chacun 37 ans (1), mais tout les oppose. Le premier est le cofondateur de Facebook (en 2004 et PDG depuis), tandis que la seconde a fait un passage éclair chez Facebook (de juin 2019 à mai 2021) comme cheffe de produit au sein de l’équipe « désinformation et intégrité civique ». Mais les deux années que l’informaticienne américaine a passé à Menlo Park (Californie), au siège mondial du plus controversé des réseaux sociaux, lui ont suffit pour amasser des preuves accablantes sur la responsabilité de Facebook et d’Instagram dans la propagation de la haine en ligne, de la désinformation ou encore de contenus illicites.
Ses graves accusations ont pour la plupart déjà été exposées le 5 octobre dernier devant le Congrès des Etats-Unis, où Frances Haugen a insisté aussi sur l’addiction entretenue auprès des adolescents par la firme de Mark Zuckerberg : elle suggère de passer l’âge minimum pour s’y inscrire de 13 à 16 ou 18 ans. L’ingénieure accuse Facebook d’avoir supprimé des filtres contre les fake news une fois passée l’élection présidentielle américaine, dans le but de remonter son audience. D’après elle, si ces garde-fous n’avaient pas été levés, les émeutes du 6 janvier 2021 à Washington jusque dans le Capitole n’auraient sans doute pas eu lieu. « Zuck », actionnaire majoritaire du groupe (à 58 %), s’est inscrit en faux contre ces accusations : « L’argument selon lequel nous poussons délibérément le contenu qui met les gens en colère pour le profit est profondément illogique. Nous gagnons de l’argent grâce aux publicités, et les annonceurs nous disent constamment qu’ils ne veulent pas de leurs publicités à côté de contenu néfaste ou en colère », a-t-il défendu sur son compte Facebook (2) le soir même, après l’audition parlementaire à charge de Frances Haugen.
« La responsabilité revient à Mark » en tant que « concepteur en chef des algorithmes », a-t-elle dénoncé, tout en écartant l’option « démantèlement » car Mark Zuckerberg a, selon elle, toutes les cartes en main pour « rendre Facebook et Instagram plus sûrs » et « plus transparents ». Malgré les dénonciations de celle qui est plus que jamais accueillie maintenant en Europe comme une lanceuse d’alerte, notamment par le Parlement britannique le 25 octobre (3), la firme de Menlo Park ne s’est pas effondrée en Bourse – juste une baisse de près de 20 % par rapport au plus haut de septembre. @