«Il y a quelques mois, une concitoyenne m’avait fait part de son désarroi face à l’hameçonnage dont elle a été victime. Mise en confiance par des escrocs se faisant passer pour sa banque, elle avait ainsi été volée de plusieurs milliers d’euros. Si un filtre anti-arnaques avait été en place, les chances qu’une telle escroquerie se produise auraient été beaucoup plus réduites», explique le député Bruno STUDER.
Protéger nos concitoyens dans un espace numérique en constante évolution, voilà l’ambition du projet de loi visant à sécuriser et à réguler l’espace numérique (SREN), adopté par l’Assemblée nationale ce mercredi dans sa rédaction issue des conclusions de la commission mixte paritaire.
Outre le déploiement d’un filtre national de cybersécurité, le texte complète notre dispositif de protection des mineurs contre l’accès à la pornographie et renforce notre arsenal de lutte contre le cyberharcèlement. Il contient également des dispositions visant à réguler l’économie, les marchés et les services numériques et adopte le droit français à plusieurs règlements européens récents.
Membre de la commission spéciale chargée d’examiner le projet de loi SREN à l’Assemblée nationale, Bruno STUDER se réjouit du maintien dans le texte final de la Charte d’engagements pour la santé mentale des modérateurs qu’il avait proposé par voie d’amendement.
«Les modérateurs de contenus, qui filtrent, examinent et suppriment souvent les contenus signalés ou identifiés comme violant les règles établies sur les plateformes en ligne sont confrontés chaque jour à des images violentes ou choquantes, au risque d’affecter leur santé mentale, rappelle Bruno STUDER. J’ai bien conscience que l’échelon pertinent devrait être au niveau européen, mais cette charte est une première avancée pour améliorer leur bien-être au travail.»
L’information des parents en cas de suppression de contenus n’a, par contre, pas été maintenue dans le texte final, en raison de son incompatibilité avec le droit communautaire.
«Le constat à l’origine de l’amendement que j’avais proposé reste entier: aujourd’hui, les parents ne sont pas informés de l’éventuelle suppression d’un contenu publié par leur enfant sur les réseaux sociaux, ils ne peuvent donc remplir pleinement leur rôle éducatif contre le cyberharcèlement, précise Bruno STUDER. Parce qu’un problème massif appelle forcément une réponse systématisée, ma détermination est totale pour bâtir une solution à la hauteur de l’enjeu. J’y travaille avec les principales parties prenantes et je ferai des propositions en ce sens dans les prochaines semaines.»
Sécuriser et réguler l’espace numérique: le projet de loi adopté après deux mois de travail parlementaire
«Encore récemment, une concitoyenne m’a fait part de son désarroi face à l’hameçonnage dont elle a été victime. Mise en confiance par des escrocs se faisant passer pour sa banque, elle a ainsi été volée de pas moins de 5 000 euros. Si un filtre anti-arnaques avait été en place, les chances qu’une telle escroquerie se produise auraient été beaucoup plus réduites.»
Bruno STUDER
Pour empêcher de telles situations, le Gouvernement et la majorité ont décidé d’agir afin que ce qui est interdit hors ligne le soit également en ligne. Le projet de loi Sécuriser et réguler l’espace numérique, porté par Jean-Noël BARROT, ministre délégué chargé du Numérique, renforce notre arsenal en matière de lutte contre les escroqueries, de lutte contre le harcèlement et de protection des mineurs en ligne.
Pendant deux mois, les députés membres de la commission spéciale constituée pour le suivi du projet de loi ont auditionné un grand nombre d’acteurs professionnels et de la société civile avant l’examen du texte en Commission puis en séance publique.
À la suite du Sénat, l’examen du projet de loi à l’Assemblée nationale a été l’occasion de préciser les principales mesures du texte. Ainsi, les dispositions du titre Ier relatives à la protection des mineurs de l’exposition à la pornographie en ligne, qui renforcent les pouvoirs de l’ARCOM en la matière, ont été réécrites en profondeur, notamment celles concernant le référentiel du contrôle de l’âge que doivent mettre en place les sites à caractère pornographique. L’échelle des sanctions pécuniaires encourues a été relevée et une obligation d’affichage d’un écran noir tant que l’âge de l’utilisateur n’a pas été vérifié a été inscrite dans la loi.
Deuxième disposition phare du projet de loi, le déploiement du filtre national de cybersécurité (filtre anti-arnaques) permettra de limiter les risques d’hameçonnage tels que ceux évoqués en introduction. Le périmètre de cette mesure, qui a déjà été mise en place dans d’autres pays, a été précisé pour garantir son effectivité et en assurer la proportionnalité au regard des libertés publiques.
Enfin, le cadre de régulation des jeux numériques monétisables (JONUM), qui devait initialement faire l’objet d’une habilitation à légiférer par voie d’ordonnance, a finalement été inscrit en dur dans le projet de loi. Ces dispositions font de la France l’un des pays les plus en avance en matière d’encadrement du développement des JONUM.
Par ailleurs, les députés ont introduit un grand nombre de dispositions nouvelles qui renforcent la portée du texte. Celles-ci peuvent être regroupées en trois axes:
Interdire en ligne ce qui l’est hors ligne;
Donner corps à la citoyenneté numérique;
Donner confiance dans l’économie de la donnée.
Interdire en ligne ce qui l’est hors ligne
Sextorsion, outrage, cyberharcèlement…: ce qui est interdit hors ligne doit également l’être lorsque cela se produit par écrans interposés. Encore faut-il, lorsque cela concerne des enfants, que les parents soient mis au courant de leurs comportements en ligne. Pour y remédier, une disposition introduite à l’initiative de Bruno STUDER prévoit que le titulaire de l’autorité parentale recevra un message d’avertissement en cas de signalement d’un contenu par un signaleur de confiance pour des faits susceptibles de relever de cyberharcèlement.
Au-delà du cas particulier des enfants, pour responsabiliser les personnes condamnées pour harcèlement en ligne, le juge pourra par ailleurs leur ordonner de suivre un stage de sensibilisation au respect des personnes dans l’espace numérique, au titre des peines complémentaires.
Parce qu’il peut être difficile de faire valoir ses droits face à la publication non-consentie de vidéos intimes, les députés ont souhaité renforcer les obligations des hébergeurs. Ainsi, sur injonction de l’autorité administrative, ceux-ci devront retirer tout contenu à caractère sexuel représentant des majeurs qui aurait été diffusé sans leur consentement.
Enfin, l’effet d’amplification des réseaux sociaux doit être pris en compte à la hauteur du préjudice subi : c’est pourquoi les députés ont introduit des circonstances aggravantes lorsque des faits d’outrage sexiste et sexuel ou de sextorsion sont commis en ligne. Ainsi, l’extorsion via internet de faveurs sexuelles, financières ou autres relevant d’un chantage sera désormais punie de 7 ans d’emprisonnement et 150 000€ d’amende.
Donner corps à la citoyenneté numérique
Les députés ont introduit un ensemble de dispositions autour de la notion de citoyenneté numérique. Tout d’abord, en complément de la certification Pix, le cursus prévoira désormais à chaque rentrée scolaire une information sur la citoyenneté et une sensibilisation à l’intelligence artificielle. Une réserve citoyenne numérique, contingent thématique de la réserve civique, est établie pour permettre à chacun de se mettre au service du collectif dans un domaine de plus en plus stratégique.
L’identité numérique, c’est-à-dire la capacité à prouver son identité en ligne, constitue un défi de taille pour sécuriser nos démarches en ligne. À l’initiative des députés, des objectifs nationaux ont été fixés en matière de développement de l’identité numérique. Par ailleurs, une expérimentation permettant d’accéder à l’ensemble des services publics nationaux et locaux via France Identité a été introduite.
Enfin, la responsabilisation des acteurs du numérique vis-à-vis des contenus qui sont partagés sur leurs plateformes doit s’accompagner de l’ouverture d’une voie de recours aux personnes qui entendraient contester leurs décisions. À cette fin, les députés ont introduit l’expérimentation d’un mécanisme de médiation des litiges en ligne pour obtenir une résolution à l’amiable d’un désaccord portant sur un contenu que la plateforme a décidé de ne pas supprimer.
Donner confiance dans l’économie de la donnée
Troisième volet, les députés ont introduit plusieurs dispositions additionnelles visant à renforcer la confiance et la concurrence dans l’économie de la donnée. En matière de concurrence, les frais de transfert de données facturés par le fournisseur de service ont été limités aux seuls coûts directement supportés par celui-ci.
Pour renforcer la confiance des citoyens, les administrations publiques qui gèrent des données sensibles devront répondre à un certain nombre de critères de cybersécurité. Par ailleurs, les prestataires qui proposent un service d’archivage électronique des données de santé devront obtenir la certification «hébergeur de données de santé» (HDS) préalablement à la délivrance de leur agréement par le ministère de la Culture.
***
Après sa large adoption par l’Assemblée nationale en première lecture, mardi 17 octobre, le texte doit désormais être examiné en commission mixte paritaire au cours de laquelle députés et sénateurs tenteront de s’accorder sur une rédaction commune. En raison des nombreuses modifications qui ont été apportées au texte, le projet de loi devra également être renotifié à la Commission européenne pour s’assurer de sa compatibilité avec le droit communautaire.
Mercredi 11 octobre, dans le cadre de l’examen en séance publique du projet de loi visant à sécuriser et réguler l’espace numérique, l’Assemblée nationale a adopté à l’unanimité deux amendements proposés par le député Bruno STUDER:
L’information systématique des parents en cas de signalement d’un contenu publié par leur enfant;
La signature d’une charte d’engagement pour la santé mentale des modérateurs de contenus.
Information systématique des parents en cas de cyberharcèlement
L’actualité récente souligne l’importance de combattre le cyberharcèlement et le harcèlement scolaire.
«Aujourd’hui, les parents ne sont pas informés de l’éventuelle suppression d’un contenu publié par leur enfant sur les réseaux sociaux, ils ne peuvent donc remplir leur rôle éducatif contre le cyberharcèlement, constate Bruno STUDER. Avec cet amendement, pour chaque signalement d’une situation de cyberharcèlement impliquant un enfant sur un réseau social, celui-ci enverra un avertissement aux parents pour les informer et leur rappeler les conséquences légales de ce comportement.»
Concrètement, l’information des parents reposera sur une disposition de la loi visant à instaurer une majorité numérique et à lutter contre la haine en ligne, qui prévoit la mise en place d’une interface entre les parents et le réseau social de leur enfant de moins de 15 ans.
Charte d’engagements pour la santé mentale des modérateurs
Si les plateformes recourent aujourd’hui largement à des systèmes automatisés d’intelligence artificielle pour modérer les contenus signalés, une intervention humaine reste nécessaire dans de nombreux cas. En charge de ce contrôle, les modérateurs sont confrontés chaque jour à des images violentes ou choquantes, au risque d’affecter leur bien-être et leur santé mentale.
«L’amendement adopté vise à demander aux plateformes en ligne de signer, sous l’égide de l’ARCOM, des chartes de suivi et de soutien des modérateurs de contenus en ligne, explique Bruno STUDER. Il s’agit là d’une avancée importante pour améliorer le bien-être au travail des modérateurs et leur santé mentale.» Ces chartes comprendront notamment une obligation de formation, la mise en place d’un suivi psychologique et une plus grande reconnaissance de leur contribution à la protection de tous les usagers des plateformes en ligne.
« Ce qui est interdit hors ligne doit également l’être en ligne ». C’est avec ce principe en tête, somme toute de bon sens, que le ministre délégué chargé de la Transition numérique et des Télécommunications, Jean-Noël BARROT, a préparé le projet de loi visant à sécuriser et réguler l’espace numérique (PJL SREN). Ce texte ambitieux, qui met à jour notre cadre législatif face aux défis actuels et à venir que pose la révolution numérique, repose sur deux piliers : sécuriser l’activité numérique de nos concitoyens, en particulier les plus jeunes, et la gouvernance et le cadre des acteurs du numérique, dominants comme émergents.
L’Europe joue pleinement son rôle dans la régulation de l’économie numérique et la protection des consommateurs dans le cadre du marché unique, elle l’a montré avec l’adoption de plusieurs textes majeurs : le DSA, le DMA le DGA et le quatrième mousquetaire, le règlement européen sur les données, ou Data Act (voir ci-dessous). L’échelon national n’en garde pas moins toute sa pertinence : d’une part, il convient d’assurer la transposition de ces textes en droit national et l’adaptation du droit national à ce nouveau cadre européen (c’est tout spécifiquement l’objet du Titre VIII). D’autre part, en complément de ces dispositions, il existe encore une large marge de manœuvre nationale pour sécuriser l’activité numérique de nos concitoyens et réguler les acteurs du numérique.
Sécuriser l’activité numérique de nos concitoyens, en particulier les plus jeunes
Pour protéger les enfants en ligne, les pouvoirs de l’Autorité de régulation de la communication audiovisuelle et numérique (Arcom) dans la lutte contre l’accès des enfants aux sites pornographiques sont renforcés. L’Arcom devra élaborer un référentiel général fixant les exigences techniques auxquelles devront répondre les systèmes de vérification d’âge, afin que seules les personnes majeures puissent accéder aux sites pornographiques. Elle pourra ordonner le blocage des sites pornographiques qui ne contrôlent pas l’âge de leurs utilisateurs sous un mois, sans qu’une intervention du juge ne soit nécessaire. L’Arcom pourra également ordonner le déréférencement des moteurs de recherche et prononcer de lourdes amendes. Le texte prévoit également un renforcement des dispositions contre la diffusion des contenus présentant un caractère pédopornographique.
Pour protéger tous nos concitoyens dans leur vie numérique quotidienne, le projet de loi prévoit la mise en place d’un filtre de cybersécurité anti-arnaque à destination du grand public. Un message d’alerte avertira les personnes lorsqu’après avoir reçu un SMS ou un mail frauduleux, elles s’apprêtent à se diriger vers un site malveillant. Le dispositif vise à protéger les citoyens contre les tentatives d’accès frauduleux à leurs coordonnées personnelles ou bancaires. Le texte renforce, par ailleurs, les sanctions des personnes condamnées pour haine en ligne, cyberharcèlement ou d’autres infractions graves (pédopornographie, proxénétisme, etc.). Le juge pourra prononcer à leur encontre une peine complémentaire de suspension ou “peine de bannissement” des réseaux sociaux pour six mois (voire un an en cas de récidive). Pour mieux se protéger contre la désinformation de médias étrangers frappés par des sanctions européennes, l’Arcom pourra enjoindre à de nouveaux opérateurs de stopper sous 72 heures la diffusion sur internet d’une chaîne de “propagande” étrangère.
Renforcer la gouvernance et le cadre de la régulation des acteurs du numérique
En application directe du DSA et du DMA, le projet de loi prévoit un ensemble de dispositions visant à renforcer la concurrence sur les marchés numériques, en évitant les positions dominantes, les pratiques déloyales et les situations de marchés captifs. Ainsi, les particuliers pourront choisir librement leur moteur de recherche, leur navigateur ou leur messagerie en empêchant que le recours à certaines applications leur soit imposé. Pour réduire la dépendance des entreprises aux fournisseurs de cloud, marché aujourd’hui concentré dans les mains de trois géants numériques, le projet de loi adapte le droit français par anticipation du futur règlement européen sur les données, le Data Act, en concrétisant le droit à la portabilité des données sans frais de transfert. Le contrôle du dispositif est confié à l’ARCEP, qui devra définir les conditions de l’interopérabilité.
Des dispositions spécifiques, visant à mieux réguler les locations touristiques et à donner créer un cadre règlementaire pour les jeux numériques fondés sur les technologies émergentes du Web 3 (dits jeux à objets numériques monétisables, ou JONUM), sont également incluses dans le projet de loi. Ainsi, un intermédiaire est créé entre les plateformes en ligne de location touristique et les communes et l’API meublés est généralisée, afin de faire respecter la réglementation limitant la location de résidences principales à 120 jours par an.
Parce que la confiance dans l’économie numérique ne peut reposer que sur la transparence, le projet de loi élargit le périmètre d’action du « Pôle d’Expertise de la Régulation du Numérique » (PEReN), service à compétence nationale chargé de la collecte des données numériques. Ce service constitue un outil majeur pour rompre l’asymétrie d’informations entre les grands acteurs du numérique et les régulateurs du numérique.
Enfin, de nouveaux pouvoirs sont conférés aux autorités chargées de l’application en France des dispositions du DSA, du DMA et du futur Data Act. Au titre du DSA, l’Arcom est ainsi désignée en tant que « coordinateur des services numériques » en France. La Direction générale de la concurrence, de la consommation et de la répression des fraudes (DGCCRF) est désignée comme l’autorité chargée de contrôler le respect des obligations des fournisseurs de market places. La Commission nationale de l’informatique et des libertés (CNIL) sera compétente pour vérifier le respect par les plateformes des limitations posées en matière de profilage publicitaire (interdiction pour les mineurs ou à partir de données sensibles).
D’abord examiné au Sénat, le texte y a d’ores et déjà été enrichi et renforcé avec de nouvelles dispositions, notamment sur les deepfakes, des trucages hyperréalistes réalisés grâce à l’intelligence artificielle, qui, utilisés à des fins malveillantes pour humilier ou désinformer, présentent des risques importants pour l’ordre public. Pour renforcer la lutte contre le cyberharcèlement, le Sénat a également créé un délit d’outrage en ligne et élargi de la peine de « bannissement » des réseaux sociaux en y intégrant les menaces et intimidations envers les élus. Par ailleurs, la Chambre Haute a également introduit une obligation d’affichage systématique, sur les sites pornographiques, d’un message d’avertissement avant la diffusion de tout contenu à caractère violent (notamment la simulation d’un viol ou d’une agression sexuelle).
Après son adoption à l’unanimité par les sénateurs, le projet de loi visant à sécuriser et réguler l’espace numérique doit désormais être étudié par l’Assemblée nationale en première lecture. Particulièrement engagé pour la protection de l’enfance sur Internet, Bruno Studer a intégré la commission spéciale qui examinera ce texte au mois de septembre.
Un mot sur… DSA, DMA, DGA, Data Act
Le règlement sur les services numériques (Digital Services Act, DSA) impose aux plateformes des obligations de modération des contenus illicites qui leur sont signalés, les enjoint à analyser et corriger le risque systémique qu’elles font peser sur le bien-être et la santé de leurs utilisateurs ou sur la qualité du débat public, leur interdit de proposer de la publicité ciblée sur les mineurs, et les contraint à faire auditer leurs algorithmes et à ouvrir leurs données aux chercheurs.
Le règlement sur les marchés numériques (Digital Markets Act, DMA) prévoit 26 outils juridiques pour empêcher les géants numériques qui contrôlent l’accès aux principales plateformes (places de marché, moteurs de recherche, magasins d’application) d’abuser de leur poids relatif. Il stimulera l’économie en ligne et protègera les 10 000 plateformes en lignes actives en Europe (dont 90 % de PME et ETI) et renforcera la liberté de choix des consommateurs européens. Ce texte aidera de nombreuses entreprises françaises et européennes à développer leurs produits et services numériques dans des conditions de concurrence équitable.
Le règlement sur la gouvernance des données (Data Governance Act, DGA) vise à faciliter le partage de données au sein de l’Union Européenne et à mettre en place des mécanismes de gouvernance. Il prévoit des conditions pour la réutilisation des données du secteur public, des modalités pour les services d’intermédiation de données, un cadre pour la collecte et le traitement de données à des fins altruistes, et la création d’un Comité européen de l’innovation dans le domaine des données.
Le règlement sur les données (Data Act), encore en cours de discussion, vise à assurer une meilleure répartition de la valeur issue de l’utilisation des données personnelles et non personnelles entre les acteurs de l’économie de la donnée, et à libérer le potentiel des données afin de développer des connaissances précieuses pour des secteurs tels que la science, la santé ou l’action climatique.
« La signature de ce décret ouvre la voie à la mise en œuvre concrète de la pré-installation du contrôle parental sur les téléphones et les tablettes », explique Bruno STUDER.
La préparation de ce décret a donné lieu à un important travail de concertation, mené sous l’égide du ministre de la Transition numérique, M. Jean-Noël BARROT, et de la secrétaire d’État à l’Enfance, Mme Charlotte CAUBEL. En septembre dernier, une consultation publique avait ainsi permis de recueillir l’avis des représentants associatifs et des professionnels du secteur sur les dispositions contenues dans le projet de décret.
« Je tiens à souligner l’écoute et la disponibilité du ministre de la Transition numérique et de la secrétaire d’État à l’Enfance pour les acteurs de la profession de l’enfance et les professionnels du secteur. Certaines craintes et interrogations ont ainsi pu être dissipées, permettant d’aboutir à une rédaction équilibrée, solide et opérationnelle », ajoute le député.
Le projet de décret a été assorti de nombreuses garanties : soumis pour avis à la commission nationale de l’informatique et des libertés (CNIL), le texte a également été notifié à la commission européenne et soumis au conseil d’État. Il est donc pleinement en ligne avec les dispositions des règlements sur les services numériques (DSA) et sur les marchés numériques (DMA).
« De la Norvège aux États-Unis, l’intérêt suscité par ce texte précurseur et novateur ne se dément pas, tant nous sommes partout confrontés aux mêmes enjeux. La parution du décret entraînera, je l’espère, une modification du parcours utilisateur au-delà du cadre national, au bénéfice de tous les enfants usagers du numérique », suggère Bruno STUDER.
Comme prévu par la loi, le décret précise les fonctionnalités minimales et les caractéristiques techniques auxquelles doivent se conformer les dispositifs de contrôle parental préinstallés sur les équipements connectés (article 1er de la loi) et ceux mis à disposition sans surcout par les fournisseurs d’accès à internet (article 3 de la loi). Le contrôle du respect par les fabricants et les distributeurs de ces nouvelles obligations sera confié à l’agence nationale des fréquences (ANFR), déjà en charge du contrôle de la mise sur le marché des équipements.
« À l’origine de cette loi, de nombreux concitoyens m’interpellaient face aux dangers d’une exposition de plus en plus précoce et intense à des contenus violents ou pornographiques et face au cyberharcèlement, et souhaitaient un meilleur accompagnement des parents pour une saine utilisation des outils numériques. La proposition de loi Contrôle parental tentait d’y apporter une réponse. Si l’adoption de ce décret marque la fin d’un processus engagé début 2021, le travail du législateur se poursuit pour faire d’Internet un espace plus sûr pour les enfants. Je continuerai en tout cas à être pleinement mobilisé sur ces sujets et à l’écoute des propositions des acteurs de terrain, » promet Bruno STUDER.
Contrôle parental : on avance sur le décret d’application !
Vendredi 2 septembre a été lancée la consultation publique sur le décret d’application de la loi visant à renforcer le contrôle parental sur les moyens d’accès à internet, dont j’avais été à l’initiative sous la législature précédente afin de concrétiser une promesse du président de la République, Emmanuel Macron.
À cette occasion s’est tenue une réunion de lancement à Bercy autour de la secrétaire d’État à l’Enfance, Charlotte Caubel, du ministre de la Transition numérique, Jean-Noël Barrot, de représentants de plusieurs associations familiales et des représentants des industries du numérique (constructeurs, systèmes d’exploitation, télécoms, commerces, jeux vidéo).
Étaient notamment présents Thomas Rohmer, représentant de l’OPEN et du Cofrade, Benoît Tabaka, directeur des affaires publiques de Google, Olivier Riffard, directeur des affaires publiques de la fédération française des télécoms, Stella Morabito, directrice générale de l’alliance française des industries du numérique, et Nicolas Vignolles, délégué général du syndicat des éditeurs de logiciels de loisir. Toutes et tous avaient eu l’occasion de s’exprimer à l’occasion des travaux préparatoires à la loi et je tiens à les remercier pour leur implication continue.
D’une durée d’un mois, la consultation publique permettra de recueillir l’avis des représentants associatifs et des professionnels du secteur sur les dispositions que contient le projet de décret. Le décret amendé sera ensuite notifié à la commission européenne et sera soumis au conseil d’État, pour une publication prévue au début de l’année prochaine.
À cette date, pour faciliter son utilisation, le contrôle parental sera préinstallé sur tous les équipements connectés (smartphones, tablettes, etc.) et paramétrable à tout moment.
Avec @jnbarrot et @BrunoStuder67 nous avons réuni ce matin à Bercy les constructeurs, systèmes d’exploitation, télécoms, syndicats, fédérations, industries, jeux vidéos, associations pour mettre en œuvre la promesse d’@EmmanuelMacron : le contrôle parental systématique. pic.twitter.com/mUw9VCKpsi
Contrôle parental: plus de la moitié des parents souhaitent le mettre en place, mais peu savent comment le faire. La loi de @BrunoStuder67 va le permettre. Dernière étape aujourd’hui : le lancement de la consultation publique avec @CharlotteCaubel et l’ensemble des acteurs. pic.twitter.com/DkIGG0mEyf
