I. – Le 7 du I de l’article 6 de la loi n° 2004‑575 du 21 juin 2004 pour la confiance dans l’économie numérique est ainsi modifié :

1° Au troisième alinéa, les mots : « ou identité sexuelle » sont remplacés par les mots : « sexuelle, de leur identité de genre » et, après la référence : « article 24 », sont insérées les références : « , à l’article 24 bis et aux troisième et quatrième alinéas de l’article 33 » ;

2° Après le quatrième alinéa, sont insérés deux alinéas ainsi rédigés :

« Lorsqu’un contenu mentionné au troisième alinéa du présent 7 a fait l’objet d’un retrait, les personnes mentionnées au 2 substituent à celui‑ci un message indiquant qu’il a été retiré en raison de son caractère illicite.

« Les contenus illicites retirés ou rendus inaccessibles à la suite d’une notification doivent être conservés par les personnes mentionnées au même 2 pour les besoins de la recherche, de la constatation et de la poursuite des infractions pénales, à la seule fin de les mettre à la disposition de l’autorité judiciaire. Un décret en Conseil d’État, pris après avis de la Commission nationale de l’informatique et des libertés, définit la durée et les modalités de leur conservation. »

II. – Au dernier alinéa du 7 du I et au 1 du VI de l’article 6 de la loi n° 2004‑575 du 21 juin 2004 précitée, la référence : « cinquième » est remplacée par la référence : « antépénultième ».

I. – Les deuxième à avant‑dernier alinéas du 5 du I de l’article 6 de la loi n° 2004‑575 du 21 juin 2004 précitée sont remplacés par trois alinéas ainsi rédigés :

« – si le notifiant est une personne physique : ses nom, prénom, adresse électronique ; si le notifiant est une personne morale : sa forme sociale, sa dénomination sociale, son adresse électronique ; si le notifiant est une autorité administrative : sa dénomination et son adresse électronique. Ces conditions sont réputées satisfaites dès lors que le notifiant est un utilisateur inscrit du service de communication au public en ligne mentionné au même 2, qu’il est connecté au moment de procéder à la notification et que l’opérateur a recueilli les éléments nécessaires à son identification ;

« – la description du contenu litigieux, sa localisation précise et, le cas échéant, la ou les adresses électroniques auxquelles il est rendu accessible ; ces conditions sont réputées satisfaites dès lors que le service de communication au public en ligne mentionné audit 2 permet de procéder précisément à cette notification par un dispositif technique directement accessible depuis ledit contenu litigieux ;

« – les motifs légaux pour lesquels le contenu litigieux devrait être retiré ou rendu inaccessible ; cette condition est réputée satisfaite dès lors que le service de communication au public en ligne mentionné au même 2 permet de procéder à la notification par un dispositif technique proposant d’indiquer la catégorie d’infraction à laquelle peut être rattaché ce contenu litigieux ; ».

II (nouveau). – Le dernier alinéa du 5 du I de l’article 6 de la loi n° 2004‑575 du 21 juin 2004 précitée est complété par les mots : « ; cette condition n’est pas exigée pour la notification des infractions mentionnées au troisième alinéa du 7 du présent I ».

Après le quatrième alinéa du 7 du I de l’article 6 de la loi n° 2004‑575 du 21 juin 2004 précitée, sont insérés deux alinéas ainsi rédigés :

« Lorsqu’une association reconnue d’utilité publique, déclarée depuis au moins cinq ans à la date des faits et dont l’objet statutaire comporte la protection des enfants, saisie par un mineur, notifie un contenu contrevenant manifestement aux dispositions pénales mentionnées au troisième alinéa du présent 7, les personnes mentionnées au premier alinéa accusent réception sans délai de la notification de l’association et l’informent des suites données à la notification ainsi que des motifs de leur décision. L’association informe le mineur et, si cela n’est pas contraire à son intérêt, ses représentants légaux de ladite notification.

« L’association conteste s’il y a lieu le défaut de retrait ou de déréférencement du contenu, sans préjudice du droit d’agir des représentants légaux du mineur concerné. Elle informe le mineur et, si cela n’est pas contraire à son intérêt, ses représentants légaux des suites données à sa demande. Elle assure la conservation des données transmises par le mineur nécessaires à l’action tendant à obtenir le retrait ou le déréférencement du contenu mentionné à l’alinéa précédent. »

Chapitre II

Devoir de coopération des opérateurs de plateforme dans la lutte contre les contenus haineux en ligne

I. – Après l’article 6‑1 de la loi n° 2004‑575 du 21 juin 2004 précitée, il est inséré un article 6‑2 ainsi rédigé :

« Art. 6‑2. – I. – Les opérateurs de plateforme en ligne au sens du I de l’article L. 111‑7 du code de la consommation qui proposent un service de communication au public en ligne reposant sur la mise en relation de plusieurs parties en vue du partage de contenus publics et dont l’activité sur le territoire français dépasse un ou plusieurs seuils déterminés par décret en Conseil d’État sont tenus, au regard de l’intérêt général attaché au respect de la dignité humaine, de respecter les obligations prescrites à l’article 6‑3 de la présente loi aux fins de lutter contre la diffusion en ligne des infractions mentionnées au troisième alinéa du 7 de l’article 6.

« II. – Aux mêmes fins, est également soumis aux obligations prescrites à l’article 6‑3 tout service de communication au public en ligne désigné par délibération du Conseil supérieur de l’audiovisuel, dans des conditions déterminées par décret en Conseil d’État, qui acquiert en France un rôle significatif pour l’accès du public à certains biens, services ou informations en raison de l’importance de son activité et de la nature technique du service proposé. »

II. – Après l’article 6‑1 de la loi n° 2004‑575 du 21 juin 2004 précitée, il est inséré un article 6‑3 ainsi rédigé :

« Art. 6‑3. – Les opérateurs mentionnés à l’article 6‑2 sont tenus de respecter les obligations suivantes, dont la mise en œuvre doit être proportionnée et nécessaire au regard tant de la taille des plateformes et de la nature du service fourni que de l’atteinte susceptible d’être portée à la dignité humaine par les contenus dont ils assurent le stockage :

« 1° Ils se conforment aux règles et modalités techniques définies par le Conseil supérieur de l’audiovisuel pour la mise en œuvre du même article 6‑2 et du présent article et ils tiennent compte des recommandations qu’adopte ce dernier en application de l’article 17‑3 de la loi n° 86‑1067 du 30 septembre 1986 relative à la liberté de communication ;

« 2° Ils mettent en place, pour les utilisateurs situés sur le territoire français, un dispositif de notification uniforme directement accessible et facile d’utilisation permettant à toute personne de signaler un contenu illicite dans la langue d’utilisation du service. Ils informent leurs auteurs des sanctions qu’ils encourent en cas de notification abusive ;

« 3° Ils accusent réception sans délai de toute notification qui leur est adressée conformément au 5 du I de l’article 6 de la présente loi. Ils accomplissent les diligences proportionnées et nécessaires au regard de la nature du contenu et des informations dont ils disposent pour retirer ou rendre inaccessibles dans les vingt‑quatre heures les contenus manifestement illicites qui leur sont notifiés. Ils informent promptement l’auteur d’une notification des suites données à cette dernière ainsi que des motifs de leurs décisions ;

« 4° Ils mettent en œuvre les procédures et les moyens humains et, le cas échéant, technologiques proportionnés permettant de garantir le traitement dans les meilleurs délais des notifications reçues et l’examen approprié des contenus notifiés, ainsi que de prévenir les risques de retrait injustifié ;

« 5° Ils mettent en œuvre des dispositifs de contre‑notification et d’appel permettant :

« a) Lorsqu’ils décident de retirer ou rendre inaccessible un contenu notifié et qu’ils disposent des informations pour contacter l’utilisateur à l’origine de la publication du contenu retiré ou rendu inaccessible, à cet utilisateur d’être informé de cette décision et des raisons qui l’ont motivée, ainsi que de la possibilité de la contester. Ils rappellent également à l’utilisateur à l’origine de la publication que des sanctions civiles et pénales sont encourues pour la publication de contenus illicites.

« Le présent a ne s’applique pas lorsqu’une autorité publique le demande pour des raisons d’ordre public ou à des fins de prévention et de détection des infractions pénales, ainsi que d’enquêtes et de poursuites en la matière ;

« b) Lorsqu’ils décident de ne pas retirer ou rendre inaccessible un contenu notifié, à l’auteur de la notification de contester cette décision ;

« 5° bis (Supprimé) ».

III. – (Supprimé)

L’article 6‑3 de la loi n° 2004‑575 du 21 juin 2004 précitée, tel qu’il résulte de l’article 2 de la présente loi, est complété par des 6° à 12° ainsi rédigés :

« 6° Ils mettent à la disposition du public une information claire et détaillée, facilement accessible et visible, présentant à leurs utilisateurs les modalités de modération des contenus illicites mentionnés au troisième alinéa du 7 du I de l’article 6, et en particulier :

« a) Les sanctions, y compris pénales, que leurs utilisateurs encourent en cas de publication de ces contenus ;

« b) Les dispositifs de recours, internes et juridictionnels, dont disposent les victimes de ces contenus, les délais impartis pour le traitement de ces recours, ainsi que les acteurs en mesure d’assurer l’accompagnement de ces victimes ;

« c) Les sanctions encourues par les auteurs de notifications abusives et les voies de recours internes et juridictionnelles dont disposent les utilisateurs à l’origine de la publication de contenus indûment retirés ou rendus inaccessibles ;

« 7° Ils rendent compte des moyens humains et technologiques qu’ils mettent en œuvre et des procédures qu’ils adoptent pour se conformer aux obligations mentionnées au présent article, des actions et moyens qu’ils mettent en œuvre ainsi que des résultats obtenus dans la lutte et la prévention contre les contenus mentionnés au troisième alinéa du 7 du I de l’article 6. Le Conseil supérieur de l’audiovisuel précise, par délibération et dans le respect du secret des affaires, les informations et les indicateurs chiffrés qui sont rendus publics au titre du présent 7° ainsi que les modalités et la périodicité de cette publicité ;

« 8° Ils sont tenus, lors de l’inscription à l’un de leurs services d’un mineur âgé de moins de quinze ans et dans le cas où leur offre de service implique un traitement de données à caractère personnel, de prévoir une information à destination du mineur et du ou des titulaires de l’autorité parentale sur l’utilisation civique et responsable dudit service et les risques juridiques encourus en cas de diffusion par le mineur de contenus haineux, à l’occasion du recueil des consentements mentionnés au deuxième alinéa de l’article 45 de la loi n° 78‑17 du 6 janvier 1978 relative à l’informatique, aux fichiers et aux libertés ;

« 9° (Supprimé)

« 10° Ils désignent un représentant légal, personne physique située sur le territoire français exerçant les fonctions d’interlocuteur référent pour l’application de l’article 6‑2 de la présente loi et du présent article. Ce représentant légal est chargé de recevoir les demandes de l’autorité judiciaire en vertu de l’article 6 de la présente loi et les demandes du Conseil supérieur de l’audiovisuel en vertu de l’article 17‑3 de la loi n° 86‑1067 du 30 septembre 1986 relative à la liberté de communication ;

« 11° Ils formulent en termes précis, aisément compréhensibles, objectifs et non discriminatoires les conditions générales d’utilisation du service qu’ils mettent à la disposition du public lorsqu’elles sont relatives aux contenus mentionnés au I de l’article 6‑2 de la présente loi ;

« 12° (nouveau) Ils mettent en place les moyens nécessaires à la suppression des comptes de leurs utilisateurs ayant fait l’objet d’un nombre de notifications par plusieurs personnes faisant apparaître, au vu de ce faisceau d’indices, une contravention sérieuse aux infractions mentionnées au troisième alinéa du 7 du I de l’article 6 de la présente loi et aux troisième et quatrième alinéas de l’article 33 de la loi du 29 juillet 1881 sur la liberté de la presse. Cette suppression peut être contestée par l’utilisateur dans les conditions prévues au 5° du présent article. Elle intervient sans préjudice de leurs obligations relatives à la conservation des données associées à ces comptes pour les besoins de la recherche, de la constatation et de la poursuite des infractions pénales. »

Au premier alinéa des 1 et 2 du VI de l’article 6 de la loi n° 2004‑575 du 21 juin 2004 précitée, le montant : « 75 000 Euros » est remplacé par le montant : « 250 000 euros ».

Chapitre III

Rôle du Conseil supérieur de l’audiovisuel dans la lutte contre les contenus haineux en ligne

I. – Après l’article 17‑2 de la loi n° 86‑1067 du 30 septembre 1986 relative à la liberté de communication, il est inséré un article 17‑3 ainsi rédigé :

« Art. 17‑3. – I. – Le Conseil supérieur de l’audiovisuel veille au respect des dispositions des articles 6‑2 et 6‑3 de la loi n° 2004‑575 du 21 juin 2004 pour la confiance dans l’économie numérique par les opérateurs mentionnés à l’article 6‑2 de la même loi.

« À ce titre, il adresse aux opérateurs mentionnés au même article 6‑2 des recommandations visant à assurer le respect des dispositions mentionnées au premier alinéa du présent I.

« Il s’assure du suivi des obligations reposant sur ces opérateurs.

« Il publie chaque année un bilan de l’application de ces dispositions par les opérateurs de plateforme en ligne et de leur effectivité.

« Il recueille auprès des opérateurs mentionnés à l’article 6‑2 de la loi n° 2004‑575 du 21 juin 2004 précitée toutes les informations nécessaires au contrôle des obligations prévues à l’article 6‑3 de la même loi.

« II. – Le Conseil supérieur de l’audiovisuel peut mettre en demeure un opérateur de se conformer, dans le délai qu’il fixe, aux dispositions mentionnées au premier alinéa du I du présent article.

« Dans l’appréciation du manquement de l’opérateur, le Conseil supérieur de l’audiovisuel prend en compte le caractère insuffisant ou excessif du comportement de l’opérateur en matière de retrait des contenus portés à sa connaissance ou qu’il constate de sa propre initiative.

« Lorsque l’opérateur faisant l’objet de la mise en demeure ne se conforme pas à celle‑ci, le Conseil supérieur de l’audiovisuel peut, dans les conditions prévues à l’article 42‑7, prononcer une sanction pécuniaire dont le montant doit prendre en considération la gravité des manquements ainsi que, le cas échéant, leur caractère réitéré, sans pouvoir excéder 20 millions d’euros ou, s’agissant d’une entreprise, 4 % du chiffre d’affaires annuel mondial total de l’exercice précédent, le montant le plus élevé étant retenu.

« Le Conseil supérieur de l’audiovisuel peut rendre publiques les mises en demeure et sanctions qu’il prononce. Il détermine dans sa décision les modalités de cette publication, qui sont proportionnées à la gravité du manquement. Il peut également ordonner leur insertion dans des publications, journaux et supports qu’il désigne, aux frais des opérateurs faisant l’objet de la mise en demeure ou de la sanction.

« Les sanctions pécuniaires sont recouvrées comme les créances de l’État étrangères à l’impôt et au domaine.

« III. – Le Conseil supérieur de l’audiovisuel encourage les opérateurs mentionnés à l’article 6‑2 de la loi n° 2004‑575 du 21 juin 2004 précitée à mettre en œuvre :

« – des outils de coopération et de partage d’informations, dans un format ouvert et conforme à ses recommandations, dans la lutte contre les infractions mentionnées au troisième alinéa du 7 du I de l’article 6 de la même loi ;

« – des dispositifs techniques proportionnés facilitant, dans l’attente du traitement de la notification d’un contenu illicite, la désactivation ou la limitation temporaire des fonctionnalités qui permettent de multiplier ou d’accélérer l’exposition du public à ce contenu, et notamment les possibilités de partage, d’interaction, ou d’envoi de messages liés à ce dernier ;

« – des standards techniques communs d’interopérabilité entre services de communication au public en ligne, conformes à l’état de l’art, documentés et stables, afin de favoriser le libre choix des utilisateurs entre différentes plateformes. »

I bis A. – Le 1° de l’article 19 de la loi n° 86‑1067 du 30 septembre 1986 relative à la liberté de communication est complété par un alinéa ainsi rédigé :

« – auprès des opérateurs mentionnés à l’article 6‑2 de la loi n° 2004‑575 du 21 juin 2004 pour la confiance dans l’économie numérique, toutes les informations nécessaires au contrôle des obligations mentionnées à l’article 6‑3 de la même loi, y compris l’accès aux principes et méthodes de conception des algorithmes ainsi qu’aux données sur lesquels ils se basent, sans que le secret des affaires mentionné par la loi n° 2018‑670 du 30 juillet 2018 relative à la protection du secret des affaires puisse lui être opposé ; ».

I bis. – (Non modifié)

I ter. – Le chapitre II du titre Ier de la loi n° 2004‑575 du 21 juin 2004 pour la confiance dans l’économie numérique est ainsi modifié :

1° (Supprimé)

2° Le troisième alinéa de l’article 6‑1 est ainsi modifié :

a) La première phrase est ainsi modifiée :

– les mots : « la Commission nationale de l’informatique et des libertés » sont remplacés par les mots : « le Conseil supérieur de l’audiovisuel » ;

– à la fin, les mots : « dans cette commission » sont remplacés par les mots : « au Conseil » ;

b) La deuxième phrase est supprimée.

II. – (Supprimé)

(Suppression conforme)

Chapitre IV

Amélioration de la lutte contre la diffusion de contenus haineux en ligne

La loi n° 2004‑575 du 21 juin 2004 pour la confiance dans l’économie numérique est ainsi modifiée :

1° Au 8 du I de l’article 6, les mots : « , à défaut, à toute personne mentionnée » sont supprimés ;

2° Après l’article 6‑1, il est inséré un article 6‑4 ainsi rédigé :

« Art. 6‑4. – Lorsqu’une décision judiciaire passée en force de chose jugée a ordonné toute mesure propre à empêcher l’accès à un service de communication au public en ligne dont le contenu relève des infractions prévues au I de l’article 6‑2, l’autorité administrative, saisie le cas échéant par toute personne intéressée, peut demander aux personnes mentionnées au 1 du I de l’article 6, et pour une durée ne pouvant excéder celle restant à courir pour les mesures ordonnées par celle‑ci, d’empêcher l’accès à tout service de communication au public en ligne reprenant le contenu du service visé par ladite décision en totalité ou de manière substantielle.

« Dans les mêmes conditions, l’autorité administrative peut également demander à tout exploitant de moteur de recherche, annuaire ou autre service de référencement de faire cesser le référencement des adresses électroniques donnant accès à ces services de communication au public en ligne.

« Lorsqu’il n’est pas procédé au blocage ou au déréférencement desdits services en application des deux premiers alinéas du présent article, l’autorité judiciaire peut être saisie, en référé ou sur requête pour ordonner toute mesure destinée à faire cesser l’accès aux contenus de ces services. »

Les annonceurs publient en ligne et tiennent à jour au minimum mensuellement les informations relatives aux emplacements de diffusion de leurs annonces qui leur sont communiquées par les vendeurs d’espace publicitaire sur internet en application de l’article 23 de la loi n° 93‑122 du 29 janvier 1993 relative à la prévention de la corruption et à la transparence de la vie économique et des procédures publiques.

Le fait de ne pas respecter l’obligation définie au premier alinéa du présent article est puni de la peine prévue au 1° de l’article 25 de la loi n° 93‑122 du 29 janvier 1993 précitée et dans les conditions prévues au même article 25.

Chapitre IV bis

Renforcement de l’efficacité de la réponse pénale à l’égard des auteurs de contenus haineux en ligne

Après l’article 15‑3‑1 du code de procédure pénale, il est inséré un article 15‑3‑3 ainsi rédigé :

« Art. 15‑3‑3. – Un tribunal de grande instance désigné par décret exerce une compétence concurrente à celle qui résulte de l’application des articles 43, 52 et 382 du présent code pour l’enquête, la poursuite, l’instruction et le jugement des délits prévus au 6° du III de l’article 222‑33 du code pénal, lorsqu’ils sont commis avec la circonstance aggravante prévue à l’article 132‑76 du même code, et au 4° de l’article 222‑33‑2‑2 dudit code, lorsqu’ils sont commis avec la circonstance aggravante prévue à l’article 132‑76 ou 132‑77 du même code, lorsqu’ils ont fait l’objet d’une plainte adressée par voie électronique en application de l’article 15‑3‑1 du présent code. »

I. – (Non modifié)

II. – L’article 132‑45 du code pénal, dans sa rédaction résultant de la loi n° 2019‑222 du 23 mars 2019 de programmation 2018‑2022 et de réforme pour la justice, est complété par un 26° ainsi rédigé :

« 26° L’interdiction d’adresser des messages à la victime, de façon directe ou indirecte, par tout moyen, y compris par voie électronique. »

III. – (Non modifié)

Chapitre IV ter

Prévention de la diffusion de contenus haineux en ligne

(Conforme)

À la dernière phrase de l’article L. 121‑1 du code de l’éducation, après la première occurrence du mot : « violences », sont insérés les mots : « , y compris en ligne, ».

À la deuxième phrase de l’antépénultième alinéa de l’article L. 721‑2 du code de l’éducation, après le mot : « information », sont insérés les mots : « , à la lutte contre la diffusion de contenus haineux ».

Chapitre V

Dispositions finales

Un observatoire des contenus illicites en ligne assure le suivi et l’analyse de l’évolution des contenus illicites et en particulier ceux mentionnés au troisième alinéa du 7 du I de l’article 6 de la loi n° 2004‑575 du 21 juin 2004 précitée.

Il associe les opérateurs, associations, administrations et chercheurs concernés par la lutte et la prévention contre ces infractions, et prend en compte la diversité des publics, notamment les mineurs.

Il est placé auprès du Conseil supérieur de l’audiovisuel qui en assure le secrétariat.

Ses missions et sa composition sont précisées par décret pris après avis du Conseil supérieur de l’audiovisuel.

Cet observatoire assure un travail de liaison et de coordination avec le dispositif national de signalement des contenus illicites de l’internet mis en œuvre par la plateforme d’harmonisation, d’analyse, de recoupement et d’orientation des signalements placée au sein de l’Office central de lutte contre la criminalité liée aux technologies de l’information et de la communication de la direction centrale de la police judiciaire.

Le I de l’article 6 de la loi n° 2004‑575 du 21 juin 2004 pour la confiance dans l’économie numérique est ainsi modifié :

1° Au premier alinéa du 2, après les mots : « leur caractère », il est inséré le mot : « manifestement » ;

2° Au premier alinéa du 3, les mots : « de l’activité ou de l’information illicites » sont remplacés par les mots : « du caractère manifestement illicite de l’activité ou de l’information ».

(Suppression conforme)

Les articles 2 et 3 et les I, I bis A et I bis de l’article 4 entrent en vigueur le 1er juillet 2020. Le I ter de l’article 4 entre en vigueur le 1er janvier 2021.

I. – Le code de l’éducation est ainsi modifié :

1° L’article L. 371‑1 est ainsi modifié :

a) Au premier alinéa, la référence : « L. 312‑9, » est supprimée ;

b) Il est ajouté un alinéa ainsi rédigé :

« L’article L. 312‑9 est applicable dans sa rédaction résultant de la loi n°       du       visant à lutter contre les contenus haineux sur internet. » ;

2° À la fin du troisième alinéa des articles L. 771‑1, L. 773‑1 et L. 774‑1, la référence : « loi n° 2018‑1202 du 22 décembre 2018 relative à la lutte contre la manipulation de l’information » est remplacée par la référence : « loi n°       du       visant à lutter contre les contenus haineux sur internet ».

II et III. – (Non modifiés)

Délibéré en séance publique, à Paris, le 17 décembre 2019.

Le Président,

Signé : Gérard LARCHER