M. Bastien Lachaud interroge Mme la ministre déléguée auprès du ministre de l'économie, des finances et de la souveraineté industrielle et numérique, chargée de l'intelligence artificielle et du numérique, sur la répression de la création et de la diffusion de fausses photographies et vidéos à caractère sexuel ou insultant par l'usage de l'intelligence artificielle. L'essor des technologies d'intelligence artificielle en matière de création graphique et vidéo a ouvert des possibilités techniques pour n'importe qui de créer des fausses photographies ou vidéos qui ressemblent à s'y méprendre à de vraies photographies ou vidéos. Cette possibilité technique a créé l'opportunité de faire croire à des situations qui n'ont jamais existé, en utilisant des photographies de personnes sans leur consentement et en les détournant par l'IA dans l'intention de nuire. Cela peut décupler des phénomènes déjà existants de harcèlement, de revenge porn et de manipulation diverses. Déjà en mars, dans la Manche, 12 collégiennes sont été victimes de l'usage de leur photographie, détournée par IA pour en faire des images pornographiques et utilisées à des fin de cyberharcèlement. Le gouvernement espagnol a annoncé au mois de mars 2025 légiférer contre cette pratique afin de protéger le droit à l'intimité, à la vie privée et à l'image des personnes et singulièrement des jeunes. Aussi, il lui demande quelle politique le Gouvernement entend mener pour protéger les personnes contre ces pratiques.

Le Gouvernement porte une grande attention au développement des montages et contenus générés par l'intelligence artificielle, et plus particulièrement à ceux présentant un caractère sexuel et pouvant être utilisés à des fins de cyberharcèlement à l'encontre des mineurs et des majeurs. Les moyens de lutte contre l'utilisation de l'intelligence artificielle à des fins infractionnelles aux niveaux national et européen ont ainsi été renforcés. La loi n° 2024-449 « Sécuriser et réguler l'espace numérique » (loi SREN) du 21 mai 2024 a élargi le champ d'application de l'article 226-8 du code pénal portant sur l'atteinte à la représentation de la personne. Cet article réprime désormais le fait de porter à la connaissance du public ou d'un tiers un montage réalisé avec les paroles ou l'image d'une personne sans son consentement, notamment lorsque le contenu visuel ou sonore a été généré par un traitement algorithmique, lorsqu'il n'apparaît pas de manière évidente qu'il s'agit d'un contenu généré algorithmiquement ou s'il n'en est pas expressément fait mention. Une nouvelle circonstance aggravante est prévue lorsque ces délits ont été commis en utilisant un service de communication au public en ligne, portant les peines à deux ans d'emprisonnement et 45 000 euros d'amende. De même, la loi SREN a introduit l'article 226-8-1 du code pénal portant création d'un délit de publication d'un montage à caractère sexuel ou d'un contenu à caractère sexuel généré par un traitement algorithmique et reproduisant l'image ou les paroles d'une personne sans son consentement. Ces faits sont punis de deux ans d'emprisonnement et de 60 000 euros d'amende, peines portées à trois ans d'emprisonnement et à 75 000 euros d'amende lorsque la publication du montage ou du contenu généré par ce traitement algorithmique sans le consentement de la personne concernée a été réalisée en utilisant un service de communication au public en ligne. En outre, la loi SREN a instauré une circonstance aggravante du délit de chantage, réprimé par l'article 312-10 du code pénal, lorsqu'il est exercé par un service de communication au public en ligne, au moyen d'images ou de vidéos à caractère sexuel, ou en vue d'obtenir des images ou des vidéos à caractère sexuel. Ces circonstances aggravantes portent ainsi les peines encourues à sept ans d'emprisonnement et 100 000 euros d'amende. Ces évolutions législatives répondent aux objectifs de lutte contre les cyberviolences et de protection des victimes d'hypertrucages à caractère sexuel. La lutte contre la diffusion de tels contenus générés par l'intelligence artificielle passe également par l'action régulatrice des plateformes en ligne : à ce titre, le règlement européen sur les services numériques ("Digital Services Act"- DSA) du 19 octobre 2022, et dont les dispositions sont pleinement applicables depuis le 17 février 2024, a introduit un cadre juridique à l'échelle de l'Union Européenne visant à réguler les services numériques et à mieux protéger les droits des internautes européens. Le règlement DSA fixe donc un ensemble de règles imposant aux plateformes en ligne, y compris les réseaux sociaux, de mettre en place des outils permettant de lutter contre la présence et la diffusion de contenus illicites, dont les contenus pédopornographiques. Ces plateformes doivent ainsi permettre aux internautes de signaler facilement des contenus illicites, afin de réduire les délais de traitement et d'améliorer l'efficacité des signalements. Le règlement DSA a notamment instauré le statut de « signaleur de confiance », contribuant ainsi à accélérer le traitement des signalements. Les associations, entités ou organisations reconnues pour leur expertise et leurs compétences dans la lutte contre la diffusion de contenus pédopornographiques notamment, peuvent postuler au statut de "signaleur de confiance" auprès de l'Autorité de régulation de la communication audiovisuelle et numérique (ARCOM), qui constitue le coordinateur des services numériques (CSN) pour la France. Au 16 janvier 2026, 8 signaleurs de confiance ont été désignés par l'ARCOM, dont l'association « e-Enfance » permettant de signaler et de faire supprimer en quelques heures tous contenus préjudiciables rencontrés sur Internet ou sur les réseaux sociaux. Cette association demeure également accessible, via le numéro 3018, pour apporter un soutien psychologique et contribuer au retrait rapide de ces contenus. La plateforme PHAROS du ministère de l'intérieur permet également aux victimes et aux témoins de signaler tout contenu préjudiciable afin d'en obtenir le retrait. La combinaison de ces outils de prévention et de répression doit ainsi contribuer à une lutte plus efficace contre la diffusion d'hypertrucages, y compris à caractère sexuel.