Mme Anne Le Hénanff alerte M. le ministre délégué auprès du ministre de l'économie, des finances et de la souveraineté industrielle et numérique, chargé de la transition numérique et des télécommunications, sur l'usage des agents conversationnels à intelligence artificielle par les mineurs sur les réseaux sociaux. À l'heure où les agents conversationnels à intelligence artificielle accessibles au grand public se développent, il convient d'en étudier les risques et les éventuelles dérives, notamment pour des mineurs. Le 3 mai 2023, une fonctionnalité appelée « My AI » a été étendue à l'ensemble des utilisateurs du réseau social Snapchat. Il s'agit d'un agent conversationnel à intelligence artificielle basé sur le modèle de Chat GPT élaboré par OpenAI. Auparavant réservé aux seuls abonnés « premium » de l'application, cette fonctionnalité apparaît désormais sur l'ensemble des écrans des utilisateurs du réseau social, sans aucune prise en compte de d'âge de ces derniers. « My AI » prend la forme d'un utilisateur humain et la frontière entre le réel et le fictif est d'autant plus floue que chacun des utilisateurs peut attribuer à ce chatbot un nom ainsi qu'une apparence personnalisée. « My IA » est une intelligence artificielle intrusive qui s'impose visuellement et fonctionnellement à l'ensemble des utilisateurs car la conversation avec ce chatbot est paramétrée pour être épinglée à la première ligne de l'interface de messagerie. De plus, elle ne peut être désactivée gratuitement. En effet, pour supprimer cette fonctionnalité, il n'existe qu'un seul moyen : payer l'abonnement premium « Snapchat + » dont le montant s'élève à 2,92 euros par mois. Snapchat assume clairement, sur son site officiel, deux éléments : premièrement, le chatbot a accès à la localisation de l'utilisateur, deuxièmement, les informations communiquées lors d'une conversation avec « My AI » sont collectées et stockées jusqu'à la suppression manuelle par l'utilisateur et utilisées afin d'« améliorer les produits Snap et personnaliser [leur] expérience, y compris les publicités ». En termes juridiques, cela veut dire que le réseau social recourt à des processus de profilage afin de proposer une publicité ciblée aux utilisateurs, y compris aux mineurs. On constate cependant un manque de transparence quant à l'étendue des fonctionnalités de « My AI » au sein de l'application Snapchat. Par exemple, il n'est nullement mentionné explicitement que « My AI » a accès aux stories des propriétaires des comptes. Il existe pourtant un paramètre, actionné par défaut, qui permet à « My AI » de regarder les propres stories des utilisateurs. En définitive, au-delà du risque, pour les jeunes mineurs, de se laisser séduire par une intelligence artificielle qui a tout d'une réelle personne, il existe un réel problème quant à la protection et la collecte des données personnelles des utilisateurs notamment au regard du règlement général sur la protection des données (RGPD). Comment est-il possible d'imposer un tel outil, à des fins commerciales et ce d'autant plus à des mineurs ? Le Gouvernement travaille à mettre en place une politique de protection des mineurs face aux problématiques soulevées par le développement du numérique et surtout des réseaux sociaux avec notamment l'adoption de la loi n° 2023-566 du 7 juillet 2023 visant à instaurer une majorité numérique et à lutter contre la haine en ligne. En effet, son article 4 confère un réel pouvoir de contrôle aux titulaires de l'autorité parentale d'un mineur de 15 ans sur les réseaux sociaux mais également des obligations fortes pour les fournisseurs de services de réseaux sociaux. Par ailleurs, les obligations relatives à la publicité ciblée pour les mineurs prévues à l'alinéa 2 de l'article 28 du règlement européen Digital Services Act (DSA) s'appliqueront dès le 25 août 2023 aux « très grandes plateformes en ligne » désignées par la Commission européenne, dont Snapchat. Au regard de ces éléments, la position des autorités publiques est non-équivoque concernant la protection des mineurs. Aussi, il devient urgent d'agir, puisque ce phénomène tend à se généraliser dans un futur proche. En effet, les réseaux sociaux Instagram et Tik Tok travaillent actuellement à l'élaboration de leur propre agent conversationnel à intelligence artificielle. Ainsi, Mme la députée souhaiterait connaître la position du Gouvernement sur l'usage, quasi imposé, des agents conversationnels à intelligence artificielle par les mineurs ainsi que les impacts que cela pourrait avoir. Mme la députée souhaiterait également savoir quelles mesures pourraient être mises en place afin de s'assurer de la non-exploitation, à des fins commerciales, des données personnelles des mineurs en sachant que dans le cas précis, la fonctionnalité ne peut être désactivée et que l'on ne connaît pas l'étanchéité de celle-ci hors du système d'exploitation Snapchat. Ces mesures pourraient s'inscrire dans le cadre du projet de loi visant à sécuriser et réguler l'espace numérique, adopté au Sénat le 5 juillet 2023. Enfin, elle se demande si le Gouvernement entend saisir la Commission nationale de l'informatique et des libertés (CNIL) sur la question du consentement de l'utilisateur à la collecte et au traitement de ses données à caractère personnel opérée par « My IA ».

L'exploitation à des fins commerciales des données personnelles des mineurs comporte de graves risques dont le gouvernement prend toute la mesure. Car si le monde numérique comporte d'incontestables opportunités pour les jeunes utilisateurs, les mineurs constituent un marché très prisé pour les données tout en étant moins conscients des risques en ligne et de la marchandisation de ces dernières. Cette problématique s'inscrit directement dans les enjeux de protection des mineurs en ligne, qui figure parmi les priorités stratégiques portées par le gouvernement. Le règlement Digital Services Act (DSA) adopté sous présidence française de l'Union européenne vient s'ajouter au cadre législatif existant en la matière, tel que le Règlement Général sur la Protection des Données (RGPD) et de la loi Informatiques et Libertés, qui prévoient notamment qu'un mineur ne peut consentir seul à un traitement de données à caractère personnel en ce qui concerne l'offre directe de services de la société de l'information qu'à compter de l'âge de quinze ans. Le DSA fournit de nouveaux outils permettant de renforcer la protection des mineurs en ligne. L'article 28 du DSA prévoit l'interdiction de pratiquer la publicité qui repose sur le profilage utilisant des données à caractère personnel dès lors que la plateforme a connaissance avec une certitude raisonnable que l'utilisateur du service est un mineur. Les effets concrets de ce règlement se sont matérialisés par une série d'annonces de mise en conformité de la part de certaines plateformes visées par le DSA. Dans un communiqué du 23 août 2023, Snapchat a indiqué que la plupart des outils de ciblage et d'optimisation visant à personnaliser les publicités pour les utilisateurs mineurs dans l'UE et au Royaume-Uni ne seront plus disponibles pour les annonceurs. Le DSA interdit aussi à l'article 25 toute interface trompeuse ayant pour objectif de manipuler les utilisateurs ou entraver leur capacité à prendre des décisions libres et éclairées. Le DSA a également pour objectif de responsabiliser les plateformes sur leurs pratiques publicitaires. En effet, depuis le 25 août 2023, en vertu des articles 34 et 35 du DSA, les très grandes plateformes dont Snapchat fait partie doivent recenser, analyser et évaluer tout risque systémique découlant de leurs services en particulier tout effet négatif réel ou prévisible sur la protection des mineurs et mettre en place des mesures d'atténuation raisonnables, proportionnées et efficaces adaptées à ces risques. Si Snapchat ne se conforme pas à ses obligations, notamment dans le cadre de l'utilisation de son chatbot « My AI », l'entreprise encourt des sanctions pouvant aller jusqu'à 6 % de son chiffre d'affaires (CA) mondial. Le Gouvernement est attaché et sera très attentif au plein effet et à l'efficacité de la mise en œuvre des nouveaux règlements européens DSA et DMA en France et en Europe ; il fait confiance et se tiendra auprès des régulateurs compétents pour assurer le respect scrupuleux du nouveau cadre européen. La mise en œuvre de ces interdictions permettra de renforcer significativement la protection des mineurs pour ce qui concerne le traitement de leurs données personnelles à des fins publicitaires. Le projet de loi visant à sécuriser et réguler l'espace numérique assure quant à lui l'adaptation du droit national au DSA pour l'application effective de cette législation européenne en France. Il prévoit notamment que la Commission nationale de l'informatique et des libertés (CNIL) sera en charge du respect des interdictions relatives au traitement des données personnelles par les plateformes au même titre qu'elle l'est déjà pour l'application du RGPD, notamment sur l'interdiction de la publicité ciblée sur les mineurs. Enfin, le Gouvernement suit et soutient activement les travaux en cours sur la proposition de règlement de la Commission Européenne sur l'intelligence artificielle. Une fois adopté, ce texte représentera le régime règlementaire le plus abouti et contraignant au monde en matière d'intelligence artificielle (IA) et permettra de protéger nos concitoyens, dont les mineurs, contre des usages abusifs (et donc interdits) ou à haut risque (et donc encadrés) de l'IA. Le projet de règlement prévoit, dans la version du Conseil comme dans celle du Parlement européen, des obligations de transparence qui contraindront notamment les fournisseurs de chatbots, comme « My AI », à informer les utilisateurs qu'ils interagissent avec un système d'intelligence artificielle, en tenant compte à la fois du contexte d'utilisation mais aussi des caractéristiques de la population concernée.