Mme Clémence Guetté interroge Mme la ministre déléguée auprès du ministre de l'économie, des finances et de la souveraineté industrielle, énergétique et numérique, chargée de l'intelligence artificielle et du numérique, sur le phénomène inquiétant des vidéos générées par intelligence artificielle postées sur les réseaux sociaux afin de diffuser des idées à caractère raciste et islamophobe. Plus précisément, le compte TikTok Frenchi.a cumule plusieurs millions de vues et de likes. Ce compte publie en majorité du contenu généré par intelligence artificielle. Un type de vidéo, devenu viral, montre des professeurs en larmes dans une salle de classe devant des élèves qui les harcèlent et filment la scène hilares. Le contenu est généré de manière à ce que les élèves soient identifiés comme racisés et musulmans. Ces vidéos sont massivement relayées sur les réseaux sociaux et notamment sur X par des comptes d'extrême droite, se basant sur ces vidéos générées par IA pour véhiculer des thèses racistes et islamophobes. Au vu des commentaires et de l'exposition dont bénéficient ces vidéos, beaucoup d'internautes se laissent manipuler et croient en leur véracité. Ainsi, il est nécessaire de sanctionner de toute urgence ce type de comptes, coupables de désinformation et d'incitation à la haine raciste. Plus globalement, il faut mettre en place un grand plan de prévention et de régulation face aux dangers de l'intelligence artificielle en mettant les plateformes face à leurs responsabilités. En outre, il est essentiel d'interdire formellement les usages de l'IA et du « big data » qui vont à l'encontre des droits sociaux et des principes républicains. Il en va de la santé de la démocratie, des institutions et de la société. Aussi, elle lui demande si elle va sanctionner fermement les comptes visant à diffuser des idées racistes sur les réseaux sociaux et à réguler les plateformes permettant de créer et de diffuser ce type de contenu.