M. Philippe Berta appelle l'attention de M. le ministre de l'éducation nationale et de la jeunesse sur l'utilisation de ChatGPT dans le cadre scolaire et secondaire. Il s'agit d'un outil générateur de textes par intelligence artificielle de l'entreprise américaine OpenAI utilisé par des élèves et des étudiants pour la rédaction de leurs devoirs et certains examens. Récusant l'opposition entre technophiles et technophobes, il semble nécessaire d'interroger l'utilisation de cet outil technologique d'un point de vue éthique. Si cette innovation technologique peut s'apparenter à une source d'information, certains enseignants et professeurs s'interrogent quant à ses multiples effets en matière d'apprentissage et d'évaluation. D'une part, dès lors que ChatGTP effectue les exercices à la place des élèves et des étudiants, en générant des textes littéraires ou bien des formules mathématiques, il remet en cause la notion même d'évaluation des connaissances et de certification des compétences. D'autre part, il interroge l'autonomie de la pensée des utilisateurs notamment dans l'acquisition continue d'un certain esprit critique et d'analyse. Enfin, des marges d'erreurs significatives sont constatées dans les résultats produits par ChatGPT. Le risque se situe dans l'absence de vérification par les élèves des informations transmises par l'intelligence artificielle. À l'époque de la prolifération des intox et de la désinformation, cet outil pose donc un réel problème quant aux fausses informations et aux systèmes de pensée formatés transmis indirectement aux utilisateurs. Nombreux États ont pris diverses mesures quant à la réglementation et la régulation de cet outil. Aussi, il lui demande de bien vouloir lui indiquer quelles mesures compte prendre le Gouvernement concernant l'application ChatGTP ou tout futur outil semblable dans l'évaluation des compétences et des connaissances des élèves et des étudiants.

L'application ChatGPT, de la société OpenAI, représente une nouvelle génération d'agent conversationnel, qui se perfectionne et devient de plus en plus facile d'utilisation tout en étant de plus en plus difficile à détecter en cas d'utilisation non explicite voire non autorisée. Elle soulève un certain nombre de questions, que le ministère de l'Education nationale et de la Jeunesse prend en compte. La question de l'usage par les élèves : rien n'empêche un élève d'utiliser ChatGPT dans un cadre privé et personnel, y compris pour contribuer à la réalisation d'un devoir donné à la maison. En revanche, l'usage dans un cadre scolaire par les élèves lors d'évaluations notées en condition d'examen sur table ou de devoirs notés peut être assimilé aux pratiques de plagiat déjà existantes et ne peut donc pas être autorisé. Les outils d'Intelligence Artificielle (IA) doivent amener à repenser le travail personnel de l'élève : la nature des devoirs donnés aux élèves à réaliser à la maison d'une part, et l'articulation entre activités pratiquées en classe et activités réalisées à la maison. La question de l'intérêt pédagogique : les agents conversationnels appuyés sur des modèles de langages génératifs comme ChatGPT peuvent avoir des usages pédagogiques : initier ou soutenir la créativité comme première base pour la rédaction d'un texte ou d'un code, optimiser une tâche rédactionnelle, proposer une argumentation neutre à déconstruire et à critiquer, faire reformuler des consignes ou encore demander aux élèves de vérifier le contenu et la pertinence des réponses fournies. Si les outils de détection automatique existent, ils demeurent des services encore fragiles (langue française moins bien détectée, contournement possible), mais l'enseignant peut justement faire travailler ses élèves sur un regard critique à l'appui de réponses produites par l'IA. La question de la conformité de ChatGPT au RGPD : l'éducation des élèves doit également tenir compte du RGPD, qui ne permet pas un usage en classe d'applications comme ChatGPT, en raison de la nécessité de créer un compte personnel et de la connexion à une application hébergée hors Union européenne (U.E.) dont la politique de confidentialité indique que les données peuvent être partagées avec des fournisseurs tiers. D'une manière plus générale, le ministère engage une réflexion de fond sur les effets de l'intelligence artificielle sur les conditions d'apprentissage et d'enseignement, et propose de multiples dispositifs d'accompagnement des professeurs. Le renforcement de l'éducation aux médias et à l'information (EMI) constitue une brique essentielle de la politique ministérielle, avec la prise en compte des usages de l'intelligence artificielle par les élèves, dans un cadre scolaire, familial ou personnel. Il s'agit de renforcer la capacité des élèves à discerner la manière dont fonctionne une intelligence artificielle, ses opportunités, ses risques et ses limites. Dans le cadre de la stratégie numérique du ministère, dévoilée fin janvier 2023, l'objectif fixé est que tous les collégiens bénéficient d'une action d'éducation aux médias et à l'information (EMI), chaque année scolaire. Il devra en être de même pour une majorité d'élèves à l'école élémentaire et au lycée. Dans le cadre de la réforme du cycle IV, une nouvelle ambition sera donnée à l'enseignement de technologie. Cet enseignement devra permettre la pleine compréhension, par les élèves, de l'environnement numérique et des enjeux qui s'y attachent. Le travail du conseil supérieur des programmes est actuellement en cours. Des formations à l'IA existent déjà, de nouvelles sont développées : MOOC IAI Class'Code-INRIA, avec plus de 23 000 inscrits depuis avril 2020 ; modules IA pour les enseignants de sciences numériques et technologie (SNT) et de numérique et science informatique (NSI) en ligne ; MOOC en préparation en coopération européenne via le dispositif “AI for and by Teachers”, formations du Réseau Canopé centrées ChatGPT. Des projets et des partenariats autour de l'IA et des données sont également développés par le ministère. Dans le cadre de France 2030, les Partenariats Innovation et Intelligence artificielle visent le développement de solutions technologiques basées sur l'IA par les entreprises de la filière Ed Tech en partenariat resserré avec le ministère. Par ce biais, le ministère investit résolument pour mobiliser l'IA de manière sécurisée et contrôlée au service de la réussite de nos élèves et de la réduction des inégalités.