Les générateurs de texte : quelles conséquences pour le milieu scolaire ?

Au cours des dernières années, le progrès technique dans le domaine de l’intelligence artificielle et de l’apprentissage automatique (« machine learning ») a fait naître des générateurs de texte très sophistiqués. En effet, la capacité rédactionnelle de ces logiciels se rapproche de plus en plus à celle de l’être humain.

Les générateurs de texte pourraient-ils réformer la production écrite dans le milieu scolaire ? Notre député Gusty Graas s’est renseigné sur la matière auprès du ministre de l’Éducation nationale, de l’Enfance et de la Jeunesse.

Question

Monsieur le Président,

Par la présente, j’ai l’honneur de vous informer que, conformément à l’article 83 de notre Règlement interne, je souhaite poser la question parlementaire suivante à Monsieur le Ministre de l’Éducation nationale, de la Jeunesse et de l’Enfance et à Madame la Ministre de la Culture :

« Une organisation de recherche sur l’intelligence artificielle vient de commercialiser une nouvelle version de son générateur de texte « GPT-3 », capable entre autres d’écrire des articles de presse, de créer du code informatique et même de résoudre des problèmes mathématiques. 

Le GPT-3 est désormais le système d’apprentissage automatique le plus puissant en sa matière et nécessite qu’un minimum d’entraînement. La machine aura la faculté de générer des textes complètement cohérents.

Bien que le logiciel reçoive beaucoup de louanges pour sa capacité rédactionnelle, de nombreuses critiques mettent en garde contre son utilisation malveillante et ses effets néfastes sur la création littéraire. 

Dans ce contexte, j’aimerais poser les questions suivantes à Monsieur le Ministre de l’Éducation nationale, de la Jeunesse et de l’Enfance et à Madame la Ministre de la Culture :

• En général, comment l’utilisation de générateurs de texte pourrait-elle influencer la capacité écrite dans les milieux scolaires ? Quelles opportunités et quels dangers pourraient en résulter ? 
• La commercialisation de générateurs de texte pourrait-elle augmenter le risque de triche dans le cadre de la rédaction de travaux académiques ?
• Est-ce qu’il est prévu d’informer les élèves sur le fonctionnement et la manipulation de systèmes d’écriture autonome ? Les élèves pourraient-ils être confrontés à utiliser des générateurs de texte dans leur quotidien scolaire ? À partir de quel âge ou niveau d’enseignement serait-il envisageable d’initier des actions de sensibilisation en cette matière ?
• Monsieur le Ministre ne craint-il pas que la création littéraire de l’être humain soit menacée par les systèmes d’écriture autonome, étant donné que la qualité rédactionnelle des générateurs de texte pourrait se rapprocher de plus en plus de celles des hommes ? Quelles seraient les conséquences d’un recours accru aux générateurs de texte pour les écrivains ? »

Veuillez croire, Monsieur le Président, en l’expression de ma très haute considération.

Gusty GRAAS
Député

Réponse commune de Monsieur le Ministre de l'Éducation nationale, de l’Enfance et de la Jeunesse et de Madame la Ministre de la Culture à la question parlementaire n° 2972 de Monsieur le Député Gusty Graas 

Dans sa question parlementaire, l’honorable Député fait référence au générateur de textes GPT-3 (Generative Pretrained Transformer 3) de l’entreprise OpenAI LP et s’interroge sur les conséquences d’une éventuelle utilisation de tels outils dans un contexte scolaire.

1. Indépendamment du constat que l’intelligence artificielle (IA) génère des outils de plus en plus performants dans le domaine de la production de textes, il est peu probable qu’ils arrivent à se substituer aux auteurs humains et nous sommes absolument persuadés que la capacité des élèves et des adultes à produire des textes authentiques restera une compétence importante à bien des égards, tant dans le contexte de l’éducation que pour la société en général. Dans les écoles, les apprentissages en vue de l’acquisition des compétences de la compréhension et de la production écrite garderont toute leur place, puisqu’elles sont essentielles pour la communication entre les humains, mais permettent aussi à l’individu de mieux structurer ses pensées et réflexions et de les partager avec autrui.

À ce stade, même les générateurs de textes les plus performants ne peuvent ni inventer un texte se basant sur de nouveaux faits ni produire des contenus originaux. Il s’agit de modèles statistiques de langage qui fonctionnent selon le principe de la prédiction de mots en calculant la probabilité qu'un mot succède à un autre. Pour y arriver, le générateur a dû apprendre et mémoriser d’énormes quantités de textes et de données (570 GB ou l’équivalent d’un milliard de mots dans le cas de GPT-3), auxquelles il a recours pour compléter des textes. Cependant, les développeurs eux-mêmes avouent que, contrairement aux êtres humains, les générateurs de textes sont incapables de comprendre ou d’interpréter ce qu’ils ont appris. Pour réussir une communication réelle, ils devraient non seulement reconnaître les formes linguistiques, mais aussi comprendre leur dépendance en relation avec l'intention communicative de l'auteur. Le développement de telles compétences exige une connaissance du monde qui ne survient que lors d'un échange communicatif avec d'autres personnes et en interaction avec elles, comme c’est le cas entre élèves et enseignants.

Cependant, les générateurs de textes pourraient servir pour promouvoir les processus d'écriture de textes dans certains contextes et s’avérer fort utiles, notamment dans la synthèse et la reproduction de contenus existants.

2. Le risque de voir des candidats se servir d’un système d’écriture autonome dans le cadre de la rédaction de travaux académiques au moment où de tels outils seront abordables et plus répandus ne peut pas être totalement exclu. Ce phénomène existe bel et bien depuis longtemps quand des étudiants ont recours aux services d’un prête-plume ou lorsqu’ils recopient des passages d’œuvres d’autres auteurs sans les déclarer comme étant des citations. Afin de minimiser ce risque, il pourrait s’avérer nécessaire de revoir les formes d’évaluation utilisées communément en délaissant peu à peu la simple reproduction de savoirs au profit de la réalisation de productions individuelles et authentiques. Le recours croissant à des présentations orales devant un public ou un jury pourrait gagner en importance dans ce contexte.

3. Pour l’instant, l’utilisation systématique de générateurs de textes dans les cours n’est pas prévue. Cependant, il pourra être intéressant d’aborder ce sujet le moment venu dans le cadre des cours d’initiation au coding qui viennent d’être introduits au cycle 4 de l’enseignement fondamental et qui seront intégrés de manière transversale à partir du cycle 2 dès la prochaine rentrée, tout comme dans la discipline Computer science qui sera introduite aux classes inférieures de l’enseignement secondaire en septembre 2021 et dont un des objectifs sera de jeter un regard averti derrière les coulisses de la digitalisation et d’apprendre à connaître certaines formes d’IA avec leurs opportunités et risques. Dans ce contexte, les élèves pourront être confrontés à des systèmes d’écriture autonome et seront sensibilisés à reconnaître les caractéristiques de textes générés par un logiciel.

4. En ce qui concerne la menace que pourraient représenter des générateurs de textes dans le cadre de la création littéraire et par conséquent pour les écrivains, nous ne partageons pas les craintes exprimées par certains. Les écrivains en chair et en os continueront surement à rédiger des œuvres intéressantes, issues de leur propre imagination et servies par leur style personnel et leurs talents langagiers. Si un système d’écriture autonome sera un jour capable de générer des récits, romans, poèmes etc. dignes des meilleurs écrivains et que ces œuvres seront clairement marquées comme étant issus d’un processus d’IA, les lecteurs auront la liberté de choisir la lecture qui leur procure le plus de plaisir. 

Gusty Graas

Mehr ...

Fichier attaché	Taille
QP-GPT3.pdf	204.1 Ko
2972_réponse commune.pdf	123.55 Ko