{"id":6891,"date":"2023-03-22T14:28:00","date_gmt":"2023-03-22T13:28:00","guid":{"rendered":"https:\/\/numalis.com\/?p=6891"},"modified":"2025-01-14T14:07:33","modified_gmt":"2025-01-14T13:07:33","slug":"comment-favoriser-une-utilisation-ethique-de-lia-dans-leducation","status":"publish","type":"post","link":"https:\/\/numalis.com\/fr\/comment-favoriser-une-utilisation-ethique-de-lia-dans-leducation\/","title":{"rendered":"Comment favoriser une utilisation \u00e9thique de l’IA dans l’\u00e9ducation\u00a0?"},"content":{"rendered":"\n

Si l\u2019industrialisation de l\u2019intelligence artificielle (IA) n\u2019en est qu\u2019\u00e0 ses d\u00e9buts dans certains secteurs, cette technologie est d\u2019ores et d\u00e9j\u00e0 de plus en plus int\u00e9gr\u00e9e dans le secteur de l\u2019\u00e9ducation. Malgr\u00e9 ses r\u00e9sultats encourageants et son formidable potentiel, l\u2019IA entra\u00eene cependant de s\u00e9rieux risques pour les plus jeunes1<\/a><\/sup>.<\/p>\n\n\n\n

Tandis que l\u2019Europe se dote de solides outils de r\u00e9gulation avec l\u2019EU AI-Act notamment en pr\u00e9cisant les usages interdits au sein de l\u2019UE pour participer \u00e0 la construction d\u2019une IA \u00e9thique et de confiance, la France se pr\u00e9pare \u00e9galement \u00e0 encadrer l\u2019IA.<\/p>\n\n\n\n

En attendant l\u2019\u00e9volution du cadre l\u00e9gislatif, la CNIL r\u00e9gule d\u00e9j\u00e0 des syst\u00e8mes d\u2019IA impliquant des donn\u00e9es personnelles2<\/a><\/sup>, afin de garantir la protection des droits fondamentaux et plus particuli\u00e8rement le droit \u00e0 la protection des donn\u00e9es.<\/p>\n\n\n\n

Concernant l\u2019inclusion de l\u2019Intelligence Artificielle dans l\u2019\u00e9ducation, le minist\u00e8re de l’\u00c9ducation nationale, de la Jeunesse et des Sports est aux commandes en suivant la Strat\u00e9gie nationale pour l’intelligence artificielle (SNIA) et les recommandations de la CNIL3<\/a><\/sup>. Cela suffira-t-il, au vu de la complexit\u00e9 des d\u00e9fis \u00e0 relever en mati\u00e8re d\u2019usage \u00e9thique de l\u2019IA\u00a0?<\/p>\n\n\n\n

Les consid\u00e9rations \u00e9thiques li\u00e9es \u00e0 l’utilisation de l’IA dans l’\u00e9ducation<\/h2>\n\n\n\n

L\u2019IA peut \u00eatre utilis\u00e9e par les \u00e9l\u00e8ves comme les enseignants, au sein des \u00e9tablissements scolaires et en dehors. Parmi les principaux usages potentiels, il y a surtout l\u2019apprentissage adaptatif, qui personnalise le parcours d\u2019apprentissage d\u2019un \u00e9l\u00e8ve, \u00e0 l\u2019instar de la plateforme Knewton ou Google Classroom. Citons \u00e9galement la correction ou la traduction de textes, \u00e0 l\u2019aide d\u2019algorithmes de NLP (Natural Language Processing), comme Deepl par exemple. Et l\u2019automatisation de t\u00e2ches par l\u2019IA, sur les plateformes telles que Google Classroom, facilite \u00e0 la fois l\u2019apprentissage et l\u2019enseignement. <\/p>\n\n\n\n

Par exemple, au fur et \u00e0 mesure que les \u00e9l\u00e8ves compl\u00e8tent les exercices, ils re\u00e7oivent un retour d’information en temps r\u00e9el qui leur permet de savoir s’ils sont ou non sur la bonne voie. Si un \u00e9l\u00e8ve a du mal \u00e0 r\u00e9soudre un probl\u00e8me, il peut obtenir des conseils par le biais d’explications visuelles et de vid\u00e9os4<\/a><\/sup>. Ce sont des t\u00e2ches qui seraient normalement impossibles \u00e0 r\u00e9aliser pour les professeurs, le manque de temps ne permettant pas l\u2019accompagnement individuel en temps r\u00e9el. Mais l\u2019automatisation apport\u00e9e par l\u2019IA permet de r\u00e9pondre \u00e0 ce genre de probl\u00e9matique.<\/p>\n\n\n\n

Les b\u00e9n\u00e9fices de l\u2019IA dans l\u2019\u00e9ducation sont multiples, mais ils s\u2019accompagnent de d\u00e9fis sp\u00e9cifiques, comme dans de nombreux autres domaines sensibles, que ce soit dans la sant\u00e9, la justice ou la d\u00e9fense. Dans l\u2019\u00e9ducation, le principal risque concerne les biais que peut induire l\u2019IA qui peuvent s\u2019av\u00e9rer n\u00e9faste aux \u00e9l\u00e8ves de plusieurs fa\u00e7ons, par exemple en entretenant des st\u00e9r\u00e9otypes ou en accentuant des in\u00e9galit\u00e9s.<\/p>\n\n\n\n

Les autres consid\u00e9rations \u00e9thiques se rapportent au risque de d\u00e9shumanisation de l\u2019apprentissage5<\/a><\/sup>. Il inqui\u00e8te en raison du possible appauvrissement des relations entre \u00e9l\u00e8ves et enseignants. Nous reviendrons \u00e9galement sur les risques li\u00e9s \u00e0 la fuite de donn\u00e9es, qui est une probl\u00e9matique majeure. <\/p>\n\n\n\n

Avec le risque de d\u00e9shumanisation, des craintes sont \u00e9galement port\u00e9es sur un remplacement des enseignants par des algorithmes. Or, l\u2019IA est mise en place dans un but de coop\u00e9ration homme-machine avec les enseignants, et non dans un but de substitution. Les enseignants seront assist\u00e9s par l\u2019IA pour leur permettre de mieux suivre et mieux accompagner les \u00e9l\u00e8ves. Les autorit\u00e9s agissent dans une d\u00e9marche qui prend en compte cette pr\u00e9occupation : \u00ab La strat\u00e9gie de l\u2019IA en \u00e9ducation doit proposer des solutions aux professionnels de l\u2019enseignement et de la formation, aider aux apprentissages et aux d\u00e9cisions sans jamais se substituer aux personnes. \u00bb6<\/a><\/sup>. Les professeurs sont une composante indispensable de la soci\u00e9t\u00e9, pour faire r\u00e9f\u00e9rence \u00e0 S\u00e9n\u00e8que, \u201cLes hommes apprennent en enseignant\u201d.<\/p>\n\n\n\n

Qu\u2019est-ce qui garantit une utilisation \u00e9thique de l’IA actuellement dans l\u2019\u00e9ducation ?<\/h2>\n\n\n\n

Selon la Strat\u00e9gie nationale pour l’intelligence artificielle, la meilleure pr\u00e9vention en mati\u00e8re d\u2019\u00e9thique dans l\u2019\u00e9ducation consiste \u00e0 commencer par correctement former les enseignants et les \u00e9l\u00e8ves sur le sujet.<\/p>\n\n\n\n

Les objectifs sont une meilleure compr\u00e9hension et un \u00ab\u00a0usage raisonn\u00e9\u00a0\u00bb de l\u2019IA. Pour ce faire, l\u2019\u00e9ducation nationale a mis en place de nombreux projets et partenariats, tels que P2IA (Partenariat d’innovation et intelligence artificielle)7<\/a><\/sup>. Celui-ci a par exemple permis le d\u00e9veloppement de Mathia ou Adaptativ\u2019Math, logiciels destin\u00e9 aux \u00e9l\u00e8ves de CP, CE1 et CE2, pour l\u2019apprentissage des math\u00e9matiques8<\/a><\/sup>. Des classes sont actuellement en train d\u2019exp\u00e9rimenter l\u2019utilisation de ces logiciels dans l\u2019apprentissage des math\u00e9matiques9<\/a><\/sup>. D\u2019autres projets sont \u00e9galement men\u00e9s avec d\u2019autres pays europ\u00e9ens, comme AI4T (l\u2019intelligence artificielle pour et par les professeurs)10<\/a><\/sup>.<\/p>\n\n\n\n

Le dispositif Edu’Up, soutenu par le minist\u00e8re de l\u2019\u00c9ducation nationale, a donn\u00e9 lieu \u00e0 un soutien pour le d\u00e9veloppement de plusieurs applications11<\/a><\/sup>, \u00e0 l\u2019instar de Beegup. La plateforme pour les lyc\u00e9ens est d\u00e9di\u00e9e \u00e0 la pratique orale des langues \u00e9trang\u00e8res. <\/p>\n\n\n\n

Quant aux solutions bas\u00e9es sur l\u2019IA pour l\u2019enseignement sup\u00e9rieur, elles sont tr\u00e8s nombreuses, surtout en raison du partenariat entre le minist\u00e8re de l\u2019\u00c9ducation et Moodle12<\/a><\/sup>, m\u00eame si cette plateforme est utilis\u00e9e d\u00e8s le coll\u00e8ge. Les \u00e9tablissements d\u2019enseignement utilisent en grand nombre ce LMS (Learning Management System) pour individualiser les parcours ou cr\u00e9er des MOOC (Massive Open Online Courses), de Sciences Po \u00e0 l\u2019ESSEC en passant par HEC. <\/p>\n\n\n\n

Ajoutons que les d\u00e9veloppeurs travaillant sur l\u2019IA sont les premiers confront\u00e9s aux d\u00e9fis \u00e9thiques qui se posent \u00e0 son usage dans le secteur de l\u2019\u00e9ducation. Pour respecter des principes \u00e9thiques de d\u00e9veloppement des IA, au sens des \u201cEthics guidelines for trustworthy AI\u201d de la Commission Europ\u00e9enne13<\/a><\/sup>, les entreprises doivent notamment faire preuve d\u2019une plus grande transparence en ce qui concerne le traitement des donn\u00e9es. La promulgation et le d\u00e9veloppement d\u2019IA fiables sont des sujets \u00e0 la fois techniques et soci\u00e9taux, qui impliquent de plus en plus d\u2019organisations et d\u2019entreprises, comme dans les organismes Partnership on AI ou l\u2019Alliance europ\u00e9enne de l\u2019IA14<\/a><\/sup>.<\/p>\n\n\n\n

Au c\u0153ur des d\u00e9fis \u00e9thiques de l’IA pour le secteur \u00e9ducatif : validation algorithmique, gouvernance et protection des donn\u00e9es<\/h2>\n\n\n\n

Les d\u00e9fis introduits par l\u2019utilisation des syst\u00e8mes d\u2019IA sont \u00e0 la fois soci\u00e9taux, l\u00e9gaux et techniques. Pour y r\u00e9pondre, un cadre \u00e9thique d\u00e9clin\u00e9 dans un contexte normatif et l\u00e9gislatif est n\u00e9cessaire ; nous reviendrons dessus dans la prochaine partie. Il faut permettre d\u2019encadrer et de s\u00e9curiser au mieux ces technologies, notamment afin d\u2019\u00e9viter des d\u00e9rives telles que l\u2019exploitation des donn\u00e9es des mineurs \u00e0 des fins commerciales ou d\u2019influence sur leurs choix scolaires. Les entreprises qui travaillent dans le domaine de l’\u00e9ducation se doivent de mettre en place des politiques fortes permettant de r\u00e9pondre aux enjeux de protection des donn\u00e9es et de validation de l\u2019IA.<\/p>\n\n\n\n

La protection des donn\u00e9es est d\u00e9j\u00e0 un sujet primordial pour les entreprises depuis la mise en place du RGPD. Avec l\u2019utilisation massive des donn\u00e9es, un des enjeux est de tout simplement prot\u00e9ger les donn\u00e9es \u00e0 caract\u00e8re personnel et de limiter leurs potentielles fuites. La gestion de la gouvernance des donn\u00e9es est alors importante en ce sens, une mauvaise gouvernance ou une gouvernance insuffisante peut \u00eatre un facteur de fuite de donn\u00e9es. Effectivement, derri\u00e8re la \u201cgouvernance des donn\u00e9es\u201d se cachent des principes tels que la gestion de la qualit\u00e9 des donn\u00e9es, leur localisation ou encore l\u2019identification des acteurs pouvant prendre telles mesures, sur telles donn\u00e9es, dans telle situation et par telle m\u00e9thode. Or, avec le Cloud Act des \u00c9tats-Unis15<\/a><\/sup> ou encore la Global Data Security Initiative de la Chine16<\/a><\/sup>, les pays mentionn\u00e9s peuvent r\u00e9cup\u00e9rer toutes les donn\u00e9es transitant sur leur territoire si elles en jugent la n\u00e9cessit\u00e9. La gouvernance des donn\u00e9es est donc un r\u00e9el enjeu pour les Europ\u00e9ens qui ont tout int\u00e9r\u00eat \u00e0 conserver leurs donn\u00e9es en Europe, pour les prot\u00e9ger et se pr\u00e9munir de possibles exploitations \u00e0 leur insu.<\/p>\n\n\n\n

Outre les probl\u00e9matiques li\u00e9es aux donn\u00e9es, il est \u00e9galement n\u00e9cessaire de valider les syst\u00e8mes d\u2019IA, pour s\u2019assurer de leur fiabilit\u00e9. Le secteur de l\u2019\u00e9ducation ne d\u00e9roge pas \u00e0 la r\u00e8gle, la s\u00fbret\u00e9 y est importante car l\u2019utilisation de l\u2019IA dans ce secteur peut \u00eatre jug\u00e9e comme critique puisqu\u2019elle affecte directement les personnes influen\u00e7ables que sont les enfants. Ainsi, sans faire une liste exhaustive, faire valider un syst\u00e8me d\u2019IA vise \u00e0 prendre en compte de nombreuses notions dont la robustesse, la transparence et l\u2019explicabilit\u00e9 des algorithmes font partie. Ces th\u00e9matiques sont notamment fortement li\u00e9es aux probl\u00e9matiques connues des biais dans le fonctionnement des IA et visent entre autres \u00e0 les \u00e9liminer. Avec la validation algorithmique de l\u2019IA, les utilisateurs sont assur\u00e9s de leur fiabilit\u00e9 et peuvent avoir une certaine compr\u00e9hension du fonctionnement d\u2019un syst\u00e8me IA, ce qui dans certains cas est vital pour \u00e9tablir la confiance dans un syst\u00e8me d\u2019IA. Par ailleurs, l\u2019\u00e9ducation a bien pris en compte ces d\u00e9veloppement technologiques et leurs enjeux soci\u00e9taux, puisque depuis 2015, les nouveaux programmes scolaires comprennent l\u2019enseignement de l\u2019algorithmique \u00e0 partir du CM117<\/a><\/sup>.<\/p>\n\n\n\n

Les initiatives de cadrage de l\u2019IA pour l\u2019\u00e9ducation : la place du RGPD et de la r\u00e9glementation IA de l\u2019EU AI-Act<\/h2>\n\n\n\n

La CNIL (Commission Nationale de l’Informatique et des Libert\u00e9s) d\u00e9finit comment \u00eatre en conformit\u00e9 avec le RGPD (R\u00e8glement g\u00e9n\u00e9ral sur la protection des donn\u00e9es) dans le cadre d\u2019une utilisation de l\u2019IA18<\/a><\/sup>. Le RGPD est g\u00e9n\u00e9ralement consid\u00e9r\u00e9 comme un texte efficace pour la protection des droits en mati\u00e8re de collecte et traitement de donn\u00e9es. Il est europ\u00e9en, mais toute entreprise o\u00f9 qu\u2019elle soit est tenue de le suivre, si elle collecte des donn\u00e9es au sein de l\u2019UE (Union europ\u00e9enne.) Respecter ce r\u00e8glement est une premi\u00e8re \u00e9tape obligatoire et essentielle pour faire un pas vers une utilisation \u00e9thique de l’IA dans l\u2019\u00e9ducation.<\/p>\n\n\n\n

En termes de r\u00e9glementation de l\u2019IA, l\u2019un des textes les plus prometteurs est l\u2019EU AI Act, qui est en cours d\u2019\u00e9laboration depuis avril 2021. Ce r\u00e8glement europ\u00e9en, le premier du genre, cat\u00e9gorise les applications utilisant l\u2019IA en plusieurs niveaux de risques : les applications interdites (risque inacceptable), les applications \u00e0 haut risque, les applications \u00e0 risque mod\u00e9r\u00e9e et les applications sans risque. Avec son EU AI-Act, l\u2019UE vise \u00e0 instaurer un cadre \u00e9thique propre \u00e0 d\u00e9velopper la confiance pour le d\u00e9veloppement et l\u2019utilisation des IA19<\/a><\/sup>. En particulier, il d\u00e9finit les exigences attendues pour les IA \u00e0 haut risque qui constituent la principale cat\u00e9gorie d\u2019int\u00e9r\u00eat pour les concepteurs d\u2019IA \u00e0 destination de l\u2019\u00e9ducation. <\/p>\n\n\n\n

Le plan d\u2019action de l\u2019UE en mati\u00e8re d\u2019\u00e9ducation num\u00e9rique (2021-2027) est une autre initiative incontournable20<\/a><\/sup>. Il soutient les syst\u00e8mes \u00e9ducatifs des pays membres dans leurs projets d\u2019\u00e9ducation num\u00e9rique. Un volet important est consacr\u00e9 \u00e0 l\u2019IA et \u00e0 l\u2019utilisation des donn\u00e9es dans le secteur, avec des lignes directrices \u00e9thiques et des axes de formation des enseignants.<\/p>\n\n\n\n

Diff\u00e9rents supports pour favoriser une IA \u00e9thique<\/h2>\n\n\n\n

Outre la formation et la sensibilisation des responsables, diff\u00e9rents supports visent \u00e0 favoriser une utilisation de l’IA de confiance dans l’\u00e9ducation. Il est par exemple possible de citer :<\/p>\n\n\n\n