Educ’Action

 

Atelier Educ’Action (2023)

Ethique de l’IA dans les SDEF

Responsables

Correspondant ComDIR :

Thématiques

Sciences de l’éducation et de la formation (SDEF), Gestion de données, IA, ML, Systèmes de recommandation, Management des Systèmes d’Information.

Données concernées

Données personnelles, structurées, traces d’utilisation de plateforme d’e-learning, contenus numériques éducatifs, données de parcours d’apprentissage.

Mots clés

Ethics-by-design, Learning analytics, Protocoles d’expériences, Enquêtes, Capital humain (compétences), capital social (relations)

Contexte scientifique

La crise sanitaire liée à la Covid-19 a vu s’accentuer l’utilisation des plateformes de travail numériques. Ces dernières prennent des formes multiples : depuis les systèmes de visioconférence pour les réunions à distance jusqu’aux plateformes éducatives de type MOOC, en passant par les Learning Management Systems, le crowdsourcing et le freelancing. Ces leviers de partage de connaissances et d’apprentissage se sont démocratisés et constituent aujourd’hui les prémisses de l’apprentissage tout au long de la vie et du futur du travail. En effet, les plateformes numériques de travail représentent des opportunités d’évolution importantes, notamment en termes de développement de connaissances. L’utilisation des technologies éducatives (EdTech) fondées sur les avancées récentes des SHS et de la science des données est une voie prometteuse pour aider les acteurs de l’éducation (apprenants, enseignants et administratifs). Néanmoins, deux problèmes se posent : d’une part, ces technologies restent encore limitées en termes de représentation de la richesse des interactions sociales et de l’apprentissage, comme l’indique le récent rapport de l’Organisation de coopération et de développement économiques (OCDE) sur les compétences futures et l’éducation. D’autre part, comme elles s’inscrivent massivement dans le capitalisme de surveillance, leur accès est inégalitaire et sujet à espionnage des données.

L’atelier EDUC’ACTION s’inscrit dans la perspective des travaux sur l’AIED (AI for education) et propose d’aborder la question de la montée en compétences pour tous sous les angles informatique et SHS, fondée sur une réflexion éthique permettant de mettre en balance les bienfaits et les préjudices de l’IA. Notre projet est de fédérer les chercheurs en France afin de repenser sous l’œil éthique les différentes approches de recommandation de contenus numériques adaptés aux besoins et niveaux des apprenants, le partage de connaissances par des modalités d’accès et d’interaction diverses ; ou encore de favoriser l’inclusion de minorités ou de publics éloignés des dispositifs numériques d’apprentissage. Par conséquent, EDUC’ACTION revisite les efforts existants en AIED en questionnant leur respect des principes éthiques-clés et tentera d’apporter des éléments de réponse au rapport du conseil de l’Europe sur l’IA et l’éducation en explorant les synergies entre les SHS et la science des données.

Selon Selwyn, il y a cinq points d’attention en AIED : (1) veiller à se concentrer sur les problèmes liés à l’AIED « réellement existante » plutôt que sur ce que l’AIED pourrait faire ; (2) mettre clairement en évidence les limites de l’IA en termes de modélisation des contextes sociaux et de simulation de l’intelligence, du calcul, de l’autonomie et des émotions humaines ; (3) mettre en évidence les méfaits sociaux associés à l’utilisation de l’AIED ; (4) reconnaître les bienfaits de l’AIED ; et (5) accorder une plus grande attention à la durabilité environnementale et écologique de la mise en œuvre continue de l’AIED. Ainsi, contrairement aux notions populaires de l’IA en tant qu’outil neutre, l’argument est avancé pour s’engager dans l’utilisation continue de l’IA dans l’éducation en tant qu’action qui a des impacts variables sur différents groupes de personnes dans divers contextes éducatifs.

EDUC’ACTION cherche à fédérer les travaux en France sur l’AIED et à servir de tremplin pour des financements de projets. L’atelier étudiera les aspects pluri- et interdisciplinaires compte tenu de la nature socio-technique des questions éthiques. En informatique, EDUC’ACTION repensera la gestion des données sur les apprenants et enseignants et les algorithmes de recommandation sous l’œil critique de l’éthique. En SHS et plus particulièrement en sciences de l’éducation et de la formation, EDUC’ACTION apportera des avancées sur le questionnement éthique du management des connaissances sur les plateformes numériques à des fins de développement d’outils en faveur pour tous les acteurs de l’éducation. En sciences de gestion, EDUC’ACTION contribuera aux enjeux éthiques soulevés par l’AIED, ainsi qu’à la question de l’inclusion de valeurs humaines dans la conception d’outils.

 

Site de l’Atelier EducAction en cours de construction…


Évènements à venir