LEBIGDATA.FR I.A, Cloud & Cybersécurité
L’Université de Washington voulait mener une étude. Celle-ci envisageait d’équiper des enseignants de maternelle de caméras embarquées. L’appareil enregistrera tout ce qui se déroulait en classe. Ces vidéos serviront ensuite à entraîner des modèles d’IA. Mais ça a tourné au fiasco.
Dans un document transmis aux familles et consulté par 404 Media, les chercheurs expliquaient. « L’enseignant principal de votre enfant pourrait porter une petite caméra filmant son point de vue, et/ou qu’une caméra fixe pourrait être installée dans la classe ».
Le texte précisait que ces enregistrements capteraient « les interactions normales entre enseignants et élèves pendant les activités scolaires habituelles ». Ce qui est une autre façon de dire que les enfants sont inclus automatiquement dans l’expérience.
Sauf bien sûr, si leurs parents formulaient explicitement un refus. Mais doutez-vous qu’ils ne se sont pas contentés de dire non. Ils ont vivement contesté le projet. Leur réaction a été suffisamment forte pour pousser l’Université de Washington à abandonner totalement l’expérience, selon 404 Media.
« Je suis troublé par l’idée que l’image de mon enfant soit utilisée dans des outils d’IA inconnus et par les possibles détournements ». Voilà les mots qu’a confié anonymement un parent à 404 Media.
Hors de question de filmer des enfants pour entraîner l’IA, pourquoi ?
Le problème venait en partie du flou entourant l’étude. Les documents évoquaient l’utilisation des vidéos pour « développer et évaluer des modèles d’IA capables d’analyser la qualité des interactions en classe ».
Ils mentionnaient également que les données pourraient être traitées via « des services d’IA basés sur le cloud ». En revanche, aucune précision sur les entreprises impliquées ni sur les modèles utilisés.Très vite, les questions se sont multipliées.
Que devient l’image d’un enfant dont les parents refusaient le projet ? Serait-il flouté ? Effacé ? Comment distinguer concrètement les élèves autorisés des autres dans une salle pleine de jeunes enfants qui bougent sans arrêt ?
Une autre mère a d’ailleurs dénoncé l’absence de véritable consentement éclairé. Les chercheurs indiquaient simplement qu’ils masqueraient les visages et les noms « dans la mesure du possible ». Une formulation qui n’a absolument pas rassuré les familles.
Pire, selon elle, le document était déjà difficile à comprendre pour des anglophones. Or, de nombreuses familles de l’école venaient de l’immigration et ne parlaient pas anglais. Aucun formulaire traduit n’était disponible
Des spécialistes de l’éducation ont aussi critiqué le manque de transparence du projet. Faith Boninger, codirectrice du National Education Policy Center, a notamment soulevé plusieurs zones d’ombre.
Qui pouvait accéder aux données ? Combien de temps seraient-elles conservées ? Qui finançait réellement cette recherche ?
Face à la tempête, l’Université de Washington a fini par jeter l’éponge. Un porte-parole a confirmé l’arrêt du programme après les premières réactions négatives des parents.
Il précisait alors qu’il n’était « pas inhabituel » de mettre fin à une étude dès ses débuts lorsque des partenaires communautaires expriment des inquiétudes.
Une tendance beaucoup plus large
L’IA s’invite désormais partout dans l’éducation. Des entreprises comme OpenAI, Anthropic et Microsoft investissent massivement dans des programmes éducatifs. A cela s’ajoutent les formations destinées aux enseignants.
Les universités multiplient aussi les partenariats pour offrir aux étudiants un accès gratuit aux outils d’IA générative. Mais derrière ces initiatives se cache une immense faim de données.
Pour développer des modèles spécialisés dans l’éducation, il faut alimenter les IA avec des milliers d’heures d’interactions réelles. Et c’est précisément cette idée qui commence à inquiéter sérieusement certains parents.
D’ailleurs, ça se comprend. Devenir une source directe de données d’entraînement pour l’IA, ne m’enchante pas non plus.
L’échec de cette étude montre aussi que la contestation autour de l’IA prend de l’ampleur. Les familles deviennent progressivement les premières à s’opposer à certaines expérimentations jugées trop intrusives.
À New York, un projet de lycée largement automatisé par l’IA a récemment été abandonné après une mobilisation de parents devant l’hôtel de ville. Visiblement, filmer des enfants toute la journée pour nourrir des algorithmes n’est pas encore considéré comme une activité scolaire « normale ». Loin de là.
Restez à la pointe de l'information avec LEBIGDATA.FR !
- Partager l'article :
