LEBIGDATA.FR I.A, Cloud & Cybersécurité
L'intelligence artificielle, une technologie révolutionnaire, fait face à une grave accusation de la part de Stanford. Tout cela à cause de l'utilisation par l'IA d'images pédocriminelles dans sa formation.
Des chercheurs de Stanford ont découvert une réalité choquante : plus de 1 000 images pédocriminelles dans des données utilisées pour former des IA. Ces données servaient à entraîner des outils de génération d'images avancés. Cette trouvaille souligne un problème profond dans le secteur de l'IA, où la vigilance éthique est parfois éclipsée par l'innovation technologique.
IA et images pédocriminelles : enjeux éthiques et contrôle numérique
L'existence de ces images pédocriminelles dans les données de formation de l'IA révèle un défi éthique pour les développeurs. Le rapport du Stanford Internet Observatory identifie le modèle LAION-5B comme la source de ces images. Il est géré par une organisation allemande. En réponse, LAION a annoncé une politique de tolérance zéro envers les contenus illégaux.
Cependant, cette situation met en lumière la difficulté de contrôler les contenus préjudiciables dans le vaste univers du numérique. Des outils tels que PhotoDNA de Microsoft ont été utilisés pour valider ces découvertes. Néanmoins, la question persiste : comment éviter de telles erreurs à l'avenir ?
Vers un futur plus sécurisé pour l'IA malgré des défis persistants
Cette affaire a des implications profondes pour l'avenir de l'IA. Alors que les développeurs s'efforcent d'empêcher la réapparition de telles erreurs, des entreprises comme Stability AI ont déclaré avoir mis en place des filtres. Ces filtres visent à exclure les données problématiques de leurs processus de formation, renforçant ainsi la sécurité de l'IA.
Par contre, il est probable que d'autres contenus inappropriés restent à découvrir. Les chercheurs de Stanford n'ont examiné qu'une fraction des données disponibles. Cela laisse craindre que d'autres images pédocriminelles soient encore dissimulées dans les ensembles de données utilisés pour entraîner les IA. Cela appelle également à une vigilance et à une réglementation accrues dans le domaine de l'intelligence artificielle.
- Partager l'article :
