LEBIGDATA.FR I.A, Cloud & Cybersécurité
Avec la popularité de ChatGPT, il est devenu de plus en plus difficile de distinguer le contenu généré par l'homme de celui généré par la machine. Afin de minimiser ce problème, OpenAI a récemment lancé un outil open source pour détecter les textes générés par l'IA.
LIA est devenue un outil de plus en plus populaire pour la génération de contenu, surtout avec le célèbre ChatGPT. Cela peut être des articles, des publications sur les médias sociaux et même des dissertations universitaires. De nombreux établissements se sont justement plaints de cette tendance, car certains étudiants utilisent l'IA comme un raccourci.
Open AI : un outil pour détecteur l'IA avec des limitations
Après les polémiques autour de l'utilisation de ChatGPT pour générer des textes académiques, OpenAI a décidé de lancer un nouvel outil appelé « classificateur de texte d'IA ». Ce dernier permet aux utilisateurs de savoir si un texte a été rédigé par un humain ou par une intelligence artificielle. L'outil utilise un système d'apprentissage automatique qui analyse le texte et le classe dans différentes catégories. Les résultats varient entre « probablement généré par l'IA » et « très peu probable ».
Toutefois, OpenAI prévient que les erreurs sont possibles et recommande de ne pas se fier uniquement à ce résultat. Les enseignants peuvent utiliser l'outil pour une base d'information, mais les résultats ne devraient pas être considérés comme une référence fiable. Il est important de toujours inclure un jugement humain dans ce processus.
« Nous ne recommandons vraiment pas de prendre cet outil comme unique référence. Nous savons qu'il peut être erroné.», a déclaré Lama Ahmad, directeur de la stratégie de recherche chez OpenAI.
Avant le lancement de l'outil, une démonstration avec CNN a été effectuée sur des textes générés par ChatGPT. Dans cette démonstration, un passage tiré du livre « Peter Pan » a été jugé peu probable d'avoir été produit par l'IA. Cependant, dans un billet de blog publié par OpenAI, il a été indiqué qu'une erreur a été commise dans 5 % des cas en étiquetant des textes humains comme étant produite par l'IA.
ChatGPT : un usage inquiétant dans le domaine de l'éducation
Sorti en novembre dernier, ChatGPT est devenu l'outil en ligne le plus utilisé. Cela s'explique en raison de sa capacité à répondre avec exactitude à des questions précises. En même temps, il permet de rédiger des publications, des histoires et d'autres documents avec une grande facilité. Cependant, le chatbot soulève l'inquiétude de certains éducateurs en raison de sa capacité à imiter l'écriture humaine. La plupart s'inquiètent que l'utilisation de l'IA puisse réellement nuire à l'apprentissage. En effet, les étudiants pourraient être tentés de copier le travail généré par le modèle sans comprendre le sujet en profondeur. De plus, l'utilisation de ChatGPT pour générer les réponse peut mettre en question la validité de l'évaluation des enseignants. Ces derniers auront du mal à déterminer si un étudiant a vraiment acquis les connaissances requises.
En conséquence, des entreprises comme OpenAI et Turnitin travaillent sur des outils de détection de contenu généré par ChatGPT. Ces outils permettront aux enseignants d'identifier des oeuvres générées par le modèle. En fin de compte, l'inquiétude suscitée par ChatGPT montre la nécessité de mieux comprendre les conséquences de l'utilisation de ces technologies dans l'enseignement et de prendre les mesures appropriées pour les gérer.
- Partager l'article :
