Inutile de mentir ! Claude marque désormais ses textes avec un filigrane 

Ne soyez pas étonné si un article généré par Claude, qui a l’air 100% humain et que vous avez traîné partout, soit toujours identifiable. Car Anthropic vient d’ajouter un filigrane aux textes générés par ses nouveaux modèles d’IA.

Impossible de le repérer à l’œil nu. Mais cette marque est conçue pour rester présente même après des copier-coller et des modifications mineures. 

Cette nouveauté est une façon pour Anthropic de se conformer aux nouvelles règles européennes en vigueur depuis le 2 août. Celles concernant l’intelligence artificielle et la transparence des contenus générés par les modèles d’IA.

 

Un filigrane sur les textes Claude : comment ça marche ?

Les nouveaux modèles Claude lancés à partir du 2 août intègrent ce marquage dès leur mise en service. Anthropic prévoit également de l’étendre à certaines versions antérieures. 

Le système est appliqué à l’échelle mondiale, y compris lorsque Claude est utilisé via des services cloud. L’entreprise prévoit par ailleurs de fournir des outils permettant à des tiers de détecter ces filigranes. 

Ce marquage s’applique aux textes. Pour les images générées par ses modèles, Anthropic utilise une autre approche. Des métadonnées signées reposant sur la norme C2PA permettent d’indiquer leur origine. 

Cela pourrait donc révéler au grand jour le secret de ceux qui présentent leur contenu comme entièrement rédigés par un humain. Par exemple des romans ou des devoirs scolaires. 

Le système a toutefois ses limites. Une traduction, une paraphrase importante, une réécriture ou le mélange du texte avec d’autres contenus… tout cela peut altérer suffisamment le marquage pour le rendre impossible à détecter. 

Mis à part cela, la présence d’un filigrane ne signifie pas non plus que Claude a écrit l’intégralité du texte. Une intervention limitée de l’IA, comme une traduction ou une reformulation, peut également laisser une signature. 

Un outil intéressant, pas une preuve absolue

L’arrivée de ce filigrane intervient alors que les éditeurs cherchent de nouveaux moyens de distinguer les textes humains de ceux produits avec l’aide d’une IA. Plusieurs affaires récentes ont montré les difficultés liées à ces vérifications.

Un agent littéraire a notamment retiré son soutien au roman Call Me, I’ll Hide the Body, après des soupçons d’utilisation d’IA par son auteur, Jerry Falade, qui a contesté ces accusations.

Hachette a également retiré Shy Girl, un roman d’horreur de Mia Ballard, après des accusations similaires. L’autrice a affirmé qu’un éditeur freelance avait ajouté du contenu généré par l’IA sans son accord.

Le filigrane d’Anthropic pourrait donc fournir un indice supplémentaire aux éditeurs. Toutefois, en vue des circonstances, il ne permet pas à lui seul de déterminer avec certitude comment un texte a été produit.

Quoi qu’il en soit, vous vous doutez bien que cette nouveauté ne fait pas l’unanimité. Certains y voient un moyen intéressant de mieux repérer les contenus générés par l’IA. Et même de mettre en évidence certaines de ses petites « imperfections ». 

D’autres redoutent plutôt un système donnant davantage de contrôle aux plateformes et aux utilisateurs disposant d’un abonnement payant.

Face à cette nouvelle couche de traçabilité, certains utilisateurs commencent déjà à se tourner vers des modèles open source. D’autres, de leur côté, cherchent des outils capables de faire disparaître ces filigranes.

ARTICLES SIMILAIRES