LEBIGDATA.FR I.A, Cloud & Cybersécurité
Nightshade est un outil de protection des œuvres artistiques contre l'IA. Lancée en février, cette arme a été téléchargée plus d'un quart de millions de fois en seulement 5 jours. Un chiffre assez étonnant vu que le programme cible plutôt les artistes.
Depuis le lancement de ChatGPT, les artistes sont confrontés à un dilemme. Ils doivent partager leurs œuvres sur internet pour se faire des audiences. Toutefois, le risque d'utilisation sans consentement par les sociétés technologiques qui transportent leur modèle d'IA sur l'art est énorme. Heureusement, des chercheurs ont trouvé une solution contre l'utilisation des matériaux protégés par le droit d'auteur.
Nightshade, un outil de protection contre les IA
Nightshade est un outil développé par des informaticiens de l'Université de Chicago pour protéger la créativité des artistes. Plus précisément, c'est une IA conçue spécialement pour combattre d'autres IA.
Le fonctionnement de ce programme est simple : il faut l'appliquer à une œuvre. Sa tâche principale consiste à identifier une œuvre et lui coller une balise. D'ailleurs, c'est la balise qui est la véritable arme. Elle est également appelée par ses concepteurs sous le nom de « poison ».
Cette balise va transformer délicatement par exemple l'image au rang des pixels. De cette manière, même si les IA sont particulièrement entraînées, elles verront une chose complètement différente. Bref, le programme utilise l'IA adverse pour qu'il reconnaisse des éléments erronés grâce au jeu de lumière ou au jeu d'ombre.
Une version améliorée de Glaze
Avant de développer Nightshade, cette équipe de chercheurs a déjà mis au point un autre programme, appelé Glaze. À l'inverse de ce nouveau programme, Glaze était plutôt un « outil défensif ».
Cet outil de l'équipe dirigée par Shawn Shan, chercheur en systèmes d'IA s'occupe de convertir les illustrations numériques des artistes afin de convaincre les autres IA que le style sur lequel il s'inspire est totalement différent.
À titre d'exemple, si l'image montre une pièce réaliste vitrée, elle peut paraître à un modèle d'IA comme une sorte d'endroit abstrait. Après son lancement en 2022, Glaze connaît un grand succès, car il a été téléchargé plus de deux-millions de fois.
Un outil d'une ampleur imprévue
Les intelligences artificielles entraînées sur les œuvres, une fois empoisonnées, se comportent de manière assez imprévisible. Ainsi, ils ne serviront à rien au final. D'autant plus qu'il est quasi impossible de défaire la protection.
En effet, le programme change plus de 80 % des pixels. L'objectif des chercheurs avec Nightshade n'est pas d'empoisonner les IA. Ils pensent plutôt à obliger les propriétaires à avoir le consentement des artistes pour pouvoir exploiter les ouvrages. Cependant, la frénésie face à l'utilisation de cet outil n'est pas ce qu'ils espéraient.
« Je m'attendais à un très grand enthousiasme, a exprimé à VentureBeat Ben Zhao, chef du projet Nightshade et professeur d'informatique à l'université de Chicago. Malgré tout, j'en ai sous-estimé l'ampleur… La réponse dépasse tout ce que nous avions imaginé. D'après les réactions sur les réseaux sociaux, les téléchargements proviennent du monde entier. »
Avez-vous un avis à partager sur ce programme ? N'hésitez pas à écrire dans les commentaires.
Restez à la pointe de l'information avec LEBIGDATA.FR !
Abonnez-vous à notre chaîne YouTube et rejoignez-nous sur Google Actualités pour garder une longueur d'avance.
- Partager l'article :
