Les internautes s’en donnent à cœur joie depuis l’arrivée de DALL-E 3 sur Bing. Les images dérangeantes ont contraint Microsoft au blocage de certaines options.
Les internautes semblent avoir fait de la création d’images par intelligence artificielle une des leurs activités favorites. Cela n’a pas échappé à Microsoft qui a ajouté en mars dernier un module IA à son moteur de recherche. Fin septembre, le nouveau DALL-E 3 arrive sur Bing. C’est depuis que les choses se sont compliquées.
Rappelons que DALL-E est l’IA générative d’OpenAI – l’entreprise derrière le très populaire et impressionnant ChatGPT – pour la création d’images. Avant son arrivée sur le moteur de recherche de Microsoft où elle est aujourd’hui en libre accès, l’IA graphiste était accessible seulement via un abonnement ChatGPT Plus.
Blocage des fonctionnalités de DALL-E 3 sur Bing
Depuis leur déploiement, les outils comme DALL-E ou Midjourney ont fait la démonstration de leurs remarquables capacités. Mais ces dernières ne suscitent pas seulement de l’admiration, elles sont également une source d’inquiétude. L’utilisation des IA génératives graphies impactent beaucoup la propriété intellectuelle et le droit à l’image.
En effet, des internautes ont récemment utilisé DALL-E pour se moquer des événements tragiques comme les attentats du 11 septembre aux États-Unis. Les images générées par IA sont également exploitées pour véhiculer des fausses informations.
Cette photo a beaucoup circulé sur Internet pour faire croire que Disney et Pixar préparaient un nouveau film d’animation sur la mort de George Floyd.
« Comme pour toute nouvelle technologie, certains tentent de détourner son utilisation. Par conséquent, nous avons mis en place une série de protections et de filtres pour faire de Bing Image Creator une expérience positive et utile pour nos utilisateurs », a expliqué le directeur de communication de Microsoft.
Ce rapport alarmant sur les dérives des IA graphistes
Le 6 octobre dernier, Bellingcat a publié sur son site un rapport montrant les abus des utilisateurs de 4chan – forum anonyme anglophone, aujourd’hui qualifié d’extrême droite. Ses membres génèrent des images avec l’intelligence artificielle pour du contenu raciste et antisémite.
Aucun renforcement de la modération n’a accompagné les améliorations de la création d’images avec DALL-E 3 sur Bing, indique le rapport. Les utilisateurs fabriquent désormais plus facilement des images à la gloire du génocide et des crimes de guerre. Ce type de contenu ne correspond pas à la vision de Microsoft.
En réponse aux préoccupations de l’ensemble du secteur, ses principaux acteurs s’efforcent de renforcer les protections et la réglementation contre les abus.
Des images bizarres et dérangeantes, mais surtout drôles
C’est souvent le cas sur Internet, une partie du public aime tester les limites sociales et morales des nouvelles technologies. Mais les internautes dans leur majorité se contentent de créer du contenu bizarre et dérangeant sans dépasser les limites du raisonnable. Voici donc une sélection des images atypiques obtenues grâce à DALL-E 3 sur Bing.
Mario et Sonic changent de camp
De la nourriture sort des poubelles à Disneyland
Le dernier selfie
50 nuances de Shrek
Dark Pope
Drake dans le bois maléfique
- Partager l'article :