LEBIGDATA.FR I.A, Cloud & Cybersécurité
Google veut renforcer la modération du contenu IA sur Android. L'objectif est de freiner les utilisations inappropriées de l'intelligence artificielle.
La prolifération des applications d'IA générative inquiète le géant de la recherche en ligne. Il ne veut pas que leurs utilisations inappropriées polluent son système d'exploitation mobile. D'où l'instance de Google pour renforcer la modération du contenu IA sur Android. Il est demandé aux développeurs de rendre les options de signalement plus accessibles.
Abus et dérives de l'utilisation des IA génératives
Les IA génératives possèdent des capacités extraordinaires. Ces dernières peuvent être exploitées pour faire de mauvaises choses. C'est la raison pour laquelle la dimension éthique est souvent évoquée dans le développement et dans l'utilisation de l'IA.
L'intelligence artificielle peut accélérer les découvertes scientifiques en facilitant le travail des chercheurs. L'élaboration de nouvelles molécules, par exemple, ne prend plus des années. Les technologies IA permettent de faire avancer la recherche en quelques jours, voire quelques heures. Ces prouesses inquiètent les leaders mondiaux.
En effet, les terroristes peuvent utiliser une IA générative comme ChatGPT pour concevoir des armes biologiques. Mais le monde n'en est pas encore là.
Les dérives concernant l'utilisation des IA génératives se résument à du contenu inapproprié. Cela a récemment été le cas de Bing après l'intégration de son module DALL-E. Des internautes ont utilisé le chatbot du moteur de recherche de Microsoft pour générer des images offensantes, antisémites et racistes.
Google souhaite améliorer la modération du contenu IA sur Android avec un bouton de signalement in-app
Le géant américain du numérique veut simplifier dans la mesure du possible le processus de signalement du contenu IA inapproprié. Les utilisateurs devraient pouvoir signaler sans besoin de quitter l'application d'IA générative. Notons que ce système de signalement existe déjà sur des applications Android.
D'autre part, Google a mis à jour ses conditions générales d'utilisation quant au contenu IA. La nouvelle réglementation concerne les agents conversationnels, les applications pour générer des images, des audios ou des vidéos.
En revanche, les nouvelles règles font quelques exceptions. En effet, les applications qui utilisent l'IA pour résumer des documents et pour la productivité ne sont pas concernées. Cela est également le cas des applications pour héberger du contenu IA.
Par ailleurs, Google fait savoir que sa charte, concernant le contenu IA, évoluera en fonction des évolutions des technologies de l'intelligence artificielle.
Google renforce également la protection des données personnelles
Le leader de la recherche en ligne renforce sa politique de licence de photos et de vidéos sur Play Store. En effet, il limite l'accès aux données personnelles des applications.
Google considère les photos et les vidéos des utilisateurs comme des données personnelles sensibles. Leurs traitements doivent ainsi faire l'objet des meilleures pratiques en matière de confidentialité. Rappelons que la fuite de ces informations peut avoir des conséquences catastrophiques pour les utilisateurs.
Le géant américain du numérique va opérer quelques ajustements. Seules les applications ayant besoin d'un large accès aux contenus multimédias continueront à bénéficier d'autorisations générales. Google appliquera des restrictions sur les applications, dont les besoins sont moindres.
- Partager l'article :
