LEBIGDATA.FR I.A, Cloud & Cybersécurité
Dans un récent rapport, l'ONU appelle à un moratoire sur les systèmes d'intelligence artificielle qui présentent un risque grave pour les droits de l'homme sans la mise en place d'une réglementation. L'organisation a publié un rapport suite à ses préoccupations sur l'utilisation de l'IA hors des cadres requis.
L'IA peut affecter les droits des hommes
L'IA peut être une force pour le bien, mais pourrait avoir un effet profondément négatif, voire catastrophique si elle est utilisée à mauvais escient. Le rapport analyse les manières dont l'IA peut affecter la vie privée, la santé et l'éducation ainsi que la liberté de mouvement, d'expression et de regroupement. L'IA aurait atteint tous les aspects de la vie des hommes, côté physique, mental et même émotionnel. Les systèmes d'IA sont utilisés pour déterminer par exemple qui ont accès aux services publics ou qui est le meilleur candidat à un poste donné, mais pas seulement. L'IA affecte également les informations que les gens voient et peuvent partager en ligne.
Face à la croissance rapide de l'IA, il est urgent de découvrir comment cette technologie collecte, stocke et utilise les données. Le risque de discrimination lié aux décisions prises par l'IA relève déjà de la réalité. Et pourtant, ces décisions peuvent changer, définir et même nuire aux personnes concernées. C'est pourquoi il est impératif d'évaluer et de suivre systématiquement les effets des systèmes d'IA pour identifier et atténuer les risques pour les droits de l'homme.
L'ONU appelle à la transparence des entreprises
L'ONU appelle également à beaucoup plus de transparence de la part des entreprises et des pays qui développent et utilisent des systèmes d'IA. Il est important de noter que l'ONU n'appelle pas à une interdiction pure et simple. L'idée est de mettre en place les mesures nécessaires pour servir de garde-fous pour l'utilisation de l'IA. Dans son rapport, l'ONU déclare ignorer ce que ces mesures peuvent avoir. Pour prendre l'exemple des jeux vidéos, cela pourrait affecter les joueurs si une entreprise développe un système d'IA pour apprendre à des personnes spécifiques comment jouer.
L'entreprise pourrait utiliser ces données pour concevoir des offres personnalisées ou diffuser une publicité ciblée. Et cela peut encourager ou amener des cibles à dépenser de l'argent. Activision aurait tenté l'expérience en 2017. Le pouvoir de l'IA de servir les gens est indéniable. Cette technologie a réellement la capacité d'alimenter les violations des droits des hommes. Ces violations peuvent prendre des proportions énormes, et ce, à l'insu des utilisateurs. Et c'est là le vrai danger.
- Partager l'article :
